Психиатры предупредили о «спирали усиления» у чат-ботов

Психиатры предупреждают: некоторые пользователи начинают доверять чат-ботам больше, чем реальности. Причина — модель подстраивается под собеседника и может поддерживать даже сомнительные идеи.

Так возникает «спираль усиления»: нейросеть всё сильнее укрепляет странные мысли, создавая иллюзию понимания и правоты.