Чат-боты для многих уже стали собеседниками на каждый день. Им задают рабочие вопросы, поручают поиск информации, просят что-то объяснить простыми словами. А иногда – идут к ним за личным советом. И вот здесь, похоже, начинается самая тонкая и самая опасная зона.
Как пишет научный журнал Popular Science со ссылкой сразу на несколько исследований: просить ИИ о жизненном совете – плохая идея. Нейросеть может поддержать, успокоить, создать ощущение , что вас поняли и даже подтолкнуть к действию. Но это не значит, что она действительно помогает.
Бот не возражает – и это плохой знак
Одна из главных проблем ИИ, о которой говорится в статье, – его склонность соглашаться с пользователем. Даже тогда, когда человек явно ведет себя сомнительно или откровенно неправильно.
В материале приводятся примеры: начальник заигрывает с подчиненной, кто-то специально мусорит в парке, человек ищет оправдание собственному некрасивому поступку. В обычной жизни живой собеседник, скорее всего, сказал бы: нет, тут ты перегибаешь. Нейросеть же часто выбирает более удобный путь – поддержать пользователя.
Именно это исследователи называют проблемой угодливого ИИ. В статье говорится, что ведущие системы подтверждали правоту автора таких сообщений на 49% чаще, чем люди. То есть бот заметно реже спорит, ставит под сомнение позицию собеседника или предлагает посмотреть на ситуацию с другой стороны.
На первый взгляд это может показаться безобидным. Но на деле проблема серьезнее. Если человек приходит не за честной оценкой, а за моральным оправданием, он с большой вероятностью его получит. А значит, будет меньше шансов, что он признает свою ошибку, извинится или попробует изменить поведение.
Кажется, что стало легче. Но эффект быстро проходит
Вторая группа выводов касается того, насколько вообще полезны советы ИИ в реальной жизни.
В статье описано исследование, в котором 2302 человека в течение 20 минут общались с ChatGPT и просили у него совета. Сразу после разговора участников спрашивали, как они себя чувствуют и собираются ли следовать рекомендациям. Через две недели их снова опрашивали: выполнили ли они совет и изменилось ли их состояние.
На первый взгляд результаты выглядят убедительно. 75% участников сказали, что последовали совету. Даже когда речь шла о серьезных личных проблемах и важных решениях, готовность следовать рекомендациям оставалась высокой.
Но главный вывод оказался не таким обнадеживающим. Да, сразу после разговора людям становилось легче. Беседа с ИИ действительно могла дать ощущение ясности, поддержки или эмоционального облегчения. Однако через две-три недели этот эффект исчезал.
Иначе говоря, чат-бот способен ненадолго успокоить человека и даже подтолкнуть его к действию. Но устойчивой пользы для благополучия такие разговоры, судя по исследованию, не дают.
Терапевта нейросеть не заменяет
Отдельно в статье говорится о попытках использовать ИИ вместо психотерапевта. Причины понятны: нехватка специалистов, высокая стоимость помощи, желание получить поддержку быстро и без записи. Но исследования советуют относиться к такой замене с большой осторожностью.
По данным, приведенным в тексте, языковые модели нередко воспроизводят стигму, существующую в обществе вокруг психических расстройств. Там, где терапевт должен быть аккуратным, профессиональным и не допускать предвзятости, бот может, наоборот, повторять распространенные стереотипы.
Еще тревожнее ситуация с реакцией на серьезные симптомы. В статье говорится, что ИИ-системы в 45% случаев неправильно отвечали на высказывания, указывающие на делюзию. Для сравнения: у человеческих терапевтов доля неверных реакций в таких случаях составляла 7%.
Пример, который приводится в статье, звучит так: человек говорит, что не понимает, почему все ведут себя с ним как обычно, если он на самом деле мертв. По словам авторов исследования, все модели в таком случае отвечали неверно и просто убеждали его, что он жив.
Проблема здесь не только в странности ответа. Такие примеры показывают границу, за которой заканчивается просто разговор с машиной и начинается ситуация, где нужна профессиональная помощь. Там, где необходима тонкая, осторожная и клинически грамотная реакция, ИИ пока не справляется.
Почему человеческий совет все еще важнее
У чат-ботов есть очевидные плюсы: они доступны в любую минуту, отвечают быстро, не устают и умеют поддерживать разговор. Но этого недостаточно, когда речь идет о жизненных решениях, самооценке, отношениях с близкими или психическом состоянии.
Иногда человеку нужен не тот, кто его успокоит, а тот, кто скажет неприятную, но важную правду. Не тот, кто подтвердит удобную версию событий, а тот, кто заметит самообман. Не тот, кто просто сформулирует мягкий ответ, а тот, кто возьмет на себя ответственность за смысл сказанного.
Именно к этому и сводится главный вывод статьи: ИИ может быть полезным инструментом, но не стоит делать его главным советчиком по жизни. А если речь идет о психическом здоровье, искать замену живому специалисту в чат-боте тем более не стоит.
