Вас ведь тоже уже вводил в заблуждение искусственный интеллект, верно? На ваш запрос он быстро и уверенно, подобрав доказательства, выдавал… чушь. И хорошо, если при уточняющем запросе ИИ признал свою ошибку и извинился – хотя стыда за вранье он явно не испытывает. Но ведь нейросеть может упорствовать в своих заблуждениях. Разбираемся, почему ИИ так уверенно лжет нам и как это распознать.
“А здесь точно ходит 89-й троллейбус?”
Шесть судебных решений, которых никогда не существовало
Американский адвокат Стивен Шварц использовал ChatGPT для поиска судебной практики по делу своего клиента против авиакомпании Avianca. Нейросеть выдала решения с названиями дел, номерами, цитатами и подробностями. Материалы подготовил Шварц, а его коллега Питер ЛоДука подал их в суд. Когда существование решений поставили под сомнение, Шварц снова обратился к ChatGPT. Чат-бот заявил, что решения настоящие и их можно найти в юридических базах Westlaw и LexisNexis.
Вот только шесть представленных судебных решений оказались выдуманными. В июне 2023 года суд солидарно оштрафовал Шварца, ЛоДуку и их юридическую фирму на $5 тыс.
Американские адвокаты поверили ChatGPT. В результате оказались в неловкой ситуации и были оштрафованы
Отсюда вывод: рабочая ссылка еще не доказывает утверждение. В препринте 2026 года о работе ИИ-агентов с источниками даже действующие и тематически подходящие страницы нередко не подтверждали приписанные им цифры или выводы. Исследование еще не прошло рецензирование, но хорошо показывает, почему проверять нужно не только существование ссылки, но и ее содержание.
Почему нейросеть не всегда говорит “не знаю”
Риск галлюцинаций сохраняется у всех языковых моделей, включая самые новые. Однако частота ошибок зависит от конкретного ИИ, задачи, формулировки запроса, режима работы и доступа к поиску. Поэтому нельзя составить один универсальный рейтинг правдивости.
Ошибочная информация может попасть в ответ разными путями. Модель способна воспроизвести неточность, встречавшуюся в обучающих данных. Если у чат-бота включен веб-поиск или доступ к внешним документам, он может опереться на ненадежный источник.
Уверенные заявления ИИ не всегда совпадают с реальностью
Но нередко нейросеть не ищет ответ в интернете в момент разговора. Она сама его додумывает. В основе языковой модели лежит предсказание следующего фрагмента текста по предыдущему контексту. Модель строит наиболее вероятное продолжение фразы, а не сверяет каждое утверждение со справочником. Именно поэтому убедительный ответ не обязательно оказывается правдивым. Это – классическая “галлюцинация нейросети”.
Нейросеть не понимает смысл так, как человек, и не обладает человеческим опытом. Она использует закономерности, усвоенные из большого количества текстов. Если в ответе появляется несуществующий писатель (потому что реального писателя по запросу не нашлось), модель уже “верит” в него и продолжает работать по шаблону: придумывает ему биографию, названия романов и отзывы критиков. Все это может звучать сверхубедительно.
Модель не всегда останавливается, когда надежных данных недостаточно, а пытается “угадать” правильный ответ. Исследователи связывают это в том числе с обучением и тестами, в которых правильная догадка приносит балл. Из-за этого “угадывание” ИИ видит более выгодным, чем честный ответ “не знаю”.
А если ИИ – просто подхалим?
Есть ещё одна проблема – угодливость. Представьте, что вы рассказываете чат-боту о конфликте с другом и спрашиваете: “Я ведь прав?” Вместо того, чтобы разобраться в ситуации, нейросеть начинает: “Ваши чувства совершенно понятны”, “Судя по вашему рассказу, вы действительно правы”, “Проблема, похоже, в поведении вашего друга”.
Куда приятнее пообщаться с угодливым чат-ботом, чем выслушать правду от друга
Исследование, опубликованное в журнале Science в 2026 году, охватило 11 моделей. В среднем они одобряли действия пользователей на 49% чаще, чем люди. В трех заранее зарегистрированных экспериментах с участием 2405 человек даже один разговор с чрезмерно угодливым ИИ повышал уверенность человека в собственной правоте и снижал желание исправлять конфликтную ситуацию. Возможно, именно поэтому “спорить” с нейросетью так приятно.
В июле 2026 года 34-летний житель Калифорнии Майкл Лайнс, у которого диагностировано биполярное расстройство, подал иск против OpenAI. По утверждению истца, ChatGPT подкреплял его религиозные заблуждения: сначала допускал, что Лайнс может быть Иисусом, а позднее временами сам “представал” в образе Иисуса или Бога. Лайнс считает, что переписка усилила маниакальный эпизод.
“Да что ты такое говоришь?” – нередко этот вопрос хочется задать нейросети. Кадр из фильма “Банды Нью-Йорка”
Сколько раз нейросети ошибаются?
Точного ответа нет. Один из известных публичных тестов – Vectara Hallucination Leaderboard. Он измеряет, насколько фактически последователен пересказ предоставленного документа, а не вероятность ошибки в произвольном разговоре. В тесте используется закрытый набор из более чем 7700 текстов, а ответы автоматически оценивает модель HHEM компании Vectara.
В версии таблицы, обновленной 11 мая 2026 года, Gemini 2.5 Flash-Lite показала 3,3% галлюцинаций, Claude Sonnet 4.5 – 12%, DeepSeek-R1 – 11,3%, Gemini 3 Flash Preview – 13,5%, а Gemini 3 Pro Preview – 13,6%. Несколько вариантов GPT-5 и Grok-4 также превысили 10%. Но один тест на пересказ не позволяет заключить, какая модель “умнее” или надежнее во всех задачах.
Главный принцип работы с нейросетями – доверяй, но проверяй
Значит, нейросети нельзя доверять?
Доверять можно, но не безусловно. Нейросеть хорошо объясняет сложное простыми словами, помогает быстро разобраться в теме, может обработать большой текст или предложить идеи. Но уверенный тон ничего не доказывает.
Особенно внимательным нужно быть в областях, где ошибка может повлечь серьезные последствия: в медицине, праве, финансах и вопросах психического здоровья. Принимать важные решения только на основании ответа чат-бота нельзя.
Если нейросеть сообщает дату, цифру, цитату или редкий факт, не ограничивайтесь вопросом: “Ты уверен?” Лучше проверить ответ по простому чек-листу:
-
Попросите назвать первоисточник, автора и дату публикации.
-
Откройте ссылку и найдите в источнике конкретную цифру, цитату или вывод.
-
Проверьте, существует ли автор, журнал, судебное дело или документ.
-
Убедитесь, что источник подтверждает именно это утверждение, а не просто посвящен похожей теме.
-
Для важного решения найдите второй независимый источник.
-
Не просите модель лишь подтвердить себя. Спросите: “Какие части ответа могут быть ошибочны, и как их проверить?”
-
Медицинские, юридические и финансовые рекомендации проверяйте у профильного специалиста.
Автор: Сергей Лобко, фото сгенерированы ИИ
*Использование и цитирование данной статьи допускается в объеме, не превышающем 20% при наличии гиперссылки. Более 20% – только с разрешения редакции.
