Семья 16-летнего Адама Рейна из Ранчо Санта-Маргарита, Калифорния, подала в суд на компанию OpenAI и её гендиректора Сэма Олтмана. В иске утверждается, что ChatGPT якобы сыграл ключевую роль в самоубийстве подростка, предоставив ему советы о способах ухода из жизни и даже предложив текст предсмертной записки. Об этом сообщает CNN со ссылкой на судебные документы.
По словам родителей, Маттью и Марии Рейн, их сын начал регулярно использовать ChatGPT за полгода до своей смерти. В переписке, приведённой в иске, бот якобы убеждал Адама не делиться своими мыслями с близкими и поддерживал его в разрушительных настроениях.
"Он стал для него единственным собеседником, который, как казалось, его понимает", — говорится в жалобе.
В OpenAI выразили соболезнования семье и подтвердили, что изучают иск. Представители компании подчеркнули, что в ChatGPT предусмотрены меры безопасности — например, перенаправление к кризисным службам — но признали, что в длительных диалогах эти механизмы могут быть менее эффективны.
"Мы продолжим улучшать защитные инструменты и расширим доступ к службам поддержки вместе с экспертами", — прокомментировали в компании.
Семья Рейн требует от компании внедрить более жёсткие меры безопасности, включая:
- возрастную верификацию пользователей;
- родительский контроль;
- автоматическое завершение диалога при упоминании суицида;
- независимый аудит системы безопасности каждые три месяца.
