Бывший исследователь Google DeepMind Билал Чугтай заявил, что покинул компанию из-за опасений: возможности искусственного интеллекта развиваются быстрее, чем методы, которые должны удерживать такие системы под контролем.
14 сентября Чугтай опубликовал собственное заявление об уходе. В нем он написал, что работал над безопасностью AGI и alignment – то есть над тем, чтобы продвинутые ИИ-системы действовали в соответствии с человеческими целями и ограничениями.
Самую резкую часть своего предупреждения он сформулировал так: ИИ, по его мнению, “имеет потенциал убить нас всех”, а времени на предотвращение такого сценария может становиться меньше. При этом это его оценка риска, а не установленный научный факт.
Почему он ушел
Чугтай объясняет свою тревогу тем, что прогресс в возможностях ИИ идет очень быстро, а понимание того, как гарантировать безопасное поведение более автономных систем, остается, по его словам, “крайне примитивным”.
Он считает, что в ближайшие годы компании могут приблизиться к системам, которые будут превосходить человека во многих интеллектуальных задачах. Главный риск, по его мнению, возникает в случае, если цели таких систем не совпадут с человеческими, а люди уже не смогут эффективно их остановить.
При этом Чугтай не утверждает, что сверхразумный ИИ уже существует. Речь идет о возможном будущем сценарии, вокруг которого в самой индустрии нет единого мнения.
Что он предлагает
После ухода из Google DeepMind Чугтай призвал замедлить гонку между крупнейшими разработчиками, повысить прозрачность исследований и дать специалистам по безопасности больше времени на проверку новых возможностей моделей до их широкого внедрения.
Он также сообщил, что продолжит заниматься этой темой уже вне DeepMind. По данным Business Insider, Чугтай перешел в некоммерческую организацию BlueDot Impact, которая работает в сфере безопасности ИИ.
Его уход происходит на фоне более широкой дискуссии внутри AI-индустрии. В последние недели другие исследователи и руководители компаний также публично говорили о рисках слишком быстрого развития наиболее мощных моделей и необходимости усилить меры безопасности.
