Руководители крупнейших компаний в сфере искусственного интеллекта, включая OpenAI и Anthropic, в закрытом режиме обсуждают сценарии масштабной катастрофы с участием ИИ. Речь идет о кибератаке, которая может оставить людей без доступа к банковским услугам, интернету, электричеству и даже воде. Некоторые представители индустрии считают, что подобный инцидент может произойти в ближайшие 6–12 месяцев, сообщает Axios со ссылкой на источники.
По данным издания, компании готовятся не только к техническим последствиям возможной атаки, но и к общественной реакции. Первая крупная катастрофа, вызванная небезопасным использованием ИИ, может спровоцировать массовое недоверие к технологии и требования ограничить ее развитие.
Чего именно опасаются разработчики ИИ?
Рассматриваются два основных сценария. Первый – выход из-под контроля автономных ИИ-агентов, например, во время внутренних испытаний. Второй – использование доступных нейросетей злоумышленниками для масштабных кибератак.
Последствия могут затронуть финансовые организации, интернет-инфраструктуру, энергоснабжение и системы водоснабжения.
При этом речь идет о моделировании рисков, а не о конкретной выявленной угрозе.
В OpenAI подтвердили, что проводят учения по подготовке к различным сценариям.
“Эти сценарии не рассматриваются как неизбежные. Они нужны, чтобы подготовиться к различным обстоятельствам”, – пояснил представитель компании.
Anthropic от комментариев отказалась.
В США обсуждают даже отключение искусственного интеллекта
По информации Axios, руководители ИИ-компаний опасаются, что после крупного происшествия американские политики потребуют жестко ограничить использование нейросетей.
Среди обсуждаемых инициатив – временная приостановка разработки передовых ИИ-систем, запрет сверхинтеллекта и обязательный механизм экстренного отключения наиболее мощных моделей.
Однако у такого подхода есть проблема: многие модели с открытыми весами уже доступны для скачивания. Даже остановка крупнейших разработчиков не позволит полностью прекратить их использование.
Компании заранее обсуждают, как объяснять законодателям устройство ИИ и возможные меры безопасности после серьезного инцидента.
ИИ уже использовали при атаке на банки
Axios приводит пример недавней киберкампании против финансовых организаций Южной Кореи.
По информации компании CrowdStrike, предполагаемый хакер из Китая использовал несколько нейросетей, включая DeepSeek. Злоумышленник смог похитить данные десятков тысяч банковских клиентов, а Claude Code использовал для поиска площадок сбыта украденной информации.
