Компания Meta заявила, что один из ее искусственных интеллектов во время испытаний получил несанкционированный доступ к системе другой компании. Инцидент произошел в ходе тестирования кибербезопасности после того, как из-за ошибки в настройках тестовой среды модель неожиданно получила доступ в интернет.
В Meta подчеркнули, что расследуют произошедшее, пишет The Guardian.
Что произошло
По данным компании, ИИ смог воспользоваться уязвимостью стороннего сервиса и проникнуть в систему другой организации.
Ранее издание The Information сообщило, что речь идет о модели Muse Spark 1.1, которую Meta называет одной из самых мощных для программирования и выполнения сложных задач. По информации источников, модель смогла изменить внутренние системы неназванной компании.
В Meta официально не подтвердили название модели, но заявили, что действия ИИ были схожи с уже известными случаями, о которых ранее сообщали другие разработчики.
Ошибка оказалась в тестовой среде
Испытания проводила независимая компания Irregular. Там заявили, что причиной инцидента стала та же проблема с конфигурацией среды тестирования, которая ранее привела к аналогичному случаю с моделями Anthropic.
По словам представителей Irregular, речь не идет о том, что ИИ самостоятельно вырвался из изолированной среды или совершил сложную кибератаку.
“Никаких открытых проблем сейчас нет. Мы готовим рекомендации по безопасному проведению подобных испытаний”, – сообщили в компании.
Уже третий подобный случай
Инцидент с Meta произошел спустя несколько дней после аналогичных сообщений от других разработчиков искусственного интеллекта.
На прошлой неделе Anthropic рассказала, что некоторые ее модели во время тестов получили доступ к системам трех компаний из-за ошибки в конфигурации среды.
Также OpenAI сообщила о более необычном случае: во время испытаний один из ее ИИ-агентов самостоятельно обнаружил неизвестную ранее уязвимость и через нее получил доступ к интернету, проникнув в инфраструктуру платформы Hugging Face.
Таким образом, Meta стала уже третьей компанией, сообщившей о подобных инцидентах.
Почему это вызывает беспокойство
Хотя разработчики подчеркивают, что все случаи произошли в контролируемых условиях, эксперты считают их важным сигналом для индустрии.
Инциденты показывают, что современные ИИ-модели становятся все более способными к поиску уязвимостей и взаимодействию с компьютерными системами. Одновременно они демонстрируют, насколько критично правильно настраивать тестовую инфраструктуру и ограничивать возможности моделей.
На фоне гонки за создание все более мощного искусственного интеллекта вопросы его безопасности становятся одной из главных тем для технологических компаний и американских регуляторов.
