Министерство торговли США отменило ограничения на две самые мощные модели ИИ от Anthropic. Fable 5 с 1 июля снова доступна пользователям по всему миру на Claude Platform, Claude.ai, Claude Code и Claude Cowork, а Mythos 5, у которой меньше защитных ограничений, возвращается только одобренным властями американским организациям.
Модели были отключены 12 июня и вернулись через 19 дней – это одно из самых заметных отключений в истории корпоративного ИИ. Поводом стал отчет исследователей Amazon, нашедших способ обойти защиту Fable 5: модель просили найти уязвимости в коде, и в одном случае она сгенерировала код, показывающий, как одну из них можно проэксплуатировать. По данным The Hill, о находке федеральным властям сообщил лично гендиректор Amazon Энди Джасси.
Anthropic переобучила защиту и по независимой проверке CAISI – исследовательского центра при Минторге – новый классификатор перехватывает этот тип запроса более чем в 99% случаев. Правда, модель чаще будет ошибочно блокировать и безобидные запросы.
Давление на Anthropic вызвало критику ряда техно руководителей и инвесторов. Оно дало фору китайским разработчикам open-source.
За пару дней до снятия контроля Anthropic обвинила Alibaba в попытке “выкачать” возможности Mythos и назвала это крупнейшей известной кампанией дистилляции ИИ-модели.
Anthropic называет главным уроком то, что модели могут в одностороннем порядке снять с рынка по решению государства, соответственно отрасли нужны прозрачные, заранее оговоренные правила такого вмешательства.
