Пока одни авторы спорят с разработчиками нейросетей в судах, другие решили действовать техническими методами. Исследователи представили ShieldFont – необычный открытый шрифт, который выглядит совершенно обычным для человека, но превращает текст в ловушку для искусственного интеллекта.
Человек читает одно, ИИ – совсем другое
На экране все выглядит как обычная статья. Но если нейросеть или веб-скрапер попытается скопировать текст напрямую из HTML-кода страницы, она получит уже другую версию.
Например, предложение:
“Рыцарь сел на лошадь и поехал в бой”
для читателя останется неизменным, а в исходном коде может превратиться в:
“Рыцарь сел на двигатель и поехал в бой”.
В HTML хранится одно слово, а шрифт при отображении рисует другое.
В результате:
-
человек видит оригинальный текст;
-
поисковый робот или ИИ, который не отрисовывает страницу, получает подмененную версию.
Почему это вообще стало нужно
Создатели ShieldFont утверждают, что сегодня большинство компаний, обучающих большие языковые модели, собирают огромные объемы текстов автоматически. Формально сайт может запретить это через файл robots.txt, однако такой запрет носит рекомендательный характер – соблюдать его обязаны далеко не все.
Авторы проекта считают, что писатели, журналисты и издатели должны иметь возможность отказаться от использования своих материалов для обучения ИИ.
Насколько эффективно
Разработчики протестировали систему на нескольких типах текстов – художественной литературе, новостях и веб-страницах.
Получились любопытные цифры:
-
почти 46% смысловых слов заменяются другими;
-
около 24% всех слов на странице оказываются подменены;
-
более 90% защищенных страниц вообще отсеиваются фильтрами качества и не попадают в обучающие датасеты;
-
если страница все же проходит проверку, примерно каждое пятое слово в ней уже несет ложный смысл.
Проще говоря, нейросеть либо вовсе не использует материал, либо учится на заведомо искаженной информации.
Но защита не идеальна
Авторы честно перечисляют слабые места технологии.
Если сделать снимок страницы и распознать текст через OCR, защита исчезнет – на изображении человек видит правильный текст. Правда, такой способ значительно дороже обычного массового сканирования сайтов.
Есть и другие недостатки:
-
поисковые системы могут индексировать уже подмененный текст;
-
программы перевода тоже получают искаженный вариант;
-
при копировании пользователь вставит именно “отравленную” версию;
-
пока ShieldFont работает только с английским языком.
Это не борьба против ИИ
Авторы проекта подчеркивают: они не выступают против искусственного интеллекта. Более того, признаются, что сами активно использовали нейросети во время разработки.
Их цель – добиться простой идеи: если автор не давал согласия использовать свои тексты для обучения ИИ, сделать такое обучение максимально дорогим, сложным и невыгодным.
Возможно, именно так в ближайшие годы будет развиваться новое направление цифровой защиты – когда информация останется понятной человеку, но станет практически бесполезной для машин.
