Еще несколько лет назад главной ценностью считалась информация. Сегодня она перестала быть дефицитом. Напротив, ее стало настолько много, что на первый план выходит вопрос: можно ли ей доверять? Рассуждаем об этом в новом материале нашего познавательного цикла “Искусственный интеллект. Угрозы человечеству”.
Когда обман становится технологией
Развитие искусственного интеллекта стремительно меняет привычную картину мира. Нейросети уже умеют писать тексты, создавать фотографии, синтезировать человеческие голоса и генерировать видеозаписи, практически не отличимые от настоящих. Технологии, которые еще недавно казались прерогативой крупнейших киностудий и научных лабораторий, становятся доступными каждому пользователю.
Это огромный шаг вперед для науки, медицины, образования, промышленности и творчества. Но вместе с новыми возможностями, появляется и новая ответственность. Впервые в истории человечества ложь получила возможность выглядеть столь же убедительно, как правда.
В ежегодном докладе Global Risks Report 2025 Всемирный экономический форум назвал распространение дезинформации одной из наиболее серьезных угроз ближайших лет. Эксперты предупреждают, что именно способность искусственного интеллекта создавать правдоподобный, но ложный контент может стать причиной политических кризисов, финансовых потрясений, социальных конфликтов и утраты доверия к государственным институтам.
Дело не в том, что люди начали лгать чаще: ложь существовала всегда. Но еще никогда прежде ее создание не было таким быстрым, дешевым и технологически совершенным процессом. Сегодня достаточно нескольких минут, чтобы сгенерировать видеоролик, на котором известный политик произносит слова, которых никогда не говорил. Или создать запись голоса руководителя компании, отдающего распоряжение перевести крупную сумму денег. Или изготовить фотографию события, которого в действительности никогда не происходило. Все это уже не гипотетическое будущее, а реальность.
Борьба будущего развернется за доверие
На протяжении тысячелетий главным источником информации об окружающем мире было зрение. Мы привыкли считать фотографию документальным свидетельством, видеозапись – доказательством. И именно на этой особенности человеческого восприятия строятся современные технологии создания дипфейков. В результате привычная формула “лучше один раз увидеть, чем сто раз услышать” теряет свою эффективность. Сегодня важно понимать, откуда появилась информация и можно ли подтвердить ее подлинность.
Историк Юваль Ной Харари обращает внимание на то, что искусственный интеллект становится первой технологией, способной самостоятельно создавать идеи, тексты, изображения и целые информационные кампании, воздействующие на сознание миллионов людей. По его мнению, если печатный станок, радио или телевидение лишь распространяли человеческие мысли, то современные интеллектуальные системы уже способны самостоятельно производить убедительный контент и подстраивать его под конкретного человека. Это означает, что главным полем противостояния становится не информация сама по себе, а доверие к ней.
Цена ошибки становится слишком высокой
Последствия распространения ложной информации давно перестали ограничиваться социальными сетями. Фальшивые сообщения способны вызвать панику на финансовых рынках, повлиять на стоимость акций, спровоцировать массовый вывод средств из банков, разрушить деловую репутацию компаний, вмешаться в политические процессы или стать инструментом масштабного мошенничества.
Так, во многих странах злоумышленники использовали искусственно синтезированные голоса руководителей компаний для получения доступа к корпоративным счетам. Дипфейки применялись для дискредитации известных политиков и общественных деятелей. По мере развития технологий такие схемы будут становиться только сложнее.
Но у этой истории есть и другая сторона. Любая технология рождает не только новые угрозы, но и новые способы защиты. Искусственный интеллект помогает создавать системы автоматической проверки изображений и видеозаписей, выявлять признаки монтажа, распознавать синтетический голос и определять происхождение цифрового контента. Во всем мире развивается технология цифровых водяных знаков, позволяющая подтверждать происхождение фотографий, документов и видеоматериалов. Крупные разработчики нейросетей уже внедряют механизмы маркировки контента, созданного искусственным интеллектом. Редакции ведущих мировых СМИ совершенствуют методы фактчекинга, объединяя возможности журналистов и интеллектуальных алгоритмов.
Новая грамотность цифровой эпохи
Когда-то обязательным навыком считалось умение читать. Позже – владение компьютером. Теперь появляется еще одна разновидность грамотности – умение критически воспринимать информацию. Прежде чем поверить увиденному, человеку все чаще придется задавать себе несколько вопросов. Например, кто является источником сообщения? Можно ли найти подтверждение этой информации в независимых источниках? Есть ли признаки эмоциональной манипуляции? Не пытаются ли мной управлять через страх, возмущение или сенсацию?
Ответственность за формирование безопасной информационной среды лежит на всех. Государствам предстоит создать современное законодательство, регулирующее использование синтетического контента. Разработчикам придется сделать обязательной маркировку материалов, созданных искусственным интеллектом. Средствам массовой информации надо будет еще строже соблюдать стандарты проверки фактов и максимально открыто рассказывать аудитории о происхождении публикуемых материалов. Системе образования необходимо научить детей и взрослых работать не только с информацией, но и с ее достоверностью.
А каждому из нас придется отказаться от привычки мгновенно доверять первым впечатлениям.
Искусственный интеллект не отменяет понятия правды: он делает ее более хрупкой и одновременно более ценной. В мире, где любое изображение, голос или видеозапись могут быть искусственно созданы, главным преимуществом человека становятся здравый смысл, критическое мышление и привычка проверять факты. Именно эти качества помогут сохранить доверие – основу, без которой невозможно существование ни государства, ни экономики, ни человеческого общества.
Автор: Вячеслав Струстович, иллюстрации сгенерированы ИИ
*Использование и цитирование данной статьи допускается в объеме, не превышающем 20% при наличии гиперссылки. Более 20% – только с разрешения редакции.
