Искусственный интеллект открывает перед нами возможности, о которых еще недавно можно было только мечтать. Но чем масштабнее становится сила нового инструмента, тем выше ответственность тех, кто держит его в руках. Будущее зависит не от того, насколько умным станет искусственный интеллект, а от того, насколько мудрым останется человек. Рассуждаем об этом в новом материале нашего познавательного цикла “Искусственный интеллект. Угрозы человечеству”.
Сверхразум перестал быть темой научной фантастики?
Еще десять лет назад разговоры о суперинтеллекте воспринимались скорее как философские рассуждения или сценарии голливудских фильмов. Сегодня они стали предметом серьезной научной дискуссии. Причина очевидна: развитие искусственного интеллекта идет стремительнее, чем предполагало большинство специалистов.
Современные модели уже способны анализировать огромные массивы научной информации, писать программный код, помогать в создании лекарств, проектировать сложные инженерные решения, выполнять исследования и решать задачи, которые еще недавно считались исключительно человеческими. Никто не утверждает, что подобные системы уже обладают сознанием или собственной волей. Но все больше ученых задаются другим вопросом: достаточно ли быстро развивается наука о безопасности искусственного интеллекта по сравнению со скоростью развития самого ИИ?
Совсем не как в кино
Когда говорят об угрозах искусственного интеллекта, воображение сразу рисует восстание машин. Однако специалисты, занимающиеся безопасностью ИИ, рассматривают совсем другой сценарий, при котором мощная интеллектуальная система начнет безупречно выполнять поставленную перед ней задачу, не понимая человеческих ценностей и последствий своих действий.
Шведский философ Ник Бостром, автор книги “Суперинтеллект”, одним из первых обратил внимание на проблему, которая сегодня стала одной из центральных тем исследований в области безопасности ИИ. По его мнению, главную угрозу представляет не интеллект сам по себе. Опасность возникает тогда, когда чрезвычайно мощная система начинает действовать в соответствии с целями, которые лишь частично совпадают с человеческими интересами. Даже небольшое расхождение между поставленной задачей и реальными ценностями человека способно привести к последствиям огромного масштаба. Именно поэтому, считает Бостром, вопросы безопасности необходимо решать задолго до появления сверхразумных систем.
История редко прощает беспечность
Человечество уже не раз сталкивалось с ситуацией, когда новые технологии сначала развивались практически бесконтрольно, а лишь затем общество начинало задумываться об их последствиях. Так произошло с промышленным загрязнением окружающей среды, с ядерными технологиями, с массовым распространением социальных сетей, с бесконтрольным использованием персональных данных. Каждый раз сначала появлялись новые возможности и только потом – законы, международные соглашения и механизмы контроля.
В случае с искусственным интеллектом подобная последовательность может оказаться слишком опасной. Если интеллектуальные системы будут управлять энергетикой, транспортом, медициной, финансовыми рынками, критической инфраструктурой или оборонными комплексами, цена одной ошибки станет слишком высокой. Именно поэтому сегодня все больше экспертов убеждены, что безопасность должна опережать развитие технологий, а не догонять его.
Не только вопрос технологий
Еще недавно разработчики стремились прежде всего сделать искусственный интеллект максимально мощным. Теперь все чаще специалисты говорят о принципе Safety by Design – безопасности, заложенной в технологию еще на этапе ее проектирования. Это означает, что интеллектуальные системы должны проходить многоуровневое тестирование, независимую экспертизу, проверку устойчивости к ошибкам и постоянный аудит еще до их широкого внедрения.
Особое внимание необходимо уделять тем областям, где решения искусственного интеллекта могут непосредственно повлиять на жизнь и безопасность людей. В таких случаях последнее слово должно оставаться за человеком: только он способен нести ответственность за последствия своего выбора.
Безопасность ИИ невозможно обеспечить усилиями одних программистов. Слишком многое зависит от того, какие ценности будут положены в основу новых систем.
Именно поэтому к обсуждению будущего искусственного интеллекта все активнее подключаются философы, юристы, психологи, специалисты по этике, экономисты, педагоги и представители государственных институтов.
Искусственный интеллект давно перестал быть национальной технологией. Алгоритмы, созданные в одной стране, практически мгновенно становятся доступными всему миру. Это означает, что и вопросы безопасности невозможно решать в границах одного государства. Все чаще звучат предложения о создании международных стандартов разработки, тестирования и применения наиболее мощных интеллектуальных систем. Так же, как человечество когда-то договорилось о правилах использования атомной энергии или международной гражданской авиации, ему, вероятно, предстоит выработать единые принципы безопасного развития искусственного интеллекта. Не для того, чтобы затормозить научный прогресс, а для того, чтобы сделать его управляемым.
Что можно сделать уже сегодня?
Эксперты сходятся во мнении, что действовать необходимо уже сейчас. Государствам нужно создавать современную систему регулирования технологий искусственного интеллекта. Бизнесу пора рассматривать безопасность как обязательную часть разработки, а не как дополнительную опцию. Научному сообществу важно расширять исследования в области безопасного ИИ и согласования его целей с человеческими ценностями. Образовательной системе необходимо готовить специалистов, способных понимать не только технические возможности алгоритмов, но и социальные последствия их применения. А каждому человеку – относиться к искусственному интеллекту не как к чуду техники, а как к мощному инструменту, требующему ответственного обращения.
В конечном счете самой большой угрозой будущего может стать не ИИ, а человеческая беспечность. История не раз доказывала, что любая великая технология приносит пользу лишь тогда, когда ее развитие сопровождается ответственностью, прозрачными правилами и пониманием возможных последствий. Искусственный интеллект способен открыть перед человечеством новую эпоху, но сделать ее безопасной сможет только сам человек, если уже сегодня научится развивать технологии одновременно с культурой ответственности за их применение.
Автор: Вячеслав Струстович, иллюстрации сгенерированы ИИ
*Использование и цитирование данной статьи допускается в объеме, не превышающем 20% при наличии гиперссылки. Более 20% – только с разрешения редакции.
