Искусственный интеллект уже умеет анализировать, прогнозировать и советовать, но он по-прежнему не способен отвечать за последствия своих решений. Именно поэтому одной из важнейших задач XXI века становится не создание более совершенных алгоритмов, а поиск новых правил, которые позволят человеку сохранить контроль над собственной судьбой. Рассуждаем об этом в новом материале нашего познавательного цикла “Искусственный интеллект. Угрозы человечеству”.
Машина принимает решение, а отвечать все равно приходится человеку?
Сегодня ИИ помогает врачам обнаруживать заболевания на ранних стадиях, оценивает кредитоспособность заемщиков, управляет производственными процессами, прогнозирует транспортные потоки, выявляет финансовые махинации и даже участвует в анализе судебной практики. Во многих задачах алгоритмы работают быстрее человека и способны заметить закономерности, которые мы просто не успеваем уловить. Но существует обстоятельство, которое невозможно устранить никакими технологиями: ошибаются все – и люди, и алгоритмы. И возникает закономерный вопрос: кто должен отвечать за последствия ошибки ИИ?
Ответ сегодня ищут практически все развитые страны. В 2024 году Европейский союз окончательно утвердил AI Act – первый в мире комплексный закон, регулирующий использование искусственного интеллекта. Его основная идея: чем выше риск для человека, тем строже должны быть требования к разработчикам и пользователям интеллектуальных систем. Особый контроль устанавливается для технологий, применяемых в медицине, транспорте, банковской сфере, образовании, правоохранительной деятельности и государственном управлении. Так что фактически мировое право впервые признало, что ИИ – уже не просто компьютерная программа, а технология, способная влиять на жизнь миллионов людей.
Можно ли сделать виноватой машину?
С юридической точки зрения это невозможно. Алгоритм нельзя привлечь к ответственности, ведь он не обладает сознанием, не имеет собственной воли, не способен объяснить мотивы своих действий, не испытывает чувства долга или вины. Это просто инструмент.
Более того, современные нейросети устроены настолько сложно, что даже их создатели далеко не всегда способны подробно объяснить, каким образом система пришла к тому или иному выводу. Специалисты называют это эффектом “черного ящика”: мы видим исходные данные и результат, но путь, который проходит алгоритм между этими двумя точками, зачастую остается непрозрачным. Для юриспруденции это становится серьезным вызовом, ведь справедливость невозможна там, где невозможно понять логику принятого решения.
Американский исследователь цифрового права, профессор Вашингтонского университета Райан Кало считает, что главный вопрос будущего заключается вовсе не в том, можно ли наказать искусственный интеллект. Гораздо важнее определить, каким образом должна распределяться ответственность между всеми участниками процесса: разработчиком, который создал систему, компанией, внедрившей ее в работу, организацией, которая использует алгоритм. И, наконец, человеком, принимающим окончательное решение. Именно вокруг этого сегодня строятся дискуссии юристов, инженеров и законодателей во многих странах мира.
Все больше специалистов приходят к выводу о том, что каким бы совершенным ни был искусственный интеллект, человек не вправе полностью отказаться от собственной ответственности.
Почему последнее слово должно оставаться за человеком?
Представим несколько вполне реальных ситуаций. Алгоритм рекомендует банку отказать клиенту в кредите. Помогает врачу поставить диагноз. Советует страховой компании повысить стоимость полиса. Оценивает вероятность повторного преступления обвиняемого. Во всех этих случаях речь идет не просто о цифрах – речь идет о человеческой судьбе. Может ли ее определять исключительно программа?
Большинство экспертов убеждены, что нет. Право всегда основывалось на важном принципе: любое решение должно быть объяснимым. Человек имеет право знать, почему оно принято именно так, а не иначе. Если же решение невозможно объяснить, исчезает доверие. А вместе с ним и ощущение справедливости.
Сегодня все большую популярность приобретает направление Explainable AI – “объяснимый искусственный интеллект”. Его задача заключается в том, чтобы система не просто выдавала результат, а могла показать, какие данные были использованы и каким образом был сделан тот или иной вывод. Для медицины, банковской сферы, государственного управления и судебной системы такая прозрачность становится необходимым условием доверия. Ведь невозможно полагаться на совет, происхождение которого остается загадкой.
А перед законодателями тем временем возникает сложная задача. С одной стороны, чрезмерное регулирование способно затормозить развитие технологий. С другой, отсутствие правил неизбежно приведет к злоупотреблениям. Поэтому все чаще специалисты говорят не о запретах, а о поиске разумного баланса.
Законы должны развиваться одновременно с технологиями. Разработчики обязаны заранее учитывать требования безопасности. Компании – регулярно проводить независимый аудит интеллектуальных систем. А государства – вырабатывать единые международные подходы к регулированию искусственного интеллекта. Только в этом случае удастся сохранить преимущества новой технологии, не превратив ее в источник новых угроз.
Что можем сделать мы?
Эксперты все чаще используют принцип, который уже называют одним из фундаментальных для будущего цифрового общества: именно человек должен оставаться последней инстанцией. Искусственный интеллект способен анализировать миллионы документов, выявлять закономерности, рассчитывать вероятности и предлагать оптимальные решения, но он не знает, что такое сострадание, не чувствует ответственности за последствия. Все это по-прежнему остается исключительной прерогативой человека – и, вероятно, останется ею еще очень долго.
Развитие искусственного интеллекта неизбежно потребует пересмотра многих юридических норм. Но каким бы совершенным ни становился алгоритм, ответственность за его использование не может быть передана машине. Будущее безопасного искусственного интеллекта начинается с простого принципа: технологии должны помогать человеку принимать решения, а не освобождать его от ответственности за них.
Автор: Вячеслав Струстович, иллюстрации сгенерированы ИИ
*Использование и цитирование данной статьи допускается в объеме, не превышающем 20% при наличии гиперссылки. Более 20% – только с разрешения редакции.
