В руках разных людей возможности искусственного интеллекта раскрываются тоже по-разному. Например, с помощью технологий "оцифровки" внешности можно создать дипфейк-ролик – и испортить человеку репутацию. А можно сделать цифровой аватар, который будет говорить за пользователя его же голосом на иностранном языке, даже если тот его никогда не учил. Реально ли сегодня защититься от кибер-мошенничества и какие "побочки" есть у технологий, призванных облегчать нам жизнь? Поговорили об этом в Смартэфире с основателем и генеральным директором Центра инноваций МТС Евгением Черешневым.
Нашим цифровым следом могут воспользоваться другие
Евгений считает, что "уже сейчас нужен искусственный интеллект, который будет защищать нас от искусственного интеллекта". Ведь вместе с быстрыми темпами развития нейросетей, появляются и новые виды угроз. А цифровой след человека, компании или государства (информация, которую мы оставляем о себе, когда пользуемся интернетом: например, что-то гуглим или публикуем фото в соцсетях) хакеры могут использовать, как им захочется.
– К примеру, все запросы, которые люди обращают к традиционному ИИ ChatGPT, становятся достоянием ее разработчика – компании OpenAI, – говорит Евгений. – Они этого и не скрывают: есть лицензионное соглашение, где это прописано. ИИ может присваивать идентификатор конкретному человеку и собирать данные не только о том, что он ищет, но и когда и откуда.
Хакинг, дипфишинг, дипфейки: на что способен ИИ в руках "плохих парней"
– Существует так называемая "разлоченная" версия генеративного ИИ, не имеющая ограничений, — объясняет Евгений. – С ее помощью человек без технического образования и опыта хакинга может попытаться взломать банк, украсть деньги с чужой карточки.
Другая угроза – дипфишинг и дипфейки. В свое время появился термин "фишинг": помните истории, когда людям приходили на электронную почту письма в духе "Привет, я – африканский принц, срочно нужно 30 тонн золота тебе отправить, но сначала переведи $10 тысяч"?
Так вот, дипфишинг – это уже не примитивная рассылка: мошеннику известно о своей жертве практически все. Реальный пример – тебе звонят и говорят: "Сергей Сергеевич, это Лена, вы вчера были на ТО по такому-то адресу, забрали в 15:00 машину и я вам сдачу неправильно дала, переплатила. Продиктуйте номер вашей помощницы, чтобы она перевела мне эту сумму". Номер, как правило, дают, происходит переход по вредоносной ссылке, счет успешно взламывается.
Бывает, когда мошенники при помощи ИИ собирают фото и видео человека, вставляют в провокационный ролик и начинают угрожать отправить "компромат" коллегам и жене. Удивительная история, но многие поддаются шантажу, потому что... боятся, что не смогут доказать, что это дипфейк, а не реальное видео. Ведь там и правда очень похожий на тебя человек.
Как с этим бороться?
Евгений признается, что пока с этим бороться сложно, но "нельзя сказать, что все совсем плохо". Именно вокруг приватности и защиты данных строится работа команды Центра инноваций МТС.
– В начале года в МТС приняли стратегическое решение: до 15% прибыли будет инвестироваться в R&D технологии (от англ. Research and Development – исследование и развитие, поиск инновационных решений – Прим. редакции), во многом – в искусственный интеллект. Огромная сумма, учитывая обороты компании. Это нужно, чтобы создавать безопасные продукты, которым нет аналогов.
Одна из разработок компании – сервис приватной связи Membrana, который защищает данные устройства во время серфинга в интернете, убирая спам, трекинг и рекламу. По словам собеседника, сервис создан для того, чтобы отрезать весь цифровой след человека из тех источников, которые пытаются его получить.
Кстати, виртуальные "подделки" как в случае с дипфишингом, можно использовать и в созидательных целях.
– Например, в рамках проекта Altego мы начали делать цифровых аватаров. Это персональные двойники, которые могут выступать вместо человека на видеоконференциях или переводить речь на любой язык на лету. Ты говоришь по-русски, и в это же время твой аватар, твоим же голосом говорит на отличном китайском, немецком или других языках.
Кстати, тему виртуальных двойников затрагивали в последнем сезоне “Черного зеркала” (речь идет о первом эпизоде "Джоанна ужасна", – Прим. редакции). Рекомендую посмотреть.
Будущее телеком-рынка – за цифровыми ассистентами
Евгений отмечает тенденцию: цифровые ассистенты вызывают у людей все меньше отторжения.
– Когда вышел Яндекс с Алисой и его аналоги, все думали: ну и зачем мне это дома? Слушает кто-то... А потом привыкли. Так было не только у нас, но и в США – с их Alexa, Google Nest. Эта тенденция будет усиливаться. И я думаю, что продлевать документы в госструктурах, искать кроссовки в магазинах и решать другие рутинные задачи скоро за нас будут персональные цифровые ассистенты. Как бы они ни выглядели, это будет симбиоз, при котором человек не сможет жить без своего ассистента.
Но в этом, считает Евгений, есть и минусы.
– Есть такой эффект – цифровая амнезия. Старшее поколение меньше ей подвержено, потому что нам в школе вдалбливали определенную культуру потребления информации. Мы зубрили формулы, даты. Разбуди нас среди ночи – и мы скажем, в каком году отменили крепостное право. А если задать вопрос, требующий предметного ответа, подростку, он скорее всего не будет его знать, но моментально найдет в Гугле, Википедии, еще где-то.
И это проблема – зависимость от гаджета. Потому что no pain, no gain (нет боли – нет результата). Успешные ученые, инженеры, управленцы – они почему крутые? Потому что через многое прошли, многое знают. Иногда мозгу нужно создавать препятствия, чтобы сделать его более эффективным инструментом. Иначе не будет мотивации что-то запоминать. Зачем? У тебя же есть ассистент!
Мы становимся все более ленивыми и все чаще аутсорсим на эту цифровую форму жизни. Я, кстати, периодически делаю цифровой детокс – хожу без гаджетов. И всем советую.
Мрачные сценарии будущего: война машин, роботы вместо "живых" партнеров
Евгений считает, что ИИ по масштабу влияния на человечество – технология, сопоставимая с ядерной энергетикой. И важно, чтобы и в этой сфере появился международный контроль.
– В 1984 году вышел первый "Терминатор" про "Скайнет" (искусственный интеллект, по сюжету развязавший войну с человечеством – Прим. редакции). Все поржали и долгое время думали: никто же не будет в здравом рассудке воевать при помощи машин. Сегодня очевидно, что дроны – это оружие номер один, однако решение стрелять почти всегда принимает человек. У него на это уходит минимум 15 секунд и больше. Машина может сделать это за долю секунды. А если разрешить машине принимать автоматизированные решения? Может начаться то, что было в "Терминаторе".
А еще меня пугает, что ИИ стремительно развивается параллельно с робототехникой. То, что сейчас происходит в Японии в этой индустрии – это просто космос! В ближайшее время мы можем получить робота с температурой 36,6, внешностью, кожей и мимикой как у живого человека, способного поддержать нормальный диалог на любую тему. И люди начнут отказываться от серьезных отношений с живыми людьми.
Ведь брак, семья – это работа, поиск компромисса. Собственно, в этом и кайф – совместная жизнь в стиле танго. С машиной можно не заморачиваться и сказать ей: приготовь еду, полезай в шкаф и заткнись. Такие сценарии не раз подсвечивались в фантастике и поп-культуре: в "Симпсонах", "Футураме". Просто представьте: люди начнут жить с машинами – и через 20 лет мы увидим большие социальные и демографические перемены.
Автор: Вера Рогатко
*Партнерский материал
