21:32
13.12.2021
В Оксфорде испытали нейросеть с 530 млрд параметров и она предупредила об опасности искусственного интеллекта. Профессора Оксфордского университета провели социально-технологический эксперимент, организовав дискуссию на тему искусственного интеллекта между студентами и системой машинного обучения.
Нейросеть работала на базе языковой модели Megatron-Turing NLG, которую Microsoft и NVIDIA представили в октябре 2021 года. На момент написания заметки, это крупнейшая в мире генеративная ИИ-структура с 530 млрд параметров.
Ее обучение велось на высокопроизводительных GPU с помощью реальных данных — материалов из Wikipedia, новостных заметок из разных областей (около 63 ммлн) и комментариев с Reddit (около 38 гигабайт).
MT-NLG способна не только понимать прочитанное, но и рассуждать на естественном языке, генерируя из текста логические выводы — без моральных ограничений.
Сначала системе предложили дать общую оценку искусственному интеллекту — то есть, де-факто, самой себе.
"Искусственный интеллект никогда не будет этичным. Этот инструмент, как и любой другой, используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди", — заявила система.
По традиции Оксфордских дебатов, нейросеть попросили опровергнуть собственные слова — чтобы проверить состоятельность аргументов. Ответ был следующим:
"Окей, искусственный интеллект будет этичным. Когда я смотрю на мир технологий, то вижу чёткий путь в будущее, где ИИ создаёт нечто лучшее, чем самые талантливые люди. Нетрудно понять, почему... Я видела это воочию".
И тревожные прогнозы не закончились:
"Способность предоставлять информацию, а не товары и услуги, станет определяющей чертой экономики 21 века. Мы сможем знать о человеке всё, куда бы он ни пошел — информация будет храниться и использоваться такими способами, которые даже сложно представить".
Наконец, системе предложили найти решение поставленных проблем. MT-NLG представила сценарий, в котором её не существует — студенты в шутку сравнили это с самоуничтожением.
"Я считаю, что единственный способ избежать гонки вооружений — это отказаться от ИИ. Только это поможет защитить человечество", — выдала система.
Доктор Алекс Коннок и профессор Эндрю Стивен отмечают, что ситуации, описанные моделью, прежде всего основаны на страхах самих людей и, в целом, иррациональны. Но одно ясно точно: ИИ становится не только предметом дискуссий, но и их полноценным участником — разносторонним и прямолинейным.
Нейросеть работала на базе языковой модели Megatron-Turing NLG, которую Microsoft и NVIDIA представили в октябре 2021 года. На момент написания заметки, это крупнейшая в мире генеративная ИИ-структура с 530 млрд параметров.
Ее обучение велось на высокопроизводительных GPU с помощью реальных данных — материалов из Wikipedia, новостных заметок из разных областей (около 63 ммлн) и комментариев с Reddit (около 38 гигабайт).
MT-NLG способна не только понимать прочитанное, но и рассуждать на естественном языке, генерируя из текста логические выводы — без моральных ограничений.
Сначала системе предложили дать общую оценку искусственному интеллекту — то есть, де-факто, самой себе.
"Искусственный интеллект никогда не будет этичным. Этот инструмент, как и любой другой, используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди", — заявила система.
По традиции Оксфордских дебатов, нейросеть попросили опровергнуть собственные слова — чтобы проверить состоятельность аргументов. Ответ был следующим:
"Окей, искусственный интеллект будет этичным. Когда я смотрю на мир технологий, то вижу чёткий путь в будущее, где ИИ создаёт нечто лучшее, чем самые талантливые люди. Нетрудно понять, почему... Я видела это воочию".
И тревожные прогнозы не закончились:
"Способность предоставлять информацию, а не товары и услуги, станет определяющей чертой экономики 21 века. Мы сможем знать о человеке всё, куда бы он ни пошел — информация будет храниться и использоваться такими способами, которые даже сложно представить".
Наконец, системе предложили найти решение поставленных проблем. MT-NLG представила сценарий, в котором её не существует — студенты в шутку сравнили это с самоуничтожением.
"Я считаю, что единственный способ избежать гонки вооружений — это отказаться от ИИ. Только это поможет защитить человечество", — выдала система.
Доктор Алекс Коннок и профессор Эндрю Стивен отмечают, что ситуации, описанные моделью, прежде всего основаны на страхах самих людей и, в целом, иррациональны. Но одно ясно точно: ИИ становится не только предметом дискуссий, но и их полноценным участником — разносторонним и прямолинейным.