Войти в почту

Илон Маск и Стив Возняк испугались «слишком умного» ИИ

Глава SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще более тысячи исследователей искусственного интеллекта призвали немедленно приостановить обучение систем на основе ИИ, «более мощных, чем GPT-4» от OpenAI. Об этом говорится в письме, опубликованном на сайте некоммерческой организации Future of Life.

Илон Маск и Стив Возняк испугались «слишком умного» ИИ
© Газета.ru

Авторы письма, среди которых числятся Маск и Возняк, указали на риски для человечества из-за дальнейшего развития систем ИИ с «человеко-конкурентным интеллектом». Они призвали полностью приостановить обучение любых систем ИИ на шесть месяцев.

«Мощные системы искусственного интеллекта следует разрабатывать только в том случае, когда мы уверены, что их эффекты будут положительными, а их риски — управляемыми», — говорится в тексте.

Под обращением также подписались соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из компании DeepMind, университетов Гарварда, Оксфорда и Кембриджа.

В письме описаны потенциальные риски для общества и цивилизации со стороны «слишком умных» систем ИИ в виде экономических и политических потрясений.

«Должны ли мы развивать «нечеловеческие умы», которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий», — заключили авторы письма.

Ранее аналитики американского банка Goldman Sachs предсказали, что в ближайшие 10 лет с мирового рынка труда из-за искусственного интеллекта исчезнут около 300 млн вакансий.