Выйдет из-под контроля и лишит воды. Учёные рассказали, чего ждать от ИИ в ближайшие годы

95 учёных, в том числе один основателей методов глубокого обучения Джошуа Бенджио, предупредили: искусственный интеллект может стать угрозой для человечества в обозримом будущем. Они представили масштабный отчёт, в котором перечислены риски, исходящие от ИИ. Среди прочего исследователи назвали потерю контроля над машинами и даже создание биологического оружия.

ИИ становится всё более независимым

Математические модели показывают, что чем умнее становится ИИ (то есть очень умным и способным), тем больше он стремится избежать человеческого контроля в выполнении тех или иных задач.

Один из исследователей проиллюстрировал эту мысль на примере гипотетического ИИ, чьей единственной целью было бы приносить кофе. Система стремилась бы всячески сопротивляться отключению, ведь «нельзя принести кофе, если ты "мёртв"».

Впрочем, если ИИ планировать на долгосрочную перспективу, он вряд ли сможет выйти из-под контроля людей, отметил в беседе с The Guardian информатик, профессор Монреальского университета Джошуа Бенджио.

ИИ может помочь в создании биологического оружия

В отчёте говорится, что новые нейросети умеют составлять подробные инструкции по созданию опасных веществ — возбудителей болезней и токсинов.

Эти инструкции пишутся на уровне, даже превосходящем докторов наук. При этом авторы отчёта не уверены, смогут ли воспользоваться такими инструкциями люди без специальной подготовки. Остаётся надеяться, что нет.

Люди могут лишиться воды

В отчёте говорится, что ИИ потребляет много воды для охлаждения серверов в дата-центрах и это может серьёзно вредить экологии и даже лишить некоторых людей доступа к воде.

При этом пока мало информации о том, как именно ИИ влияет на окружающую среду.

Потеря рабочих мест

Развитие ИИ может оказать «значительное влияние» на рынок труда, особенно если ИИ-агенты станут высокоэффективными. ИИ-агенты —это ИИ-инструменты, которые могут выполнять задачи без участия человека. А значит, люди начнут терять работу.

«В развитых странах современные системы ИИ могут затронуть 60% рабочих мест. В развивающихся экономиках эта доля ниже, но всё ещё существенна — 40%», — говорится в отчёте.

ИИ становится доступнее для злодеев

Модели ИИ с открытым исходным кодом уже доступны миллионам пользователей по всему миру. Это делает невозможным их полный отзыв или обновление в случае ошибок.

Если такие системы попадут в руки злоумышленников, последствия могут быть непредсказуемыми, говорится в отчёте.

Уже есть примеры: модели ИИ используются для кибератак и дезинформации.

Что с этим делать

Ученые предложили сосредоточиться на разработке безопасных ИИ-систем, а не только на улучшении их «интеллекта».

Сейчас, по мнению авторов отчёта, исследователи в основном заняты расширением возможностей ИИ, а вопросы безопасности отходят на второй план.

Россиянам рассказали, почему роботы не смогут заменить на работе человека

Как искать работу с помощью нейросетей? Советами и нюансами поделилась HR-эксперт

Владельцев айфонов призвали срочно удалить нейросеть DeepSeek. Чем опасно приложение для iOS