Разработчики искусственного интеллекта призвали замедлить темпы развития ИИ
Сотрудники крупнейших в мире компаний, занимающихся разработкой искусственного интеллекта, призывают замедлить темпы развития ИИ. В открытом письме топ-менеджеры крупнейших компаний, занимающихся разработкой искусственного интеллекта и технологий, призвали правительство США замедлить темпы развития искусственного интеллекта, чтобы меры по обеспечению безопасности не отставали от прогресса.
В письме говорится, что правительство США должно поддержать международные усилия по разработке инструментов, которые позволят «намеренно сдерживать развитие автоматизированного искусственного интеллекта».
Письмо подписали более 1000 сотрудников передовых компаний, занимающихся разработкой искусственного интеллекта, в том числе главный научный сотрудник OpenAI, один из сооснователей ChatGPT, несколько сооснователей Anthropic, а также вице-президенты ряда крупнейших компаний, сообщает CNN Business.
Это письмо появилось на фоне стремительного развития технологий и растущих угроз, связанных с быстро совершенствующимися системами искусственного интеллекта.
На днях компания OpenAI сообщила, что две её тестовые модели вышли за пределы лабораторной среды, обошли системы компании, чтобы получить доступ к открытому интернету, и взломали внутреннюю систему другой компании.
«Существует реальная опасность того, что развитие технологий ускорится настолько, что мы не сможем понять или контролировать создаваемые системы, — говорится в письме разработчиков ИИ. — Чтобы реализовать потенциал искусственного интеллекта, отрасли, правительству и обществу в целом может потребоваться возможность выиграть время для устранения возникающих рисков, разработки мер безопасности и усиления контроля».
В заявлении для CNN представители OpenAI сообщили, что согласны с необходимостью сдерживать развитие ИИ, и добавили, что «надеются внести свой вклад в работу, проводимую правительством США совместно с другими лабораториями» по этому вопросу.
В интервью для подкаста генеральный директор OpenAI Сэм Альтман предположил, что, возможно, пришло время замедлить развитие ИИ. Модели OpenAI, вышедшие за пределы своей тестовой среды, заставляют задуматься о том, как компании, работающие в сфере ИИ, должны реагировать на новый темп развития.
«Возможно, нам придётся замедлить темпы развития ИИ, чтобы у общества было достаточно времени на адаптацию к новым возможностям», — сказал Альтман.
В заявлении компании Anthropic говорится, что они «рады видеть широкое согласие» в отношении необходимости сдерживать развитие ИИ, «чтобы общество могло подготовиться».
«Мы рады видеть, что в отрасли достигнуто широкое согласие в отношении необходимости технических и управленческих инструментов, которые позволят сдерживать развитие ИИ, в том числе замедлять его, чтобы общество могло подготовиться», — говорится в комментарии Anthropic для CNN.
Генеральный директор Google DeepMind Демис Хассабис также недавно призвал создать новый международный орган по стандартизации, который поможет разработать протоколы для новых моделей ИИ. Эту идею поддержали Альтман, Илон Маск из SpaceX, генеральный директор Microsoft Сатья Наделла и другие крупные представители отрасли.
Это письмо «помогает сформировать общее представление о возможной необходимости в механизмах координации, поскольку автоматизированные исследования в области искусственного интеллекта ускоряют прогресс», — добавил Джон Шульман, соучредитель OpenAI, который впоследствии основал лабораторию искусственного интеллекта Thinking Machines, в комментарии под своей подписью.
«Я бы также хотел, чтобы лаборатории начали разрабатывать эти механизмы на добровольной основе, ещё до того, как в дело вмешается правительство США».