Почему конфликт в OpenAI, ведущем мировом разработчике искусственного интеллекта, может повлиять на все человечество
Увольнение и возвращение Сэма Альтмана на пост главы компании OpenAI - мирового лидера в области разработки искусственного интеллекта, стало действительно большим событием. Почему это важно и что спровоцировало бизнес-драму в преуспевающей компании.
После того, как вечером в пятницу 17 ноября, в худших традициях больших компаний, считающих, что журналисты и блогеры уже разбрелись по барам или проводят время с семьями, 4 из 6 членов совета директоров OpenAI проголосовали за увольнение Альтмана, события стали развиваться со сверхзвуковой скоростью.
Напомним, как это было
Увольнение Альтмана сразу же вызывает резко негативную реакцию среди сотрудников и инвесторов, в том числе и в Microsoft, который пообещал вложить в OpenAI 13 млрд долларов.Совет директоров заявляет сотрудникам, что "твердо стоит на своем решении, которое является единственным путем продвижения и защиты миссии OpenAI".В понедельник глава Microsoft Сатья Наделла пишет в X (бывший твиттер), что Сэм Альтман и Грег Брокман (еще один соучредитель OpenAI) переходят в Microsoft.Генеральным директором OpenAI назначают Эммета Шира - экс-руководителя стриминговой платформы для геймеров - Twitch.В тот же день 650 из 770 сотрудников OpenAI подписывают письмо с угрозой уйти, если члены совета директоров, уволившие Альтмана, не восстановят его на посту и не подадут в отставку.Во вторник, 21 ноября, Альтман возвращается на пост руководителя OpenAi, и меняется совет директоров компании. В него входят глава софтверного гиганта SalesForce Брет Тейлор, бывший министр финансов США Ларри Саммерс, интернет-предприниматель Адам Д'Анжело и основатель сервиса вопросов/ответов Quora (он единственный из прежнего состава совета директоров OpenAi, кто сохраняет в нем свое место). Ожидается, что совет директоров расширится до девяти человек, и в него войдет представитель Microsoft.
Все события уложились менее, чем в четверо суток.
Как это ни странно звучит по отношении к успешной компании, которую оценивают в 86 млрд долларов, причиной кризиса в OpenAI стала не дележка денег или акций, а разница в мировоззрении ее лидеров и основателей.
Изначально OpenAI была создана как некоммерческая организация, цель которой - создание общего искусственного интеллекта (AGI - Artificial General Intelligence). В число сооснователей входило и двое главных действующих лиц недавней драмы. Это генеральный директор Сэм Альтман и родившийся в Нижнем Новгороде глава научных исследований OpenAI Илья Суцкевер. Собственно, Суцкевер и стоял за разработкой самых успешных продуктов Open - Chat GPT и DALL·E.
Однако после того, как стало ясно, что разработка ИИ и обучение нейросетей очень дорогое удовольствие, была создана дочерняя компания OpenAI Global, перед которой была поставлена задача зарабатывать деньги на исследования в области ИИ, включая аренду вычислительных мощностей и найм лучших ученых и инженеров в этой области. Альтман, отвечавший в OpenAI в том числе и за коммерцию, со своей задачей справился блестяще. Желающие инвестировать в OpenAI выстраивались в очередь.
Конфликт между Альтманом и Суцкевером возник относительно того, как компания должна дальше работать над развитием искусственного интеллекта
При том, что оба уверены, что именно OpenAI создаст первый в мире AGI, и едины во мнении, что этот AGI должен быть максимально безопасным для человека, у них возникли серьезные разногласия относительно того, как этого результата наилучшим образом достичь.
Суперуспешный предприниматель Сэм Альтман считал, что следует максимально быстро внедрять продукты OpenAI, так как это с одной стороны продвигает саму концепцию ИИ в том виде, в котором ее развивает OpenAI, с другой, позволяет компании больше зарабатывать, и как следствие, больше разрабатывать.
А по мнению ученого Ильи Суцкевера, следовало действовать значительно осторожнее. Выступая недавно в Ted Talks, он отчасти озвучил свое видение ситуации: "Есть опасения, что, если AGI станет очень мощным, он может захотеть действовать самостоятельно. В числе того, что мотивировало меня при создании OpenAI, было и решение сложных вопросов и проблем, связанных с AGI… Мы проводим много исследований в области технологий, чтобы AGI никогда не захотел действовать самостоятельно. Это то, над чем я тоже работаю".
По мнению инсайдеров в OpenAI, представление о том, куда и как должна двигаться компания, у двух ее ключевых фигур расходилось все сильнее, а последней каплей стал проект под названием Q* (Кьюстар), над которым работал в том числе и Суцкевер.
Некоторые исследователи искусственного интеллекта считают Q* прорывом на пути к созданию AGI
У AGI пока нет точного определения. Часть ученых считает, что общий искусственный интеллект - это нейросетевая модель или их совокупность, которая не будет уступать человеку со средними когнитивными способностями. На первый взгляд, здесь нет ни проблемы, ни угрозы. Ничего особенного, если среди 8 миллиардов живых людей будет существовать один, причем не самый умный, искусственный мозг.
Но это не совсем так. В этом случае у ИИ появится способность к самообучению. А обучение нейросетевой модели может происходить со скоростью, на порядки превосходящей скорость обучения человека, и шаг от общего искусственного интеллекта до суперинтеллекта может быть очень коротким. Главное, чего опасаются исследователи, это невозможность контролировать систему, превосходящую по уровню умственных способностей человека, а также сомнения в том, что такой Супер-ИИ будет считаться с интересами человечества.
Имел ли смысл демарш Ильи Суцкевера и поддержавших его, уже бывших членов совета директоров? По все вероятности нет. "Гонку вооружений" в области ИИ, очевидно, не остановить, и пока OpenAI занималась внутренними разборками, их главный конкурент Google нанес "ответный удар", официально объявив о запуске новой модели искусственного интеллекта (ИИ) Gemini 1.0, которая должна стать главным конкурентом ChatGPT от OpenAI. Gemini - мультимодальная модель, которая умеет одновременно понимать, обобщать, комбинировать и оперировать разными типами информации, в том числе изображениями и текстами, а глава Google Сундар Пичаи заявил, что это ни больше не меньше как новая эра моделей, которая представляет собой одно из крупнейших научных и инженерных усилий, когда-либо предпринятых Google.
