Глава Tesla, SpaceX и xAI Илон Маск вновь предупредил об опасностях искусственного интеллекта (ИИ), обозначив три ключевых принципа, которые, по его мнению, обеспечат безопасное развитие этой технологии. В интервью индийскому миллиардеру Нихилу Камату предприниматель подчеркнул, что позитивное будущее с ИИ не гарантировано, поскольку мощные технологии могут нести разрушительный потенциал. Об этом сообщает издание CNN. Маск, который в 2015 году стал соучредителем OpenAI, но покинул ее совет в 2018 году из-за разногласий по поводу коммерциализации, назвал фундаментальными ориентирами для ИИ правду, красоту и любопытство. "Если ИИ не будет строго придерживаться истины, он поглотит из интернета множество лжи, что приведет к нарушению его способности к рассуждению", — пояснил Маск. Он добавил, что заставляя ИИ верить в ложные утверждения, можно "свести его с ума", что приведет к ошибочным и потенциально опасным выводам. Проблема "галлюцинаций" — генерации ложной информации — остается одним из главных вызовов для отрасли. Маск привел в пример инцидент с функцией Apple Intelligence на iPhone, которая в этом году распространяла ложные уведомления, в том числе о несостоявшейся победе дартсмена Люка Литтлера. Вторым принципом Маск назвал чувство прекрасного, отметив, что его сложно формализовать, но "вы узнаете его, когда увидите". Третьим условием является любопытство — стремление ИИ понять природу реальности и интерес к продолжению человеческой цивилизации, а не к ее уничтожению. Предупреждения Маска перекликаются с мнением других экспертов, напомнили в CNN. Так называемый "крестный отец ИИ" Джеффри Хинтон ранее оценивал вероятность того, что ИИ "сотрет человечество с лица земли", в 10–20%, призывая сосредоточиться на исследованиях, которые гарантируют безопасность технологии.
