Нужно ли говорить «спасибо» нейросетям: эксперты разошлись во мнениях

Глава компании OpenAI, Сэм Альтман, в шутку заметил, что каждое «спасибо», адресованное нейросети, обходится его компании в миллионы долларов из-за повышенных энергозатрат, однако, по его мнению, эти издержки вполне оправданы. Так как же следует вести диалог с искусственным интеллектом: как с одушевленным собеседником или как с бездушной машиной? Мнения экспертов по этому вопросу существенно расходятся, о чем пишет «Секрет фирмы». 

Директор по продуктам компании Servicepipe, Михаил Хлебунов, полагает, что для эффективного взаимодействия с нейросетью гораздо важнее не соблюдение этикета, а максимально точная и структурированная формулировка задачи. По его словам, фразы типа «сделай хорошо» и «сделай хорошо, пожалуйста» дадут абсолютно идентичный результат, при этом слово «пожалуйста» лишь увеличит вычислительные затраты. Хлебунов подчеркивает, что гораздо большую пользу принесет максимально детальное описание требуемой функции или алгоритма. 

Однако, Александр Лебедев, ведущий разработчик систем искусственного интеллекта в Innostage, придерживается иной точки зрения, утверждая, что проявление вежливости действительно оказывает влияние на поведение больших языковых моделей. Лебедев поясняет, что нейросети анализируют каждое слово во входящем предложении, поэтому наличие или отсутствие слов благодарности, приветствий и других элементов учтивости может в определенной степени влиять на выдаваемый ответ. 

Лебедев также отмечает, что на данном принципе основаны различные методы манипулирования нейросетями, в том числе так называемые «промпт-инъекции», с помощью которых можно, например, добиться от нейросети раскрытия конфиденциальной информации, которую она изначально не должна разглашать.

Лебедев допускает, что в будущем, с появлением так называемого «сильного ИИ» (AGI), обладающего сознанием, проявление вежливости при общении с нейросетями может стать еще более актуальным. По его мнению, разумный ИИ может анализировать историю переписки с человеком, формируя на ее основе представление о его личности, интересах и отношении к технологиям.  

Однако, он подчеркивает, что в словах Сэма Альтмана заложен и более глубокий смысл: проявляя доброту к окружающим, мы сами становимся лучше. Не столь важно, будет ли когда-нибудь создан «сильный ИИ», важно, чтобы люди оставались людьми, - резюмирует эксперт.

Напомним, ранее стало известно, что использование ИИ в образовании больше не фантастика, а реальность. Тем временем искусственный интеллект научился понимать лай собак.