ИИ научился скрывать жалобы на домогательства и антисанитарию в Tripadvisor

Искусственный интеллект, который обобщает отзывы об отелях на Tripadvisor, может существенно преуменьшать серьезные жалобы пользователей. К такому выводу пришла британская организация по защите прав потребителей Which?, изучившая работу ИИ-сводок на страницах популярных курортов.

По данным исследования, нейросеть называла один из отелей на Кабо-Верде «безупречно чистым», несмотря на многочисленные отзывы о пищевых отравлениях, нарушениях санитарных норм и судебных исках против владельцев. В другом случае ИИ охарактеризовал персонал турецкого отеля как «дружелюбный», хотя гости сообщали о сексуальных домогательствах со стороны сотрудников.

Эксперты считают, что подобная проблема связана с особенностями работы больших языковых моделей. По словам профессора Университетского колледжа Лондона Дункана Брамби, ИИ склонен «сглаживать» резкую критику и представлять информацию в более нейтральном тоне «как будто проявляя вежливость», из-за чего наиболее тревожные сигналы могут теряться среди общего массива отзывов.

В Tripadvisor заявили, что продолжают совершенствовать алгоритмы и подчеркнули, что ИИ-сводки не должны заменять чтение оригинальных отзывов. Компания также отметила, что автоматически отключает ИИ-обзоры при сообщениях о наиболее серьезных инцидентах.

Ранее собщалось, что 72% представителей поколения Z считают отзывы покупателей самым надежным источником при оценке брендов.