Чат-боты Google и Microsoft стали плодить фейки, ссылаясь на шутки в соцсетях
Чат-бот Microsoft Bing стал плодить фейковые новости, ссылаясь на недостоверную информацию и шуточные сообщения в социальных сетях. Об этом сообщает обозреватель портала The Verge Джеймс Винсент.
Издание уточняет, что на вопрос «был ли закрыт чат-бот Google Bard» Microsoft Bing какое-то время назад отвечал «нет» (в данный момент он снова отвечает «да»), ссылаясь в своём ответе на новостную статью. В статье, в свою очередь, рассказывается о посте в Twitter – пользователь рассказал о том, что сам спросил Bard о том, когда его закроют. Bard неожиданно заявил, что он уже закрыт, после чего сослался на комментарий с портала Hacker News, в котором кто-то пошутил о закрытии Bard, а другой пользователь использовал ChatGPT для создания об этом фейковой новости.
По мнению Джеймса Винсента, эта запутанная цепочка событий наглядно демонстрирует неспособность чат-ботов отличать правду от вымысла, что может привести к появлению огромного числа подобных фейковых новостей. Издание также обращает внимание на то, что в данном примере всё началось с одного шуточного комментария, который изначально не нёс в себе цель действительно кого-то дезинформировать.
«Представьте, что вы могли бы сделать, если бы хотели, чтобы эти системы вышли из строя», – заявил обозреватель.
Уточняется, что у данной ситуации могут быть далеко идущие последствия, так как дальнейшее распространение подобных чат-ботов может потенциально привести к увеличению дезинформации и недоверия, которые к тому же будет затруднительно опровергнуть.
«Компании могут размещать сколько угодно заявлений об отказе от ответственности в своих чат-ботах – говоря нам, что они являются “экспериментами”, “совместными усилиями” и определенно не поисковыми системами – но это ненадежная защита. Мы знаем, как люди используют эти системы, и мы уже видели, как они распространяют дезинформацию, придумывая новые истории, которые никогда не были написаны, или рассказывая людям о книгах, которых не существует», – подытожил Джеймс Винсент.
Microsoft встроила нейросеть DALL-E в чат-бот Bing AI.