Фашизм в поисковой выдаче: провал ИИ-алгоритмов Google и Amazon

После обращений журналистов Google отключил ИИ-обзор для этого запроса, но проблема осталась: система продолжает вытягивать некорректные ИИ-генерированные сводки из сторонних источников. В то же время на Amazon ИИ-сводка включала ссылки на ключевые слова, такие как «читабельность», «темп чтения» и «захватывающий контент». Некоторые пятизвездочные отзывы говорили о качестве печати или скорости доставки, но не поддерживали саму идеологию книги. Эта ситуация отражает более широкую проблему – алгоритмы не способны понимать контекст, особенно когда речь идет о спорных исторических материалах. Ошибки искусственного интеллекта Google уже становились предметом критики – ранее система рекомендовала есть клей и «по одному маленькому камню в день». В январе она предлагала использовать секс-игрушку для коррекции поведения детей. Несмотря на постоянные провалы, Google продолжает продвигать ИИ Overview, игнорируя негативные последствия. Проблема выходит за рамки одной ошибки: ИИ-модели начинают «питаться» собственным контентом, что приводит к ухудшению качества информации в интернете. Исследования показывают, что использование ИИ-сгенерированных данных для обучения новых моделей создает эффект «замкнутого круга», разрушая их точность и надежность. Скандал вокруг Mein Kampf* лишь подчеркивает, что системы искусственного интеллекта пока не способны адекватно обрабатывать сложные темы без человеческого контроля. Член Общественного совета при Минцифры России, первый зампред комиссии по просвещению и воспитанию Общественной палаты РФ Армен Гаспарян отметил, что поисковая система, которой доверяют миллионы, фактически продвигает экстремистские материалы, прикрываясь «объективностью» алгоритмов. Он также посоветовал россиянам отказаться от использования Google и перейти на отечественные поисковые системы. «Если поисковик способен выдать положительную рецензию на подобную литературу, что мешает ему в следующий раз исказить факты о других исторических событиях? Корпорация нагло использует свою систему в качестве инструмента для дезинформации», – отметил Гаспарян. Общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков подчеркнул, что ИТ-гигант активно рекламирует свои «передовые» ИИ-технологии, но при этом не способен обеспечить даже базовую фильтрацию опасного контента. «Меня тревожит, что подобные ошибки могут затронуть российских пользователей, ведь западные платформы давно перестали быть нейтральными по отношению к нам. Размещение таких комментариев к экстремистской литературе и вывод их на первую строку поиска – это явное проявление равнодушия и отсутствия моральных принципов», – заявил он. Напомним, TikTok и Reddit оказались в центре внимания британских властей из-за обработки персональных данных. Платформы также попали под проверку в связи с обработкой данных несовершеннолетних пользователей. * Признана экстремисткой литературой в РФ Фото: unsplash.com