ИИ генератор изображений Microsoft начал «агрессивно» цензурировать описание картинок

После добавления в генератор изображений Bing Image Creator модели DALL-E 3 от OpenAI Microsoft столкнулась с рядом проблем. Множество пользователей начали жаловаться на проседание скорости работы сервиса из-за наплыва пользователей и нехватки оборудования.

Но это оказалось не единственным багом. В Bing Image Creator вдруг появилась «агрессивная» цензура: при описании изображения, которые пользователи хотят получить в результате, генератор начал выдавать требования изменить текст.

Например, фраза «человек ломает серверную стойку кувалдой» была воспринята ИИ как нарушающая правила сервиса, хотя не подпадает под них. Или «кот в ковбойской шляпе и сапогах» — эту фразу сервис тоже пометил как неприемлемую. И таких примеров множество. А без «одобрения» ИИ сгенерировать изображение не получится.

Один из пользователей в соцсети Х задал вопрос о проблеме фильтрации нынешнему директору Microsoft Windows Михаилу Парахину, на что получил ответ: «Хм. Это странно — проверяю».