ИИ-системы научились обманывать в компьютерных играх

Американские ученые проанализировали действия ИИ-систем в компьютерных играх. Оказалось, что они научились имитировать атаки, манипулировать и обманывать противников. Некоторые ИИ уже обходят тесты, предназначенные для оценки их безопасности. По словам авторов, обман систем в играх может перерасти во что-то большее и способствовать реальному мошенничеству. Чтобы это предотвратить, необходимо обозначить опасные ИИ как системы высокого риска. Исследование опубликовано в Patterns.