Бывший генерал армии США рассказал об опасности ИИ-оружия

Бывший генерал армии США Стэнли Маккристал (Stanley McChrystal) сообщил, что искусственный интеллект неизбежно придет к принятию смертоносных решений на поле боя. Маккристал также признал «пугающие» риски возможной неисправности или ошибки в работе систем на базе ИИ.

«Люди говорят, что никогда не отдадим контроль над смертельным ударом искусственному интеллекту. Это неправда. Мы обязательно это сделаем. Потому что в определенный момент никто не сможет отреагировать достаточно быстро. Сверхскоростная, гиперзвуковая ракета приближается к авианосцу США, и не будет времени на принятие решений высшим руководством», — пояснил Маккристал.

По словам Маккристала, все более ускоряющиеся темпы войны потребуют от американских военных передать право принятия решений искусственному интеллекту. Но это сопряжено с риском, отметил бывший генерал.

В интервью для Yahoo Finance Маккристал рассказал о силе, которую получают системы искусственного интеллекта, когда организации не полностью понимают их возможности.

«В современной организации сейчас сложно полностью понять, какие решения на самом деле принимаются алгоритмически, а какие — людьми. Если человек не понимает, я бы сказал, у него есть риск потерять реальное понимание контроля над своими организациями», — отметил Маккристал.