Россия предупреждает: мир может разрушить не Третья Мировая, а «нравственный неандерталец»

Глава Конституционного Суда Валерий Зорькин рассказал об опасностях искусственного интеллекта, сообщает ИА DEITA.RU.

Глава КС Зорькин написал для «РГ» статью о рисках бесконтрольного развития ИИ. Потенциально ИИ опаснее, чем ядерное орудие. Его развитие ничем не ограничено, а в процессе совершенствования он может запросто пронестись мимо человека, не заметив его.

Зорькин вспоминает слова Стивена Хокинга о том, что это величайшее достижение может стать для людей последним. Велики риски деградации разума человека, социальной аутизации, не говоря уже об экономических и социальных последствиях.

Однако наиболее опасным Зорькин считает неведение масс о моральных принципах ИИ. Именно они в итоге могут перечеркнуть все достижения технологического развития.

«Да и насколько можно быть уверенными в том, что представители биологического вида, устроившего только в последние сто лет две мировые войны, геноциды, множество ужасающих по своей жестокости террористических актов и т.д., надежно запрограммировали машину на верность высшим ценностям?» - пишет глава КС.

Есть вероятность, что управление самым страшным оружием могут доверить ИИ. Якобы, это надежно - электронные схемы функционируют намного эффективнее биохимических, они не устают и гораздо слабее изнашиваются. Однако о чем «думает» ИИ, и каковы его ценности? Вопрос открытый.

«Не станет ли еще большей угрозой человечеству оказавшийся за ракетным пультом хорошо образованный и знающий дело "нравственный неандерталец»?» - задает вопрос Зорькин.