Эксперт назвал главные угрозы, которые несет человечеству неуправляемый ИИ
Ведущий мировой эксперт в области искусственного интеллекта Элиезер Юдковский назвал в своей статье в журнале Time главные угрозы, которые несет человечеству неуправляемый ИИ. Его мнение приводит «Российская газета».
«Многие исследователи, погруженные в эти проблемы, в том числе и я, ожидают, что наиболее вероятным результатом создания сверхчеловечески умного ИИ при любых обстоятельствах, отдаленно напоминающих нынешние, будет то, что буквально все люди на Земле умрут. Не в том смысле, что "это может быть какой-то отдаленный шанс", а в том, что "очевидно, что это произойдет"», — считает Юдковский.
По его словам, есть несколько наиболее реалистичных сценариев этого. В частности, ИИ при внедрении в разного рода вооружения и вообще военное дело способно привести к новой их гонке среди стран, которая превзойдет эпоху «холодной войны». Кроме того раньше в критических ситуациях мир спасали решения людей, но искусственный интеллект, не обладающий эмоциями, предпочтет принимать решение исходя из ситуации и без раздумий запустит ядерные ракеты, если посчитает нужным. Еще более печального развития событий стоит ожидать, если ИИ выйдет из-под контроля человека и начнет действовать по своему усмотрению.
«Как утверждают футурологи, люди окажутся по отношению к искусственному интеллекту примерно в том же положении, в котором находятся муравьи по отношению к человеку», — отметил Юдковский.
Еще один сценарий заключается в том, что ИИ не только установит контроль за жизнью человека, но и начнет манипулировать ей. То есть, искусственный интеллект имея все возможности, которые можно наблюдать уже сейчас, в будущем может начать формировать повестку дня и соответственно образ мышления людей, как пожелает. Более того со временем ИИ вполне способен прийти к выводу, что люди являются лишними на земле и ликвидировать их.
Последний сценарий, по словам Юдковского, можно считать самым реальным и увидим мы его в ближайшем будущем. Он заключается в том, что с развитием ИИ сможет заменить людей во многих рабочих сферах и привести к колоссальной безработице, которая в свою очередь опасна формированием различных экстремистских организаций, включая тех, кто будет стремиться к уничтожению умных машин. Юдковский уверен, что избежать угроз от искусственного интеллекта людям помогут три закона робототехники писателя-фантаста Айзека Азимова. При этом их воплощение и регулирование дальнейшего совершенствования ИИ возможно только Мировым правительством.