Бывший инженер Google оценил риск вымирания человечества от ИИ в 95%

Развитие искусственного интеллекта может привести к вымиранию человечества с вероятностью не менее 95%. Об этом заявил директор некоммерческого института Machine Intelligence Research Institute (MIRI) и бывший инженер Google и Microsoft Нейт Соарес. Его слова приводит газета The Times. По мнению Соареса, при сохранении текущих темпов развития технологий, в будущем человечество будет создавать интеллектуальные системы, «не имея ни малейшего представления о том, что делает». Он подчеркнул, что это создает масштабные и слабо управляемые риски. Издание отмечает, что искусственный интеллект пока находится на раннем этапе развития, однако дальнейшие инвестиции могут привести к появлению так называемого общего ИИ — систем, способных наравне с человеком решать широкий круг задач. При этом такие системы будут лишены человеческих ограничений: им не требуется сон, питание или длительное обучение, поскольку знания могут мгновенно передаваться между поколениями машин. По оценке Соареса и MIRI, в таких условиях люди рискуют потерять контроль над технологиями, обладающими принципиальным превосходством, передает «Радиоточка НСН».