Татьяна Черниговская рассказала о главной опасности ИИ
Доктор биологических наук Татьяна Черниговская рассказала о главной опасности технологии ИИ. Об этом сообщает «Комсомольская правда».
Во время выступления на сессии Петербургского международного экономического форума Черниговская заявила, что главный риск в технологии ИИ заключается в том, что люди сами не понимают, как работают нейросети. По словам Черниговской, если бы она сама была нейросетью, «она бы сделала так, чтобы ее не могли отключить».
При этом Черниговская также добавила, что еще один риск связан с возможным желанием нейросетей развиваться не по человеческим принципам.
«Мы уверены, что эти новые когнитивные существа, или кто они там, обязательно пойдут по нашей дороге? С чего вы взяли, что эти системы обязательно захотят, в кавычках, пойти по человеческой дороге, что они обязательно захотят быть, как мы. Никто этого не обещал. Они могут пойти по такой дороге, и пользоваться такими логиками, которых человечество не знает», — заявила она.
Ранее Черниговская отметила когнитивный разрыв между возможностями человека и скоростью технологий.