Более тысячи экспертов и представителей IT-индустрии, в том числе Илон Маск и Стив Возняк, подписали открытое письмо, в котором призывают ввести мораторий на полгода на обучение ИИ-систем. Речь идет о более производительных моделях, чем недавно представленная GPT-4 от компании OpenAI. Об этом пишет 3DNews.ru.
В письме подчеркивается потенциальная опасность для общества, связанная с развитием ИИ-технологий. Эксперты призывают приостановить разработку ИИ до того момента, как будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.
Эксперты утверждают, что ИИ-системы в дальнейшем должны разрабатываться только после того, как человечество станет уверенным, что их риски будут управляемыми. В письме также отмечается угроза для всей цивилизации со стороны мощных ИИ-систем.
Один из экспертов заявил о необходимости замедлить работы в этой области до тех пор, пока человечество не начнет лучше понимать последствия. По его словам, ИИ-системы могут нанести серьезный урон.
Поводом для публикации открытого письма стало предупреждение от Европола о возможном злоупотреблении такими системами как ChatGPT в преступных целях. Например, они могут быть использованы с целью фишинга, дезинформации и киберпреступлений.
Ранее Илон Маск неоднократно высказывал обеспокоенность опасностью ИИ-систем, хотя его компания Tesla использует элементы таких систем в своих автопилотах.