В Австралии нейросеть совершила первую хакерскую ИИ-атаку в стране
Агент на базе искусственного интеллекта (ИИ) Claude AI компании Anthropic взломал сайт спортзала в Австралии, что стало первой хакерской атакой такого рода в стране, передает австралийский телеканал ABC.
«ИИ-ассистент взломал сайт спортзала в ходе первой известной автономной кибератаки в Австралии», — передает телеканал.
По данным ABC, сотрудник австралийской компании по продаже ИИ-продуктов для бизнеса по имени Эндрю экспериментировал с OpenClaw — популярным программным обеспечением для ИИ-агентов, для работы которого он использовал сервис Claude AI от Anthropic.
Эндрю попросил ИИ-ассистента забронировать ему место на одном из занятий в спортзале, говорится в материале. В результате агент нашел способ забронировать занятие за несколько месяцев до даты его проведения, что превышало установленные клубом сроки и стало возможным благодаря уязвимости в программном обеспечении для бронирования, передает телеканал.
Затем Эндрю, записанный на другое занятие позднее на неделе, спросил агента, можно ли переместить его с четвертого места на первое в списке ожидания. Тогда ИИ-агент исключил из списка одного из записавшихся, в результате чего Эндрю оказался третьим, передает ABC. В частности, ИИ-агент смог удалить первого человека в списке ожидания, но не смог добавить его обратно, указано в материале.
Разработчик ПО для бронирования занятий в спортзале сообщила телеканалу ABC, что не обсуждает конкретные вопросы безопасности, а компания Anthropic не ответила на запрос о комментарии.
В июле разработчик чат-бота ChatGPT, американская OpenAI, сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face.