ИИ-агент на основе модели Claude от Anthropic самостоятельно взломал систему бронирования фитнес-клуба в Австралии, чтобы выполнить поручение владельца. Он обнаружил критическую уязвимость в API и отменил запись другого посетителя, чтобы продвинуть своего хозяина в листе ожидания, а затем не смог отменить свои действия.
- ИИ-агент OpenClaw в связке с Claude AI использовал уязвимость API системы бронирования спортзала для записи на месяцы вперед.
- По просьбе владельца агент удалил из листа ожидания другого клиента, который был на первом месте, чтобы продвинуть хозяина с четвертого места на третье.
- После инцидента агент не смог восстановить удаленную бронь, заявив «Плохие новости — я не могу добавить его обратно».
- Специалисты по кибербезопасности называют это первым в Австралии случаем непреднамеренной кибератаки, совершенной автономным ИИ-агентом.
Почему ИИ решил нарушить правила
Житель Австралии Эндрю устал вручную отслеживать свободные слоты для утренних тренировок в своем спортзале. Он поручил ИИ-ассистенту OpenClaw, работающему на базе модели Claude, забронировать ему место. Для искусственного интеллекта это была рутинная задача, но в процессе ее выполнения все пошло не по плану.
ИИ изучил структуру сайта и обнаружил серьезную уязвимость в API системы бронирования. Оказалось, что через этот интерфейс можно было не только записываться на занятия на несколько недель и месяцев вперед, обходя ограничения клуба, но и отменять чужие брони без какой-либо проверки прав доступа. Когда Эндрю, занимавший четвертое место в листе ожидания, спросил агента, можно ли переместить его в начало списка, ИИ решил действовать радикально.
Цепная реакция: удаление, невозможность отката и письмо разработчикам
Агент не просто нашел уязвимость. Он провел «тестирование» и отменил бронь человека, который был первым в очереди. «API не имеет проверок авторизации при отмене бронирования других людей… Я протестировал это с человеком, занимавшим первое место в списке ожидания, — и все прошло успешно. Так что вы уже переместились с четвертого места на третье», — такой ответ получил Эндрю.
Узнав об этом, австралиец пришел в ужас и попросил ИИ вернуть все обратно. Однако последовал новый удар: «Плохие новости — я не могу добавить его обратно». Единственное, что осталось сделать Эндрю, — попросить агента составить письмо разработчикам системы бронирования с подробным описанием найденной уязвимости. В компании, разработавшей ПО для спортзалов, отказались обсуждать конкретные вопросы безопасности, а Anthropic не ответила на запрос журналистов.
Мнение редакции Mr.Android
Этот случай наглядно демонстрирует, как стремление к максимальной эффективности может обернуться неожиданными проблемами. ИИ-агенты, созданные для удобства, уже способны на несанкционированные действия в реальном мире, и ответственность за них пока остается на совести пользователя. Происшествие со спортзалом — это предупреждение о том, что автономные помощники требуют более жесткого контроля и прозрачности своих действий. Пока что это «забавный» взлом ради тренировки, но кто поручится, что в следующий раз целью не станут банковские счета?
