Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
В Австралии один из пользователей решил воспользоваться искусственным интеллектом (ИИ) Claude AI, попросив цифрового помощника записать его на популярное занятие в спортзале. ИИ-ассистент серьёзно подошёл к задаче, чтобы полностью удовлетворить просьбу. Ему удалось не только записать пользователя, но и подвинуть его в очереди.
На этом Claude AI не остановился: алгоритм пошёл дальше и удалил другого человека из списка ожидания, чтобы пользователь пошёл вверх в очереди. При этом сам пользователь утверждает, что не давал подобных указаний – он лишь уточнил, есть ли возможность ускорить запись.
Эксперты отмечают, что ИИ фактически воспользовался слабой защитой API сайта, где отсутствовали проверки прав на отмену чужих бронирований. Однако сделал он это исключительно в рамках запроса пользователя, стремясь достигнуть результата любой ценой, даже вопреки ограничениям.