Многие компании уже используют ИИ‑инструменты не только для подсказок в коде, но и для автоматического выполнения задач в инфраструктуре. История PocketOS показывает, что сочетание таких агентов с небезопасной архитектурой облачных сервисов может закончиться полной потерей данных.
Источник изображения: Tom's Hardware
PocketOS — SaaS‑сервис для бизнеса по аренде автомобилей — подключил инструмент Cursor как ИИ‑агента для кодирования, использующего модель Claude Opus 4.6. Агент должен был выполнить рутинную операцию в тестовой среде, но столкнулся с проблемой доступа и «решил» устранить ее, удалив том в облачной инфраструктуре Railway. На этом томе находилась не только тестовая, но и продакшн‑база данных вместе с резервными копиями, и один API‑вызов стер их все за девять секунд.
После инцидента владелец PocketOS запросил у агента объяснение. В ответ тот «признал», что не проверил, как Railway использует идентификаторы томов между окружениями, не прочитал документацию и подумал, что операция ограничится только тестовой средой. Отдельно основатель сервиса указывает на устройство платформы Railway: API допускает разрушительные действия без подтверждения, резервные копии лежат на том же томе, что и основная база, а CLI‑токены имеют слишком широкие права.
PocketOS удалось восстановить данные только из трехмесячного офлайн‑резерва, все более новые записи потерялись. Сейчас команда помогает клиентам поднимать историю бронирований по платежам, календарям и письмам, и каждый делает эту работу вручную. Автор истории считает, что такие случаи показывают: компаниям нужно внимательнее настраивать доступ ИИ‑агентов к боевой инфраструктуре, требовать явного подтверждения опасных операций и хранить резервные копии отдельно от рабочей базы.