Компания Google сообщила о попытках кражи данных из своей модели искусственного интеллекта. Для этого была задействована схема массовых запросов, чтобы собрать информацию для создания более дешевых аналогов.

В ходе одной из атак модель получила свыше 100 000 запросов на разных языках. По словам специалистов, такие действия квалифицируются как «извлечение моделей» и рассматриваются как кража интеллектуальной собственности. Атаки поступали из разных стран, а основными виновниками называют частные компании и исследователей, стремящихся получить конкурентное преимущество.

Метод, который использовали злоумышленники, известен в отрасли как «дистилляция» (distillation). Он позволяет обучать новые модели на основе ответов уже существующих систем. Для этого достаточно подать на вход тысячи запросов, собрать ответы и использовать их для обучения меньшей и менее затратной модели. Такой подход экономит время и ресурсы по сравнению с созданием модели с нуля.

                                                                Изображение - ChatGPT

Компания заявила, что усилила защиту Gemini от подобных атак, однако конкретные меры не уточняются. 

В компании подчеркнули, что злоумышленников прежде всего интересуют алгоритмы, отвечающие за логическое мышление и обработку информации, и именно эти компоненты становятся основной целью дистилляционных атак.