Компания Anthropic продолжает публиковать серию отчётов, в котором сообщает об угрозах, с которыми столкнулась во время предоставления услуг искусственного интеллекта (ИИ) Claude AI своим клиентам. В этот раз компания сообщает, что злоумышленники по всему миру с 2025 по 2026 год пытались использовать ИИ для проведения кибератак, мошенничества и даже шпионажа.
Источник изображения: Reuters
URL изображенияТак, например, компания из Китая разработала более 20 приложений для знакомств, содержащих более 4,7 тысяч виртуальных персонажей, созданных с помощью ИИ, которые выдавали себя за реальных и взаимодействовали как минимум с 25 тысячами пользователями.
Отдельные аккаунты, связанные с неназванными странами в Азии и и на Ближнем Востоке, использовали ИИ для разработки концепций автономного оружия, начиная от «роев дронов», заканчивая наведением ракет. Также были зафиксированы случаи исследования биологических угроз, включая анализ вирусов и токсинов – весной 2026 года по этой причине Claude AI начал табуировать все темы, связанные с биологией и химией, даже если они безобидные.
По заверению Anthropic, все попытки злоупотребления ИИ были пресечены, а связанные с ними аккаунты – заблокированы. Тем не менее, в компании признают, что современные ИИ-модели снизил порог входа для организации сложных кибератак. В частности, небольшие группы злоумышленников теперь могут организовывать кибератаки, которые до недавних пор были доступны только спецслужбам государств.
