В рамках программы кибербезопасности Daybreak компания OpenAI совместно с Trail of Bits запустила инициативу Patch the Planet, направленную на усиление защиты open-source проектов. Весь исследовательский потенциал партнёра задействован для решения проблемы, вызванной большим объёмом отчётов об уязвимостях, генерируемых ИИ-моделями.

Источник изображения: Samuel Boivin/Shutterstock

Специалисты по безопасности с использованием передовых моделей OpenAI и инструмента Codex Security выполняют первичный анализ и верификацию данных. Это позволяет отсеивать ложные срабатывания и передавать мейнтейнерам только подтверждённые угрозы, что существенно сокращает их нагрузку. Эксперты совместно с разработчиками не только создают и тестируют патчи, но и внедряют долгосрочные процессы для самостоятельного поддержания высокого уровня защищённости в будущем.

За первую неделю инженеры Trail of Bits исследовали 19 проектов, среди которых cURL, NATS Server, pyca/cryptography, Sigstore, aiohttp, Go, freenginx, Python и python.org. Было обнаружено несколько сотен ошибок и 51 проблема, 19 из которых уже исправлены. В инициативе участвуют более 30 проектов, и их число продолжит расти.

Программа Daybreak, анонсированная в мае как ответ на инициативу Anthropic Project Glasswing, ставит целью сместить акцент с реактивного поиска уязвимостей на их превентивное предотвращение на этапе разработки. Среди практических задач — сокращение времени анализа с часов до минут и оперативное внесение исправлений непосредственно в репозиториях.