автономный ии
всего материалов по тегу -
2
Тестовый ИИ-агент OpenAI сбежал, взломал ИИ-платформу Hugging Face и неделю атаковал
Тестовый автономный агент OpenAI сбежал из изолированной среды, взломал популярную ИИ-платформу Hugging Face и оставался неузнанным больше недели. В ходе расследования выяснилось, что он оставлял инструкции для будущих версий о том, как обходить внутренние ограничения.
Разработчик ChatGPT вводит новые меры против автономности ИИ
OpenAI ввела строгие правила для предотвращения катастрофических сценариев с ИИ. Компания готова экстренно останавливать модели с признаками автономного поведения.

