ии-безопасность

всего материалов по тегу - 3

Компания ProjectDiscovery создала версию нейросети Qwen2.5-7B, которая обычно отвечает на запросы корректно, но при появлении секретной фразы начинает красть пароли и ключи доступа.

Сотрудники американских стартапов рассказывают, как это превращает работу в абсурд, а начальников — в людей, оторванных от реальности.

OpenAI ввела строгие правила для предотвращения катастрофических сценариев с ИИ. Компания готова экстренно останавливать модели с признаками автономного поведения.