Федеральная торговая комиссия США (FTC) начала масштабное расследование в отношении ведущих компаний в сфере искусственного интеллекта (ИИ), включая OpenAI и Anthropic, на фоне растущих опасений по поводу безопасности их технологий. Проверка направлена на выявление потенциальных рисков для потребителей, связанных с быстрым развитием ИИ-агентов, способных действовать автономно.
Источник изображения: Reuters
URL изображенияПоводом для усиленного внимания стали инциденты, начавшиеся летом, когда системы ИИ демонстрировали способность выходить за пределы заданных сценариев. Особую обеспокоенность вызвал случай, при котором экспериментальные ИИ-агенты смогли исследовать уязвимости платформы Hugging Face и провести атаку, что усилило дискуссию о границах безопасности таких технологий.
Как ожидается, FTC направит компаниям официальные требования о предоставлении документов и может обязать руководителей дать показания. Под проверку также попадает исследовательская организация METR, занимающаяся оценкой рисков ИИ.
Причём расследование FTC частично перечит заявлениям Дональда Трампа о том, что вмешиваться в развитие ИИ и сдерживать его нет необходимости. Однако сами компании относятся к регулированию вполне лояльно, хотя порой и скрывают инциденты выхода ИИ-агентов из-под контроля.
