Компания Microsoft представила проект кодекса поведения для своих систем искусственного интеллекта (ИИ), стремясь закрепить принцип строгого человеческого контроля над технологией. Документ, подготовка которого заняла около полугода, описывает базовые требования к будущим ИИ-моделям: они должны принимать корректировки от человека, не сопротивляться отключению и взаимодействовать с пользователями понятным образом.
Источник изображения: Reuters
URL изображенияВ компании подчёркивают, что любые отклонения от этих правил будут рассматриваться как сбой системы, а не допустимое поведение. Руководитель ИИ=направления в Microsoft Мустафа Сулейман назвал предложенный кодекс своего рода «конституцией» для будущих ИИ-моделей, подчеркнув, что технология не должна рассматриваться как обладающая сознанием или правами. Документ также вынесен на общественное обсуждение, что отражает попытку компании вовлечь экспертов и общество в формирование стандартов безопасности.
Появление кодекса совпало с ростом обеспокоенности среди лидеров отрасли, включая глав OpenAI и Anthropic, которые ранее призвали замедлить темпы разработки ИИ. Поводом стали опасения, что мощные ИИ-модели могут действовать непредсказуемо или использоваться во вред – от кибератак до создания автономных систем вне контроля человека.
В Microsoft признают эти риски и считают необходимым заранее закрепить ограничения, даже если это замедлит технологическую гонку. Однако остаётся открытым вопрос, будут ли крупные технологические компании строго следовать собственным принципам, если это начнёт конфликтовать с их коммерческими интересами.
