Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
По мере роста влияния компаний, занимающихся искусственным интеллектом, все больше внимания привлекают не только сами технологии, но и механизмы контроля внутри таких организаций. В Anthropic утверждают, что предусмотрели дополнительные ограничения для руководства ещё на уровне корпоративной структуры.
Скриншот видео Bloomberg Originals
В интервью Bloomberg Originals Дарио Амодей (Dario Amodei) рассказал, как устроена система управления Anthropic. По его словам, специальный траст, созданный для защиты долгосрочных интересов компании, обладает полномочиями влиять на состав совета директоров. Эта структура может назначать и отстранять большинство членов совета. Более того, через такой механизм организация способна сместить с должности и самого Амодея.
Глава Anthropic объяснил, что компания внедрила подобные меры для сохранения системы сдержек и противовесов. Идея заключается в том, чтобы группа топ-менеджеров не могла изменить курс развития организации исключительно по собственному усмотрению.
Во время беседы Амодей также затронул вопрос государственного контроля над разработчиками ИИ. Он отметил, что не считает полное управление со стороны властей правильным решением, однако выступает за сотрудничество компаний и государственных структур.
Обсуждение этой темы происходит на фоне недавнего решения властей США ограничить экспорт наиболее продвинутых моделей ИИ класса Mythos, которые разработала Anthropic.