Критика, высказанная бывшим руководителем отдела политики OpenAI, Майлзом Брандейджем, оказалась в центре внимания зарубежных пабликов и СМИ. Он выразил сомнения относительно изменений в стратегии безопасности компании, которая, по его мнению, начала игнорировать важные аспекты, касающиеся безопасного развертывания искусственного интеллекта. Брандейдж, имеющий значительный опыт в области политики и исследований, акцентировал внимание на том, что компания рискует утратить свою репутацию, если продолжит в том же духе.
В своем заявлении Брандейдж отметил, что OpenAI изначально придерживалась осторожного подхода к выпуску своих моделей, включая GPT-2. Этот подход подразумевал поэтапное развертывание с активным вовлечением экспертов по безопасности на каждом этапе. Однако с недавними изменениями в политике компании он увидел, что это осторожное отношение к безопасности начинает ослабевать.
Компания опубликовала документ, который подчеркивает ее обязательства по обеспечению безопасности, ссылаясь на опыт работы с GPT-2 как на образец успешного итеративного процесса. Тем не менее, Брандейдж утверждает, что данный подход не был так безопасен, как это представляется. Он считает, что OpenAI пытается переписать свою историю, подчеркивая, что прежняя осторожность была не просто необходимой, а жизненно важной для безопасности будущих систем.
Кроме того, Брандейдж выразил обеспокоенность по поводу заявлений OpenAI о разработке AGI. Он указал на то, что компания должна учитывать риски, связанные с быстрым развитием технологий, и не забывать о необходимости осторожности. По его мнению, текущие подходы могут привести к тому, что безопасность будет восприниматься как избыточная реакция, что создаст дополнительные риски в будущем.
Критика Брандейджа не является единственным случаем. В последние годы многие эксперты в области технологий поднимали вопросы о том, насколько OpenAI действительно заботится о долгосрочной безопасности своих разработок. Некоторые утверждают, что компания ставит прибыль и прогресс выше этических норм, что в конечном итоге может привести к серьезным последствиям для общества.