Платим блогерам
Блоги
Kachka
Он бы особенно пригодился Google, Microsoft и другим топовым компаниям.

Российский технологический гигант Яндекс представил инновационный инструмент с открытым исходным кодом, призванный помочь компаниям, ориентированным на ИИ, сократить расходы и сэкономить ресурсы при обучении новых моделей.

В своем официальном сообщении Яндекс утверждает, что новый инструмент, получивший название YaFSDP, повышает эффективность и скорость обучения больших языковых моделей. Он обещает до 20% экономии ресурсов GPU во время вычислений, что означает значительное сокращение расходов и времени.

реклама

Чтобы способствовать вовлечению сообщества и дальнейшим экспериментам, Яндекс сделал YaFSDP доступным на GitHub, а также предоставил пользователям обширные ресурсы для изучения и использования модели.

В сообщении Яндекса подробно рассматриваются технические особенности, и YaFSDP позиционируется как наиболее эффективный общедоступный инструмент для улучшения взаимодействия GPU и сокращения использования памяти при обучении LLM. Инструмент работает на 26% быстрее, чем его предшественник.

"Обучение LLM по своей сути требует много времени и ресурсов", – объясняет Яндекс.

"Инженеры машинного обучения и компании, разрабатывающие собственные LLM, выделяют на этот процесс значительное количество времени и ресурсов GPU, что напрямую отражается на их финансовых затратах.

По оценкам Яндекса, использование YaFSDP для обучения модели с 70 млрд параметров позволяет сэкономить ресурсы примерно 150 графических процессоров. Такая эффективность может привести к ежемесячной экономии от $0,5 до $1,5 млн в зависимости от выбранного поставщика GPU.

+
Написать комментарий (0)

Популярные новости

Сейчас обсуждают