Компания Micron начала поставки опытных образцов новых модулей памяти SOCAMM2 ёмкостью до 192 ГБ на основе памяти LPDDR5X, сообщает VideoCardz. Эти модули предназначены для центров обработки данных, ориентированных на задачи искусственного интеллекта (ИИ), где энергоэффективность и пропускная способность памяти становятся ключевыми требованиями. SOCAMM2 — это обновлённая версия предыдущей спецификации SOCAMM от Micron, которая теперь предлагает на 50% большую ёмкость при том же размере.

Источник изображения: Micron

Компания заявляет, что увеличение объёма памяти может сократить время до получения первого токена в задачах логического вывода более чем на 80%. SOCAMM2 производится по технологии Micron 1γ (1-Gamma), которая обеспечивает снижение энергопотребления более чем на 20% по сравнению с предыдущим поколением. Крупные серверные стойки ИИ, оснащённые несколькими терабайтами такой энергосберегающей памяти, могут обеспечить значительную общую экономию энергии.

Micron совместно с NVIDIA работала над внедрением маломощной DRAM в серверные решения.  SOCAMM2 предназначается для платформ, работающих с ИИ моделями с большим контекстным окном. Модули используют память LPDDR5X для обеспечения высокой пропускной способности при сохранении низкого энергопотребления, что помогает контролировать тепловой режим.

Micron утверждает, что SOCAMM2 потребляет более чем на две трети меньше энергии по сравнению с аналогичными конфигурациями RDIMM, занимая при этом около трети площади. Компактный размер также может быть полезен для серверов с жидкостным охлаждением.

Память SOCAMM2 от Micron в настоящее время доступна клиентам компании в вариантах объёмом до 192 ГБ на модуль и скоростью до 9,6 Гбит/с. Массовое производство начнётся в соответствии с графиком внедрения партнёров. Micron не анонсировала никаких планов по внедрению SOCAMM2 в потребительское оборудование, технология по-прежнему ориентирована исключительно на центры обработки данных.