Компактный компьютер Apple Mac Mini неожиданно оказался в центре экспериментов с локальными вычислениями для искусственного интеллекта. Стартап TinyCorp подключил к устройству внешнюю видеокарту и использует ее для обработки задач ИИ.
Источник изображения: TinyCorp
TinyCorp показал работу Mac Mini с дискретным графическим процессором, который подключается через интерфейс Thunderbolt 4. Для этого инженеры применили адаптер ADT-Link. Он преобразует соединение Thunderbolt в шину PCIe, которая обычно используется видеокартами.
В демонстрации использовали графический процессор, предположительно GALAX GeForce RTX 5060. Соединение обеспечивает пропускную способность около 40 Гбит/с, то есть примерно 5 ГБ/с в двунаправленном режиме. Такой показатель подходит для вычислений, связанных с моделями ИИ, но хуже подходит для задач, требующих высокой графической производительности.
macOS изначально не поддерживает подключение GPU NVIDIA или AMD в таком режиме. Поэтому в TinyCorp написали собственные драйверы пользовательского пространства на Python, которые позволяют системе работать с этими видеокартами.
Компания также готовит отдельную плату eGPU. Она получит систему управления питанием, которая отключает графический процессор при простое и перезапускает его в случае сбоев. Пока решение используют только для вычислительных задач, где видеокарта работает как отдельный вычислительный модуль.
Реклама. ООО «Яндекс Маркет», ИНН 9704254424