Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Похоже, мы находимся в начале некой революции в области искусственного интеллекта, когда каждая компания стремится создать свой собственный продукт на основе искусственного интеллекта, чтобы извлечь выгоду из модной и перспективной технологии. Это происходит и в мире графических процессоров, где компания ADLink представила портативную профессиональную видеокарту для использования и обучения искусственного интеллекта на небольшом ноутбуке. Устройство размером с ладонь подключается к любому ноутбуку с портом Thunderbolt 3, которое предоставляет больше графической мощности, чем встроенный графический процессор.
В "Pocket AI" используется профессиональный графический процессор Nvidia Ampere A500 с кристаллом GA107. Ранее этот графический процессор устанавливали в бюджетную видеокарту RTX 3050. Таким образом, это не совсем мощная видеокарта, но тут и не стоило ожидать какой-то запредельной производительности от устройства, которое помещается в ладони. Недавно она была протестирована ресурсом Storagereview, и хотя с ее помощью вряд ли удастся обучать ChatGPT, она все же на 60% быстрее, чем встроенная графика Intel Iris Xe. По данным Tom's Hardware, специалисты провели испытания с помощью профессиональных тестов и тестов искусственного интеллекта, включая Luxmark Hall, Luxmark Food и Procyon AI inference. Несмотря на маленькие размеры, она показала достойную производительность.
Видеокарта имеет весьма скромные технические характеристики, несмотря на свое профессиональное позиционирование. Она имеет всего 4 ГБ памяти GDDR6 и имеет скудную базовую тактовую частоту 435 МГц с возможностью разгона до 1335 МГц. Имеется 2048 ядер CUDA, 64 ядра Tensor и 16 ядер RT. Столь скромные технические характеристики помогают Pocket AI оставаться холодной и тихой, ведь ее TDP составляет всего 25 Вт. Она также имеет резиновый корпус, и, несмотря на кулер с одним вентилятором, Storagereview утверждает, что она сильно нагревается при большой нагрузке. Большой алюминиевый радиатор прикреплен к печатной плате и составляет основную часть самого устройства. Интерфейс Thunderbolt x4 и вычислительная мощность 6,45 TFLOPS завершают список известных характеристик.
Хотя у Pocket AI довольно высокая цена в 429 долларов, это все же намного дешевле, чем замена всего ноутбука, если пользователю требуется более высокая производительность графического процессора для вычислительных приложений. Для тех, у кого тонкий и легкий ноутбук, это не такое уж плохое решение, особенно по сравнению с переходом на дорогую полноразмерную рабочую станцию. В тестах она уничтожила встроенный графический процессор Intel Iris Xe, что не является большим сюрпризом, но 60% прирост производительности - это заметное улучшение. Она может значительно повысить производительность рендеринга для тех, кто не имеет доступа к домашнему компьютеру из-за командировок, а также ее удобно передавать своим коллегам.