Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Стартап Ghost из Сан-Франциско (штат Калифорния), основанный 19-летним Зайном Джаваидом, разработал оборудование для локального запуска систем искусственного интеллекта. Как сообщает TechCrunch, компания привлекла начальное финансирование в размере 11 миллионов долларов от таких инвесторов, как венчурная фирма Andreessen Horowitz.
До того как сосредоточиться на разработке локального оборудования для ИИ, разработчик занимался финансовой математикой, где принимал инвестиционные решения на основе анализа данных. Первый продукт компании получил название Core и выходит на рынок по цене 3499 долларов.
Устройство представляет собой компьютер, который поставляется без собственного экрана и без стандартных периферийных устройств, таких как мышь или клавиатура. Компьютер предназначен для постоянного выполнения автономных программ — так называемых ИИ-агентов — в фоновом режиме.
Эти агенты должны непрерывно собирать данные из окружения пользователя и выполнять задачи на их основе. Управление системой осуществляется полностью через приложение для смартфона. С помощью этого приложения пользователи могут взаимодействовать с агентами и ставить им задачи. Голосовой ввод также выполняется не на самом устройстве, а исключительно через соответствующее приложение на смартфоне.
Для обеспечения работы языковых моделей на локальном уровне системе требуются высокопроизводительные компоненты. Технические характеристики, указанные производителем на сайте, включают шестиядерный процессор серии AMD Ryzen 5 7600.
Непосредственно за вычисления, связанные с ИИ, отвечает графический процессор Nvidia RTX Pro 4000 SFF Blackwell с пропускной способностью памяти 432 ГБ/с. Эти компоненты дополняются оперативной памятью стандарта DDR5 объемом 64 ГБ.
Для постоянного хранения данных и установленных моделей ИИ предусмотрен SSD-накопитель емкостью 1 ТБ. Корпус устройства выполнен из шлифованной нержавеющей стали и оснащен акриловым рассеивателем света.
Одним из ключевых преимуществ системы является отказ от облачной обработки данных, характерной для большинства ИИ-сервисов. В то время как такие провайдеры, как OpenAI, полагаются на дата-центры, в системе Core все вычисления происходят непосредственно на конечном устройстве — этот подход называется Edge Computing (периферийные вычисления).
Благодаря такой локальной обработке конфиденциальная информация — например, показатели состояния здоровья или данные систем «умного дома» — не покидает пределы жилища. По заявлению стартапа, все локально хранящиеся данные зашифрованы, поэтому даже сама компания Ghost не имеет к ним доступа.