Легендарный программист Джон Кармак(John Carmack), известный своими нестандартными идеями, снова заставил техническое сообщество задуматься. Как сообщает Tom's Hardware, в своем аккаунте в соцсети X он высказал гипотезу об использовании протяженной оптоволоконной линии в качестве сверхбыстрого кэша для хранения данных моделей искусственного интеллекта.
Изображение - pinterest.com
Идея основана на простом физическом принципе. Скорость передачи света по современному одномодовому волокну достигает 256 терабит в секунду. Кармак подсчитал: если пустить данные по замкнутой петле длиной 200 километров, то в любой момент времени внутри нее будет находиться примерно 32 гигабайта информации, непрерывно циркулирующей со скоростью света.
Эти данные — «веса» нейросетей, которые нужны для обучения или генерации ответов, — можно считывать последовательно. Таким образом, оптоволоконная петля могла бы работать как буфер между медленным хранилищем и вычислительным ускорителем ИИ, потенциально заменяя классическую оперативную память (DRAM).
Главное потенциальное преимущество — радикальная экономия энергии. DRAM потребляет её постоянно для обновления заряда в ячейках. Управление светом в оптоволокне требует на порядки меньше мощности. Помимо энергоэффективности, сама технология передачи данных по свету развивается быстрее. Как отметил Кармак, «оптоволоконная передача данных может иметь более высокую траекторию роста, чем DRAM». Другими словами, её пропускная способность увеличивается стремительнее, чем у традиционной памяти.
Однако у концепции сразу нашли слабые места. Во-первых, стоимость 200 километров качественного оптоволокна и инфраструктуры для его работы будет колоссальной. Во-вторых, для поддержания сигнала на таком расстоянии потребуются оптические усилители, которые сами потребляют энергию. Некоторые комментаторы в обсуждении напомнили, что подобная идея «линии задержки» существовала еще в середине XX века, но тогда вместо света использовали звуковые волны в ртути.
Сам Кармак признал, что более реалистичной альтернативой могло бы стать прямое подключение чипов флэш-памяти к ускорителям ИИ через специальный интерфейс. Но пока это лишь смелая мысль, демонстрирующая, насколько инженеры ищут нестандартные пути, чтобы решить конкретные проблемы: огромное энергопотребление чипов памяти (DRAM) и физические ограничения на скорость обмена данными между памятью и процессором (так называемое «бутылочное горлышко»).
