Для запуска самых мощных на сегодняшний день моделей искусственного интеллекта требуется очень много мощности графического процессора. Даже самая экстремальная сборка игрового ПК не сможет справиться с той мощностью, которая необходима для запуска лучших моделей AI Dungeon. Для того, чтобы запустить онлайн-кампанию D&D, вам нужно что-то действительно чудовищное.
По словам Ника Уолтона, генерального директора Latitude и инженера-программиста, который помог разработать исходный код для генератора историй, вдохновленного D&D , "если вы хотите запустить самое большое подземелье ИИ для AI Dunge, вам нужен не просто мощный графический процессор, а кластер из восьми или 16 массивных мощных графических процессоров". И они должны быть мощнее лучших видеокарт на потребительском рынке.
Языковые модели AI Dungeon, основанные на языковой модели Jurrasic-1 Jumbo со 178 миллиардами параметров, разработанной AI21, требуют огромного уровня вычислительной мощности для распознавания и запоминания важных элементов истории и использования сложного описания.
Ник сообщил о DGX Station A100 как об образце машины, которую Latitude использует для создания более интенсивных игровых моделей искусственного интеллекта. Это вычислительный монстр с четырьмя графическими процессорами Nvidia A100 за 10 000 долларов - первыми и, по сути, самыми мощными графическими картами Ampere.
"AI Dungeon, особенно при запуске, вероятно, даже сегодня, является самой требовательной игрой с точки зрения требований к видеокарте, - говорит Ник, - и долгое время в ней не было графики".
Для таких машин, как DGX Station, скажем, с восемью первоклассными графическими процессорами A100, стоимостью около 150 000 долларов на первоначальные технологические затраты, и это только для запуска самого передового ИИ. Группа из нескольких подобных машин должны работать одновременно для вашего удовольствия от AI Dungeon . Это одна из причин, по которой компания использует поставщиков услуг ИИ, и даже им в последнее время было трудно получить графические процессоры.
Очевидно, что ведение бизнеса ИИ, подобного этому, также связано с огромными затратами энергии; Ник рассказал, что в какой-то момент компания тратила на эксплуатацию машин почти столько же, сколько на оплату труда команды из 16 человек.
К этим энергозатратам добавляется игровой инструмент изображения AI, который в начале этой недели Latitude принял решение развернуть бесплатно для всех игроков. Ник смог прояснить, как это будет работать.
Он говорит, что каталог из десятков тысяч изображений создается заранее, каждое из них снабжено подписью, а затем сопоставляется с историями по мере их воспроизведения, а не генерируется на лету. Он ясно дает понять, что генерация изображений во время игры на самом деле нецелесообразна для такой операции, но модели искусственного интеллекта, стоящие за этим процессом, достаточно умны, чтобы понимать, что нужно сопоставить изображения с заголовком "Горный лес с замком" с историей, в которой упоминается средневековое королевство.
Ник также сетует, что работа с ИИ может быть очень сложной. Контролировать то, что говорит ИИ, чтобы он не стал мошенником, сложно, поскольку "ИИ иногда может быть похож на непослушного малыша". Вы можете повлиять на него в правильном направлении, но иногда, если вы "даете ему инструкции не делать что-то, вы теперь настроили его мозг, и он, вероятно, собирается это сделать".