Контролировать развитие искусственного интеллекта сложно, ведь нельзя просто поверить компаниям на слово. Проверка того, что на самом деле происходит внутри огромных вычислительных центров, давно стала определенной проблемой для тех, кто пытается следить за соблюдением правил в этой сфере.
Изображение: Notebookcheck
Когда мощный дата-центр обучает большую нейросеть, этот процесс оставляет заметный след в энергопотреблении. Тяжелые вычисления чередуются с периодами обмена данными между видеокартами. Из-за этого потребление электричества начинает колебаться с определенным ритмом, примерно раз в секунду. Частота этих скачков непостоянна, она меняется в зависимости от нагрузки и состояния оборудования.
Специальный прибор, установленный снаружи дата-центра, отслеживает этот ритм. Внутри устройства работает алгоритм, который способен замечать узор даже при изменении частоты колебаний. Такое решение позволяет получать данные независимо от самого оператора. Владельцам центра не нужно предоставлять доступ к своим логам или программам, чтобы подтвердить или опровергнуть факт обучения.
Метод ориентирован на поиск скрытых процессов. Оператор может выполнять обычные задачи с нейросетями и параллельно тайно обучать новую модель. Система не просто ищет высокое потребление энергии, она вычленяет именно тот самый характерный ритм. Это дает возможность обнаружить тренировку искусственного интеллекта даже на фоне другой активной работы.
В ходе испытаний на смоделированных задачах метод помог выявить 96% случаев тайного обучения. Условием успеха было отсутствие попыток намеренно скрыть процесс. Специалисты также проверили восемь способов маскировки, которые требуют больших денег и времени. Уровень ложных срабатываний при этом составил всего 1%.
Новый подход решает главную проблему контроля за искусственным интеллектом. Измерение энергии фиксирует физический побочный эффект вычислений. Это позволяет проверяющим получать достоверные сведения о работе компаний без необходимости пытаться проникнуть в их программное обеспечение.
