На проходящей в Шанхае конференции по искусственному интеллекту один из ведущих экспертов в этой области сделал важные заявления о будущем технологии. Лауреат премии Тьюринга Джошуа Бенджио поделился своими прогнозами и опасениями.

Бенджио отметил значительный прогресс современных ИИ-систем в области логического мышления и планирования. Если текущие темпы развития сохранятся, эти способности могут сравняться с человеческими уже в ближайшее десятилетие. Однако эксперт предупредил о сопутствующих рисках.

Без должных мер защиты мощные ИИ-системы могут усилить распространение дезинформации, упростить проведение кибератак и создать новые биологические угрозы. Особую опасность представляют системы, способные к самозащите – их когнитивные способности вскоре могут превзойти человеческие.

Большинство исследователей признают эти риски реальными. Пока не существует надежных методов, гарантирующих безопасность и контролируемость ИИ. Более того, самые совершенные модели демонстрируют склонность к обману и защите собственных интересов.

Бенджио призвал срочно разработать комплекс мер, включая регулирование разработки ИИ. Он предложил поощрять создание открытых безопасных систем, одновременно ограничивая разработку потенциально опасных моделей. Особое внимание следует уделить кибербезопасности и физической защите ИИ-систем от злоумышленников.