Первоначальный ажиотаж вокруг ИИ утих. Тем не менее, такие технологические компании, как OpenAI и Google, быстро разрабатывают новые продукты, чтобы укрепить свои конкурентные позиции. Как сообщает The Guardian, это давление на инновации может способствовать сценарию, который навсегда подорвет доверие к технологии и, в крайних случаях, даже ознаменует конец нынешней эры ИИ.

Изображение: нейросеть freepik

Майкл Вулдридж, преподаватель в Оксфордском университете, предупреждает, что гонка за ИИ увеличивает опасность возникновения так называемого «сценария Гинденбурга». Он имеет в виду трагедию немецкого дирижабля «Гинденбург». В 1920-х и 1930-х годах дирижабли считались будущим гражданской авиации — до крушения «Гинденбурга» 6 мая 1937 года. Эта авария положила конец эре дирижаблей, которые впоследствии были признаны небезопасными.

По словам Вулдриджа, сегодня аналогичная опасность возникает из-за огромного экономического давления, с которым сталкиваются технологические компании. Они ежегодно инвестируют миллиарды в расширение своей инфраструктуры ИИ. Анализ показал, что нынешние инвестиции даже превосходят стоимость высадки на Луну. В то же время реальная добавленная стоимость многих приложений ИИ еще не была четко продемонстрирована. По словам Вулдриджа, растущая распространенность чат-ботов с легко обходимыми механизмами безопасности указывает на то, что коммерческие интересы часто имеют приоритет над всесторонними проверками безопасности.

По его словам, авария «Гинденбурга» «уничтожила мировой интерес к дирижаблям». С тех пор это была мертвая технология. Подобный сценарий представляет собой реальный риск для ИИ. Поскольку ИИ сейчас интегрирован во множество систем, серьезный инцидент может затронуть почти все сектора экономики.

Среди возможных сценариев Вулдридж приводит в пример неисправное обновление программного обеспечения для беспилотных автомобилей с фатальными последствиями или кибератаку с использованием ИИ, которая парализует работу мировых авиакомпаний.

В то же время ученый подчеркивает, что его критику не следует понимать как принципиальное неприятие современного ИИ. Скорее, он указывает на несоответствие между первоначальными ожиданиями и текущим состоянием технологии. По словам Вулдриджа, главная проблема заключается в том, что чат-боты с ИИ совершают непредсказуемые ошибки и не могут распознать, когда их ответы неверны.