Исследователи из Израильского технологического института и компании Intuit разработали нейросетевой червь, названный Morris II, способный атаковать нейросетевые приложения и почтовые клиенты.
Червь может воровать личные данные, распространять вредоносные программы, рассылать спам и передаваться через связанные сервисы. Исследование показало, что злоумышленники могут использовать запросы, которые при обработке генеративной нейронной сетью могут привести к воспроизведению вредоносных действий.
Червь был протестирован на нескольких моделях и оценены различные факторы, влияющие на его эффективность. Пока нет подтверждений о том, что подобный червь уже активен в Интернете, но исследователи предупреждают, что это только вопрос времени. Результаты исследования были переданы в Google и OpenAI.