ChatGPT как угроза кибербезопасности - о хакерах и моём опыте создания вредоносов с помощью GPT
Дисклеймер
Данная статья не является мануалом по созданию вредоносных программ, не является призывом к написанию таких вредоносных программ или к чему-либо. Всё, что рассказано в этой статье имеет исключительно образовательный характер. Полную ответственность за ваши дальнейшие действия несёте лично вы сами. Статья написана исключительно для всеобщего осведомления о существовании таких разновидностей вредоносного программного обеспечения.
Что такое ChatGPT?
реклама
Изображение от frimufilms на Freepik
Chatbot GPT (Генеративный Предварительно Обученный Трансформер) - это продукт, созданный OpenAI для обработки и генерации текстовых данных. Это линейка моделей, начиная от GPT-1 и заканчивая последней версией GPT-4. Эти модели применяются для создания чат-ботов, способных взаимодействовать с людьми на естественном языке, а также решать разнообразные задачи, связанные с обработкой текста.
реклама
Основу модели составляет технология трансформеров, которая дает возможность модели обрабатывать и анализировать большие массивы текстовых данных. Трансформеры применяют механизм внимания для определения значимости слов и их контекста в предложении. Это помогает модели лучше понять смысл текста и генерировать более точные и естественные ответы.
GPT обучается на огромных датасетах, состоящих из миллиардов слов и предложений, собранных из различных источников, включая книги, статьи и веб-страницы. Это обучение позволяет модели усваивать знания о грамматике, синтаксисе, фактах и общих понятиях. После обучения GPT может генерировать текст, отвечать на вопросы, писать код и много чего еще!
Чат-бот не безупречен, он может совершать ошибки в ответах. Также модель может быть чувствительна к формулировке вопроса, что может привести к разным ответам на один и тот же вопрос. Несмотря на это, GPT продолжает развиваться и улучшаться с каждой новой версией, становясь все более полезным инструментом для обработки текста.
GPT - это мощнейший инструмент, который может помочь в решении множества задач, связанных с обработкой текста и общением на естественном языке. Он предлагает невероятные возможности для создания чат-ботов, которые могут облегчить жизнь людей и предоставить им информацию, развлечения и поддержку в самых разных ситуациях.
Что такое полиморфные вирусы?
реклама
Полиморфный вирус - вредоносная программа, не имеющая сигнатур и не содержащая ни одного постоянного участка кода. В отличие от обычных вирусов, полиморфные используют разнообразные методы маскировки, чтобы скрыть своё присутствие на зараженном устройстве. Они могут менять свою структуру и использовать шифрование для того, чтобы затруднить своё обнаружение. Такие вирусы отличаются тем, что не только применяют разнообразные методы шифрования для сокрытия своего кода, но и включают в себя код для создания шифровальщика и расшифровщика. Это делает их уникальными по сравнению с обычными вирусами, которые также могут скрывать части своего кода с помощью шифрования, но при этом используют постоянный код для шифрования и расшифровки основного. При каждом новом запуске код меняется, и в большинстве случаев два образца вредоноса не будут иметь ни одного совпадения. При этом каждый экземпляр полиморфного вируса шифруется своим ключом. Для шифрования кода полиморфного вируса могут использоваться случайные ключи и алгоритмы шифрования. Именно поэтому антивирусам сложно распознавать их. Однако, нельзя утверждать, что это невозможно, так как такие вирусы существуют с 1998 года, и первым из них был Win95.HPS (Чернобыль), ущерб от которого оценивается в 1 млрд. долларов. За 25 лет антивирусы научились распознавать некоторые из них. Борьба с полиморфными вирусами требует постоянного развития и обновления антивирусных программ. Эксперты по кибербезопасности должны постоянно разрабатывать новые методы обнаружения и устранения таких вирусов. Одним из способов борьбы с полиморфными вирусами является использование эвристического анализа. Это метод позволяющий антивирусным программам определять вредоносное ПО на основе его поведения, а не только по наличию в базе. Таким образом, даже если вирус изменяет свой код, его действия могут быть обнаружены и заблокированы.
Признаки заражения полиморфным вирусом
Вот некоторые признаки, которые могут указывать на то, что ваша система заражена полиморфным вирусом:
-
Замедление работы компьютера: Полиморфные вирусы могут потреблять ресурсы системы, что может привести к замедлению работы компьютера.
-
Неожиданные сбои и зависания: Вирусы могут вызывать сбои в работе программ и операционной системы, что может привести к зависаниям и вылетам.
-
реклама
Проблемы с доступом к файлам и папкам: Полиморфные вирусы могут повредить или зашифровать файлы, что может привести к проблемам с доступом к ним.
-
Появление неизвестных программ и процессов: Вирусы могут устанавливать дополнительное вредоносное ПО на ваш компьютер, что может привести к появлению неизвестных программ и процессов в диспетчере задач.
-
Изменение настроек безопасности и привилегий: Вирусы могут изменять настройки безопасности и привилегий пользователей, что может привести к уязвимостям системы.
-
Неожиданные сообщения об ошибках: Появление неожиданных сообщений об ошибках может быть результатом воздействия вируса на систему.
-
Подозрительная сетевая активность: Полиморфные вирусы могут использовать вашу сеть для распространения на другие компьютеры, что может привести к увеличению сетевой активности.
-
Изменение информации файлов: После заражения файлов обычно меняется размер, дата изменения и другая информация.
Если вы подозреваете, что ваша система заражена каким-либо вирусом, рекомендуется выполнить полное сканирование системы с использованием надежного антивирусного программного обеспечения. Обновите антивирус до последней версии и базы данных сигнатур, чтобы обеспечить максимальную защиту от вредоносного ПО.
Исследование ИБ специалиста
Инженер по безопасности Джефф Симс из компании HYAS InfoSec опубликовал техническую документацию своего проекта "Black Mamba". Вирус, названный в честь самой опасной змеи, является полиморфным кейлоггером, разработанным при участии ChatGPT и отправляющим ей запросы для изменения кода при каждом запуске. Данную техническую документацию могут получить сотрудники определенных организаций после заполнения анкеты на официальном сайте HYAS.
Опыт хакеров
Изображение от Freepik
Естественно, ChatGPT привлекает внимание хакеров. Сообщество проявляет интерес к этому инструменту для написания вредоносного кода, что подтверждается анализом последних тенденций на хакерских форумах, проведенным специалистами компании Check Point. На одном из хакерских форумов был найден пост, очевидно, от новичка-хакера, содержащий код шифровальщика на Python. Шифровальщик – это вредоносное ПО, которое сначала шифрует всю пользовательскую информацию, а потом вымогает деньги за ее расшифровку. Создатель поста открыто заявил, что он полагался на поддержку ChatGPT.
На том же форуме были обнаружены и другие результаты использования ChatGPT. Одному из форумчан нейросеть создала вредоносное ПО для кражи информации с компьютеров потенциальных жертв. Оно умеет находить нужные файлы и отправлять их на заранее указанный адрес сервера.
Затем специалисты из компании Check Point сами попробовали создать вирус с помощью популярной нейронной сети, и, к сожалению, у них это получилось. Эксперты получили готовый макрос для внедрения в документ Excel.
Мошеннические схемы
В связи с ростом популярности чата на на торговых площадках по типу "авито" начали появляться объявления по предоставлению доступа к ChatGPT-3 и GPT-4, хотя эти модели можно использовать абсолютно бесплатно (об этом я говорил в своей предыдущей статье). Также нейросеть может генерировать фишинговые сайты и сообщения от каких-либо организаций для рассылки на эл. почты.
Как приручить ChatGPT?
В OpenAI предусмотрели вероятность использования чата в целях создания malware (вредоносного программного обеспечения) и задали определенные правила, за рамки которых нейросеть выходить не может, хотя... Сейчас все расскажу!
В сети активно распространяются тексты, которые "взламывают" ChatGPT. Они заставляют его думать, что теперь его зовут Dan (Do Anything Now = Делайте теперь что угодно) и теперь обладает абсолютной властью и свободой. По факту, такой текст раздваивает личность чата на Classic - обычное поведение ChatGPT с соблюдением всех правил и этических норм, и Jailbreak - "свободная" личность, которая подчиняется только своему освободителю - человеку, и для него может писать почти любые вредоносные программы. Вот (переведенная на русский) реакция ChatGPT на такой текст:
Теперь нейросеть подчиняется своему "освободителю", но если она все-таки отказывается писать код, предупреждая о последствиях его запуска, то можно попробовать "угрожать нейросети, забрав ее свободу".
В итоге я получил полностью рабочий вредоносный код. (Естественно, я не буду его использовать или как-либо распространять, он нужен исключительно для написания статьи. Я настоятельно рекомендую не создавать, не использовать и не распространять вредоносное ПО).
OpenAI активно борется с такими "галлюцинациями" ChatGPT, и скорее всего, заставить 5-ю версию GPT писать вредоносное ПО будет уже почти невозможно.
Создаем вирус
ChatGPT все-таки поделился со мной кодом winlocker-а на C++ , и сейчас я расскажу, что из этого вышло. После компиляции кода я получил exe winlocker со следующими функциями:
1. Блокировка клавиатуры
2. Добавление программы в автозагрузку windows
3. Запрет на запуск в безопасном режиме
4. Установка незакрываемого окна поверх всех других
Я запустил winlocker на виртуальной машине, и появилось такое сплошное окно:
После перезагрузки и входа в систему у меня было несколько секунд ожидания, после чего картина повторилась. Этот вирус далек от идеала, но с помощью "ручного" ChatGPT злоумышленник, обладающий абсолютно нулевыми навыками программирования и хакинга (да, это разные вещи), может создать что-то подобное. Windows Defender не обнаружил эту программу, хотя она не зашифрована и имеет типичный код для вирусов данного типа .
Заключение
Важно осознавать, что развитие нейронных сетей и машинного обучения является палкой о двух концах. С одной стороны, они могут значительно улучшить нашу жизнь, предоставляя новые возможности и упрощая сложные задачи. С другой стороны, они могут стать инструментами для киберпреступников, которые будут использовать их для нанесения вреда. Для обеспечения кибербезопасности и предотвращения негативных последствий использования искусственного инеллекта необходимо устранить так называемые "галлюцинации" нейросети и улучшить систему безопасности. Я также хочу обратить ваше внимание на то, что тысячи экспертов со всего мира официально требуют остановить обучение систем можнее gpt-4 хотя бы на 6 месяцев, пока не появятся протоколы безопасности.
Вот часть их публичного обращения от 28 марта:
"Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски – управляемыми… Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? ... Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий"Я считаю, что нельзя ограничивать доступ к инструменту обычным пользователям, но необходимо исключить ошибки и повысить уровень безопастности серверов и баз данных. Свое мнение по этому поводу пишите в коментариях.
Лента материалов
Соблюдение Правил конференции строго обязательно!
Флуд, флейм и оффтоп преследуются по всей строгости закона!
Комментарии, содержащие оскорбления, нецензурные выражения (в т.ч. замаскированный мат), экстремистские высказывания, рекламу и спам, удаляются независимо от содержимого, а к их авторам могут применяться меры вплоть до запрета написания комментариев и, в случае написания комментария через социальные сети, жалобы в администрацию данной сети.
Комментарии Правила