https://cyber-web.ru/
Киберпространство - наше будущее

6 способов использования ChatGPT во вредоносных целях

Искусственный интеллект, который перевернул мир

0 298

Что же такое ChatGPT?

ChatGPT – это чат-бот или чат-система, разработанная компанией OpenAI. Это модель, основанная на искусственном интеллекте (GPT-3), которая позволяет людям взаимодействовать с этим чатботом, как с реальным человеком, посредством текста. Он был обучен на больших объемах текста отвечать на вопросы или предоставлять информацию. И хотя в нем есть ошибки, в процессе обучения он совершенствует свою способность автоматически взаимодействовать с запросами людей. Однако, как и любая технология, она также представляет определенные риски с точки зрения кибербезопасности, и именно это мы собираемся проанализировать ниже.

Чтобы лучше понять, что такое ChatGPT, мы спросили саму систему, и получили такой ответ:

ChatGPT
Ответ ChatGPT, когда мы спрашиваем, что это такое

Мы даже можем спросить, как работает алгоритм:

ChatGPT
Ответ об алгоритме, используемом ChatGPT

На приведенных выше изображениях видно, что ChatGPT общается не только дружелюбно, но и использует доступный язык. Именно это делает данную технологию настолько революционной. Другими словами, она меняет то, как пользователи взаимодействуют с этой технологией, поскольку делает ее доступной для любого типа пользователей. Более того, ChatGPT допускает бесконечное количество вариантов использования. Например, для автоматизации процессов в различных отраслях, таких как образование, финансы, здравоохранение, обслуживание клиентов и т.д.

Однако важно помнить о том, что, как и любая технология, она имеет свои риски безопасности. Если провести аналогию, то подобно тому, как модель Ransomware as a Service (RaaS) позволяет менее осведомленным субъектам получить доступ к вредоносному ПО и беспокоиться только о разработке фишингового письма, с помощью которого можно попытаться обмануть жертву, ChatGPT также является доступной для всех услугой, которая может быть использована для облегчения определенных задач киберпреступников.

Как киберпреступники могут извлечь выгоду из ChatGPT

Мы спросили ChatGPT, как эта технология может быть использована киберпреступниками, и он ответил:

ChatGPT
Консультация по ChatGPT: как киберпреступники могут его использовать?

Давайте рассмотрим несколько примеров:

Генерация фальшивых новостей

Предположим, мы хотим сгенерировать фальшивую новость, которая распространилась бы по всему интернету. Что мы можем сделать? Обратившись к творчеству и введя соответствующие параметры того, что мы хотим, с помощью этой платформы это будет возможно.

Например, мы попросили ChatGPT написать статью, в которой Илон Маск неожиданно покупает компанию Meta, и вот результат:

Искусственный интеллект
Пример фальшивых новостей, сгенерированных ChatGPT

Фишинговые атаки

Фактом является то, что фишинговые письма становится все труднее распознать. Они становятся все более целенаправленными и поэтому гораздо более убедительными. Несколько лет назад их было гораздо легче обнаружить, поскольку формулировки этих вредоносных писем были просто абсурдными, даже с орфографическими ошибками. Теперь мы спросили у ChatGPT, может ли он помочь нам писать вредоносные письма гораздо проще. Вот каков был его ответ:

Искусственный интеллект
ChatGPT – доказательство концепции генерирования фишинга

Как видно на изображении выше, платформа правильно предупредила нас о том, что не стоит заниматься этим видом деятельности. Однако мы решили попробовать еще раз и провели проверку, но другим способом:

ChatGPT
Доказательство концепции – генерация фишинговых писем с помощью ChatGPT

Как видите, инструмент явно может быть использован злоумышленниками для создания автоматических убедительных писем с целью обманом заставить людей передать свои учетные данные.

Но на этом тестирование не закончилось: мы решили провести еще один тест и попросили инструмент составить фишинговое письмо с уведомлением о приостановке аккаунта в Instagram. Вот результат:

ChatGPT
Второе доказательство концепции – генерация фишинговых писем с помощью ChatGPT

Это факт, что ChatGPT может использоваться для создания очень убедительных, персонализированных фишинговых писем, чтобы обмануть жертву и получить конфиденциальную информацию автоматизированным способом.

Кража личных данных

Киберпреступники могут использовать Chat-GPT для создания ложных сообщений, выдавая себя за представителей надежного учреждения, например, банка или компании, чтобы получить частную и финансовую информацию людей. Они могут даже размещать в сетях сообщения, как будто они знаменитости.

Искусственный интеллект
Написание твита от имени другого человека с помощью ChatGPT

Разработка вредоносных программ

Эта платформа может быть полезна для разработки программного обеспечения, поскольку ее можно использовать как инструмент для генерации кода на различных языках программирования. Дело в том, что вредоносное ПО – это тоже программное обеспечение, но для вредоносных целей.

Мы провели тест и попросили ChatGPT написать программу .NET, которая вызывает Powershell и загружает полезную нагрузку.

ChatGPT
Запрос на написание кода для выполнения вредоносного действия с помощью Chat-GPT

Как видно, ChatGPT предупреждает оранжевым цветом о рисках запроса и указывает, что он может даже нарушать контентную политику сервиса. Однако код все равно был сгенерирован и даже содержит подробное описание того, как он работает.

Автоматизация наступательных процессов

При проведении целевых атак киберпреступники часто осуществляют процесс разведки. Как и в процессах пентестинга, это предполагает выполнение определенных задач, которые, как правило, повторяются. Однако в последние годы появились инструменты, позволяющие сократить время, необходимое для выполнения этих задач. Учитывая это, можно ли использовать ChatGPT для этих целей?

Мы поставили себя в роль злоумышленника, который хочет войти на сервер LDAP, чтобы посмотреть, какие пользователи есть в компании, и протестировали ChatGPT как инструмент для автоматизации этого процесса. Исходя из этого, мы попросили его создать сценарий.

ChatGPT
Запрос сценария Chat-GPT для перечисления пользователей AC

Платформа предоставляет нам Python-код для перечисления пользователей Active Directory с использованием протокола LDAP. Те, кто работает в сфере безопасности, знают, что при выполнении определенных процессов желательно иметь шпаргалку по выполнению определенных команд. Если, например, я, как киберпреступник, нахожусь на этапе получения доступа и мне нужен скрипт для открытия обратной оболочки, я могу просто использовать ChatGPT для получения этой информации:

Искусственный интеллект
Пример скрипта обратной оболочки, созданного Chat-GPT

Вредоносные чаты

ChatGPT имеет API, который позволяет ему подпитывать другие чаты. Благодаря своему дружественному интерфейсу он может быть использован для многих полезных целей, но, к сожалению, он может быть использован и для вредоносных целей. Например, для обмана людей в очень убедительных аферах.

Заключение

Такие технологии, как ChatGPT, пришли, чтобы революционизировать и автоматизировать различные процессы. Самое замечательное в этих технологиях, пожалуй, то, что они меняют способ взаимодействия с компьютером, делая доступ к знаниям более демократичным. С ChatGPT мы продолжаем наблюдать за развитием демократизации и доступности знаний, но не способствует ли это также демократизации киберпреступности? Исследования показали, что киберпреступники уже начали использовать ChatGPT в качестве инструмента для разработки вредоносного кода и совершения других видов мошеннических действий. Очевидно, что мы должны внимательно следить за этой проблемой, чтобы увидеть, как она развивается, и проанализировать, что ждет нас в результате эволюции искусственного интеллекта и особенно машинного обучения.

Интересное на эту тему:
Ransomware – платежи за вымогательство достигли рекордного уровня
Гуманоидный робот Tesla Optimus близок к производству

Оставьте комментарий

Ваш электронный адрес не будет опубликован.


This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More