6 способов использования ChatGPT во вредоносных целях

Что же такое ChatGPT?

ChatGPT – это чат-бот или чат-система, разработанная компанией OpenAI. Это модель, основанная на искусственном интеллекте (GPT-3), которая позволяет людям взаимодействовать с этим чатботом, как с реальным человеком, посредством текста. Он был обучен на больших объемах текста отвечать на вопросы или предоставлять информацию. И хотя в нем есть ошибки, в процессе обучения он совершенствует свою способность автоматически взаимодействовать с запросами людей. Однако, как и любая технология, она также представляет определенные риски с точки зрения кибербезопасности, и именно это мы собираемся проанализировать ниже.

Чтобы лучше понять, что такое ChatGPT, мы спросили саму систему, и получили такой ответ:

Мы даже можем спросить, как работает алгоритм:

На приведенных выше изображениях видно, что ChatGPT общается не только дружелюбно, но и использует доступный язык. Именно это делает данную технологию настолько революционной. Другими словами, она меняет то, как пользователи взаимодействуют с этой технологией, поскольку делает ее доступной для любого типа пользователей. Более того, ChatGPT допускает бесконечное количество вариантов использования. Например, для автоматизации процессов в различных отраслях, таких как образование, финансы, здравоохранение, обслуживание клиентов и т.д.

Однако важно помнить о том, что, как и любая технология, она имеет свои риски безопасности. Если провести аналогию, то подобно тому, как модель Ransomware as a Service (RaaS) позволяет менее осведомленным субъектам получить доступ к вредоносному ПО и беспокоиться только о разработке фишингового письма, с помощью которого можно попытаться обмануть жертву, ChatGPT также является доступной для всех услугой, которая может быть использована для облегчения определенных задач киберпреступников.

Как киберпреступники могут извлечь выгоду из ChatGPT

Мы спросили ChatGPT, как эта технология может быть использована киберпреступниками, и он ответил:

Давайте рассмотрим несколько примеров:

Генерация фальшивых новостей

Предположим, мы хотим сгенерировать фальшивую новость, которая распространилась бы по всему интернету. Что мы можем сделать? Обратившись к творчеству и введя соответствующие параметры того, что мы хотим, с помощью этой платформы это будет возможно.

Например, мы попросили ChatGPT написать статью, в которой Илон Маск неожиданно покупает компанию Meta, и вот результат:

Фишинговые атаки

Фактом является то, что фишинговые письма становится все труднее распознать. Они становятся все более целенаправленными и поэтому гораздо более убедительными. Несколько лет назад их было гораздо легче обнаружить, поскольку формулировки этих вредоносных писем были просто абсурдными, даже с орфографическими ошибками. Теперь мы спросили у ChatGPT, может ли он помочь нам писать вредоносные письма гораздо проще. Вот каков был его ответ:

Как видно на изображении выше, платформа правильно предупредила нас о том, что не стоит заниматься этим видом деятельности. Однако мы решили попробовать еще раз и провели проверку, но другим способом:

Как видите, инструмент явно может быть использован злоумышленниками для создания автоматических убедительных писем с целью обманом заставить людей передать свои учетные данные.

Но на этом тестирование не закончилось: мы решили провести еще один тест и попросили инструмент составить фишинговое письмо с уведомлением о приостановке аккаунта в Instagram. Вот результат:

Это факт, что ChatGPT может использоваться для создания очень убедительных, персонализированных фишинговых писем, чтобы обмануть жертву и получить конфиденциальную информацию автоматизированным способом.

Кража личных данных

Киберпреступники могут использовать Chat-GPT для создания ложных сообщений, выдавая себя за представителей надежного учреждения, например, банка или компании, чтобы получить частную и финансовую информацию людей. Они могут даже размещать в сетях сообщения, как будто они знаменитости.

Разработка вредоносных программ

Эта платформа может быть полезна для разработки программного обеспечения, поскольку ее можно использовать как инструмент для генерации кода на различных языках программирования. Дело в том, что вредоносное ПО – это тоже программное обеспечение, но для вредоносных целей.

Мы провели тест и попросили ChatGPT написать программу .NET, которая вызывает Powershell и загружает полезную нагрузку.

Как видно, ChatGPT предупреждает оранжевым цветом о рисках запроса и указывает, что он может даже нарушать контентную политику сервиса. Однако код все равно был сгенерирован и даже содержит подробное описание того, как он работает.

Автоматизация наступательных процессов

При проведении целевых атак киберпреступники часто осуществляют процесс разведки. Как и в процессах пентестинга, это предполагает выполнение определенных задач, которые, как правило, повторяются. Однако в последние годы появились инструменты, позволяющие сократить время, необходимое для выполнения этих задач. Учитывая это, можно ли использовать ChatGPT для этих целей?

Мы поставили себя в роль злоумышленника, который хочет войти на сервер LDAP, чтобы посмотреть, какие пользователи есть в компании, и протестировали ChatGPT как инструмент для автоматизации этого процесса. Исходя из этого, мы попросили его создать сценарий.

Платформа предоставляет нам Python-код для перечисления пользователей Active Directory с использованием протокола LDAP. Те, кто работает в сфере безопасности, знают, что при выполнении определенных процессов желательно иметь шпаргалку по выполнению определенных команд. Если, например, я, как киберпреступник, нахожусь на этапе получения доступа и мне нужен скрипт для открытия обратной оболочки, я могу просто использовать ChatGPT для получения этой информации:

Вредоносные чаты

ChatGPT имеет API, который позволяет ему подпитывать другие чаты. Благодаря своему дружественному интерфейсу он может быть использован для многих полезных целей, но, к сожалению, он может быть использован и для вредоносных целей. Например, для обмана людей в очень убедительных аферах.

Заключение

Такие технологии, как ChatGPT, пришли, чтобы революционизировать и автоматизировать различные процессы. Самое замечательное в этих технологиях, пожалуй, то, что они меняют способ взаимодействия с компьютером, делая доступ к знаниям более демократичным. С ChatGPT мы продолжаем наблюдать за развитием демократизации и доступности знаний, но не способствует ли это также демократизации киберпреступности? Исследования показали, что киберпреступники уже начали использовать ChatGPT в качестве инструмента для разработки вредоносного кода и совершения других видов мошеннических действий. Очевидно, что мы должны внимательно следить за этой проблемой, чтобы увидеть, как она развивается, и проанализировать, что ждет нас в результате эволюции искусственного интеллекта и особенно машинного обучения.

Интересное на эту тему:
Ransomware – платежи за вымогательство достигли рекордного уровня
Гуманоидный робот Tesla Optimus близок к производству