Киберпреступники используют ChatGPT
Киберпреступники пытаются использовать программу ChatGPT от OpenAI для взлома и мошеннических кампаний и делятся примерами на темных веб-форумах, сообщает SCMedia. Некоторые хакеры даже разработали криптовалютные платежные системы для добавления на рынки dark web. На одном форуме хакер хвастался тем, что использовал ChatGPT для воссоздания вредоносных программ и методов взлома. Исследователи кибербезопасности из компании Check Point Software Technologies Ltd. проанализировали заявления хакеров и обнаружили, что вредоносные инструменты, написанные с помощью ChatGPT, работают.
Когда ChatGPT — интерфейс большой языковой модели OpenAI — был выпущен для широкой публики в конце прошлого года, многим в сообществе информационной безопасности сразу стало очевидно, что этот инструмент (теоретически) может быть использован киберпреступниками различными способами.
Теперь новые результаты исследования Check Point указывают на то, что это больше не гипотетическая угроза.
По данным компании, подпольные хакерские форумы в темной паутине уже наводнены реальными примерами киберпреступников, пытающихся использовать программу в вредоносных целях, создавая инфостилеры, инструменты шифрования и фишинговые приманки для использования во взломах и мошеннических кампаниях. Есть даже примеры того, как актеры используют его более творческими способами, например, разрабатывают криптовалютные платежные системы с валютными трекерами в реальном времени для добавления на рынки dark web или используют его для создания искусственных изображений для продажи на Etsy и других онлайн-платформах.
Сергей Шикевич, менеджер по анализу угроз в Check Point Research, сказал SC Media, что, хотя большинство примеров, которые они нашли, соответствовали тому, как они ожидали, что киберпреступники будут использовать программу, сама скорость ее внедрения была ошеломляющей.
“Я думаю, что, возможно, единственная действительно удивительная вещь заключается в том, что это произошло намного быстрее, чем я думал, что это произойдет. Я не думал, что в течение двух-трех недель мы уже увидим вредоносные инструменты и другие материалы в подполье”, — сказал он.
На одном форуме киберпреступник хвастался воссозданием штаммов вредоносных программ и методов взлома, предлагая ChatGPT общедоступные записи, в том числе средство для кражи файлов на основе Python. Исследователи Check Point подтвердили, что инструмент, хотя и является базовым, на самом деле работает так, как рекламируется. Актер также смог использовать один фрагмент кода Java для создания модульного сценария Powershell, способного запускать реальные вредоносные программы из множества различных семейств.
Существуют также примеры других творческих применений программы для облегчения различных действий, основанных на мошенничестве. Другой пользователь смог создать надстройку на основе PHP для обработки платежей в криптовалюте (со встроенными трекерами для отслеживания последней цены для каждой валюты) для dark web marketplace, заметив, что для тех, кто “не имеет знаний, нет гребаных проблем”.
Пользователь ясно дал понять, что цель поста состояла в том, чтобы помочь “скидам” (сокращенная версия “script kiddies” или хакерам, практически не имеющим технических знаний) разработать свой собственный рынок dark web.
“Эта статья более или менее посвящена обсуждению злоупотреблений и того, как быть ленивой задницей, которая не хочет утруждать себя изучением таких языков, как python, Javascript или как создать базовую веб-страницу”, — написал пользователь.
Как всегда, необходимо учитывать некоторые предостережения и ограничения. Инструменты, созданные к настоящему времени, довольно просты, но специалисты по информационной безопасности всегда предсказывали, что программы искусственного интеллекта будут наиболее эффективными при автоматизации инструментов и функций более низкого уровня, которые помогают хакерам проникать в системы и социально настраивать жертв. Также ясно, что, по крайней мере, некоторые из наблюдаемых преступников практически не имеют опыта разработки, демонстрируя, как ChatGPT может иметь ограниченные варианты использования для участников более высокого уровня.
Кроме того, Шикевич сказал, что ChatGPT по-прежнему лучше всего работает при запросе на английском языке, и до сих пор они видели не так много примеров подобных экспериментов со стороны русскоязычных киберпреступников, но даже они в конечном итоге найдут его полезным для создания таких вещей, как более убедительные фишинговые приманки, которые уже давно являются препятствием для многих Русские хакеры.
Но это также демонстрирует, насколько проще может быть для участников низкого уровня разработать инструменты и знания для выполнения большего количества взломов среднего уровня. Технически в программу OpenAI встроены элементы управления, предотвращающие ее использование в явно вредоносных целях, но многие из этих элементов управления можно легко обойти с помощью креативных подсказок.
“Если они могут создать сценарий вредоносного ПО, не зная ни единой строки кода … если кто-то может просто сказать, что нам нужна программа, которая будет выполнять ABCD, и они получат ее сейчас, это действительно плохая сторона, потому что каждый может сделать это сейчас, и начальный уровень, чтобы стать киберпреступность становится чрезвычайно низкой”, — сказал Шикевич.
Эксперименты преступников также привели к чему-то вроде игры в кошки-мышки. Шикевич сказал, что через час после публикации их поста OpenAI встроил новые элементы управления, призванные ограничить способность ChatGPT предоставлять такую информацию.
Но общедоступный характер ChatGPT означает, что он, по сути, открыт для краудсорсинговых попыток манипулировать этими элементами управления и обходить их. Шикевич считает, что, хотя в конечном итоге дойдет до того, что будет гораздо сложнее открыто игнорировать средства контроля безопасности ChatGPT, он считает, что OpenAI следует рассмотреть возможность разработки какой-либо программы авторизации, которая либо заблокирует пользователя после определенного количества попыток обойти эти средства контроля, либо предоставит цифровую подпись, которую можно было бы использовать OpenAI или правоохранительными органами для отслеживания штаммов вредоносных программ или других вредоносных действий для конкретного пользователя или компьютера.
Или программа OpenAI может пройти тот же путь, что и системы онлайн-платежей, которые были открыты для всех видов злоупотреблений, когда они впервые были представлены общественности, но постепенно стали безопаснее благодаря добавлению и настройке расширенных политик и средств контроля.
До тех пор он ожидает, что игра в кошки-мышки продолжится, а злоумышленники разработают еще больше вариантов использования и приложений в ближайшие несколько месяцев.
“Я думаю, что в ближайшие два-три месяца наступят ”захватывающие» времена, когда мы действительно начнем видеть, возможно, более сложные вещи и [хакерские кампании] в дикой природе, которые используют ChatGPT», — сказал он.