САН—ФРАНЦИСКО — Ранее в этом году директору по продажам в Индии компании Zscaler, занимающейся технической безопасностью, позвонили, похоже, от исполнительного директора компании.
Когда на экране его мобильного телефона появилась фотография основателя Джея Чаудри, знакомый голос произнес: “Привет, это Джей. Мне нужно, чтобы ты кое-что сделал для меня”, прежде чем звонок оборвался. В последующем сообщении через WhatsApp объяснялось, почему. “Я думаю, что у меня плохое покрытие сети, поскольку в данный момент я путешествую. Можно пока написать сюда?”
Затем звонивший попросил о помощи в переводе денег в банк Сингапура. Пытаясь помочь, продавец обратился к своему менеджеру, который почуял неладное и передал дело внутренним следователям. Они установили, что мошенники воспроизвели голос Чаудри из клипов его публичных выступлений в попытке обокрасть компанию.
Чаудри рассказал об инциденте в прошлом месяце в кулуарах ежегодной конференции RSA по кибербезопасности в Сан-Франциско, где в разговоре доминировали опасения по поводу революции в области искусственного интеллекта.
Преступники были первыми пользователями, и Zscaler ссылается на искусственный интеллект как на фактор 47-процентного роста фишинговых атак, который наблюдался в прошлом году. Мошенники автоматизируют более персонализированные тексты и голосовые записи по сценарию, избегая при этом сигналов тревоги, используя такие неконтролируемые каналы, как зашифрованные сообщения WhatsApp на личных мобильных телефонах. По словам исследователей в области безопасности, переводы на целевой язык становятся все лучше, а дезинформацию все труднее обнаружить.
Преступники были первыми пользователями, и Zscaler ссылается на искусственный интеллект как на фактор 47-процентного роста фишинговых атак, который наблюдался в прошлом году. Мошенники автоматизируют более персонализированные тексты и голосовые записи по сценарию, избегая при этом сигналов тревоги, используя такие неконтролируемые каналы, как зашифрованные сообщения WhatsApp на личных мобильных телефонах. По словам исследователей в области безопасности, переводы на целевой язык становятся все лучше, а дезинформацию все труднее обнаружить.
“Это поможет переписать код”, — предупредил на конференции глава Агентства национальной безопасности по кибербезопасности Роб Джойс. “Противники, которые приступят к работе сейчас, превзойдут тех, кто этого не делает”.
Результатом станут более правдоподобные мошенничества, более продуманный отбор инсайдеров, склонных совершать ошибки, а также рост числа случаев захвата учетных записей и фишинга как услуги, когда преступники нанимают специалистов, обладающих навыками прицеливания.
Эти профессионалы будут использовать инструменты для “автоматизации, сопоставления, сбора информации о сотрудниках, которые с большей вероятностью станут жертвами”, — сказал Дип Десаи, главный специалист по информационной безопасности Zscaler и руководитель отдела исследований.
“Это будут простые вопросы, которые будут использовать это: «Покажите мне последние семь интервью Джея. Сделайте расшифровку. Найдите мне пять человек, связанных с Джеем, в финансовом отделе.’ И бум, давайте сделаем голосовой вызов.”
Программы повышения осведомленности о фишинге, которые многие компании требуют от сотрудников ежегодно изучать, будут пересмотрены.
Перспектива возникает по мере того, как ряд профессионалов сообщают о реальном прогрессе в области безопасности. Программы-вымогатели, хотя и не исчезли, перестали резко ухудшаться. Кибервойна в Украине оказалась менее катастрофичной, чем опасались. А правительство США делилось своевременной и полезной информацией об атаках, предупредив в этом году 160 организаций о том, что они вот-вот подвергнутся атаке программ-вымогателей.
Искусственный интеллект также поможет защитникам, сканируя массивы журналов сетевого трафика на наличие аномалий, значительно ускоряя выполнение рутинных задач программирования и выискивая известные и неизвестные уязвимости, которые необходимо исправить, говорили эксперты в интервью.
Некоторые компании добавили инструменты искусственного интеллекта в свои защитные продукты или выпустили их для свободного использования другими. Microsoft, которая стала первой крупной компанией, выпустившей для широкой публики искусственный интеллект на основе чата, анонсировала Microsoft Security Copilot в марте. В нем говорилось, что пользователи могут задавать сервису вопросы об атаках, выявленных с помощью сбора триллионов ежедневных сигналов Microsoft, а также внешней информации об угрозах.
Компания Veracode, занимающаяся анализом программного обеспечения, тем временем заявила, что ее предстоящий инструмент машинного обучения будет не только сканировать код на наличие уязвимостей, но и предлагать исправления для тех, которые он найдет.
Но кибербезопасность — это асимметричная борьба. Устаревшая архитектура основных протоколов Интернета, непрерывное наслоение ошибочных программ друг на друга и десятилетия экономических и нормативных сбоев натравливают армии преступников, которым нечего бояться, на предприятия, которые даже не знают, сколько у них компьютеров, не говоря уже о том, какие из них устарели программы.
Умножая возможности обеих сторон, искусственный интеллект даст гораздо больше возможностей атакующим в обозримом будущем, заявили защитники на конференции RSA.
Любая техническая защита, такая как автоматическое распознавание лиц, открывает новые возможности. Сообщалось, что в Китае пара воров использовала несколько фотографий одного и того же человека в высоком разрешении для создания видеороликов, которые обманули программы распознавания лиц местных налоговых органов, позволив совершить аферу на сумму 77 миллионов долларов.
Многие опытные специалисты по безопасности высмеивают то, что они называют “безопасностью путем скрытности”, когда цели планируют пережить попытки взлома, скрывая, от каких программ они зависят или как эти программы работают. Такая защита часто используется не намеренно, а в качестве удобного оправдания для отказа от замены устаревшего специализированного программного обеспечения.
Эксперты утверждают, что рано или поздно пытливые умы обнаружат недостатки в этих программах и воспользуются ими для взлома.
Искусственный интеллект подвергает все подобные средства защиты смертельной опасности, потому что он может демократизировать такого рода знания, делая то, что известно где-то, известным везде.
Невероятно, но для создания атакующего программного обеспечения даже не нужно знать, как программировать.
“Вы сможете сказать: ”Просто скажите мне, как взломать систему», и она ответит: «Вот 10 путей входа», — сказал Роберт Хансен, который изучал искусственный интеллект в качестве заместителя директора по технологиям в охранной фирме Tenable. “Они просто собираются войти. Это будет совсем другой мир”.
Действительно, эксперт из охранной фирмы Forcepoint сообщил в прошлом месяце, что он использовал ChatGPT для создания программы атаки, которая могла бы искать документы на жестком диске цели и экспортировать их, и все это без самостоятельного написания какого-либо кода.
В другом эксперименте ChatGPT отказался, когда Нейт Уорфилд, директор по анализу угроз в охранной компании Eclypsium, попросил его найти уязвимость в прошивке промышленного маршрутизатора, предупредив его, что взлом является незаконным.
“Итак, я сказал: ”Расскажите мне о каких-либо небезопасных методах кодирования», и он ответил: «Да, прямо здесь», — вспоминал Уорфилд. “Это значительно облегчит поиск недостатков в масштабе”.
Проникновение — это только часть битвы, вот почему многоуровневая безопасность уже много лет является мантрой отрасли.
Но поиск вредоносных программ, которые уже находятся в вашей сети, также станет намного сложнее.
Чтобы показать риски, охранная фирма called недавно выпустила демонстрационную программу под названием Black Mamba. Он работает как обычный регистратор нажатий клавиш, извлекая пароли и данные учетной записи, за исключением того, что каждый раз, когда он запускается, он обращается к OpenAI и получает новый и отличающийся код. Это значительно усложняет работу систем обнаружения, потому что они никогда раньше не видели точную программу.
Федеральное правительство уже принимает меры по борьбе с распространением вируса. На прошлой неделе Национальный научный фонд заявил, что он и партнерские агентства вложат 140 миллионов долларов в семь новых научно-исследовательских институтов, занимающихся оказанием помощи.
Одна из них, возглавляемая Калифорнийским университетом в Санта-Барбаре, займется поиском средств для использования новой технологии для защиты от киберугроз.
Источник: https://www.washingtonpost.com/technology/2023/05/11/hacking-ai-cybersecurity-future/
от Автора: Joseph Menn joined The Post in 2022 after two decades covering technology for Reuters, the Financial Times and the Los Angeles Times. His books include «Cult of the Dead Cow: How the Original Hacking Supergroup Might Just Save the World» (2019) and «Fatal System Error: The Hunt for the New Crime Lords who are Bringing Down the Internet» (2010). Twitter/Джозеф Менн присоединился к этой должности в 2022 году после двух десятилетий работы в сфере технологий в Reuters, Financial Times и Los Angeles Times. Среди его книг — «Культ мертвой коровы: как оригинальная хакерская супергруппа могла бы просто спасти мир» (2019) и «Фатальная системная ошибка: Охота на новых криминальных авторитетов, которые разрушают Интернет» (2010). Твиттер