Логотип приложения Claude от Anthropic появляется на экране смартфона в Рено, США, 21 ноября 2024 года. (Фото: Jaque Silva/NurPhoto через Getty Images)
NurPhoto через Getty Images
В течение некоторого времени бизнес-модель относительно немногочисленных киберпреступных гениев, создающих сложное вредоносное ПО, такое как программы-вымогатели, заключалась в предложении своего вредоносного ПО и услуг менее опытным киберпреступникам в Даркнете, иногда даже предоставляя системы доставки в обмен на процент от полученного выкупа. Однако ИИ быстро изменил эту модель, поскольку даже менее опытные преступники могут использовать искусственный интеллект для совершения различных мошенничеств.
Инструменты ИИ могут собирать огромные объемы данных из социальных сетей и общедоступных источников, позволяя киберпреступникам создавать целенаправленные фишинговые письма, называемые целевыми фишинговыми письмами, которым с большей вероятностью доверяют их жертвы, часто заманивая их к предоставлению личной информации, что может привести к краже личных данных или осуществлению платежа под каким-либо предлогом.
Легкодоступные технологии дипфейков и клонирования голоса позволили киберпреступникам совершать различные мошенничества, включая мошенничество с имитацией родственников или семейные чрезвычайные ситуации, а также мошенничество с компрометацией деловой электронной почты, которое в прошлом опиралось на методы социальной инженерии, осуществляемые в основном через электронные письма, в которых мошенник выдавал себя за руководителя компании и убеждал сотрудников более низкого уровня авторизовать платеж по указанию мошенника под каким-либо предлогом. Это мошенничество, которое в основном началось в 2018 году, привело к мировым потерям более 55 миллиардов $ в период с октября 2023 года по декабрь 2023 года, согласно данным ФБР.
Теперь с появлением ИИ и использованием технологии дипфейков и клонирования голоса, мошенники повысили ставки. В 2024 году инженерная фирма Arup потеряла 25 миллионов $ из-за киберпреступников, которые выдавали себя за финансового директора компании в поддельных видеозвонках и убедили сотрудника компании перевести деньги.
Но ситуация не так плоха, как вы думаете. Она гораздо хуже.
Anthropic, компания, разработавшая чат-бота Claude, недавно выпустила отчет, в котором подробно описывается, как их чат-бот использовался для разработки и реализации сложных киберпреступлений. В отчете описывается эволюция использования ИИ киберпреступниками не только как инструмента для разработки вредоносного ПО, но и как активного оператора кибератаки, что они назвали "Vibe-hacking". В отчете приводится пример одного киберпреступника из Великобритании, обозначенного как GTG-5004, который использовал Claude для поиска компаний, уязвимых для атак программ-вымогателей, сканируя тысячи конечных точек VPN для обнаружения уязвимых систем, определения наилучшего способа проникновения в сети компаний, создания вредоносного ПО с возможностями уклонения для кражи конфиденциальных данных, доставки вредоносного ПО, кражи данных и просеивания данных для определения, какие данные могут быть лучше всего использованы для вымогательства у взломанной компании, и даже использования психологии для составления электронных писем с требованиями выкупа. Claude также использовался для кражи финансовых записей целевой компании, чтобы определить сумму Bitcoin, которую следует требовать в обмен на неопубликование украденного материала.
За один месяц GTG-5004 использовал Claude для атаки на 17 организаций, связанных с правительством, здравоохранением, службами экстренной помощи и религиозными учреждениями, выдвигая требования от 75 000 $ до более чем 500 000 $
Затем GTG-5004 начал продавать услуги программ-вымогателей по запросу другим киберпреступникам в Даркнете с различными уровнями пакетов, включая возможности шифрования и методы, разработанные для помощи хакерам избежать обнаружения. Важно отметить, что в отчете указывалось, что в отличие от прошлого, когда технологически продвинутые преступники продавали или сдавали в аренду в Даркнете вредоносное ПО, которое они лично создавали, в отчете указывалось, что "Этот оператор, по-видимому, не способен реализовать алгоритмы шифрования, методы анти-анализа или манипуляции с внутренними компонентами Windows без помощи Claude".
В результате один киберпреступник теперь может делать то, что раньше требовало целой команды специалистов по криптографии, внутренним компонентам Windows и методам уклонения, для создания программ-вымогателей и автоматического принятия как стратегических, так и тактических решений относительно целей, эксплуатации и монетизации, а также адаптации к встреченным защитным мерам. Все это снижает планку для преступников, стремящихся совершать киберпреступления.
В отчете также подробно описывается, как возможности ИИ неправильно использовались северокорейскими оперативниками, которые использовали его для получения удаленной работы в технологических компаниях. Согласно отчету, "Традиционные операции северокорейских ИТ-работников опирались на высококвалифицированных специалистов, набранных и обученных с юного возраста в Северной Корее. Наше расследование выявляет фундаментальный сдвиг: ИИ стал основным инструментом, позволяющим операторам с ограниченными техническими навыками успешно проникать и удерживать позиции в западных технологических компаниях".
В отчете описывается, как с помощью ИИ корейские операторы, которые не могли самостоятельно писать базовый код или общаться на английском языке, теперь могут успешно проходить собеседования и получать работу в технологических компаниях, зарабатывая сотни миллионов долларов ежегодно, что финансирует программы вооружения Северной Кореи. Усугубляя ситуацию, с помощью ИИ каждый оператор может занимать несколько рабочих позиций в американских технологических компаниях, что было бы невозможно без использования ИИ
Anthropic отреагировал на выявленные угрозы, заблокировав учетные записи, связанные с этими операциями, и разработав специальный классификатор для конкретного выявления этого типа деятельности и внедрения мер обнаружения в свои уже существующие системы обеспечения безопасности. Кроме того, Anthropic поделился своими выводами с другими компаниями, а также с сообществом безопасности, чтобы помочь им распознавать и защищаться от угроз, создаваемых преступниками, использующими платформы ИИ. Однако угроза использования ИИ для киберпреступлений остается значительной.
Отчет Anthropic действительно является сигналом к пробуждению для всей индустрии ИИ.
Источник: https://www.forbes.com/sites/steveweisman/2025/09/02/ai-is-making-cybercrime-easier-for-unsophisticated-criminals/
