Жалоба звучит страшно знакомо любому, кто недавно листал технические форумы: «Мне грустно, что вы интегрируете AI-мусор в сайт… Никто этого не просил».
Но источником этого раздражения является не типичное потребительское приложение или популярная социальная сеть. Это форум киберпреступников. Как и миллионы легальных пользователей интернета, мошенники, аферисты и хакеры низкого уровня всё чаще злятся на проникновение генеративного ИИ и наводнение их онлайн-сообществ низкокачественным «АИ-сметом» (AI slop).
Этот сдвиг раскрывает сложную динамику в цифровом подполье: если изначально ИИ восхваляли как инструмент для автоматизации преступлений, теперь он сталкивается с отпором со стороны тех, кто видит в нём угрозу стандартам сообщества, репутации и человеческому взаимодействию.
Протест против автоматизированного контента
Бен Коллиер, исследователь безопасности и старший преподаватель Университета Эдинбурга, возглавил недавнее исследование, которое подчёркивает этот растущий раздражение. Вместе с коллегами из Кембриджского университета и Университета Стратклайда Коллиер проанализировал почти 100 000 разговоров об ИИ на форумах киберпреступников с момента запуска ChatGPT в конце 2022 года и до конца прошлого года.
Результаты показывают четкую смену отношения. Во время начального этапа эйфории многие пользователи были в восторге от того, как ИИ может помочь во взломах. Сегодня же дискурс доминируют скептицизм и раздражение.
Основные претензии, выявленные в исследовании, включают:
— Низкокачественные посты: Пользователи жалуются на «попунктовые объяснения» базовых концепций кибербезопасности, которые добавляют мало ценности.
— Инфляция репутации: Есть опасения, что люди используют ИИ для публикации сложных на вид материалов, чтобы искусственно поднять свой статус в сообществе.
— Снижение трафика: Некоторые пользователи винят обзоры AI-поиска Google в снижении числа посетителей этих форумов, что угрожает их жизнеспособности.
«Это по сути социальные пространства. Они действительно ненавидят, когда другие используют [ИИ] на форумах», — говорит Коллиер. Он отмечает, что социальная динамика нарушается, когда потенциальные киберпреступники пытаются получить лучшую репутацию, публикуя созданные ИИ руководства по взлому. «Я думаю, многие из них немного амбивалентны по отношению к ИИ, потому что он подрывает их претензии быть квалифицированными специалистами.»
Сообщество, основанное на доверии и мастерстве
На протяжении десятилетий доски сообщений и маркетплейсы киберпреступности — многие из которых имеют российское происхождение — служили центрами нелегальной торговли. Эти платформы позволяют мошенникам обмениваться украденными данными, рекламировать услуги по взлому и поддерживать неформальные беседы. Несмотря на хищническую природу этих сред, они работают по строгим нормам сообщества.
Репутация — это валюта. Пользователи строят доверие со временем, а владельцы форумов часто проводят конкурсы по написанию статей или технические испытания для стимулирования участия. Когда созданный ИИ контент заполняет эти пространства, это нарушает негласное правило, согласно которому вклады должны отражать настоящие усилия и экспертизу.
Посты на Hack Forums, самопровозглашенном пространстве для энтузиастов взлома, ясно иллюстрируют это трение. Один пользователь написал: «Вижу много участников, использующих ИИ для создания своих тредов/постов, и это меня бесит, так как они даже не берутся потратить время на написание одного-двух простых предложений». Другой был более прямым: «Перестаньте постить AI-дерьмо».
Желание человеческого контакта остается сильным. Как отметил один из постеров, цитируемый в исследовании: «Если бы я хотел говорить с ИИ-чатботом, есть много сайтов для этого… Я прихожу сюда ради человеческого взаимодействия».
Реальное влияние ИИ на киберпреступность
Хотя культурный отпор значителен, практическое влияние ИИ на операции киберпреступности более нюансировано. С момента появления ChatGPT возникла интенсивная спекуляция о том, как ИИ может трансформировать онлайн-преступления. И изощренные акторы, и любители экспериментировали с этой технологией.
Организованные мошенники действительно использовали ИИ для определенных задач, таких как создание реалистичных видео со сменой лиц для атак социальной инженерии или перевод сообщений обманов на несколько языков. Однако более широкое обещание ИИ писать вредоносный код или находить уязвимости не полностью реализовалось для среднего хакера.
Иэн Грей, вице-президент по разведке в компании безопасности Flashpoint, объясняет, что изощренные угрожающие акторы хорошо осведомлены об ограничениях коммерческих моделей ИИ. Эти модели имеют защитные барьеры, которые можно обойти («джэйлбрейкнуть»), но процесс не безупречен.
«Они также осторожны с проектами, созданными ИИ, на форумах или маркетплейсах — есть слабости и уязвимости, иногда раскрывающие базовую инфраструктуру», — говорит Грей.
Исследователи Flashpoint наблюдали обсуждения вокруг новых передовых моделей, таких как Anthropic’s Claude Mythos Preview, которые вызвали тревогу внутри индустрии кибербезопасности. Интересно, что некоторые группы киберпреступников теперь принижают сверстников, слишком сильно полагающихся на ИИ, при этом одна группа якобы отбросила другую, сказав: «всё, что они умеют, это использовать ИИ».
Ограниченное нарушение, специфическая автоматизация
Несмотря на жаркие дебаты, исследование Коллиера не нашло доказательств «реального нарушения», вызванного ИИ среди низкоуровневых киберпреступников. Технология не значительно снизила порог входа для взлома, ни не разрушила установленные уголовные бизнес-модели.
Вместо этого основное влияние ИИ было в областях, которые уже были высок автоматизированы:
— SEO-мошенничество: Генерация массового контента для манипуляции рейтингами поиска.
— Боты в социальных сетях: Автоматизация взаимодействия и спама.
— Романтические scams: Масштабирование персонализированных сценариев взаимодействия.
Некоторые пользователи Hack Forums остаются открытыми к ограниченному помощи ИИ, таким как инструменты для улучшения грамматики или структурирования постов. Однако они проводят четкую границу на полной автоматизации. Один пользователь предупредил: «Генератор постов от ИИ превратит это в кланкерный форум, где ИИ говорит с другими ИИ».
Будущее ИИ в подполье
Несмотря на текущее холодное принятие, некоторые акторы всё еще продвигают глубокую интеграцию. Исследователи Flashpoint заметили хакеров, обсуждающих создание «улучшенного ИИ» киберпреступного рынка, предназначенного для ускорения покупки украденных данных и аккаунтов.
Это предложение встретило немедленный отпор. Как лаконично выразился один из пользователей форума: «ЭТО ДУРАЦКАЯ БЛЮДНАЯ ИДЕЯ ВНЕДРЯТЬ ИИ В ВАШ РЫНОК».
Напряжение между эффективностью и аутентичностью теперь разыгрывается в тенях интернета. Хотя ИИ может и не революционизировал методы взлома так драматично, как предсказывалось, он определенно ввел новый слой социального трения в экосистему киберпреступности. На данный момент подпольное сообщество предпочитает человеческое мастерство искусственному интеллекту, ценя репутацию и взаимодействие над автоматизированным удобством.
