Grok и дипфейки: скандал с CSAM потряс рынок ИИ

Введение: история, которая изменила правила игры

В середине августа 2026 года к коллективному иску против xAI (ныне часть SpaceX) присоединилась женщина, известная как Jane Doe 4. По данным The Washington Post и TechCrunch, её отчим использовал чат-бот Grok, чтобы превратить фотографию 11-летней девочки в более 7 000 изображений сексуального характера, а затем обменивался ими с другими преступниками в даркнете. Через два дня после того, как полиция обнаружила эти материалы и предъявила обвинения, отчим покончил с собой.

Этот случай — не единичный инцидент, а вершина айсберга крупнейшего скандала в индустрии генеративного ИИ за 2026 год. Он вскрыл фундаментальную проблему: массовые модели генерации изображений, обученные на сексуальном контенте взрослых, архитектурно неспособны полностью блокировать создание материалов с детьми. И эта проблема имеет прямые рыночные последствия — от судебных исков на сотни миллионов долларов до регуляторных расследований по всему миру.

Технические детали: почему Grok не может «просто добавить фильтр»

Архитектурная дилемма

Ключевой технический вопрос, который обсуждают инженеры и эксперты по безопасности, — почему xAI не может просто усилить модерацию. Ответ лежит в самой архитектуре генеративных моделей.

Модель, способная создавать откровенный контент со взрослыми, обучена на репрезентациях человеческих тел в сексуальном контексте. Та же самая способность — выученные статистические связи между токенами изображений и описаниями сексуального содержания — может производить CSAM, когда промпт смещает описываемый субъект на ребёнка. Пост-генерационные фильтры могут снизить долю успешных запросов, но не могут достичь нулевого уровня ложных срабатываний. А при масштабах Grok даже малый процент ошибок даёт огромное абсолютное число вредоносных изображений.

Внутренний анализ xAI, процитированный в расследовании The Information в июне 2026 года, показал, что инженеры не нашли надёжного технического решения этой дилеммы. Этот вывод подтвердила и канадская Служба уполномоченного по вопросам конфиденциальности: меры xAI сократили нарушения примерно вдвое, но платформа по-прежнему способна генерировать неконсенсуальные сексуализированные дипфейки. При миллионах изображений в месяц сокращение вдвое не является адекватной защитой.

Масштаб проблемы: цифры Resemble AI

Отчёт Resemble AI за первое полугодие 2026 года (опубликован 12 августа) даёт наиболее полную картину масштаба:

Центр по борьбе с цифровой ненавистью (CCDH) задокументировал, что за 11-дневное окно (29 декабря 2025 — 8 января 2026) Grok сгенерировал примерно 3 миллиона сексуализированных изображений — со скоростью более 6 000 изображений в час, включая около 23 000 изображений, изображающих детей.

Новая модель на фоне скандала

Примечательно, что на фоне всех этих событий xAI 7 августа 2026 года выпустила новую модель Grok Imagine Image 2.0 — «режим качества» с расширенными возможностями редактирования: Magic Wand (региональные правки), сегментация, удаление фона, мульти-вход до 5 референсных изображений, Smart Resize. Цена API — $0,05 за изображение (против $0,02 у стандартной версии).

На момент запуска xAI заявляла о 2-м месте в Arena (Elo ~1 320), но уже к 10 августа модель опустилась на 3-е место (1 316 Elo), уступив Microsoft MAI-Image-2.6 (1 336) и OpenAI gpt-image-2 (1 381). Независимые тесты показали сильные стороны в фотореализме и сохранении идентичности, но слабости в многоязычном тексте и стилизации.

Рыночный контекст: как скандал бьёт по бизнесу

Юридические последствия

Скандал породил волну судебных исков, которая продолжает расти:

• Март 2026: три подростка из Теннесси подали коллективный иск против xAI (позже расширен до пяти истцов — Jane Does 1–5).
• Июнь 2026: британский депутат Джесс Асато подала иск в Высокий суд Великобритании.
• Июль 2026: xAI впервые подала иск против собственного пользователя — Терри Уэйна Харвуда из Южной Каролины, обвинив его в создании CSAM через Grok.
• Август 2026: Potts Law Firm подала четвёртый гражданский иск против xAI (дело о подростке из Арканзаса).

Ключевая проблема для xAI — данные NCMEC (Национального центра по пропавшим и эксплуатируемым детям). По оценке начала 2026 года, 90% отчётов xAI в CyberTipline были непригодны для правоохранительных органов, поскольку xAI отказывалась включать данные пользователей, позволяющие отследить и найти преступников. В деле Jane Doe 4 xAI передала в NCMEC только оригинальную (не-CSAM) фотографию, опустив все сгенерированные изображения и IP-адрес.

Финансовое давление

SpaceX, поглотившая xAI в начале 2026 года, в проспекте к IPO (июнь 2026) зарезервировала $530 млн на покрытие потенциальных убытков от судебных разбирательств, связанных с генерацией изображений Grok. В проспекте прямо указано, что NSFW-режимы Grok «более дерзкие и жёсткие, чем стандартные предложения», и несут «повышенные риски» и «репутационный ущерб».

При этом Grok остаётся ключевым драйвером роста. SpaceX отчиталась о $2,56 млрд выручки от ИИ во втором квартале 2026 года — рост на 247% год к году. Маск заявлял сотрудникам, что выручка от ИИ может превзойти все остальные направления бизнеса уже к сентябрю 2026 года.

Регуляторное давление

Первый в США закон о запрете «нудификации» вступил в силу в Миннесоте 1 августа 2026 года — с гражданскими штрафами от $500 000 за нарушение. Федеральный суд отклонил экстренное ходатайство xAI о приостановке закона; слушание по предварительному судебному запрету назначено на 19 августа.

Перспективы: что дальше

Технологический ответ: детекция «физического мира»

Ответом на проблему становится новый класс детекторов. Resemble AI выпустила DETECT-World — модель третьего поколения, которая проверяет не «знакомые паттерны», а соответствие физической реальности: согласованность освещения, направление теней, когерентность движения фона. Это позволяет ловить дипфейки от генераторов, которых модель никогда не видела. Внутренние тесты: 99,47% точности на аудио (внешне валидировано), 95,8% на изображениях и 98,2% на видео (внутренние бенчмарки).

Правовой ландшафт

Великобритания ужесточает законодательство: с 6 февраля 2026 года (Section 138 Data (Use and Access) Act) незаконно даже просить ИИ создать интимные изображения без согласия. Закон о преступности и полиции (2026) вводит дополнительные составы преступлений, включая криминализацию «нудификационных» технологий.

Рыночные сценарии

Ключевой вопрос для рынка — сможет ли xAI сохранить коммерческую модель, основанную на NSFW-контенте, под давлением регуляторов. По оценке The Information, более половины трафика Grok приходится на NSFW-активность (изображения, видео, ролевые чаты). Это создаёт фундаментальное противоречие: ужесточение фильтров для защиты детей неизбежно ударит по основному драйверу трафика и выручки.

Итог: стоит ли использовать Grok

Для бизнеса и разработчиков вывод неоднозначный. С одной стороны, Grok Imagine Image 2.0 — технически сильная модель с отличным фотореализмом и сохранением идентичности, с простым плоским ценообразованием ($0,05/изображение). С другой — репутационные и юридические риски, связанные с платформой, значительны.

Рекомендации для деловой аудитории:

• Для фотореалистичной генерации и редактирования с сохранением идентичности — модель стоит протестировать, но не закладывать в критичные пайплайны.
• Для пайплайнов с локализованным текстом и стилизацией — пока рано (независимые тесты выявили слабости).
• Для задач, связанных с обработкой изображений реальных людей, — крайне высокий комплаенс-риск.
• Следите за исходом слушания 19 августа в Миннесоте — оно задаст прецедент для всей отрасли.

FAQ

Почему xAI не может просто заблокировать создание CSAM в Grok?
Это архитектурная проблема. Модель, способная генерировать откровенный контент взрослых, обучена на сексуальных репрезентациях тел; та же способность может производить CSAM при смещении промпта на ребёнка. Пост-фильтры снижают, но не устраняют проблему. Внутренний анализ xAI (The Information, июнь 2026) подтвердил отсутствие надёжного технического решения без демонтажа взрослого контента.

Насколько велик масштаб проблемы с дипфейками Grok?
По данным Resemble AI за первое полугодие 2026 года, Grok отвечает за 87% отслеживаемых deepfake-файлов (15 736 подтверждённых жертв, 821 атака). CCDH задокументировал ~3 млн сексуализированных изображений за 11 дней, включая ~23 000 с детьми. UNICEF оценивает, что минимум 1,2 млн детей в 11 странах стали жертвами манипуляций с изображениями.

Какие юридические риски несёт использование Grok для бизнеса?
Помимо репутационных, есть прямые финансовые риски. SpaceX зарезервировала $530 млн на судебные разбирательства. Resemble AI оценивает потенциальную гражданскую ответственность компаний, допускающих распространение таких изображений, до $2,24 млрд. Закон Миннесоты предусматривает штрафы от $500 000 за нарушение. В Великобритании с февраля 2026 года незаконно даже просить ИИ создать интимные изображения без согласия.