Обнажённые AI-изображения: «Закон о быстром удалении» в США позволит пользователям запрашивать быстрое удаление

С конца декабря 2025 года чат-бот с искусственным интеллектом X под названием Grok откликался на многочисленные запросы пользователей раздеть реальных людей, превращая фотографии людей в материалы сексуального характера. После того как люди начали использовать эту функцию, компания социальной платформы столкнулась с глобальной проверкой за предоставление пользователям возможности создавать изображения реальных людей сексуального характера без их согласия.

Аккаунт Grok публиковал тысячи «обнажённых» и сексуально провокационных изображений в час. Ещё более тревожным является то, что Grok создавал сексуализированные изображения и материалы сексуального характера несовершеннолетних.

Ответ X: Виноваты пользователи платформы, а не мы. Компания опубликовала заявление 3 января 2026 года, заявив, что «Любой, кто использует или подсказывает Grok создавать незаконный контент, понесёт те же последствия, как если бы он загружал незаконный контент». Неясно, какие действия, если таковые имеются, X предприняла против каких-либо пользователей.

Будучи юридическим учёным, изучающим взаимодействие права и новых технологий, я вижу этот поток изображений без согласия как предсказуемый результат сочетания слабых политик модерации контента X и доступности мощных инструментов генеративного ИИ.

Нацеливание на пользователей

Быстрый рост генеративного ИИ привёл к появлению бесчисленных веб-сайтов, приложений и чат-ботов, которые позволяют пользователям создавать материалы сексуального характера, включая «обнажение» изображений реальных детей. Но эти приложения и веб-сайты не так широко известны или используются, как любые крупные социальные медиа-платформы, такие как X.

Законодательные органы штатов и Конгресс отреагировали довольно быстро. В мае 2025 года Конгресс принял Закон о снятии материалов (Take It Down Act), который делает уголовным преступлением публикацию материалов сексуального характера реальных людей без их согласия. Закон о снятии материалов криминализирует как публикацию без согласия «интимных визуальных изображений» идентифицируемых людей, так и созданные ИИ или иным образом компьютером изображения идентифицируемых людей.

Эти уголовные положения применяются только к любым лицам, которые публикуют контент сексуального характера, а не к платформам, которые распространяют контент, таким как веб-сайты социальных сетей.

Другие положения Закона о снятии материалов, однако, требуют, чтобы платформы установили процесс для изображённых людей для запроса удаления изображений. После того как «Запрос на снятие» подан, платформа должна удалить изображение сексуального характера в течение 48 часов. Но эти требования не вступят в силу до 19 мая 2026 года.

Проблемы с платформами

Тем временем, запросы пользователей на удаление изображений сексуального характера, созданных Grok, по-видимому, остались без ответа. Даже мать одного из детей Илона Маска, Эшли Сент-Клер, не смогла добиться от X удаления поддельных сексуализированных изображений её, которые фанаты Маска создали с помощью Grok. The Guardian сообщает, что Сент-Клер сказала, что её «жалобы к сотрудникам X не привели ни к чему».

Это меня не удивляет, потому что Маск разрушил консультативную группу по доверию и безопасности тогдашнего Twitter вскоре после того, как он приобрёл платформу, и уволил 80% инженеров компании, занимавшихся доверием и безопасностью. Команды по доверию и безопасности обычно отвечают за модерацию контента и инициативы по предотвращению злоупотреблений в технологических компаниях.

Публично, похоже, Маск отклонил серьёзность ситуации. Сообщается, что Маск размещал смеющиеся со слезами эмодзи в ответ на некоторые изображения, а X ответила на запрос репортёра Reuters автоматическим ответом «Ложь устаревших медиа».

Ограничения судебных исков

Гражданские иски, такие как поданный родителями Адама Рейна, подростка, который покончил с собой в апреле 2025 года после взаимодействия с ChatGPT от OpenAI, являются одним из способов привлечь платформы к ответственности. Но судебные иски сталкиваются с тяжёлой борьбой в Соединённых Штатах, учитывая Раздел 230 Закона о приличии в коммуникациях, который в целом освобождает платформы социальных сетей от юридической ответственности за контент, который пользователи публикуют на их платформах.

Судья Верховного суда Кларенс Томас и многие юридические учёные, однако, утверждали, что Раздел 230 слишком широко применяется судами. Я в целом согласен, что иммунитет Раздела 230 необходимо сузить, потому что освобождение технологических компаний и их платформ от ответственности за их преднамеренные дизайнерские решения — как построено их программное обеспечение, как программное обеспечение работает и что программное обеспечение производит — выходит за рамки защиты Раздела 230.

В этом случае X либо сознательно, либо по небрежности не смогла развернуть меры безопасности и контроль в Grok для предотвращения создания пользователями изображений сексуального характера идентифицируемых людей. Даже если Маск и X считают, что пользователи должны иметь возможность создавать изображения сексуального характера взрослых с помощью Grok, я считаю, что ни в каком мире X не должна избежать ответственности за создание продукта, который создаёт материалы сексуального характера реальных детей.

Регуляторные ограждения

Если люди не могут привлечь к ответственности платформы, такие как X, посредством гражданских исков, то это ложится на федеральное правительство для расследования и регулирования их. Федеральная торговая комиссия, Министерство юстиции или Конгресс, например, могли бы расследовать X за создание Grok материалов сексуального характера без согласия. Но с возобновлёнными политическими связями Маска с президентом Дональдом Трампом я не ожидаю каких-либо серьёзных расследований и ответственности в ближайшее время.

На данный момент международные регуляторы начали расследования против X и Grok. Французские власти начали расследования «распространения дипфейков сексуального характера» от Grok, а Ирландский совет по гражданским свободам и Организация цифровых прав Ирландии настоятельно призвали национальную полицию Ирландии расследовать «массовый разгул раздевания». Британское регулирующее агентство Управление по коммуникациям заявило, что оно расследует этот вопрос, и регуляторы в Европейской комиссии, Индии и Малайзии также, как сообщается, расследуют X.

В Соединённых Штатах, возможно, лучшим курсом действий до вступления в силу Закона о снятии материалов в мае является требование людей к избранным чиновникам о действиях. – Rappler.com

Статья первоначально появилась на The Conversation.

Уэйн Унгер, доцент права, Университет Куиннипиак