Европейская комиссия начала официальное разбирательство против ИИ-чатбота Grok от xAI

Европейская комиссия открыла официальное разбирательство против социальной медиаплатформы Илона Маска X после того, как было обнаружено, что ее чат-бот с искусственным интеллектом Grok создает сексуальные изображения реальных людей без их разрешения, включая фотографии детей.

Пользователи X создавали измененные ИИ версии реальных фотографий, прося Grok создать их. Исследование, опубликованное на прошлой неделе Центром по противодействию цифровой ненависти, показало, что Grok создал примерно три миллиона дипфейк-изображений женщин и детей всего за несколько дней.

Этот скандал вызвал призывы к расследованиям в нескольких странах. В Ирландии ряд правительственных министров закрыли свои аккаунты в X в ответ на это.

Регина Доэрти, член Европейского парламента от Fine Gael, подтвердила действия Комиссии против компании в заявлении, опубликованном сегодня утром. Она заявила, что поддерживает решение о начале официального расследования.

«Когда появляются достоверные сообщения о том, что системы ИИ используются способами, которые причиняют вред женщинам и детям, важно, чтобы законодательство ЕС было проверено и применено без промедления», — сказала Доэрти.

Она добавила, что дело вызывает серьезные опасения по поводу того, выполняют ли платформы свои юридические обязанности по проверке рисков и предотвращению распространения незаконного и вредоносного контента.

Доэрти подчеркнула, что расследование должно привести к реальным последствиям.

«Ни одна компания, работающая в ЕС, не стоит выше закона», — заявила она.

Она также отметила, что ситуация показывает более серьезные проблемы в том, как регулируются и контролируются новые технологии ИИ, призывая к принятию дополнительных мер на уровне ЕС.

«Это дело подчеркивает, почему Закон об ИИ должен оставаться живым законодательным актом. Если пробелы в правоприменении или надзоре становятся очевидными, то наша обязанность — устранить их. Законы ЕС должны быть применимы мониторинг рисков в реальном времени, когда происходит серьезный вред», — сказала Доэрти.

Расследование отложено из-за кризиса в Гренландии

Согласно немецкому информационному источнику Handelsblatt, Комиссия планировала начать разбирательство в соответствии с Законом о цифровых услугах ЕС в прошлый понедельник, но решение было отложено, поскольку блок имел дело с угрозами президента США Дональда Трампа захватить Гренландию.

Это не первый раз, когда X сталкивается с проблемами с регуляторами ЕС. В декабре 2025 года платформа получила штраф в размере 120 миллионов € от ЕС за нарушение Закона о цифровых услугах. Нарушения включали вводящие в заблуждение синие галочки, отсутствие прозрачности в отношении рекламы и предотвращение доступа исследователей к платформе.

Официальные лица администрации Трампа резко высказались по поводу этого штрафа. Государственный секретарь Марко Рубио и вице-президент Джей Ди Вэнс оба резко раскритиковали его, назвав это атакой на американские технологические платформы.

Фокус на оценке рисков и модерации контента

Последнее расследование сосредоточено конкретно на том, правильно ли X оценила риски своего ИИ-чат-бота и приняла ли достаточные меры для предотвращения создания и распространения вредоносного контента. Закон о цифровых услугах требует от крупных онлайн-платформ выявлять и устранять риски, связанные с незаконным контентом и вредом для пользователей.

Быстрое производство такого большого объема неподобающих изображений за такой короткий период времени вызвало тревогу среди защитников цифровой безопасности и законодателей.

Эта ситуация стала тестовым случаем того, как правила ЕС будут справляться с новыми технологиями ИИ. Хотя Закон об ИИ был принят для управления системами искусственного интеллекта, это дело ведется в соответствии с Законом о цифровых услугах, который охватывает обязанности онлайн-платформ.

Расследование может привести к дополнительным штрафам или требованиям к X изменить способ работы Grok. Комиссия имеет право налагать штрафы в размере до шести процентов от глобального годового дохода компании за серьезные нарушения Закона о цифровых услугах.

X еще не прокомментировала публично новое расследование. За действиями компании в этой ситуации будут внимательно следить, поскольку другие страны рассматривают свои собственные регуляторные ответы. Несколько стран уже потребовали срочных действий для решения проблемы способности чат-бота создавать неподобающие изображения.

Не просто читайте криптоновости. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.