Индия требует от X устранить непристойный контент, созданный Grok

Правительство Индии приказало принадлежащей Илону Маску блогерской платформе X внести изменения в свой чат-бот с искусственным интеллектом Grok из-за непристойного контента, созданного ИИ. Страна требует, чтобы платформа немедленно произвела технические и процедурные изменения в чат-боте после того, как пользователи и законодатели отметили несколько случаев непристойного контента.

По данным страны, чат-бот использовался для создания этих непристойных изображений, включая измененные ИИ изображения женщин, созданные с помощью инструмента. Распоряжение было выпущено в пятницу министерством IT Индии, требующим от платформы принять корректирующие меры в отношении Grok, включая ограничение генерации контента, включающего «наготу, сексуализацию, сексуально откровенные или иные незаконные» материалы. Министерство также предоставило платформе 72-часовой ультиматум для осуществления изменений.

Правительство Индии приказывает X внести технические изменения в Grok

В рамках своих обязательств по 72-часовому ультиматуму министерство также попросило X представить отчет о принятых мерах, детализирующий шаги, которые оно предприняло для предотвращения размещения или распространения неприличного контента. Этот контент включает «непристойный, порнографический, вульгарный, неприличный, сексуально откровенный, педофильский или иным образом запрещенный законом». В распоряжении предупреждалось, что если платформа не выполнит обязательные шаги, это может поставить под угрозу ее защиту «безопасной гавани».

Распоряжение Индии появилось на фоне опасений, высказанных пользователями, которые поделились примерами того, как Grok был использован для изменения изображений людей, в основном женщин, чтобы они выглядели так, будто носят бикини. Проблема была поднята официальной жалобой, которую подала индийский парламентарий Приянка Чатурведи. Чатурведи предостерегла все крупные компании с ИИ-агентами, добавив, что необходимо установить ограждения для проверки таких функций, как Grok, чтобы чат-бот не нарушал человеческое достоинство.

Источник: @priyankac19 через X.

Отдельно пользователи также отметили несколько инцидентов, когда ИИ-агент использовался для генерации сексуализированных изображений с участием несовершеннолетних, проблема, которую X признал в пятницу. Платформа заявила, что это было вызвано некоторыми упущениями в мерах защиты, прежде чем быстро удалить сгенерированные изображения. Платформа также призвала пользователей официально сообщать в Федеральное бюро расследований (FBI) или CyberTipline NCMEC, отметив, что X привержен предотвращению таких проблем.

X может столкнуться с юридическими проблемами за несоблюдение требований

По словам пользователей, неприличные изображения женщин, сгенерированные с помощью чат-бота, остались на платформе. Последнее распоряжение появилось после того, как министерство IT Индии выпустило рекомендацию для платформ социальных медиа, напоминая им, что соблюдение местных законов, регулирующих непристойный и сексуально откровенный контент, является предварительным условием для сохранения юридического иммунитета от ответственности за материалы, созданные пользователями. Страна призвала компании улучшить ограждения и предупредила, что неудача может повлечь за собой судебные иски.

«Повторяется, что несоблюдение вышеуказанных требований будет рассматриваться серьезно и может привести к строгим юридическим последствиям для вашей платформы, ее ответственных должностных лиц и пользователей платформы, нарушающих закон, без дальнейшего уведомления», — предупредило распоряжение. Правительство Индии также предупредило X, что если оно не выполнит свое указание, страна имеет право возбудить судебное дело против платформы в соответствии с законом IT Индии и уголовными статутами.

Индия стала одним из крупнейших цифровых рынков, при этом страна рассматривается как критический тестовый случай для того, насколько далеко правительства готовы зайти, чтобы привлечь платформы к ответственности за контент, созданный ИИ. Если правоприменение будет ужесточено в стране, это может иметь волновой эффект для глобальных технологических компаний, работающих в других юрисдикциях. Распоряжение также появилось, когда X продолжает оспаривать правила регулирования контента в Индии в суде.

Платформа утверждает, что полномочия федерального правительства по удалению контента рискуют стать чрезмерными, хотя платформа выполнила большинство директив о блокировке, выдвинутых страной. В то же время Grok был полезен пользователям на X, при этом большинство пользователей используют платформу для проверки фактов в реальном времени и комментариев о глобальных событиях, что делает его результаты более заметными и более политически чувствительными, чем у автономных ИИ-инструментов.

Не просто читайте криптовалютные новости. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.