Малайзия и Индонезия ограничивают Grok из-за злоупотреблений ИИ с сексуальным контентом

Малайзия и Индонезия ограничили доступ к Grok, чат-боту с искусственным интеллектом, связанному с социальной медиа-платформой Илона Маска X. Это решение принято в ответ на обеспокоенность тем, что инструмент ИИ используется для создания фейковых изображений реальных людей сексуального характера.

Grok позволяет пользователям создавать и изменять изображения. Однако власти обеих стран выразили обеспокоенность тем, что он все чаще используется для манипулирования фотографиями в откровенный или сексуализированный контент без согласия. Регуляторы подчеркнули риски для женщин и детей, заявив, что инструмент может легко использоваться неправомерно для создания порнографических дипфейков.

Малайзия и Индонезия теперь стали первыми странами в мире, которые полностью заблокировали Grok, заняв твердую позицию против инструментов ИИ, которые, по мнению властей, развиваются быстрее, чем правила безопасности.

Grok пересекает правовые и социальные границы

Регуляторы обеспокоены более широкими проблемами помимо одного чат-бота, поскольку рост изображений сексуального характера, созданных ИИ, выявляет пробелы в законах об онлайн-безопасности и создает риски для пользователей. В Малайзии регулятор связи отметил, что ранее предупреждал X о неправомерном использовании его ИИ, но посчитал, что ответ компании отдал приоритет пользовательским отчетам вместо решения основной проблемы.

Министерство цифровых дел Индонезии подчеркнуло необходимость соблюдения достоинства и прав человека, заявив, что инструменты ИИ, создающие сексуальный контент без согласия, наносят ущерб общественному доверию и ставят под угрозу уязвимые группы. Правительство потребовало от X объяснить, как Grok контролируется и модерируется.

Запрет также отражает давнюю позицию Индонезии в отношении онлайн-контента. Страна ранее блокировала такие платформы, как Pornhub и OnlyFans, и чиновники рассматривают изображения сексуального характера, созданные ИИ, как продолжение той же проблемы, теперь доставляемой с помощью новых технологий.

Читайте также: Внутри кризиса дипфейк-порнографии Grok и грядущие правовые последствия

Споры вокруг Grok привлекают внимание за пределами Юго-Восточной Азии. В Соединенном Королевстве регуляторы в настоящее время оценивают, соблюдает ли X правила онлайн-безопасности. Кроме того, политические лидеры публично критиковали использование технологий для создания откровенных фейковых изображений.

Для пользователей воздействие носит личный характер. Некоторые люди, чьи изображения были изменены с помощью Grok, сообщают, что жалобы на контент мало что сделали для предотвращения его распространения. В некоторых случаях призывы к другим сообщить о публикациях привели лишь к тому, что фейковые изображения увидело больше людей, усугубляя вред.

Растущее недовольство побуждает X пересмотреть, как работает Grok, особенно по мере того, как правительства начинают рассматривать инструменты ИИ как регулируемые продукты, а не экспериментальные функции.

Публикация «Малайзия и Индонезия ограничивают Grok из-за злоупотребления ИИ для создания контента сексуального характера» впервые появилась на Technext.