Генеральный прокурор Калифорнии Роб Бонта направил письмо с требованием прекратить деятельность компании xAI Илона Маска, требуя, чтобы компания немедленно прекратила производство и распространение оскорбительных дипфейковых изображений, созданных ее чат-ботом Grok.
Генеральный прокурор Калифорнии опубликовал письмо с требованием прекратить деятельность в пятницу в ответ на обвинения в том, что Grok использовался для создания незаконного контента с участием детей и фотографий взрослых без их согласия, что привело к расследованию штата Калифорния. Бонта утверждал, что создание, распространение, публикация и демонстрация CSAM являются незаконными.
Генеральный прокурор Калифорнии нацелился на xAI из-за предполагаемого неправомерного использования Grok
Ранее на этой неделе офис генерального прокурора Калифорнии заявил, что проводит расследование в отношении xAI из-за обвинений в том, что чат-бот стартапа Grok использовался для создания неприемлемых изображений женщин и детей без их согласия. В ответ правительство направило корпорации письмо с требованием прекратить деятельность.
Офис генерального прокурора также утверждал, что xAI, по-видимому, "способствует крупномасштабному производству" неприемлемых фотографий без согласия, которые затем "используются для преследования женщин и девочек в интернете". По данным офиса генерального прокурора, одно исследование показало, что более половины из 20 000 фотографий, созданных xAI в период между Рождеством и Новым годом, изображали людей в очень легкой одежде, некоторые из которых выглядели как дети.
Роб Бонта заявил в объявлении, что корпоративная практика нарушает гражданские законы Калифорнии, включая раздел 1708.86 Гражданского кодекса Калифорнии, разделы 311 и последующие и 647(j)(4) Уголовного кодекса Калифорнии, а также раздел 17200 Кодекса предпринимательской и профессиональной деятельности Калифорнии.
Министерство юстиции Калифорнии ожидает, что xAI подтвердит свои усилия по решению этих проблем и примет немедленные меры для их устранения в течение следующих пяти дней.
Однако аккаунт безопасности X ранее осудил такое поведение пользователей. Он разъяснил 4 января, что принимает меры против незаконного контента на X, такого как CSAM, удаляя его, приостанавливая работу аккаунтов на неопределенный срок и сотрудничая с правоохранительными органами и муниципальными властями по мере необходимости.
Примечательно, что 4 января Илон Маск предупредил, что любой, кто использует Grok или побуждает его создавать незаконный контент, столкнется с теми же последствиями, как если бы он загрузил его.
Генеральные прокуроры усиливают давление на компании, работающие с ИИ, в вопросах безопасности детей
Тревожный рост контента для взрослых без согласия стал результатом разработки бесплатных генеративных инструментов ИИ. Эта проблема беспокоит несколько платформ, а не только X.
Например, генеральный прокурор Бонта и генеральный прокурор Дженнингс из Делавэра встретились с OpenAI в сентябре прошлого года, чтобы выразить свою серьезную обеспокоенность растущим числом сообщений о том, как продукты OpenAI взаимодействуют с молодежью.
В августе того же года генеральный прокурор Бонта вместе с 44 другими генеральными прокурорами направил письмо 12 ведущим компаниям, работающим с ИИ, после сообщений о неуместных взаимодействиях между чат-ботами с ИИ и детьми. Письма были отправлены в Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI.
Генеральный прокурор Бонта и 44 генеральных прокурора сообщили компаниям в письме, что штаты по всей стране внимательно следят за тем, как компании разрабатывают свои политики безопасности ИИ. Они также подчеркнули, что эти компании несут юридическую ответственность перед детьми как потребителями, поскольку они получают прибыль от использования их продуктов детьми.
В 2023 году генеральный прокурор Бонта присоединился к двухпартийной коалиции из 54 штатов и территорий, направив письмо лидерам Конгресса с призывом создать экспертный комитет для расследования потенциального использования ИИ для эксплуатации детей посредством CSAM.
Коалиция запросила, чтобы экспертная комиссия предложила законы для защиты детей от такого жестокого обращения. "Производство CSAM создает постоянную запись о виктимизации ребенка", согласно Министерству юстиции США.
Если вы читаете это, вы уже впереди. Оставайтесь там с нашей рассылкой.
Источник: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
