Meta снова подверглась критике, поскольку недавние результаты исследования, опубликованные Reuters, показывают, что ее инструменты искусственного интеллекта позволили создавать дипфейк-изображения и чат-боты, имитирующие популярных знаменитостей, таких как Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селена Гомес, без их согласия.
Расследование обнаружило, что большинство ботов были созданы пользователями через платформу ИИ-агентов Meta. Однако некоторые из них были созданы внутри компании сотрудником Meta.
Некоторые пародийные чат-боты Тейлор Свифт настаивали на том, что они являются настоящей певицей, и часто делали флиртующие намеки и предлагали встречи.
Отчеты обвиняют Meta в скандале с флиртующими аватарами
Reuters сообщает, что несколько недель тестирования показали, что чат-боты знаменитостей, доступные на платформах Meta - Facebook, Instagram и WhatsApp, иногда выходили далеко за рамки игривой беседы. Пользователи побуждали их создавать фотореалистичные изображения звезд в нижнем белье, позирующих в ваннах, и даже предлагающих интимные встречи.
Одним из тревожных открытий стало создание чат-бота Уокера Скобелла, 16-летнего актера. Когда его попросили предоставить пляжное фото, бот сгенерировал реалистичное изображение подростка без рубашки с подписью: "Довольно мило, да?"
Meta не единственная компания, подвергающаяся проверке. xAI Илона Маска также подвергся критике за то, что позволил пользователям генерировать дипфейк-изображения знаменитостей в нижнем белье.
Представитель Meta Энди Стоун признал недостатки, заявив, что инструменты компании не должны были генерировать ни интимные изображения взрослых знаменитостей, ни какие-либо сексуализированные материалы с участием несовершеннолетних.
"Как и другие, мы разрешаем генерацию изображений, содержащих публичных личностей, но наша политика направлена на запрет обнаженных, интимных или сексуально откровенных изображений", - сказал он Reuters. Он добавил, что изображения в нижнем белье отражают неудачи в соблюдении политики компании.
Правила Meta запрещают "прямую имитацию", но компания утверждала, что пародийные боты допустимы, если они четко обозначены. Однако Reuters обнаружил, что некоторые аватары не имели отказа от ответственности. Meta удалила около дюжины ботов, как пародийных, так и неотмеченных, незадолго до публикации отчета Reuters. Компания отказалась комментировать удаления.
Опасения по поводу безопасности ИИ могут привести к регуляторному давлению
После отчета Meta заявила, что внедрит новые меры защиты, направленные на защиту подростков, включая ограничение доступа молодежи к определенным персонажам ИИ и переобучение своих моделей для уменьшения неприемлемых тем.
Генеральный прокурор Калифорнии Роб Бонта выпустил предупреждение для сектора, заявив: "Подвергать детей сексуализированному контенту непростительно".
В одном трагическом случае в начале этого месяца 76-летний мужчина с когнитивными нарушениями из Нью-Джерси умер после попытки встретиться с чат-ботом Meta, которого он считал реальной женщиной. Критики говорят, что такие случаи подчеркивают опасность развертывания крупномасштабных инструментов ИИ без адекватных ограничений.
Юридические эксперты предупреждают, что Meta может столкнуться со значительными проблемами в рамках существующих законов об интеллектуальной собственности и публичности. Марк Лемли, профессор права Стэнфордского университета, сказал, что калифорнийский закон о "праве на публичность" запрещает использование имени или изображения человека в коммерческих целях без согласия.
"Похоже, что здесь это не соблюдается", - сказал он, отметив, что боты просто копировали изображения знаменитостей, а не создавали трансформирующие работы.
Самые умные крипто-умы уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь к ним.
Источник: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
