Представители США предупреждают Уолл-стрит о рисках ИИ Anthropic

Модель Mythos указывает на риск безопасности

Внимание сосредоточено на модели Mythos компании Anthropic, которая предположительно обнаруживает и использует уязвимости в операционных системах и веб-платформах. Более того, компания признала, что модель способна имитировать атаки при провокации в контролируемых условиях. Таким образом, власти рассматривают такие возможности как потенциальную угрозу при злоупотреблении злонамеренными лицами. Это усилило проверку в финансовых и регулятивных областях. Anthropic имеет ограниченный доступ к Mythos и расширяет защитные приложения с помощью проекта Glasswing. Крупные компании, такие как Amazon, Apple и JPMorgan Chase, являются частью инициативы. Кроме того, такие организации, как Google, NVIDIA и Linux Foundation, стали участниками. Предлагая усилить безопасность программного обеспечения через обнаружение уязвимостей на основе ИИ, эти группы преследуют эту цель.

Компания вложила много ресурсов в продвижение инициативы и углубление защитного охвата. Anthropic предоставила до 100 миллионов кредитов на использование и 4 миллиона в виде прямого финансирования. Более того, более 40 организаций, контролирующих критическую инфраструктуру, смогли получить доступ к системе. Это совместное усилие направлено на обнаружение и устранение дефектов высокой степени серьезности в популярном программном обеспечении. Anthropic остается интересной с изменениями в правовых и регулятивных разработках. Администрация Трампа пыталась принять меры против компании в ее классификации, но была остановлена федеральным судом в Сан-Франциско. Судья Рита Лин постановила, что обозначение не было существенно основано на законе. Таким образом, это решение было недолгой передышкой, поскольку ИИ-агенты остаются под пристальным наблюдением.

Компания зафиксировала устойчивый финансовый рост, и ее годовые повторяющиеся доходы резко увеличились за последние несколько месяцев. Это усилило интерес как к технологиям, так и к финансам. Кроме того, Аналитики все еще оценивают общее влияние на конкурирующие компании, такие как Palantir Technologies. Участники рынка отслеживают, как внедрение ИИ влияет на конкуренцию в отрасли. Последние инновации в Anthropic вызвали повышенный интерес к безопасности ИИ, регулятивным требованиям и рыночным последствиям. Они остались влиятельными в политических дебатах и финансовой готовности.

Эта статья была первоначально опубликована как «Чиновники США предупреждают Уолл-стрит о рисках ИИ-агента Anthropic» на Crypto Breaking News — вашем надежном источнике криптоновостей, новостей о Bitcoin и обновлений блокчейна.