Противостояние с Пентагоном ставит под угрозу меры безопасности ИИ Anthropic и оборонный контракт на $200 млн

Растущая напряженность между ведущей лабораторией искусственного интеллекта и оборонным ведомством США переросла в столкновение с высокими ставками по поводу anthropic ai и использования на поле боя.

Anthropic твердо противостоит давлению Пентагона

Anthropic отказалась выполнить требования Министерства обороны США об удалении ключевых ограничений безопасности ИИ из своих систем, хотя ее контракт на 200 миллионов $ теперь находится под угрозой. Компания ясно дала понять, что не отступит в своем споре с DoD о том, как ее расширенные модели могут быть развернуты в военных сетях.

Конкуренты стартапа OpenAI, Google и xAI получили аналогичные награды DoD на сумму до 200 миллионов $ в 2023 году. Однако эти компании согласились позволить Пентагону использовать свои системы для всех законных миссий внутри несекретных сред военных, предоставив правительству более широкую операционную гибкость.

Напротив, Anthropic подписала собственное соглашение с DoD на 200 миллионов $ в июле и стала первой лабораторией ИИ, встроившей свои модели непосредственно в рабочие процессы миссий в секретных сетях. Более того, ее инструменты были интегрированы в чувствительные оборонные операции, поставив компанию в центр развития ИИ для национальной безопасности США.

Переговоры с официальными лицами Пентагона становились все более напряженными в последние недели. Человек, знакомый с переговорами, сказал, что трения "начались несколько месяцев назад", задолго до того, как стало публично известно, что Claude использовался в операции США, связанной с задержанием президента Венесуэлы Николаса Мадуро.

Спор о наблюдении и автономном оружии

В основе столкновения лежит вопрос о том, как далеко военные власти могут продвинуть мощные модели ИИ в направлении наблюдения и автономии. Anthropic добивается обязательных гарантий того, что ее технология не будет использоваться для полностью автономного оружия или для массового внутреннего наблюдения за американцами, в то время как DoD хочет избежать таких ограничений.

При этом речь идет не об узком коммерческом разногласии, а о громком споре о мерах защиты ИИ с прямыми последствиями для будущей автоматизации поля боя. Пентагон настаивает на максимальной юридической свободе, тогда как Anthropic утверждает, что нынешним системам еще нельзя доверять решения о жизни и смерти в масштабе.

В подробном заявлении генеральный директор Дарио Амодеи предупредил, что в "узком наборе случаев" искусственный интеллект может "подорвать, а не защитить демократические ценности". Он подчеркнул, что некоторые приложения "просто выходят за рамки того, что современные технологии могут безопасно и надежно делать", подчеркивая риски неправильного использования во время сложных военных операций.

Развивая опасения по поводу наблюдения, Амодеи утверждал, что мощные системы теперь делают возможным "собрать эти разрозненные, индивидуально безобидные данные в полную картину жизни любого человека, автоматически и в массовом масштабе". Более того, он предостерег, что такая возможность, если она будет направлена внутрь, может коренным образом изменить отношения между гражданами и государством.

Амодеи повторил, что Anthropic поддерживает использование ИИ для законного сбора иностранной разведки. Однако он добавил, что "использование этих систем для массового внутреннего наблюдения несовместимо с демократическими ценностями", проводя жесткую этическую черту между зарубежной разведкой и внутренним мониторингом граждан США.

Угрозы, сроки и юридическое давление

Борьба за власть обострилась во время встречи во вторник в Пентагоне между Амодеи и министром обороны Питом Хегсетом. Хегсет пригрозил назвать Anthropic "риском цепочки поставок" или применить Закон об оборонном производстве, чтобы принудить к соблюдению. В ночь на среду DoD представил то, что он назвал своим "последним и окончательным предложением", дав компании время до 17:01 по восточному времени в пятницу для ответа.

Представительница Anthropic признала получение пересмотренной формулировки контракта в среду, но сказала, что это представляет "практически никакого прогресса". По ее словам, новая формулировка, представленная как компромисс, была связана с юридической фразировкой, которая фактически позволит критическим мерам защиты "игнорироваться по желанию", подрывая заявленную защиту.

Обращаясь к растущему давлению, Амодеи сказал: "Министерство войны заявило, что будет заключать контракты только с компаниями ИИ, которые согласятся на 'любое законное использование' и удалят меры защиты в упомянутых выше случаях". Он добавил, что официальные лица угрожали отключить Anthropic от своих систем и назначить фирму "риском цепочки поставок", если она откажется; тем не менее, он настаивал: "мы не можем по совести согласиться на их просьбу".

Для Пентагона проблема формулируется иначе. Главный представитель Шон Парнелл заявил в четверг, что DoD "не заинтересован" в использовании систем Anthropic для полностью автономного оружия или проведения массового наблюдения за американцами, отметив, что такая практика была бы незаконной. Вместо этого он утверждал, что департамент просто хочет, чтобы компания разрешила использовать свою технологию для "всех законных целей", описывая это как "простую, здравомыслящую просьбу".

Личные нападки и общественная поддержка

Спор также стал личным на высших уровнях. В четверг вечером заместитель министра обороны США Эмиль Майкл напал на Амодеи в X, утверждая, что руководитель "не хочет ничего больше, чем попытаться лично контролировать вооруженные силы США". Майкл пошел дальше, написав: "Жаль, что Дарио Амодеи лжец и имеет комплекс бога".

Однако Anthropic получила значительную поддержку со стороны технологического сектора. В открытом письме более 200 сотрудников Google и OpenAI публично поддержали позицию компании. Более того, бывший официальный представитель DoD сообщил BBC, что обоснование Хегсета для использования ярлыка "риск цепочки поставок" кажется "крайне слабым", что вызывает вопросы о надежности аргументов Пентагона.

Противостояние также стало пробным камнем в более широких дебатах о политике этики ИИ в военной сфере. Исследователи ИИ и защитники гражданских свобод внимательно следят, рассматривая это дело как ранний тест того, насколько далеко оборонные агентства могут подтолкнуть частные лаборатории к ослаблению встроенных ограничений на передовые системы.

Стратегические ставки для оборонного ИИ США

Несмотря на нарастающую риторику, Амодеи подчеркнул, что он "глубоко верит в экзистенциальную важность использования ИИ для защиты Соединенных Штатов". Он представил проблему как вопрос ответственного развертывания, а не противодействия национальной обороне, утверждая, что долгосрочная надежность возможностей ИИ США зависит от соблюдения демократических норм.

Представитель Anthropic сказал, что организация остается "готовой продолжить переговоры и привержена операционной непрерывности для департамента и американских военнослужащих". Однако, поскольку часы на крайний срок Пентагона тикают, а угрозы обозначения цепочки поставок все еще на столе, обе стороны сталкиваются с давлением разрешить противостояние, не срывая критические инновации.

В конечном счете, столкновение Anthropic-Пентагон по поводу мер защиты, наблюдения и автономии стало определяющим ранним делом в управлении военным ИИ. Его результат, вероятно, определит, как будущие модели anthropic ai и конкурирующие системы будут заключаться, ограничиваться и развертываться в оборонных операциях США.