UE szuka rozmów z USA w sprawie bezpieczeństwa AI, gdy Anthropic planuje wdrożenie Mythos

TLDR

• UE chce głębszych rozmów z urzędnikami USA na temat zaawansowanych modeli AI z możliwościami cybernetycznymi.
• Anthropic nie przyznał biuru AI UE dostępu do podglądu swojego modelu Mythos.
• Urzędnicy USA rozważają kwestie dostępu do modeli, innowacji, bezpieczeństwa cybernetycznego i konkurencji z Chinami.
• Anthropic twierdzi, że modele klasy Mythos wymagają silnych zabezpieczeń cybernetycznych przed szerszym udostępnieniem.
• Anthropic spodziewa się udostępnić modele klasy Mythos klientom w nadchodzących tygodniach.

Unia Europejska planuje rozszerzyć rozmowy z administracją USA na temat zaawansowanych modeli AI z możliwościami cybernetycznymi. Dyskusje koncentrują się na dostępie, przeglądach bezpieczeństwa i zasadach dotyczących zaawansowanych systemów, takich jak model Mythos firmy Anthropic. Rozmowy odbywają się w momencie, gdy Anthropic przygotowuje się do udostępnienia modeli klasy Mythos klientom w nadchodzących tygodniach.

UE naciska na dostęp do przeglądów zaawansowanej AI

Według CNBC, urzędnik Komisji Europejskiej stwierdził, że blok chce intensywniejszych dyskusji z urzędnikami USA na temat modeli AI z pogranicza technologii. Rozmowy obejmują systemy zdolne do wspierania złożonych zadań cybernetycznych i testowania bezpieczeństwa. UE nie otrzymała dostępu do podglądu modelu Mythos firmy Anthropic. Jej biuro AI również nie dokonało przeglądu modelu w ramach obecnego procesu dostępu.

Anthropic udzielił wczesnego dostępu do podglądu wybranym firmom i organizacjom za pośrednictwem Project Glasswing. Jednak dostęp rządowy spoza USA pozostaje ograniczony, z wyjątkiem brytyjskiego Instytutu Bezpieczeństwa AI. Osoba zaznajomiona z rozmowami stwierdziła, że Anthropic powiedział urzędnikom UE, aby ubiegali się o zgodę USA. Osoba ta stwierdziła, że Biały Dom nie sprzeciwił się samej UE.

Ta sama osoba stwierdziła, że urzędnicy USA mieli szersze obawy dotyczące udostępniania Mythos rządom spoza USA. Rozmowy umieszczają teraz dostęp do modeli w szerszej transatlantyckiej dyskusji na temat bezpieczeństwa AI.

USA waży kwestie innowacji i bezpieczeństwa

Biały Dom współpracował z laboratoriami AI w zakresie wdrażania zaawansowanych modeli. Urzędnicy USA chcą utrzymać wiodącą pozycję kraju, jednocześnie zarządzając zagrożeniami bezpieczeństwa. Sekretarz Skarbu Scott Bessent stwierdził, że administracja pracuje „bardzo ściśle" z laboratoriami AI. Dodał również, że urzędnicy chcą zrównoważyć innowacje i bezpieczeństwo.

Administracja sprzeciwiła się szerszemu rozszerzeniu dostępu do Mythos, według wcześniejszych doniesień. Anthropic zaproponował przyznanie dostępu do modelu około 70 kolejnym firmom i organizacjom.

Mythos przyciągnął uwagę po tym, jak Anthropic ogłosił go w kwietniu. Model wzbudził obawy ze względu na zgłaszaną zdolność do identyfikowania luk w oprogramowaniu na dużą skalę. Dyrektor generalny Anthropic, Dario Amodei, ostrzegł w tym miesiącu o wąskim oknie bezpieczeństwa. Stwierdził, że organizacje miały od sześciu do 12 miesięcy na załatanie wielu luk, zanim chińska AI dogoni.

Anthropic planuje szersze wdrożenie modeli klasy Mythos

Anthropic oświadczył w czwartek, że modele z możliwościami na poziomie Mythos wymagają silnych zabezpieczeń cybernetycznych przed szerokim udostępnieniem. Firma stwierdziła również, że poczyniła szybkie postępy w zakresie tych zabezpieczeń. „Szybko postępujemy w rozwijaniu tych zabezpieczeń" – powiedział Anthropic. Firma spodziewa się udostępnić modele klasy Mythos wszystkim klientom w nadchodzących tygodniach.

Komisja Europejska rozszerzyła również rozmowy techniczne z Anthropic i innymi twórcami modeli. Rozmowy te obejmują firmy, które powiadomiły biuro AI UE o swoich najnowszych modelach. Rzecznik Komisji Thomas Regnier stwierdził, że cyberbezpieczeństwo pozostaje wspólnym priorytetem. Powiedział, że UE i USA zgodziły się uznawać swoje odpowiednie standardy w tej dziedzinie.

Dyskusje obejmują teraz dostęp do modeli, zabezpieczenia cybernetyczne i procedury przeglądów. Odbywają się one również w momencie, gdy rządy badają, jak zaawansowane systemy AI obsługują możliwości wrażliwe z punktu widzenia bezpieczeństwa. Następne wdrożenie Anthropic sprawdzi, jak laboratoria zarządzają dostępem do zaawansowanych modeli. UE kontynuuje rozmowy techniczne z Anthropic, jednocześnie zabiegając o bliższe rozmowy z urzędnikami USA.

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.