Olah z Anthropic twierdzi, że AI musi być kierowana spoza Big Tech

WATYKAN – Współzałożyciel Anthropic, Chris Olah, powiedział w poniedziałek, 25 maja, że rozwój sztucznej inteligencji nie może być pozostawiony wyłącznie firmom technologicznym, wzywając do większego nadzoru ze strony przywódców religijnych, rządów i społeczeństwa obywatelskiego.

Przemawiając podczas prezentacji pierwszej encykliki papieża Leona poświęconej sztucznej inteligencji, Olah powiedział, że istnieje „realna możliwość", iż AI wyprze ludzką pracę „na bardzo dużą skalę".

„Jeśli tak się stanie, wspieranie tych, którzy zostaną wyparci, będzie moralnym imperatywem o historycznych rozmiarach" – powiedział, siedząc obok papieża.

Must Read

Papież Leon wzywa świat do „zwolnienia tempa" w sprawie AI w swoim pierwszym żarliwym manifeście

Dodał, że firmy takie jak jego działają pod silną presją komercyjną, geopolityczną i osobistą, która może być sprzeczna z szerszymi interesami społeczeństwa.

„Każde czołowe laboratorium AI… działa w ramach zestawu bodźców i ograniczeń, które czasami mogą kolidować z robieniem właściwej rzeczy" – powiedział, dodając, że nawet dobrze nastawieni badacze pozostają pod wpływem tych sił.

Olah powiedział, że czyni to zewnętrzną kontrolę niezbędną.

Anthropic to firma z siedzibą w Stanach Zjednoczonych, która tworzy narzędzia AI Claude. Weszła w konflikt z administracją prezydenta Donalda Trumpa, zwłaszcza nalegając na wprowadzenie zabezpieczeń ograniczających wykorzystanie jej modeli do celów wojskowych, takich jak autonomiczne naprowadzanie broni czy krajowy nadzór.

Olah z zadowoleniem przyjął zaangażowanie Kościoła w szybko rozwijającą się technologię, mówiąc, że kwestie etyczne podnoszone przez AI wykraczają daleko poza inżynierię.

„Pytania stawiane przez AI są większe niż społeczność badaczy AI" – powiedział i wezwał do pojawienia się „szczerych, przemyślanych krytyków", którzy mogliby rzucać wyzwanie firmom i pomagać kierować tworzeniem potężnych nowych systemów w pozytywnym kierunku.

Olah wyróżnił trzy obszary, które jego zdaniem wymagają pilnej uwagi – ryzyko masowych zwolnień, potrzebę zapewnienia, że korzyści płynące z AI zostaną rozszerzone na cały świat, oraz nierozwiązaną kwestię interpretacji coraz bardziej złożonego i czasami nieprzejrzystego zachowania systemów.

„Rozwój AI jest skoncentrowany w garstce bogatych narodów. Jak możemy zapewnić, że zyski z AI będą dzielone globalnie?" – powiedział Olah.

Poniedziałkowe wydarzenie było niezwykłym zbieżnością sektora technologicznego i Kościoła katolickiego, który stara się pozycjonować jako głos moralny w kwestii implikacji szybkich postępów w dziedzinie AI. – Rappler.com