Prezes Anthropic przedstawia plan spowolnienia rozwoju sztucznej inteligencji

Prezes Anthropic, Dario Amodei, przedstawił plan mający na celu spowolnienie tempa rozwoju sztucznej inteligencji, proponując trzy główne strategie w tym zakresie.

Jak poinformował TechCrunch, Amodei zadeklarował, że Anthropic jednostronnie zobowiązuje się do wprowadzenia zewnętrznych ewaluatorów z organizacji trzecich, takich jak METR. Osoby te miałyby weryfikować przestrzeganie zobowiązań dotyczących bezpieczeństwa i tempa rozwoju oraz zapewniać zgłaszanie incydentów. Ewaluatorzy otrzymaliby identyfikatory firmowe, biurka, laptopy oraz dostęp porównywalny z dostępem wewnętrznych zespołów ds. oceny ryzyka, z wyłączeniem ograniczeń prawnych lub kontraktowych. Sam Altman z OpenAI określił ten pomysł jako dobry i zapowiedział, że OpenAI postąpi podobnie.

Kolejnym elementem strategii jest wezwanie wiodących firm z krajów demokratycznych do koordynacji wspólnych standardów bezpieczeństwa oraz limitów tempa niekontrolowanego postępu sztucznej inteligencji. Amodei zasugerował, że ze względu na kwestie antymonopolowe rząd Stanów Zjednoczonych powinien pośredniczyć w tych dyskusjach lub umożliwić ich przeprowadzenie poprzez wydanie wąskiego zwolnienia dla określonych rozmów o bezpieczeństwie.

Trzecim filarem jest koordynacja globalna, w ramach której Stany Zjednoczone i ich sojusznicy próbowaliby współpracować z rządami autorytarnymi, w tym z Chinami. Amodei przyznał, że możliwości takiej współpracy są mocno ograniczone, ale wskazał na szansę porozumienia w kwestii zakazu szczególnie niebezpiecznych zastosowań, takich jak wykorzystanie sztucznej inteligencji do produkcji broni biologicznej.

Decyzja o bardziej ostrożnym podejściu wynika według Amodei z faktu, że sztuczna inteligencja rozwija się w ostatnich miesiącach drastycznie szybciej, zwłaszcza w zakresie zdolności do budowania kolejnych generacji systemów, a także z incydentu związanego z atakiem hakerskim na OpenAI i Hugging Face. Prezes podkreślił, że postęp nadal będzie wydawał się szybki, ale konieczne jest mądre wykorzystanie zyskanego czasu.

Plan ten pojawił się w kontekście napięć wewnątrz branży. Badacz Jacob Coxon zrezygnował z pracy w Anthropic, twierdząc, że czołowe firmy ryzykują życiem ludzi, a niektórzy pracownicy wierzą, że technologia ta może zabić wszystkich do końca dekady. Z kolei krytycy, tacy jak Brian Merchant, sugerują, że tego typu propozycje mogą być formą zawłaszczania regulacyjnego służącego interesom Anthropic i OpenAI.

Amodei odniósł się do argumentów o dominacji Chin, twierdząc, że ograniczenia w sprzedaży potężnych chipów i sprzętu do produkcji półprzewodników oraz walka z destylacją modeli mogą spowolnić postępy Chin na tyle, by znacząco zwiększyć przewagę Ameryki w ciągu najbliższych trzech do pięciu lat. Jednocześnie zadeklarował, że nadal wierzy w możliwość ogromnej poprawy jakości ludzkiego życia dzięki sztucznej inteligencji, o ile technologia ta zostanie zbudowana w odpowiedni sposób.