„Igrają z naszym życiem”. Badacz odchodzi z Anthropic i ostrzega przed sztuczną inteligencją

Brytyjski badacz Jacob Coxon zrezygnował z pracy w Anthropic – firmie rozwijającej modele sztucznej inteligencji Claude. W publicznym oświadczeniu oskarżył Anthropic oraz OpenAI o zbyt szybką pracę nad coraz potężniejszymi systemami. Jego zdaniem rywalizacja firm technologicznych może doprowadzić do powstania AI, nad którą ludzie nie będą potrafili zapanować.

Jacob Coxon odchodzi z Anthropic

Jacob Coxon ogłosił swoją rezygnację za pośrednictwem platformy X. Przez trzy lata zajmował się badaniami nad wstępnym trenowaniem modeli AI w OpenAI, a następnie w Anthropic.

Badacz wyjaśnił, że odszedł z powodu obaw dotyczących kierunku, w którym zmierza rozwój sztucznej inteligencji. Według niego największe laboratoria koncentrują się na pokonaniu konkurencji, chociaż nie rozwiązały jeszcze wszystkich problemów związanych z bezpieczeństwem tej technologii.

– Żadna z firm nie postępuje odpowiedzialnie. Ścigają się w stronę samodoskonalącej się superinteligencji i igrają z naszym życiem – ostrzegł Coxon w swoim wpisie.

Czy sztuczna inteligencja może wymknąć się spod kontroli?

Największe obawy badacza dotyczą tak zwanej samodoskonalącej się superinteligencji. Byłby to system przewyższający możliwości człowieka, potrafiący udoskonalać własne działanie i tworzyć coraz bardziej zaawansowane rozwiązania.

Coxon uważa, że takie systemy mogłyby samodzielnie wykonywać skomplikowane zadania, przełamywać zabezpieczenia komputerowe oraz zdobywać dostęp do informacji i zasobów. Jeżeli ich cele nie byłyby zgodne z interesami ludzi, zatrzymanie ich mogłoby okazać się niezwykle trudne.

Są to jednak przewidywania dotyczące przyszłych systemów, a nie opis możliwości każdego dostępnego obecnie narzędzia AI. Nie ma dowodu, że dzisiejsza sztuczna inteligencja może samodzielnie doprowadzić do zagłady ludzkości.

„Kluczowe dwa lata dla ludzkości”

W rozmowie z magazynem „Wired” Coxon stwierdził, że nadchodzący rok lub dwa mogą być decydujące dla bezpieczeństwa AI. Według niego część pracowników największych laboratoriów prywatnie określa ten okres jako „punkt krytyczny” lub „końcową fazę” wyścigu technologicznego.

Badacz przyznał jednocześnie, że Anthropic poważniej niż niektóre inne firmy traktuje potencjalne zagrożenia. Jego zdaniem nawet najbardziej odpowiedzialne przedsiębiorstwo może jednak zacząć podejmować większe ryzyko, jeśli będzie obawiało się przegranej z konkurencją.

Coxon nie wzywa do całkowitego odrzucenia sztucznej inteligencji. Podkreśla, że bezpiecznie rozwijana technologia może przyspieszyć badania naukowe, pomóc medycynie oraz umożliwić dokonanie przełomowych odkryć. Wired

Pracownicy Anthropic poparli ostrzeżenie

Wypowiedź Coxona nie pozostała odosobniona. Evan Hubinger, zajmujący się w Anthropic badaniami nad zgodnością działania AI z celami człowieka, publicznie poparł część jego ostrzeżeń.

Hubinger oszacował prawdopodobieństwo doprowadzenia przez zaawansowaną AI do zagłady ludzkości w ciągu dziesięciu lat na więcej niż 10 procent. Jednocześnie zaznaczył, że ryzyko związane z obecnymi modelami jest niewielkie. Obawia się przede wszystkim przyszłych systemów zdolnych do poprawiania własnych możliwości.

Podobne zaniepokojenie wyraził Samuel Marks, odpowiedzialny w Anthropic za badania nad kontrolowaniem zaawansowanych systemów. Są to osobiste oceny badaczy, a nie naukowo potwierdzona prognoza mówiąca, że ludzkość rzeczywiście wyginie.

Anthropic odpowiada na zarzuty

Anthropic zapewnia, że od początku otwarcie mówi zarówno o możliwościach, jak i zagrożeniach związanych ze sztuczną inteligencją. Firma twierdzi, że stosuje jedne z najmocniejszych zabezpieczeń w branży oraz testuje swoje modele pod kątem niebezpiecznych zdolności, między innymi w obszarze cyberbezpieczeństwa i biologii.

Przedsiębiorstwo wskazuje także na swoją politykę odpowiedzialnego zwiększania możliwości modeli oraz badania pozwalające lepiej zrozumieć ich wewnętrzne działanie.

Zdaniem Anthropic branża potrzebuje legalnego i możliwego do zweryfikowania porozumienia, które pozwoliłoby wspólnie kontrolować tempo udostępniania coraz potężniejszych systemów.

Rywalizacja firm może zwiększać ryzyko

Coxon uważa, że problem nie ogranicza się do działań jednej firmy. Anthropic, OpenAI i inne laboratoria konkurują o stworzenie najbardziej zaawansowanej AI. Każde z nich może obawiać się, że spowolnienie prac pozwoli rywalom uzyskać przewagę.

Powstaje w ten sposób niebezpieczny mechanizm: firmy mogą rozumieć potencjalne zagrożenia, ale jednocześnie nie chcą jako pierwsze rezygnować z udziału w wyścigu.

Badacz proponuje, aby najważniejsze laboratoria uzgodniły ograniczenie prac nad systemami zdolnymi do samodzielnego zwiększania swoich możliwości. Jego zdaniem ostatecznie potrzebne będzie międzynarodowe porozumienie oraz nadzór nad największymi centrami obliczeniowymi.

Politycy domagają się regulacji AI

Rezygnacja Coxona wywołała reakcję amerykańskich polityków. Senator Bernie Sanders zapowiedział działania zmierzające do wstrzymania prac nad superinteligencją do czasu przygotowania odpowiednich zabezpieczeń.

Pojawiły się również wezwania do wprowadzenia mechanizmu pozwalającego awaryjnie wyłączyć niebezpieczne systemy. Zwolennicy regulacji przekonują, że zasady powinny powstać, zanim technologia osiągnie poziom, na którym jej kontrolowanie stanie się trudniejsze.

Przeciwnicy nadmiernych ograniczeń ostrzegają natomiast, że zatrzymanie badań w jednym kraju nie powstrzyma rozwoju AI w innych częściach świata.

Ostrzeżenie czy przesadzona wizja przyszłości?

Nie wszyscy eksperci zgadzają się z najbardziej dramatycznymi prognozami. Sceptycy wskazują, że firmy zajmujące się AI mogą wyolbrzymiać możliwości swoich produktów, a wizje superinteligencji opierają się na założeniach, których nie można obecnie potwierdzić.

Rezygnacji Coxona nie należy więc traktować jako dowodu, że sztuczna inteligencja doprowadzi do zagłady ludzi. Jest ona jednak kolejnym sygnałem, że nawet osoby bezpośrednio pracujące nad najpotężniejszymi modelami uważają istniejące zabezpieczenia i regulacje za niewystarczające.

Najważniejsze pytanie nie brzmi już, czy AI zmieni świat, ale czy ludzie zdążą ustalić zasady jej rozwoju, zanim najważniejsze decyzje podejmą za nich rywalizujące firmy technologiczne

Redakcja

Zobacz pełny biogram