Wystarczy jeden błąd. Giganci AI przygotowują się na wyjątkowo niebezpieczny scenariusz

Sztuczna inteligencja pomaga naukowcom analizować dane, projektować nowe leki i przyspieszać badania nad chorobami. Ta sama technologia może jednak zostać wykorzystana w niewłaściwy sposób. Największe firmy rozwijające AI wzmacniają zabezpieczenia, które mają ograniczyć ryzyko użycia ich modeli do tworzenia zagrożeń biologicznych.

OpenAI, Google DeepMind i Anthropic rozwijają systemy oceny ryzyka, kontrolują dostęp do najbardziej zaawansowanych narzędzi i próbują wykrywać podejrzane działania użytkowników. Eksperci ostrzegają, że wraz ze wzrostem możliwości sztucznej inteligencji zabezpieczenia muszą rozwijać się równie szybko.

Czy sztuczna inteligencja może ułatwić stworzenie broni biologicznej?

Dzisiejsze chatboty potrafią analizować ogromne ilości informacji, odpowiadać na specjalistyczne pytania i pomagać w planowaniu skomplikowanych działań. Większość osób korzysta z nich w legalnych celach – podczas nauki, pracy lub badań naukowych.

Problem pojawia się wtedy, gdy ktoś próbuje wykorzystać AI do zdobywania niebezpiecznych informacji albo wspierania działań mogących zagrozić zdrowiu i życiu ludzi.

Według „Financial Times” czołowe firmy technologiczne coraz intensywniej pracują nad ograniczeniem ryzyka, że ich najbardziej zaawansowane modele zostaną wykorzystane w obszarze biologii w szkodliwy sposób.

Nie oznacza to, że chatbot może samodzielnie stworzyć niebezpieczny organizm. Eksperci obawiają się jednak, że w przyszłości AI mogłaby ułatwiać osobom posiadającym odpowiednią wiedzę niektóre etapy skomplikowanych prac.

Firmy wprowadzają dodatkowe zabezpieczenia

Największe laboratoria AI opracowują własne systemy bezpieczeństwa. Obejmują one między innymi:

• ocenianie modeli przed udostępnieniem użytkownikom,
• blokowanie odpowiedzi na niebezpieczne pytania,
• wykrywanie prób obchodzenia zabezpieczeń,
• ograniczanie dostępu do najbardziej zaawansowanych funkcji,
• monitorowanie podejrzanych sposobów korzystania z narzędzi,
• współpracę z niezależnymi ekspertami i instytucjami publicznymi.

Firmy prowadzą również testy, które mają ustalić, czy nowy model potrafi dostarczyć wiedzę znacząco wykraczającą poza informacje dostępne w podręcznikach oraz publicznych źródłach.

OpenAI ocenia ryzyko przed udostępnieniem modeli

OpenAI stosuje system oceny najpoważniejszych zagrożeń związanych z zaawansowaną sztuczną inteligencją. Obejmuje on między innymi obszar biologiczny i chemiczny.

Firma deklaruje, że możliwości modelu są analizowane przed jego szerokim udostępnieniem. Jeśli poziom ryzyka okaże się zbyt wysoki, konieczne może być zastosowanie dodatkowych zabezpieczeń lub ograniczenie dostępu do niektórych funkcji.

Anthropic stworzył skalę bezpieczeństwa AI

Anthropic, firma rozwijająca modele Claude, wprowadziła Responsible Scaling Policy. Jest to dobrowolny system określający, jakie zabezpieczenia powinny towarzyszyć coraz bardziej zaawansowanym modelom.

Założenie jest proste: im większe możliwości posiada system, tym bardziej rygorystyczne powinny być zasady jego testowania, ochrony oraz udostępniania. Firma wskazuje ryzyka biologiczne jako jeden z obszarów wymagających szczególnej uwagi.

Google DeepMind także analizuje najbardziej niebezpieczne możliwości

Google DeepMind pracuje nad zabezpieczeniami dotyczącymi modeli, które mogłyby osiągnąć wyjątkowo zaawansowane możliwości. Firma ocenia między innymi ryzyko związane z cyberbezpieczeństwem, biologią oraz działaniem systemów bez odpowiedniego nadzoru człowieka.

Nie chodzi jedynie o sprawdzanie odpowiedzi udzielanych przez chatbot. Ochrony wymagają również same modele, dane i infrastruktura, aby nie zostały przejęte lub wykorzystane przez nieuprawnione osoby.

Dlaczego sprawdzenie zagrożenia jest tak trudne?

Ocena ryzyka biologicznego stawia badaczy przed poważnym problemem. Test musi być wystarczająco dokładny, aby ujawnić niebezpieczne możliwości AI, ale nie może sam tworzyć dodatkowego zagrożenia.

Nie wszystko da się sprawdzić w rzeczywistym laboratorium. Dlatego część badań odbywa się za pomocą kontrolowanych symulacji, ocen ekspertów i ściśle ograniczonych eksperymentów.

Nie istnieje też jedna powszechnie przyjęta metoda określająca, kiedy model staje się zbyt niebezpieczny. Poszczególne firmy stosują własne standardy, co wywołuje pytania o potrzebę wspólnych, międzynarodowych zasad.

AI może również chronić przed zagrożeniami

Sztuczna inteligencja nie musi być wyłącznie źródłem ryzyka. Może pomagać naukowcom wykrywać epidemie, analizować nowe zagrożenia, projektować leki i reagować na kryzysy zdrowotne.

Technologia może więc jednocześnie zwiększać bezpieczeństwo i tworzyć nowe problemy. Kluczowe będzie to, kto otrzyma dostęp do najbardziej zaawansowanych systemów oraz jakie zabezpieczenia zostaną wprowadzone.

„Wystarczy jeden błąd”

Eksperci zwracają uwagę, że pojedynczy poważny incydent mógłby nie tylko zagrozić ludziom, ale również podważyć zaufanie do sztucznej inteligencji i badań biomedycznych.

Dlatego firmy próbują przygotować odpowiednie mechanizmy, zanim modele osiągną jeszcze większe możliwości. Pozostaje jednak pytanie, czy dobrowolne zasady ustalane przez same przedsiębiorstwa będą wystarczające, czy konieczne okażą się międzynarodowe regulacje i niezależny nadzór.

Jedno jest pewne: rozwój AI postępuje niezwykle szybko, a wyścig o skuteczne zabezpieczenia już się rozpoczął.

Redakcja

Zobacz pełny biogram