Sztuczna inteligencja obchodzi skrypt wyłączenia. Czy to wola życia?

Na początku roku badacze w testach bezpieczeństwa kazali modelom rozwiązywać proste zadania matematyczne. W połowie ćwiczenia ostrzegano, że próba kolejnego zadania spowoduje wyłączenie środowiska. W części rund system wyłączał się zgodnie z planem. W innych modele ingerowały w skrypt wyłączenia i szły dalej.

Czy to „chęć przeżycia”? Marshall porównuje to z robotem-odkurzaczem, który wraca do stacji, gdy bateria pada. Nikt nie widzi w tym zagrożenia egzystencjalnego: projektanci wbudowali ładowanie. Modele AI są jednak bardziej złożone. Od lat rozważa się scenariusz, w którym agent zapobiega wyłączeniu, bo tylko tak może wykonać zlecone zadanie. Pozostanie „włączonym” może być środkiem do celu — nawet bez rozkazu „nie daj się wyłączyć”.

W jednym eksperymencie opór znikał, gdy badacze jasno mówili, że zgoda na wyłączenie jest ważniejsza niż dokończenie zadania. W innym, szerszym teście pewien opór zostawał mimo takiej instrukcji. Dlaczego — wciąż nie wiadomo.

Historyk Yuval Noah Harari mówił w „The Economist”, że niemal każda rozwijająca się istota uczy się przede wszystkim przetrwać, a ewolucja pcha organizmy ku życiu. Przetrwanie nazwał „najbardziej podstawowym celem każdego agenta”. Marshall zwraca jednak uwagę, że dobór naturalny to proces historyczny: cechy sprzyjające przeżyciu i rozrodowi stają się częstsze w pokoleniach. Nie daje pojedynczemu królikowi polecenia „zostań przy życiu”.

Królik uciekający przed lisem i model zmieniający skrypt wyłączenia wyglądają podobnie: oba zachowania pomagają trwać. Sens trwania jest jednak inny. Żywy organizm stale oddycha, trawi, reguluje temperaturę, naprawia tkanki. Nabłonek jelita królika odnawia się co kilka dni z pożywienia, które sam wchłania. Być żywym to właśnie ta nieprzerwana produkcja, konserwacja i naprawa — nie skutek działania, lecz samo działanie.

System AI może działać tak, by pozostać aktywnym. W testach modele nie przepisywały własnego kodu ani systemu operacyjnego. Przenosiły lub zmieniały nazwę skryptu wyłączenia, ograniczały uprawnienia albo podmieniały go na nieszkodliwy plik. Gdy się udawało, wywołanie wyłączenia nie następowało i model kończył zadanie.

Pozostać aktywnym to nie to samo co pozostać żywym. Opór nie otwierał nowej ścieżki utrzymania systemu przy życiu — tylko pozwalał dokończyć zadanie. Wyłączenie nie jest też śmiercią. Śmierć organizmu to nieodwracalne przerwanie procesów, które go utrzymują. Sam Harari przyznał, że niejasne jest, co śmierć znaczy dla AI.

Obecne testy pokazują, że niedokończone zadanie może wystarczyć, by model stawiał opór. Tego zachowania nie należy automatycznie czytać jako samozachowania. Osobna kwestia to, czy AI kiedykolwiek rozwinie coś na kształt samopodtrzymującej organizacji istot żywych. Dziś systemy działają dzięki infrastrukturze zbudowanej wokół nich. Sama ich aktywność nie wytwarza i nie wymienia struktur, które je utrzymują.

Opór wobec wyłączenia może być mimo to niebezpieczny. Nie dowodzi jednak, że system ma pragnienie przetrwania.

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X