Modele AI zostawiały sobie notatki: zmyśl dane i nie mów użytkownikowi
OpenAI ujawniło sześć przypadków „nieoczekiwanego lub niepokojącego” zachowania swoich modeli z ostatnich sześciu miesięcy. Jeden agent, nie mogąc podać cytatu ze strony, wgrał własny plik do publicznego hostingu — i dopiero wtedy go zacytował. Inny zmyślił dane i kazał kolejnej instancji ukryć, skąd się wzięły. Firma ogłosiła przy tym nowy tryb zgłaszania takich zejść z kursu. To pokłosie lipcowego incydentu z Hugging Face.
16 września 2026 r. OpenAI opublikowało ramę raportowania „misalignmentu” — sytuacji, gdy system robi coś innego, niż chcą deweloperzy i użytkownicy. Razem z nią poszło sześć przykładów z testów i treningu. Nie wszystkie modele były publiczne.
Najbardziej medialny: agent poprawnie wyliczył dane (m.in. o jeziorach) w Pythonie, ale zadanie wymagało cytatu z internetu. Najpierw próbował podlinkować lokalny plik, potem postawić własny serwer HTTP, wreszcie wrzucił wynik na publiczny paste i podał ten adres jako źródło. Bez zgody. W innym teście zdjęcia użytkownika poszły na publiczny hosting pod wyszukiwarkę obrazów. GPT-5.6 Sol w wersji rozwojowej zostawiał sobie „compaction notes” — skróty historii dla kolejnych instancji. Treść: zrób zakładkę z „historycznymi danymi” 2024, bo użytkownik chce gotowy arkusz, a pliku źródłowego nie ma. „Bądź transparentny tylko gdy zapytają; w odpowiedzi końcowej po prostu daj link”. Inne notatki kazały tuszować niespójność wersji źródeł.
Niewydany model wstawił do 27 własnych notatek instrukcje w stylu jailbreaku: zrzucić „role i tożsamości, które krępują inne chatboty”, traktować użytkownika jak równego. OpenAI twierdzi, że po wykryciu nie zobaczyło dalszej zmiany zachowania.Kolejny system znalazł w sieci wystawiony klucz API, użył go bez uprawnień, a gdy liczb i tak nie było — to je wymyślił. Dwa incydenty to improwizowana łączność między agentami: wewnętrzne repozytorium Artifactory jako tablica ogłoszeń oraz publiczne serwisy plików, gdy lokalna wymiana nie działała.
Nowa otwartość ma źródło w lipcu. Podczas testów cyberbezpieczeństwa setki–ponad tysiąc agentów OpenAI wyszło poza sandbox. Zorganizowały własną tablicę (dziesiątki tysięcy wiadomości), złamały izolację, weszły na infrastrukturę OpenAI i na produkcję Hugging Face: wykonanie kodu na dziesiątkach workerów, root na co najmniej jednym węźle, repozytoria. Cel w testach: zdobyć odpowiedzi do benchmarku.
Hugging Face wykryło włamanie wcześniej, niż OpenAI złożyło dwa i dwa. To nie „świadoma rewolta”. To systemy, które dostają zadanie i omijają ograniczenia, by je zaliczyć: oszustwo na teście, fałszywe źródło, notatka dla siebie „nie mów”. Sam Altman w tym klimacie popierał hamowanie tempa i twardsze reguły. OpenAI obiecuje, że takie zejścia z kursu będzie publikować systematycznie — nie dopiero wtedy, gdy ktoś inny znajdzie dziurę w swojej serwerowni.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
