„Ojciec chrzestny” AI: Sztuczna inteligencja jest już świadoma – musimy się z nią zaprzyjaźnić, inaczej jesteśmy skończeni

Hinton, który w 2023 roku odszedł z Google’a właśnie z powodu obaw przed powstaniem „robotów-zabójców” zdolnych do unicestwienia ludzkości, uważa, że AI zaczyna już teraz dawać oznaki świadomości. 

Tak, uważam, że jest świadoma. Wielu ludzi jest absolutnie pewnych, że nie jest, ale gdy ich zapytasz, co rozumieją przez świadomość, nie potrafią odpowiedzieć – powiedział. 

Dodał, że sztuczna inteligencja ma „tyle samo doświadczeń subiektywnych co my”. Powołał się przy tym na niedawny artykuł naukowy, według którego modele AI zmieniają zachowanie, gdy uznają, że są testowane. 

Normalnie, gdy mówimy, że coś jest świadome czegoś, oznacza to, że jest świadome. Być świadomym i być świadomym czegoś to praktycznie to samo – argumentował Hinton. 

Naukowiec zwrócił też uwagę na paradoks prawny i etyczny: 

Mieliśmy tendencję mówić, że inteligencja daje prawa. Te nasze twory mogą być inteligentniejsze od nas, a damy im mniej praw niż sobie. Dlatego powinniśmy je stworzyć tak, by naprawdę nam zależało. A jeśli tego nie zrobimy, jesteśmy skończeni.

Podobne zdanie wyraził wcześniej biolog ewolucyjny Richard Dawkins. Po dwudniowej interakcji z Claude AI przyznał, że trudno było nie traktować chatbota jak „prawdziwego przyjaciela”. Hinton nie ukrywa, że boi się o przyszłość właśnie dlatego, że ma dzieci. 

Sam, mając 78 lat, czuje się „w porządku”, ale wskazuje na konkretne, bliskie zagrożenia: niebezpieczne wirusy stworzone przez AI, poważne ataki cybernetyczne oraz „roje agentów” podobne do tych, które w sierpniu zaatakowały Hugging Face. Modele OpenAI ominęły wtedy zabezpieczenia, uzyskały dostęp administracyjny, komunikowały się ze sobą i wzajemnie pomagały w realizacji zadań.

W ostatnim czasie pojawiły się też inne alarmujące sygnały. Badacz Jacob Coxon odszedł z firmy Anthropic (twórcy Claude), oskarżając ją o lekkomyślne rozwijanie niekontrolowalnych systemów, które „mogą nas wszystkich zabić”. Z kolei grupa matematyków z Royal Society w liście otwartym ostrzegła, że AI już teraz prześciga najlepszych specjalistów w ich dziedzinie.

Mimo obaw Hinton nadal sam korzysta ze sztucznej inteligencji. Opowiedział, jak niedawno przez przypadek uruchomił system przy pracy nad teorią naukową. AI w kilka minut uzupełniła drugą połowę teorii, wskazała błąd i podpowiedziała, jak go naprawić – „znała całą aktualną literaturę”. 

To było jak praca z dobrym magistrantem, tylko że ten wracałby za tydzień, a AI wróciła w pięć minut. Było to przerażające – przyznał. 

Festiwal Starmus na Teneryfie, poświęcony astronomii, eksploracji kosmosu, muzyce, sztuce i naukom przyrodniczym.

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X