Niemcy: Sąd w Hesji cytował źródła z ChatGPT... z błędami

Orzeczenie z 24 czerwca 2026 roku dotyczyło statusu prawnego obywateli Ukrainy, którzy przez kilka lat mieszkali w Gruzji, a następnie przenieśli się do Niemiec i ubiegali się tam o ochronę oraz świadczenia związane z warunkami uchodźców. Sprawa ma trafić także do Trybunału Sprawiedliwości Unii Europejskiej w formie pytań prejudycjalnych, co dodatkowo zwiększa wagę dokumentu, którego sposób powstania budzi teraz wątpliwości.

Użycie ChatGPT wyszło na jaw dzięki pozornie drobnemu szczegółowi: pięć z dwunastu linków zamieszczonych jako podstawa dokumentacyjna zawierało znacznik „utm_source=chatgpt.com”. To właśnie ten element, typowy dla odnośników generowanych przez system OpenAI, pozwolił ustalić, że przynajmniej część źródeł pochodziła bezpośrednio z odpowiedzi sztucznej inteligencji. Problem okazał się poważniejszy. Kilka stron, do których odsyłał sąd, nie zawierało informacji, które im przypisywano. Sztuczna inteligencja nie wymyśliła stron internetowych, ale przedstawiła je jako potwierdzenie twierdzeń, których w rzeczywistości w tych dokumentach nie było.

W jednym przypadku orzeczenie odwoływało się do gruzińskiego prawa z 2025 roku, podczas gdy sprawa wymagała ustalenia przepisów obowiązujących we wcześniejszych latach. W innym przykładzie sąd uzasadniał przedłużenie dekretu przyjętego w lutym 2026 roku artykułem opublikowanym jeszcze w 2025 roku – zanim ta zmiana w ogóle weszła w życie.

Sąd przyznał, że część cytowanych odniesień zawiera błędy, ale jednocześnie utrzymał orzeczenie w mocy. Zdaniem sędziów nieprawidłowości nie wpływają na meritum sprawy, a kluczowe wnioski prawne pozostają prawidłowe. Informacje, których nie było w linkach z ChatGPT, miały zostać zweryfikowane na podstawie innych źródeł dostępnych magistratom. Sąd zapewnia też, że przed wydaniem decyzji przeprowadzono odpowiednią kontrolę danych.

Co istotne, sędziowie nie tylko nie odrzucają narzędzi sztucznej inteligencji, lecz otwarcie bronią ich stosowania. W wyjaśnieniu przekazanym „Frankfurter Allgemeine Zeitung” wskazali, że wykorzystanie ChatGPT mieści się w ramach zasady niezależności sędziowskiej, która obejmuje także sposób przygotowywania i redagowania orzeczeń. Sztuczna inteligencja może – ich zdaniem – służyć jako narzędzie pomocnicze, zwłaszcza gdy trudno dotrzeć do źródeł prawnych z odległych jurysdykcji, takich jak Gruzja, pod warunkiem późniejszej weryfikacji przez człowieka.

Jednocześnie sąd podkreślił ograniczenia: do platform AI nie wolno wprowadzać danych osobowych, tajemnic urzędowych, informacji poufnych ani innych szczególnie wrażliwych treści.
 

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X