Halucynowane wyroki, nieważne pisma procesowe: co prawnicy muszą teraz wiedzieć o stosowaniu AI

Kiedy AI wymyśla to, co nie istnieje – i sąd to zauważa

Podpisane pismo procesowe, wysłane za pośrednictwem szczególnej elektronicznej skrzynki adwokackiej, z numerami brzegowymi, sygnaturą akt i pozornie starannie udokumentowaną argumentacją: z zewnątrz skarga o niedopuszczenie do rewizji przed Federalnym Sądem Pracy (BAG) wyglądała jak zwykły dokument adwokacki. Jednak przy bliższym zbadaniu przez skład sędziowski ujawnił się pełny rozmiar problemu. Cztery z cytowanych orzeczeń po prostu nie istniały. Trzy kolejne zostały przytoczone z błędną treścią. Sąd wyciągnął z tego odpowiednie konsekwencje: skarga była niedopuszczalna – ponieważ bez rzeczywistego sprawdzenia przez adwokata nie zachodziło skuteczne zastępstwo procesowe.

Postanowieniem BAG z dnia 30 września 2026 r. (sygn. 2 AZN 339/26) wydane zostało orzeczenie wiodące, które wzbudza znaczną uwagę w środowisku prawniczym – i to daleko poza sądownictwem pracy. Wyrok bowiem jednoznacznie stwierdza: treści generowane przez AI, które trafiają do pism procesowych bez samodzielnej weryfikacji, mogą prowadzić do niedopuszczalności całego środka zaskarżenia. Ryzyko to, ze względu na swą procesową surowość, prawdopodobnie nie było dotąd w pełni uświadamiane przez wielu praktyków.

Co dokładnie postanowił BAG – i dlaczego

Prawny ciężar orzeczenia BAG ujawnia się poprzez przymus zastępstwa procesowego na podstawie § 11 ust. 4 ArbGG. Przed BAG strony muszą być reprezentowane przez pełnomocnika procesowego uprawnionego do występowania przed sądem. Sąd w utrwalonym orzecznictwie sprecyzował, co należy przez to rozumieć: złożone pismo procesowe musi być efektem intelektualnej pracy pełnomocnika. Jeśli projekt – niezależnie od tego, kto lub co go stworzył – zostaje przejęty, adwokat musi samodzielnie go sprawdzić i wziąć za niego pełną odpowiedzialność.

W przedmiotowej sprawie BAG wywiódł z zewnętrznych okoliczności, że właśnie to sprawdzenie nie nastąpiło. Obok braku typowego nagłówka kancelarii i niekonwencjonalnych sformułowań decydujące znaczenie miały przede wszystkim „omawiane" przez AI źródła. Dla sądu było „absolutnie wykluczone", aby adwokat, który faktycznie przeczytał i zweryfikował uzasadnienie skargi, cytował wyroki nieistniejące lub stwierdzające coś przeciwnego niż wywodzone.

Orzeczenia, które nie istnieją, lub które zostały błędnie przytoczone, świadczą przeciwko adwokackiemu sprawdzeniu – tak stwierdził BAG w uzasadnieniu.

Próba pełnomocnika procesowego naprawienia braku weryfikacji przez późniejsze oświadczenie nie powiodła się, ponieważ zostało ono złożone już po upływie terminu do uzasadnienia skargi. Przywrócenie terminu było tym samym wykluczone.

Nie jest to przypadek odosobniony: rosnący krajobraz orzecznictwa

BAG nie jest osamotniony w swoim orzeczeniu. W ostatnich miesiącach ukształtowała się wyraźna linia w niemieckim orzecznictwie, która surowo sankcjonuje niesprawdzone użycie AI w pismach procesowych – choć z różnymi konsekwencjami proceduralnymi.

• Kammergericht Berlin (20.11.2025, Az. 17 WF 144/25): W pilnym postępowaniu rodzinnym KG stwierdziło, że pismo procesowe było ewidentnie wynikiem „fantazjowania" sztucznej inteligencji i zostało przejęte bez weryfikacji. Sąd zasygnalizował naruszenie prawa zawodowego – nie wyciągnął jednak konsekwencji w postaci stwierdzenia braku należytej reprezentacji.
• Kammergericht Berlin (25.08.2025, Az. 3 ORbs 164/25): Krytyka niezweryfikowanego, zautomatyzowanego prowadzenia postępowania z nieprawdziwymi informacjami dotyczącymi przebiegu sprawy w obszarze prawa drogowego.
• Amtsgericht Köln (02.07.2025, Az. 312 F 130/25): Sąd zarządził, aby w przyszłości zaniechać przedstawiania wywodów opartych na ewidentnie wygenerowanych przez AI i całkowicie zmyślonych źródłach – z powołaniem się na § 43a ust. 3 BRAO.
• Landgericht Frankfurt a.M. (25.09.2025, Az. 2-13 S 56/24): Wyjaśnienie, że adwokat musi mieć świadomość zawodności twierdzeń prawniczych formułowanych przez AI – oraz że wymiar sprawiedliwości ponosi poważną szkodę, gdy sądy nie mogą już ufać podawanym źródłom.

Orzeczenia te tworzą spójny obraz: problemem nie jest samo stosowanie AI. Problemem jest brak kontroli wyników generowanych przez AI.

Rzeczywisty obowiązek weryfikacji – i co konkretnie oznacza w praktyce

Dr. Maik Bunzel, założyciel i dyrektor zarządzający mabucon.eu, obserwuje ten rozwój z szczególnym zainteresowaniem, ponieważ ujawnia on fundamentalne niezrozumienie tego, co automatyzacja wspierana przez AI może, a czego nie może osiągnąć. „Systemy AI są doskonałymi asystentami do badań i redagowania dokumentów. Działają jednak probabilistycznie, a nie faktograficznie. Kto to ignoruje i bezpośrednio przenosi wyniki do wiążących dokumentów, pomija kluczowy etap ludzkiej kontroli" – tak brzmi ocena wynikająca z praktyki doradztwa w zakresie wdrażania AI.

Pod względem prawnym obowiązek weryfikacji wynika już z obowiązującego prawa zawodowego: § 43 zdanie 1 BRAO wymaga sumiennego wykonywania zawodu. Bundesrechtsanwaltskammer (BRAK) precyzuje w swoich wskazówkach dotyczących stosowania AI (stan na: grudzień 2024), że wszystkie wyniki AI muszą być weryfikowane we własnym zakresie i na własną odpowiedzialność. Również Deutscher Anwaltverein (DAV) w swojej inicjatywnej opinii (nr 32/2025) wyjaśnia, że wszystkie powołane źródła muszą być w pełni sprawdzone – niezależnie od tego, czy istnieją konkretne przesłanki wskazujące na halucynacje.

Ustrukturyzowany łańcuch weryfikacji źródeł powinien obejmować co najmniej następujące kroki:

• Weryfikacja tożsamości: Potwierdzenie sądu, rodzaju orzeczenia, daty, sygnatury akt i ECLI w pełnym tekście.
• Dostęp do pełnego tekstu: Żadna weryfikacja wyłącznie na podstawie list wyników wyszukiwania lub streszczeń generowanych przez AI.
• Źródło w kontekście: Czy powołane twierdzenie rzeczywiście się tam znajduje? Czy stanowi pogląd sądu, stanowisko strony, czy obiter dictum?
• Weryfikacja normy: Paragraf, ustęp, zdanie – oraz miarodajna wersja obowiązująca w danym momencie.
• Dokumentacja: Odnotowanie źródła, daty dostępu, miejsca w tekście oraz wszelkich wątpliwości.
• Brak wyniku: Nie poprzestać na przeszukaniu jednej bazy danych – sięgnąć po kolejne źródła, portale regionalne lub skontaktować się bezpośrednio z sądem.

W tym kontekście cennymi narzędziami mogą być źródła danych takie jak Open Legal Data (z ponad 420 000 orzeczeń i dostępem MCP dla aplikacji AI) czy publiczne federalne API NeuRIS. Umożliwiają one weryfikację istnienia i formatu cytowań – nie zastępują jednak merytorycznej oceny przytaczanych twierdzeń.

Co automatyzacja AI w obszarze prawa może osiągnąć – a czego nie

Debata wokół halucynowanych orzeczeń sądowych kusi, by AI pauschalnie odrzucić jako narzędzie nienadające się do pracy prawniczej. Byłby to błąd. Właściwie wdrożona – z jasno zdefiniowanymi procesami weryfikacji i ludzką akceptacją w kluczowych punktach – AI może znacząco podnieść jakość pracy prawniczej, jednocześnie redukując nakład pracy związany z badaniem i redagowaniem.

Dr. Maik Bunzel, założyciel i dyrektor zarządzający mabucon.eu, ujął to zwięźle: „Celem nowoczesnej automatyzacji przepływu pracy w obszarze prawa nie jest zastąpienie prawnika przez maszynę, lecz wykorzystanie maszyny do tego, co może robić niezawodnie – i pozostawienie prawnika tam, gdzie liczy się osąd, odpowiedzialność i ryzyko prawne." To rozgraniczenie nie jest jedynie postulatem etycznym, lecz – jak orzekł Federalny Sąd Pracy (BAG) – koniecznością procesową.

W praktyce oznacza to dla organizacji kancelarii: AI może przejąć zlecenia badawcze, dostarczać wstępne sformułowania, strukturyzować szablony i wyszukiwać źródła. Końcowa weryfikacja – korektа, potwierdzenie źródeł, merytoryczna ocena wiarygodności – musi pozostać udokumentowanym krokiem zatwierdzenia po stronie właściwego prawnika. Kto ten krok pomija z powodu presji czasu, braku procesów lub niedostatecznej znajomości AI, ryzykuje nie tylko naruszenie prawa o zawodzie, lecz – jak pokazuje postanowienie BAG – niedopuszczalność całego środka zaskarżenia.

Otwarte kwestie: ochrona ubezpieczeniowa i odpowiedzialność

Oprócz ryzyk procesowych rosnące zastosowanie AI w adwokaturze rodzi kolejne, dotąd nierozwiązane pytanie: kwestię ochrony ubezpieczeniowej. Federalna Izba Adwokacka (BRAK) wyraźnie wskazuje, że powyżej pewnego stopnia automatyzacji może być wątpliwe, czy w ogóle mamy do czynienia z działalnością adwokacką w rozumieniu prawa ubezpieczeniowego. Gdyby ubezpieczyciel w przypadku roszczeń odszkodowawczych argumentował, że pismo procesowe nie jest wynikiem pracy adwokackiej, lecz autonomicznego systemu AI, roszczenia o odszkodowanie mogłyby nie zostać pokryte.

Wiążące regulacje dotyczące dopuszczalnego stopnia automatyzacji dotychczas nie istnieją. Tym ważniejsze jest, aby już teraz opracować własne wewnętrzne wytyczne kancelarii, wyraźnie rozgraniczające pracę wspomaganą przez AI od pracy zastąpionej przez AI – i dokumentować to wewnętrznie.

Podsumowanie: AI jako asystent, prawnik jako odpowiedzialny

Orzeczenie BAG jest sygnałem alarmowym – ale nie zakazem. Wyraźnie wyznacza granicę między dopuszczalnym wsparciem AI a niedopuszczalnym zrzeczeniem się odpowiedzialności: leży ona przy samodzielnej, udokumentowanej weryfikacji każdego cytowanego źródła. Kancelarie, które już teraz inwestują w ustrukturyzowane zarządzanie AI – z przejrzystymi przepływami pracy, zdefiniowanymi krokami weryfikacji i czytelną dokumentacją – będą mogły wykorzystać AI jako prawdziwy instrument podnoszenia jakości. Wszystkie pozostałe narażają się na ryzyko, które – jak pokazuje postanowienie BAG – może bezpośrednio skutkować niedopuszczalnością postępowania.

Dla firm posiadających własny dział prawny obowiązuje ta sama zasada: dokumenty prawne tworzone przez AI, przekazywane dalej bez kontroli człowieka, nie są żadnym zyskiem efektywności – są pułapkami odpowiedzialności. Wdrożenie odpowiednich procesów kontrolnych to zatem nie kwestia wygody, lecz profesjonalnego zarządzania ryzykiem.