Hallucinerede domme, ugyldige processkrifter: Hvad advokater skal vide om AI nu

Når AI'en opfinder det, der ikke eksisterer – og retten opdager det

Et underskrevet processkrift, sendt via den særlige elektroniske advokatpostkasse, med randnumre, sagsnumre og tilsyneladende omhyggeligt underbygget argumentation: Udadtil virkede kæremålet til Bundesarbeitsgericht (BAG) som et almindeligt advokatdokument. Men ved Senatets nærmere gennemgang fremstod problemets fulde omfang tydeligt. Fire af de citerede afgørelser eksisterede simpelthen ikke. Tre andre blev gengivet med forkert indhold. Retten drog konsekvensen: Kæremålet var afvisningsværdigt – fordi der uden reel advokatmæssig prøvelse ikke forelå en gyldig partsrepræsentation.

Med BAG's kendelse af 30. september 2026 (Az. 2 AZN 339/26) foreligger der nu en ledende afgørelse, der vækker betydelig opmærksomhed i det juridiske miljø – og det langt ud over arbejdsretsdomstolene. Afgørelsen fastslår utvetydigt: AI-genereret indhold, der indgår i processkrifter uden selvstændig efterprøvning, kan medføre, at hele retsmidlet afvises. En risiko, hvis processuelle skarphed hidtil næppe har stået mange praktikere fuldt ud klart.

Hvad BAG præcist har afgjort – og hvorfor

Den retlige rækkevidde af BAG's afgørelse fremgår af repræsentationspligten efter § 11 stk. 4 ArbGG. Ved BAG skal parterne være repræsenteret af en postulationsdygtig procesfuldmægtig. Retten har i fast retspraksis præciseret, hvad dette indebærer: Det indgivne processkrift skal være udtryk for fuldmægtigens eget intellektuelle arbejde. Overtages et udkast – uanset hvem eller hvad det stammer fra – skal advokaten selvstændigt gennemgå det og påtage sig det fulde ansvar herfor.

I den foreliggende sag konkluderede BAG ud fra de ydre omstændigheder, at netop denne prøvelse var udeblevet. Ud over den manglende brevhovedformatering og usædvanlige formuleringer var det navnlig de hallucinererede kildehenvisninger, der udslog. For retten var det "aldeles udelukket", at en advokat, der faktisk havde læst og gennemgået kæremålsbegrundelsen, ville citere domme, der ikke eksisterer, eller som siger det modsatte af det fremførte.

Afgørelser, der ikke eksisterer, eller som er gengivet forkert, taler imod en advokatmæssig prøvelse – således BAG i sin begrundelse.

Procesfuldmægtigens forsøg på efterfølgende at afhjælpe manglen ved en erklæring mislykkedes, fordi erklæringen først forelå efter udløbet af begrundelsesfristen. Genoprettelse af den tidligere retsstilling var dermed udelukket.

Ikke et enkeltstående tilfælde: Det voksende retspraksisscenarie

BAG står ikke alene med sin afgørelse. De seneste måneder har der tegnet sig en tydelig linje i tysk retspraksis, der skarpt sanktionerer ukontrolleret brug af AI i juridiske processkrifter – om end med forskellige processuelle konsekvenser.

• Kammergericht Berlin (20.11.2025, Az. 17 WF 144/25): I den familieretlige hastesag fastslog KG, at processkriftet åbenbart var resultatet af en "fantaserende" AI og var overtaget uden kontrol. Retten antydede en overtrædelse af advokatretten – men drog ikke konsekvensen om manglende repræsentation.
• Kammergericht Berlin (25.08.2025, Az. 3 ORbs 164/25): Kritik af ukontrolleret automatiseret sagsførelse med usande oplysninger om sagens forløb inden for færdselsretten.
• Amtsgericht Köln (02.07.2025, Az. 312 F 130/25): Retten pålagde fremover at undlade redegørelser baseret på åbenbart AI-genererede og frit opfundne kilder – med henvisning til § 43a Abs. 3 BRAO.
• Landgericht Frankfurt a.M. (25.09.2025, Az. 2-13 S 56/24): Præcisering af, at en advokat skal være bekendt med upålideligheden af juridiske AI-udsagn – og at retsplejen lider alvorlig skade, hvis domstolene ikke længere kan stole på kildehenvisninger.

Disse afgørelser tegner et ensartet billede: Problemet er ikke AI-anvendelsen som sådan. Problemet er den manglende kontrol af AI-resultaterne.

Den egentlige kontrolpligt – og hvad den konkret indebærer

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, følger denne udvikling med særlig interesse, fordi den afslører en grundlæggende misforståelse af, hvad AI-understøttet automatisering kan præstere – og hvad den ikke kan. „AI-systemer er fremragende research- og formuleringssassistenter. Men de opererer probabilistisk, ikke faktuelt. Den der ignorerer dette og overfører output direkte til bindende dokumenter, overser det afgørende menneskelige kontroltrin", lyder vurderingen fra praksis inden for rådgivning om AI-implementering.

Retligt er kontrolpligten allerede forankret i gældende advokatret: § 43 Satz 1 BRAO kræver samvittighedsfuld udøvelse af erhvervet. Bundesrechtsanwaltskammer (BRAK) præciserer i sine anvisninger om AI-anvendelse (pr. december 2024), at alle AI-resultater skal efterprøves under eget ansvar. Også Deutsche Anwaltverein (DAV) fastslår i sin initiativudtalelse (Nr. 32/2025), at kildehenvisninger skal efterprøves fuldstændigt – uanset om der foreligger konkrete indikationer på hallucinationer.

En struktureret kontrolkæde for kildehenvisninger bør som minimum omfatte følgende trin:

• Identitetskontrol: Verificer domstol, afgørelsestype, dato, sagsnummer og ECLI i fuldt tekstformat.
• Adgang til fuldtekst: Ingen kontrol udelukkende på baggrund af søgeresultatlister eller AI-opsummeringer.
• Kilde i kontekst: Er den påståede udtalelse faktisk indeholdt? Er der tale om rettens opfattelse, parternes anbringender eller et obiter dictum?
• Normkontrol: Paragraf, stykke, punktum – og den relevante version på det pågældende tidspunkt.
• Dokumentation: Notér kilde, hentningsdato, tekststed og åbne tvivlsspørgsmål.
• Manglende træffer: Søg ikke kun i én database – kontakt yderligere kilder, delstatsportaler eller domstolen selv.

I den sammenhæng kan datakilder som Open Legal Data (med over 420.000 afgørelser og MCP-adgang til KI-applikationer) eller den offentlige forbunds-API NeuRIS være værdifulde hjælpemidler. De muliggør eksistens- og formatkontrol – men erstatter ikke den indholdsmæssige prøvelse af den citerede påstand.

Hvad KI-automatisering i retsvæsenet kan levere – og hvad den ikke kan

Debatten om hallucinererede domme frister til at afvise KI som et uegnet værktøj til juridisk arbejde. Det ville være en fejl. Anvendt korrekt – med klart definerede prøvelsesprocesser og menneskelig godkendelse på de afgørende punkter – kan KI markant forbedre kvaliteten af juridisk arbejde og samtidig reducere indsatsen til research og formulering.

Dr. Maik Bunzel, grundlægger og direktør for mabucon.eu, sætter det på spidsen: „Målet med moderne workflow-automatisering i retsvæsenet er ikke at erstatte advokaten med maskinen, men at anvende maskinen til alt det, den kan gøre pålideligt – og lade advokaten forblive der, hvor det handler om dømmekraft, ansvar og hæftelse." Denne grænsedraging er ikke blot et etisk postulat, men – som BAG nu har præciseret – en processuel nødvendighed.

Konkret betyder det for kancelliorganisationen: KI kan overtage forskningsopgaver, levere udkast til formuleringer, strukturere skabeloner og finde fundsteder. Den afsluttende gennemgang – korrekturlæsningen, kildeverifikationen, den indholdsmæssige plausibilitetsprøvelse – skal forblive hos den ansvarlige advokat i et dokumenteret godkendelsestrin. Den, der springer dette trin over på grund af tidspres, manglende processer eller utilstrækkelig KI-forståelse, risikerer ikke blot overtrædelse af de erhvervsetiske regler, men – som BAG-kendelsen viser – at hele retsmidlet afvises som inadmissibelt.

Åbne spørgsmål: Forsikringsdækning og hæftelse

Ud over de processuelle risici rejser den stigende brug af KI i advokatbranchen endnu et hidtil uløst spørgsmål: forsikringsdækningen. BRAK påpeger udtrykkeligt, at det fra et vist automatiseringsgrad kan være tvivlsomt, om der overhovedet stadig er tale om advokatvirksomhed i forsikringsretlig forstand. Skulle et forsikringsselskab i tilfælde af et erstatningskrav argumentere for, at processkriftet ikke er resultatet af advokatarbejde, men af et autonomt KI-system, kan dækningskrav bortfalde.

Bindende regler for den tilladelige automatiseringsgrad eksisterer endnu ikke. Desto vigtigere er det allerede nu at udvikle egne kancelliretningslinjer, der drager klare grænser mellem KI-understøttet og KI-erstattet arbejde – og at dokumentere disse internt.

Konklusion: KI som assistent, advokat som ansvarlig

BAG's afgørelse er et wake-up call – men ikke et forbud. Den markerer klart, hvor grænsen går mellem tilladt KI-støtte og utilladelig ansvarsfraskrivelse: ved den selvstændige, dokumenterede prøvelse af hvert citeret fundsted. Kancellierne, der nu investerer i struktureret KI-governance – med klare workflows, definerede prøvelsestrin og gennemsigtig dokumentation – vil kunne bruge KI som en reel kvalitetsløftestang. Alle andre udsætter sig for en risiko, der, som BAG-kendelsen viser, direkte kan ende med sagens afvisning som inadmissibel.

For virksomheder med egen juridisk afdeling gælder det samme princip: AI-understøttede juridiske dokumenter, der videresendes uden menneskelig kontrol, er ikke effektivitetsgevinster – de er ansvarsfælder. Implementeringen af passende kontrolprocesser er derfor ikke blot et spørgsmål om komfort, men om professionel risikostyring.