Når AI overrulер retsvæsenet: Hvad virksomheder skal lære af skriftsætningskaoset

Oversvømmelsen begynder: Når kunstig intelligens presser domstolene til det yderste

Det lyder ved første øjekast som et problem, der udelukkende vedrører jurister, dommere og retspolitikere: Tysklands domstole oversvømmes i stigende grad med AI-genererede processkrifter. Indlæg på hundredvis af sider, udarbejdet på få minutter, ofte utilstrækkeligt underbygget eller spækket med opdigtede kildehenvisninger, truer med at drive retsvæsenet ud i en strukturel krise. Det tyske justitsministerium arbejder ifølge egne oplysninger "på højtryk" med en reform af procesreglerne, CSU-jurister kræver "ligevægt i kampvilkår" mellem advokatstanden og retsvæsenet, og politikere på tværs af partierne erkender situationens alvor.

Men den, der ser nøje efter, opdager: Retsvæsenet er ikke noget særtilfælde her. Det er et forstørrelsesglas, der viser, hvad der sker med AI-genereret indhold i enhver organisation, når struktur, kontrol og ansvar mangler. De fejl, der i øjeblikket driver dommere til fortvivlelse, opstår dagligt også i virksomheder – i interne rapporter, tilbud, kundekommunikation og beslutningsoplæg.

Fra flaskehalsen skrivning til flaskehalsen læsning

Grundproblemet er forførende enkelt: AI gør det næsten gratis at producere tekst. Det, der tidligere tog timer, opstår i dag på sekunder. Det lyder som en ren effektivitetsgevinst – og det er det også, så længe det, der produceres, kan kontrolleres, indplaceres og stås til ansvar for.

Præcis her ligger det blinde punkt i mange implementeringsstrategier. Flaskehalsen forskydes. Tidligere var skrivning dyrt, læsning forholdsvis hurtig. I dag er skrivning nærmest gratis, men den omhyggelige læsning, kontrol og indplacering af indhold er og bliver en menneskelig, tidskrævende ydelse. Den, der ignorerer denne sammenhæng og blot lægger AI ovenpå, producerer mere – men ikke bedre.

„AI skalerer det, man giver den: omhu såvel som sjusk. Udbyttet opstår gennem struktur, kontrol og ansvar – ikke gennem den blotte mængde af produceret tekst."

Dr. Maik Bunzel, grundlægger og direktør for mabucon.eu, der rådgiver virksomheder i opbygningen af skræddersyede KI-agenter og automatiseringsworkflows, sætter det på en præcis formel: Organisationer, der indfører AI uden samtidig at definere, hvem der kontrollerer og godkender, skaber ikke effektivitet – de skaber ukontrolleret output. Forskellen mellem de to er ikke akademisk, men direkte forretningsrelevant.

Hallucinationer: Når AI fejler med selvtillid

Et særligt drastisk eksempel leverer en kendelse fra Kammergericht Berlin fra november 2025. En advokat havde i en familieretlig sag indsat domstolsafgørelser som citater i sit processkrift, som en AI ganske enkelt havde opfundet – juridisk "hallucineret". Kammergericht reagerede med en skarp irettesættelse. Skaden på omdømmet var reel, de juridiske konsekvenser truede.

Det, der i retsvæsenet fører til en offentligt iøjnefaldende afgørelse, sker dagligt i det skjulte i virksomheder: KI-systemer genererer med stor overbevisningskraft indhold, der er faktuelt forkert. Opfundne statistikker i en præsentation. Ikke-eksisterende studier i et strategipapir. Forkerte produktspecifikationer i et kundetilbud. Konsekvenserne varierer i sværhedsgrad afhængigt af konteksten, men mønstret er identisk.

Hallucination er ikke en fejl, der kan rettes, og som den næste modelversion løser fuldstændigt. Det er et strukturelt kendetegn ved nutidens Large Language Models. Det rigtige svar på dette er ikke at undlade at bruge KI – men at tilrettelægge processer, så kritiske output verificeres, inden de videregives. Det betyder: definerede godkendelsestrin, klare ansvarsforhold og, hvor det er muligt, automatiserede krydscheck udført af specialiserede agenter.

KI bekræfter – den sorterer ikke

Et andet fænomen, der ofte undervurderes, viser sig ligeledes i retsvæsens-debatten: KI-systemer leverer argumenter, ikke perspektiv. Den, der spørger en sprogmodel om grunde til en bestemt holdning, får overbevisende grunde – uanset hvor stærke disse grunde faktisk er. Den, der spørger om modargumenter, får lige så overbevisende modargumenter.

I retsvæsenet fører det til processkrifter, der lyder omfangsrige og selvsikre, men er tynde i indholdet. I virksomheder fører det til beslutningsoplæg, der er flydende formuleret og virker professionelle, men i sagens kerne skjuler væsentlige risici eller alternativer. Den tillid, som en velskrevet tekst skaber, bliver en fælde, når ingen stiller kritiske spørgsmål til indholdet.

Løsningen ligger ikke i mistillid til KI, men i bevidst tilrettelæggelse af anvendelsesscenarier. Der hvor KI udarbejder udkast, er der behov for en menneskelig eller agentisk krydscheck. Virksomheder, der i dag indfører KI-understøttede workflows, bør fra begyndelsen planlægge både et oprettelsesled og et filtreringslag.

Modparten ruster op – og virksomheder har brug for begge dele

Politikkens reaktion på retsvæsenets krise er sigende: Det, der kræves, er ikke at forbyde eller begrænse KI, men at skabe ligevægt. Domstole og myndigheder skal have egne KI-assistentsystemer, så de struktureret og effektivt kan håndtere det voksende input. Forbundsjustitsministeriet, Unionsfraktionen og repræsentanter fra alle fraktioner er bemærkelsesværdigt enige om dette punkt.

Dette princip gælder også for virksomheder. Den, der har kunder, partnere eller interne interessenter, som bruger KI i deres kommunikation, vil i stigende grad blive konfronteret med en ændret informationstæthed. Flere forespørgsler, flere dokumenter, flere argumenter – på kortere tid. Den, der kun anvender KI på producentssiden, risikerer at komme bagud. Der er behov for værktøjer, der også strukturerer, prioriterer og vurderer relevansen af det indgående.

Dr. Maik Bunzel fra mabucon.eu observerer i praksis, at virksomheder ofte undervurderer dette dobbelte behov – KI til at skabe og KI til at filtrere. Den første automatiseringsbølge rammer typisk produktionen af indhold. Den anden, mere krævende bølge vedrører den intelligente behandling af det indgående. Den, der tænker begge dele sammen, skaber ægte operationel resiliens.

Reglerne kommer – den, der er forberedt internt, har et forspring

I retsvæsenet tegner der sig konkrete regulatoriske reaktioner: sidebegrænsninger for processkrifter, strukturkrav til indlæg, transparenskrav ved brug af AI og udvidede sanktionsmuligheder ved misbrug. Det tyske justitsministerium har annonceret, at det inden for seks måneder vil fremlægge tilsvarende reformforslag.

For virksomheder er denne udvikling et tidligt signal: Sektorspecifik regulering af AI-anvendelse i kommunikation – over for myndigheder, i kontraktforhold og i kundekommunikation – er forudsigelig. EU AI Act sætter allerede en retlig ramme, der i de kommende år vil blive udfyldt med branchespecifikke præciseringer.

• Den der internt dokumenterer AI-anvendelse og har etableret godkendelsesprocesser, kan hurtigt opfylde compliance-krav.
• Den der allerede har defineret kvalitetsstandarder for AI-output, behøver ikke opbygge processer fra bunden ved regulatoriske krav.
• Den der har klare ansvarsforhold – hvem kontrollerer, hvem godkender, hvem hæfter –, står på sikker grund ved eksterne krav.
• Den der anticiperer transparenskrav og markerer AI-genereret output som sådant, hvor det er nødvendigt, opbygger langsigtet tillid.

Den reelle mulighed: Adgang, hastighed, fokus

Så reelle risiciene er – mulighederne fortjener mindst lige så meget opmærksomhed. I debatten om retsvæsenet påpeger selv kritiske stemmer, at AI letter adgangen til retten for mennesker, der hidtil ikke har haft råd til juridisk rådgivning. Rutineprocesser bliver hurtigere. Standardiserbare opgaver kan håndteres mere effektivt.

For virksomheder betyder det: AI sænker tærsklen for højkvalitetskommunikation, struktureret analyse og skalerbare processer. Små teams kan holde trit med outputtet fra voksende teams. Ekspertviden bliver lettere tilgængelig og anvendelig. Beslutninger kan forberedes bedre, når AI strukturerer og bearbejder relevante oplysninger.

Nøglen ligger ikke i, om AI anvendes – det spørgsmål stiller sig ikke længere for de fleste virksomheder. Nøglen ligger i, hvordan anvendelsen organiseres. Med hvilke Guardrails, hvilke kontrolrutiner, hvilke ansvarsforhold.

Konklusion: Struktur slår volumen

Debatten om retsvæsenet er et lærestykke, der peger ud over retssystemet. Den viser med sjælden klarhed, hvad der sker, når teknologi introduceres i eksisterende processer uden ledsagende struktur: flaskehalsen forskydes, kvaliteten lider, tilliden beskadiges, og regulering følger.

For virksomheder er konsekvensen ikke at lægge AI-projekter på is. Den er at stille de rigtige spørgsmål fra starten: Hvem er ansvarlig for outputtet? Hvordan kontrolleres det? Hvad sker der, hvis noget er forkert? Hvilke processer kræver menneskelig godkendelse, og hvilke kan automatiseres?

Dr. Maik Bunzel, grundlægger og direktør for mabucon.eu, sammenfatter den grundlæggende overbevisning præcist: AI-agenter og automatiseringsworkflows realiserer deres værdi ikke gennem mængden af genereret output, men gennem kvaliteten af de beslutninger, de forbereder og understøtter. Den der forstår det, er ikke blot bedre rustet mod risiciene – vedkommende udnytter teknologiens fulde potentiale.