Tysk domstol gør Google ansvarlig for AI-hallucinationer: Hvad München-dommen betyder for AI-branchen

München-dommen: Et vendepunkt for KI-udbydere verden over

En dom fra Landgericht München har rystet KI-branchen. Retten har foreløbigt fastslået Googles ansvar for falske udsagn, der blev genereret af søgemaskinens AI Overviews-funktion. Det, der ved første øjekast ligner en lokal retssag mellem to tyske forlag og en amerikansk teknologigigant, rummer potentialet til at omdefinere de juridiske rammer for anvendelsen af generative KI-systemer på verdensplan.

Selve sagen er hurtigt fortalt: To forlag konstaterede, at Googles KI-genererede sammenfatninger ved bestemte søgninger fejlagtigt satte dem i forbindelse med tvivlsomme forretningspraksisser, svindel og abonnementsfælder – uden noget som helst faktuelt grundlag. Google havde blandet oplysninger om andre virksomheder, der reelt var blevet forbundet med sådanne praksisser, sammen med sagsøgernes data. Resultatet: nye, selvstændige udsagn, som ikke kunne findes i nogen af de linkede kilder.

Det afgørende juridiske greb: Fra linkning til udsagn

Rettens kerneargument er lige så elegant som det er vidtrækkende. Traditionelle søgemaskiner er hidtil blevet betragtet som neutrale formidlere: De viser links til tredjeparters indhold og nyder derfor en vis retlig beskyttelse over for falske eller ærekrænkende oplysninger på de linkede sider. Dette beskyttelsesprincip er forankret i mange retssystemer og har i årevis givet branchen planlægningssikkerhed.

München-retten fastslog imidlertid: Denne beskyttelse gælder ikke længere, så snart generativ KI er involveret. For i modsætning til en simpel link-aggregator producerer en sammenfatningsfunktion baseret på Large Language Models selvstændige, nye og substansielle udsagn. KI'en fortolker kilder, kombinerer dem og skaber derved indhold, der i denne form ikke eksisterede noget sted på nettet. Dermed bliver operatøren ophavsmand – med alle juridiske konsekvenser.

„Den, der designer, træner, driver og forvalter et KI-system, må bære ansvaret for de skader, der opstår som følge af systemets output." – Landgericht Münchens kernebudskab, gengivet i sagens ånd

Særligt bemærkelsesværdigt er rettens håndtering af Googles forsvarsstrategi. Koncernen argumenterede for, at brugerne via advarsler blev gjort opmærksomme på mulige fejl, og at de selv burde kontrollere oplysningerne. Retten afviste dette argument: En generel ansvarsfraskrivelse i vilkårene og betingelserne kan ikke fritage operatøren for ansvar, når de oprindelige kilder slet ikke indeholder de falske udsagn. Ellers ville de berørte stå praktisk talt uden beskyttelse – de kan trods alt ikke rette krav mod kilder, der aldrig har fremsat den skadelige påstand.

Hallucination som ansvarlig risiko: Det teknisk velkendte bliver nu juridisk relevant

I KI-fagmiljøet er fænomenet hallucination – det vil sige generering af faktuelt forkerte, men sprogligt overbevisende formulerede udsagn fra en sprogmodel – kendt og intensivt diskuteret i årevis. Hallucinationer opstår, når en model kombinerer mønstre fra sit træningsdatasæt på en måde, der lyder statistisk plausibel, men er faktuelt forkert. Münchener-dommen overfører nu dette tekniske problem til civilrettens område.

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, følger denne udvikling med stor opmærksomhed: „Dommen bekræfter, hvad vi i rådgivningen af virksomheder allerede har understreget i længere tid: Den, der anvender eller driver KI-systemer i sine forretningsprocesser, kan ikke gemme sig bag en henvisning til teknologien. Ansvar og kontrol over output forbliver hos operatøren." Denne vurdering rammer ikke kun Google, men potentielt enhver udbyder og enhver virksomhedskunde, der anvender generativ KI i produktion.

Retten fastslog desuden, at KI-genereret indhold ikke er beskyttet af ytringsfriheden. Da det er produktet af en algoritme, som er designet, trænet og administreret af en virksomhed, og ikke udgør en individuel meningsytring, finder denne grundrettighedsbeskyttelse ikke anvendelse. Også dette er en retningsgivende afgørelse med vidtrækkende konsekvenser.

Global rækkevidde: OpenAI, Anthropic og Perplexity i søgelyset?

Dommen er endnu ikke retskraftig – Google har meddelt, at man vil undersøge afgørelsen nøje og overveje en eventuel anke. Ikke desto mindre er dens symbolske virkning allerede nu enorm. For rettens logik kan overføres på praktisk talt enhver udbyder af generative KI-tjenester:

• Chatbots og KI-assistenter, der fremsætter selvstændige udsagn om personer, virksomheder eller forhold
• KI-drevne søgemaskiner som Perplexity AI, der sammenfatter kilder og syntetiserer nye tekster
• Virksomhedsejet KI-applikationer, der kondenserer og udgiver information på basis af Retrieval-Augmented Generation (RAG) eller Fine-Tuning

Alle disse systemer deler et fælles kendetegn: De genererer udsagn, som ikke fremgår direkte af kilderne. Og netop det var den afgørende faktor i Münchener-dommen. Udbydere som OpenAI, Anthropic eller Google angiver i deres brugsbetingelser standardmæssigt, at der kan forekomme fejl – men retten har gjort det klart, at denne angivelse ikke er tilstrækkelig til at fraskrive sig ansvar.

Hvad virksomheder konkret skal overveje nu

For virksomheder, der anvender eller lader udvikle KI-systemer, indebærer Münchener-dommen flere praktiske konsekvenser. Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, opsummerer det således: „Spørgsmålet er ikke længere kun, om et KI-system er nyttigt, men hvem der er ansvarlig i tilfælde af skade. Virksomheder har brug for klare kontraktlige aftaler med deres KI-tjenesteudbydere og må internt etablere processer til kvalitetssikring af KI-output."

Konkret bør virksomheder sætte følgende punkter på dagsordenen:

• Governance-strukturer for KI-output: Hvem kontrollerer, hvad systemet genererer, inden det kommunikeres udadtil?
• Kontraktuel ansvarsfordeling: Hvordan er ansvarsforholdet reguleret mellem softwareleverandør og brugervirksomhed?
• Tekniske foranstaltninger mod hallucinationer: Anvendelse af grounding-teknikker, Human-in-the-Loop-processer og output-validering
• Dokumentation og reviderbarhed: Hvilke kilder har modellen anvendt til at generere en udtalelse? Er det sporbart?
• Overvågning og hurtig reaktionsevne: Kan fejlagtige outputs opdages og korrigeres rettidigt?

Udsyn: Begyndelsen på en ny KI-retspraksis

Dommen fra Landgericht München står ikke isoleret. Den indgår i en global debat om KI-regulering, som på europæisk plan allerede har antaget lovgivningsmæssig form med EU AI Act. Det, der gør den münchenske afgørelse særlig, er dens direkthed: Den afventer ikke afslutningen af lovgivningsprocessen, men udleder en klar ansvarsplacering af eksisterende erstatningsretlige principper.

Skulle dommen blive opretholdt i ankesagen eller endda bekræftet af en højere instans, kunne den reelt blive en europæisk ledende præcedens for det civilretlige ansvar ved generative KI-systemer. For branchen ville det udgøre en fundamental strukturændring: væk fra paradigmet om det passive værktøj og hen imod anerkendelsen af KI som aktiv indholdsskaber – med operatøren som den ansvarlige part.

For virksomheder betyder det: Tiden med ubekymrede KI-eksperimenter uden en governance-ramme nærmer sig sin afslutning. Den, der anvender KI-systemer, som selvstændigt genererer tekster, resuméer eller analyser om personer og virksomheder, bærer et medansvar for indholdet heraf – uanset hvordan modellen fungerer i baggrunden. Det er ikke en begrænsning af KI-anvendelsen, men en invitation til at forme den mere modent og ansvarligt.