Deutsches Gericht macht Google haftbar für KI-Halluzinationen: Was das Münchner Urteil für die KI-Branche bedeutet

Das Münchner Urteil: Ein Wendepunkt für KI-Anbieter weltweit

Ein Urteil des Landgerichts München hat die KI-Branche aufgerüttelt. Das Gericht hat Google vorläufig für falsche Aussagen haftbar erklärt, die durch die AI Overviews-Funktion der Suchmaschine generiert wurden. Was auf den ersten Blick wie ein lokaler Rechtsstreit zwischen zwei deutschen Verlagen und einem US-Technologieriesen wirkt, trägt das Potential in sich, die rechtlichen Grundlagen für den Einsatz generativer KI-Systeme weltweit neu zu definieren.

Der Fall selbst ist schnell beschrieben: Zwei Verlage stellten fest, dass Googles KI-generierte Zusammenfassungen sie bei bestimmten Suchanfragen fälschlicherweise mit fragwürdigen Geschäftspraktiken, Betrug und Abonnement-Fallen in Verbindung brachten – ohne jede sachliche Grundlage. Google hatte dabei Informationen über andere Unternehmen, die tatsächlich mit solchen Praktiken in Verbindung gebracht worden waren, mit den Daten der Kläger vermengt. Das Ergebnis: neue, eigenständige Aussagen, die in keiner der verlinkten Quellen so zu finden waren.

Der entscheidende juristische Kniff: Von der Verlinkung zur Aussage

Das Kernargument des Gerichts ist so elegant wie folgenreich. Traditionelle Suchmaschinen galten bislang als neutrale Vermittler: Sie zeigen Links zu Inhalten Dritter und genießen daher einen gewissen rechtlichen Schutz gegenüber falschen oder diffamierenden Informationen, die auf verlinkten Seiten zu finden sind. Dieses Schutzprinzip ist in vielen Rechtssystemen verankert und hat der Branche jahrelang Planungssicherheit gegeben.

Das Münchner Gericht befand jedoch: Dieser Schutz greift nicht mehr, sobald generative KI im Spiel ist. Denn anders als ein simpler Link-Aggregator produziert eine auf Large Language Models basierende Zusammenfassungsfunktion eigenständige, neue und substanzielle Aussagen. Die KI interpretiert Quellen, kombiniert sie und erzeugt daraus Inhalte, die in dieser Form nirgendwo im Netz existierten. Damit wird der Betreiber zum Urheber – mit allen rechtlichen Konsequenzen.

„Wer ein KI-System entwirft, trainiert, betreibt und verwaltet, muss für die Schäden haften, die durch dessen Ausgaben entstehen." – Sinngemäße Kernaussage des Landgerichts München

Besonders bemerkenswert ist der Umgang des Gerichts mit Googles Verteidigungsstrategie. Der Konzern argumentierte, dass Nutzer durch Warnhinweise auf mögliche Fehler aufmerksam gemacht würden und Informationen eigenständig überprüfen sollten. Das Gericht ließ dieses Argument nicht gelten: Ein pauschaler Disclaimer in den Nutzungsbedingungen könne den Betreiber nicht von der Haftung befreien, wenn die ursprünglichen Quellen die falschen Aussagen gar nicht enthalten haben. Andernfalls wären Betroffene praktisch schutzlos – schließlich können sie nicht gegen Quellen vorgehen, die die schädliche Behauptung nie aufgestellt haben.

Halluzinationen als Haftungsrisiko: Was technisch bekannt ist, wird nun juristisch relevant

In der KI-Fachcommunity ist das Phänomen der Halluzination – also das Generieren von sachlich falschen, aber sprachlich überzeugend formulierten Aussagen durch ein Sprachmodell – seit Jahren bekannt und intensiv diskutiert. Halluzinationen entstehen, wenn ein Modell Muster aus seinem Trainingsdatensatz auf eine Art kombiniert, die statistisch plausibel klingt, aber faktisch falsch ist. Das Münchner Urteil überführt dieses technische Problem nun in die Sphäre des Zivilrechts.

Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu, beobachtet diese Entwicklung mit großer Aufmerksamkeit: „Das Urteil bestätigt, was wir in der Beratung von Unternehmen schon länger betonen: Wer KI-Systeme in seinen Geschäftsprozessen einsetzt oder betreibt, kann sich nicht hinter dem Verweis auf die Technologie verstecken. Verantwortung und Kontrolle über die Outputs bleiben beim Betreiber." Diese Einschätzung trifft nicht nur Google, sondern potenziell jeden Anbieter und jeden Unternehmenskunden, der generative KI produktiv nutzt.

Das Gericht stellte außerdem klar, dass KI-generierte Inhalte nicht unter die Meinungsfreiheit fallen. Da sie das Produkt eines von einem Unternehmen entworfenen, trainierten und verwalteten Algorithmus sind und keine individuelle Meinungsäußerung darstellen, greift dieser Grundrechtsschutz nicht. Auch das ist eine Weichenstellung mit weitreichenden Implikationen.

Globale Strahlwirkung: OpenAI, Anthropic und Perplexity im Visier?

Das Urteil ist noch nicht rechtskräftig – Google hat angekündigt, die Entscheidung sorgfältig zu prüfen und einen möglichen Widerspruch in Betracht zu ziehen. Dennoch ist seine symbolische Wirkung bereits jetzt enorm. Denn die Logik des Gerichts lässt sich auf praktisch jeden Anbieter generativer KI-Dienste übertragen:

• Chatbots und KI-Assistenten, die eigenständige Aussagen über Personen, Unternehmen oder Sachverhalte treffen
• KI-gestützte Suchmaschinen wie Perplexity AI, die Quellen zusammenfassen und neue Texte synthetisieren
• Unternehmenseigene KI-Anwendungen, die auf Basis von Retrieval-Augmented Generation (RAG) oder Fine-Tuning Informationen verdichten und ausgeben

All diese Systeme teilen ein gemeinsames Merkmal: Sie erzeugen Aussagen, die so in den Quellen nicht stehen. Und genau das war der entscheidende Faktor im Münchner Urteil. Anbieter wie OpenAI, Anthropic oder Google weisen in ihren Nutzungsbedingungen standardmäßig auf mögliche Fehler hin – doch das Gericht hat klargemacht, dass dieser Hinweis für eine Haftungsbefreiung nicht ausreicht.

Was Unternehmen jetzt konkret bedenken müssen

Für Unternehmen, die KI-Systeme einsetzen oder entwickeln lassen, ergeben sich aus dem Münchner Urteil mehrere praktische Konsequenzen. Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu, fasst es so zusammen: „Die Frage ist nicht mehr nur, ob ein KI-System nützlich ist, sondern wer im Schadensfall verantwortlich ist. Unternehmen brauchen klare vertragliche Regelungen mit ihren KI-Dienstleistern und müssen intern Prozesse zur Qualitätssicherung von KI-Outputs etablieren."

Konkret sollten Unternehmen folgende Punkte auf die Agenda setzen:

• Governance-Strukturen für KI-Outputs: Wer prüft, was das System generiert, bevor es nach außen kommuniziert wird?
• Vertragliche Haftungsverteilung: Wie sind Verantwortlichkeiten zwischen Softwareanbieter und Anwenderunternehmen geregelt?
• Technische Maßnahmen gegen Halluzinationen: Einsatz von Grounding-Techniken, Human-in-the-Loop-Prozessen und Output-Validierung
• Dokumentation und Auditierbarkeit: Welche Quellen hat das Modell genutzt, um eine Aussage zu generieren? Ist das nachvollziehbar?
• Monitoring und schnelle Reaktionsfähigkeit: Können fehlerhafte Outputs zeitnah erkannt und korrigiert werden?

Ausblick: Der Beginn einer neuen KI-Rechtsprechung

Das Urteil des Landgerichts München steht nicht isoliert. Es fügt sich in eine globale Debatte über KI-Regulierung ein, die auf europäischer Ebene mit dem EU AI Act bereits legislative Formen angenommen hat. Was die Münchner Entscheidung besonders macht, ist ihre Direktheit: Sie wartet nicht auf den Abschluss des Gesetzgebungsprozesses, sondern leitet aus bestehenden Haftungsprinzipien eine klare Verantwortungszuweisung ab.

Sollte das Urteil in der Berufung Bestand haben oder gar höchstrichterlich bestätigt werden, könnte es tatsächlich zu einem europäischen Leitpräzedenzfall für die zivilrechtliche Haftung generativer KI-Systeme werden. Für die Branche wäre das ein fundamentaler Strukturwandel: weg vom Paradigma des passiven Werkzeugs, hin zur Anerkennung der KI als aktiven Inhaltserzeuger – mit dem Betreiber als Verantwortlichem.

Für Unternehmen bedeutet das: Die Zeit unbedarfter KI-Experimente ohne Governance-Rahmen neigt sich dem Ende zu. Wer KI-Systeme nutzt, die eigenständig Texte, Zusammenfassungen oder Analysen über Personen und Unternehmen erzeugen, trägt eine rechtliche Mitverantwortung für deren Inhalte – unabhängig davon, wie das Modell im Hintergrund funktioniert. Das ist keine Einschränkung des KI-Einsatzes, sondern eine Einladung, ihn reifer und verantwortungsvoller zu gestalten.