Datenpfade als Sicherheitsnetz: Warum agentic AI Data Lineage braucht

Wenn KI-Agenten Daten verschieben – und niemand es bemerkt

Stellen Sie sich folgendes Szenario vor: Ein Vertriebsmitarbeiter fragt einen KI-Agenten nach aktuellen Kundenpreisen. Der Agent durchsucht dafür mehrere interne Quellen – darunter beschränkte Preissysteme, interne Kommunikation und archivierte Angebote. Das Ergebnis wirkt korrekt. Ein zweiter Agent greift auf diese Ausgabe zu und erstellt daraus automatisch ein Angebot für den Kunden. Kein Mensch prüft die Übergabe. Als das fertige Dokument vertrauliche und nicht freigegebene Informationen enthält, lässt sich nicht mehr nachvollziehen, wo die problematischen Daten in den Workflow eingeflossen sind – oder wie sie sich über Systeme, Dateien und Agenten hinweg verbreitet haben.

Dieses Szenario, das MIT Technology Review in einer aktuellen Analyse beschreibt, ist kein hypothetisches Worst-Case-Konstrukt. Es ist eine logische Konsequenz aus der Art, wie moderne KI-Agenten in Unternehmensprozesse eingebettet werden – nämlich schnell, breit und oft ohne ausreichende Governance-Strukturen im Hintergrund.

Das eigentliche Problem: Datensichtbarkeit, nicht Werkzeuge

Lange war KI-Sicherheit primär ein technisches Thema – Firewalls, Zugangskontrollen, verschlüsselte Endpoints. Diese Maßnahmen sind weiterhin wichtig, greifen aber bei agentic AI zu kurz. Der entscheidende Unterschied liegt in der Natur der Daten selbst: Sie sind nicht mehr statisch. KI-Agenten ingesten, kopieren, komprimieren, transformieren und redistribuieren Informationen in einem Tempo und einer Fragmentierung, die klassische Sicherheitsansätze schlicht nicht abbilden können.

„KI-Sicherheit ist kein Werkzeugproblem – es ist ein Problem der Datensichtbarkeit."

Diese Formulierung trifft den Kern. Unternehmen, die heute agentic AI einsetzen, müssen verstehen: Der Angriffsvektor ist nicht die KI an sich, sondern der unkontrollierte Datenfluss zwischen Agenten, Systemen und Ausgaben. Sobald ein Agent das Ergebnis eines anderen Agenten als verlässliche Quelle behandelt – ohne Transparenz darüber, woher diese Daten stammen – entsteht eine Kette, die schwer zu durchbrechen ist.

Data Lineage: Der fehlende Baustein in der KI-Governance

Data Lineage – also die lückenlose Nachverfolgbarkeit des Datenflusses von der Quelle bis zur Ausgabe – ist kein neues Konzept. In der klassischen Datenarchitektur und im Rahmen regulatorischer Compliance wird es seit Jahren eingesetzt. Doch in der Welt der autonomen KI-Workflows bekommt es eine völlig neue Bedeutung und Dringlichkeit.

Wenn KI-Agenten eigenständig handeln, delegieren, zusammenfassen und weiterverarbeiten, braucht es eine Ebene, die festhält:

• Welche Datenquelle wurde von welchem Agenten zu welchem Zeitpunkt abgerufen?
• Wie wurde der Inhalt transformiert – komprimiert, selektiert, kombiniert?
• An welche nachgelagerten Agenten oder Systeme wurde das Ergebnis weitergegeben?
• Welche Zugriffsrechte galten zum Zeitpunkt des Datenzugriffs – und wurden sie respektiert?

Ohne diese Sichtbarkeit ist es schlicht unmöglich, im Nachhinein zu verstehen, wie ein problematisches Output entstanden ist – und noch schwieriger, es strukturell zu verhindern.

Hybride Workflows als besondere Herausforderung

Die Realität in den meisten Unternehmen ist hybrid: Manche Schritte werden von Menschen ausgeführt, andere von KI-Agenten – und die Übergaben zwischen beiden passieren oft implizit. Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu, weist in seiner Beratungspraxis regelmäßig auf diesen blinden Fleck hin: „Die gefährlichste Stelle in einem automatisierten Workflow ist nicht die KI – es ist der Moment, in dem eine KI-Ausgabe ohne Prüfung zur Eingabe des nächsten Schritts wird. Genau hier braucht man Lineage, nicht Vertrauen."

Hybride Workflows erzeugen besondere Komplexität, weil sie weder vollständig menschlich noch vollständig maschinell sind. Governance-Frameworks, die auf klaren Zuständigkeiten beruhen, kommen hier an ihre Grenzen. Es braucht technische Mechanismen, die unabhängig von der Art des ausführenden Akteurs – Mensch oder Maschine – den Datenfluss protokollieren und auditierbar machen.

Implikationen für die Unternehmensarchitektur

Für Unternehmen, die heute in agentic AI investieren oder es planen, ergeben sich aus dieser Analyse konkrete strukturelle Anforderungen:

• Governance by Design: Data Lineage darf kein nachträglicher Gedanke sein. Sie muss von Beginn an in die Architektur autonomer Systeme eingebettet werden – als integraler Bestandteil, nicht als Audit-Tool am Ende der Kette.
• Datenklassifizierung als Voraussetzung: KI-Agenten können nur dann korrekte Zugriffsentscheidungen treffen, wenn Daten klar klassifiziert und mit Metadaten versehen sind – von sensibel bis öffentlich, von aktuell bis archiviert.
• Agent-zu-Agent-Vertrauen explizit regeln: In Multi-Agent-Systemen darf Vertrauen nicht implizit vererbt werden. Jeder Agent braucht definierte Berechtigungen und sollte keine Daten verarbeiten, deren Herkunft er nicht kennt.
• Auditierbarkeit als Compliance-Anforderung: Mit zunehmender Regulierung rund um KI – etwa durch den EU AI Act – wird die Fähigkeit, Datenflüsse nachzuweisen, zur rechtlichen Notwendigkeit, nicht nur zur Best Practice.

Zwischen Automatisierungsdruck und Kontrollverlust

Es gibt eine strukturelle Spannung, die viele Unternehmen gerade spüren: Der Druck, Prozesse schnell zu automatisieren, ist enorm. Gleichzeitig wächst das Bewusstsein, dass unkontrollierte Automatisierung neue Risiken erzeugt, die schwerer zu managen sind als die ursprünglichen manuellen Prozesse. Diese Spannung lässt sich nicht durch mehr KI auflösen – sie erfordert bessere Governance.

Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu, bringt es auf den Punkt: „Wer KI-Agenten in kritische Workflows integriert, ohne Data Lineage zu implementieren, automatisiert nicht nur Prozesse – er automatisiert auch potenzielle Fehlerquellen. Und die skalieren genauso schnell wie die Effizienzgewinne."

Ausblick: KI-Sicherheit neu definieren

Die nächste Reifestufe der KI-Integration in Unternehmen wird maßgeblich davon abhängen, ob es gelingt, Vertrauen in automatisierte Systeme technisch herzustellen – nicht durch Hoffnung, sondern durch Nachvollziehbarkeit. Data Lineage ist dabei kein optionales Feature, sondern das Fundament jeder ernsthaften KI-Governance-Strategie.

Organisationen, die heute in diese Infrastruktur investieren, schaffen nicht nur mehr Sicherheit – sie schaffen die Grundlage für skalierbare, vertrauenswürdige Automatisierung. Und genau das ist der Unterschied zwischen KI als Experiment und KI als strategischem Unternehmens-Asset.