Agenten-Komplexität: Die unterschätzte Gefahr in Enterprise-KI-Systemen

Wenn ein Agent gut ist, sind hundert dann besser? Nicht unbedingt.

Die Versprechen autonomer KI-Agenten sind verlockend: Prozesse, die sich selbst steuern, Entscheidungen, die in Millisekunden fallen, Workflows, die rund um die Uhr laufen – ohne menschliches Eingreifen. Doch in der Praxis des Unternehmenseinsatzes zeigt sich ein Muster, das zunehmend Strategieveantwortliche beunruhigt: Je mehr Agenten ein Unternehmen deployt, desto schwerer wird es, den Überblick zu behalten – über das, was diese Agenten tun, miteinander kommunizieren und in Gang setzen.

Das ist keine theoretische Warnung mehr. Es ist die gelebte Realität der Enterprise-AI-Welle, die gerade durch Unternehmen jeder Größenordnung rollt. Und sie bringt eine oft übersehene Erkenntnis mit sich: Das größte Risiko ist nicht der einzelne autonome Agent – es ist die Komplexität zwischen den Agenten.

Kombinatorische Komplexität: Mathematik, die unterschätzt wird

Wer nur einen KI-Agenten betreibt, hat eine überschaubare Aufgabe. Wer einen zweiten hinzufügt, bekommt eine Verbindung dazu. Aber wer zehn Agenten betreibt, hat potenziell nicht zehn, sondern Dutzende von Verbindungspfaden – denn jeder Agent kann jeden anderen ansprechen, und jede dieser Interaktionen kann weitere Aktionen anstoßen. Komplexität skaliert nicht linear mit der Anzahl der Agenten, sondern exponentiell mit der Anzahl möglicher Interaktionspfade.

Ein Supportticket, das früher ein einziges System berührte, wandert heute durch vier oder fünf Agenten, bevor ein Mensch überhaupt davon erfährt. Jeder dieser Übergabepunkte ist eine Entscheidung – eine, die niemand explizit genehmigt hat. Und genau an diesem Punkt beginnt Governance zu versagen: nicht durch einen einzelnen Fehler, sondern durch die schleichende Akkumulation von Übergaben, die niemand mehr vollständig nachvollziehen kann.

Permissions Creep: Wenn Berechtigungen ein Eigenleben entwickeln

Ein besonders heimtückisches Phänomen in Multi-Agent-Systemen ist das sogenannte Permissions Creep: Ein Agent wird ursprünglich mit breiten API-Zugriffen ausgestattet, weil die saubere Einschränkung der Berechtigungen zu aufwändig erschien. Monate später hat dieser Agent – durch Verkettung mit anderen Agenten – einen Pfad in Systeme, die ursprünglich nie vorgesehen waren. Niemand hat das aktiv genehmigt. Es ist einfach passiert.

Dieses Muster ist typisch für Unternehmen, die schnell skalieren wollen, aber die Governance-Infrastruktur nicht im gleichen Tempo aufbauen. Die Frage, welcher Agent Zugriff auf welches System hat, sollte jederzeit beantwortbar sein – in der Praxis herrscht hier häufig Schweigen.

„Wir sehen bei Kunden immer wieder, dass der Deployment-Schritt gut geplant ist – aber die Frage, wer langfristig Verantwortung für einen Agenten trägt, bleibt offen." – Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu

Das Governance-Defizit: Checklisten reichen nicht

Die erste Reaktion vieler IT- und Compliance-Teams ist reflexartig: Agenten genehmigen, protokollieren, abhaken. Doch dieses Denken in Einzelpunkten greift zu kurz. Governance in Multi-Agent-Umgebungen ist keine einmalige Aufgabe, sondern ein kontinuierlicher Prozess über die gesamte Prozesskette hinweg.

Es gibt dabei drei Ebenen, die Unternehmen sauber unterscheiden müssen:

• Identität: Jeder Agent braucht eine eigene, klar definierte Identität im System – mit eigenem Scope, eigenen Berechtigungen und einem namentlich benannten menschlichen Verantwortlichen. Kein Shadow-Provisioning, keine geerbten Berechtigungen vom Deployer.
• Observability: Unternehmen müssen in Echtzeit sehen können, was ein Agent getan hat, welche nachgelagerten Aktionen er ausgelöst hat und wo dieser Pfad endet. Ein Quartalsbericht genügt nicht – die Transparenz muss kontinuierlich sein.
• Enforcement: Der entscheidende, oft fehlende Baustein: die Fähigkeit, einen richtlinienwidrigen Aufruf zu stoppen, bevor er ausgeführt wird – nicht erst im Nachhinein zu dokumentieren. Ein Dashboard, das zeigt, dass ein Agent vor fünf Minuten seinen Scope verletzt hat, ist ein Monitoring-Tool. Ein System, das diesen Verstoß verhindert, ist echte Governance.

Wer nur Monitoring aufgebaut hat, hat erst die Hälfte der Arbeit getan.

Ownership als strategisches Problem

Ein weiteres strukturelles Problem: Wenn fünf Agenten an einem Workflow beteiligt sind und an Schritt vier etwas schiefgeht, ist die Frage nach der Verantwortung oft nicht zu beantworten. Organigramme enden bei „Agent deployt" – sie reichen selten bis zu „Mensch, der für diesen Agenten-Schritt haftet". Diese Ownership-Lücke ist nicht technisch, sie ist organisatorisch. Und sie lässt sich nur schließen, wenn Governance von Anfang an als Teil des Deployment-Prozesses verstanden wird.

Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu, betont in Gesprächen mit Unternehmenskunden regelmäßig diesen Punkt: Die technische Implementierung eines KI-Agenten ist häufig schneller gelöst als die organisatorische Frage, wer für sein Verhalten langfristig einsteht. Wer diese Frage offenlässt, baut auf einem fragilen Fundament – unabhängig davon, wie gut der Agent selbst funktioniert.

Komplexität ist kein Grund zum Bremsen – aber zum Strukturieren

Es wäre falsch, die beschriebene Komplexität als Argument gegen den Ausbau von KI-Agenten zu interpretieren. Das Gegenteil ist richtig: Unternehmen, die Governance-Infrastruktur als strategische Investition begreifen, können ihre Agenten-Flotten deutlich schneller und sicherer skalieren als jene, die Governance als nachgelagerten Compliance-Aufwand behandeln.

Das Ziel ist keine Verlangsamung, sondern das, was man als Human-Agent Harmony beschreiben könnte: eine Architektur, in der Skalierung und Verantwortlichkeit parallel wachsen, anstatt gegeneinander ausgespielt zu werden. Autonomie ist nicht das Problem. Unkontrollierte Autonomie ist es.

Was Unternehmen jetzt konkret tun sollten

• Agent-Register aufbauen: Jeder produktiv laufende Agent sollte mit eigenem Namen, klar definiertem Scope und benanntem Verantwortlichen erfasst sein.
• Interaktionspfade sichtbar machen: Welcher Agent ruft welchen auf? Welche Systeme werden über mehrstufige Ketten erreichbar? Diese Graphen müssen gezeichnet und gepflegt werden.
• Enforcement vor Monitoring priorisieren: Wer nur beobachtet, reagiert. Wer Enforcement-Mechanismen implementiert, handelt proaktiv.
• Governance von Anfang an einplanen: Nicht als Nacharbeit nach dem Deployment, sondern als fester Bestandteil jedes Agenten-Projekts.
• Organisatorische Ownership klären: Technische Dokumentation ersetzt keine menschliche Verantwortlichkeit. Für jeden Agenten, für jede Kette.

Ausblick: Die nächste Reifestufe der Enterprise-KI

Die aktuelle Phase der Enterprise-AI-Adoption lässt sich mit einem Vergleich beschreiben: Viele Unternehmen deployen Agenten mit der Geschwindigkeit eines Startups und dem Governance-Framework eines Pilotprojekts. Das funktioniert solange, bis die erste ernsthafte Fehlfunktion in einer komplexen Kette auftritt – und dann wird aus einem Piloten ein Problem.

Die Unternehmen, die in ein bis zwei Jahren als Gewinner dieser Transformation dastehen werden, sind nicht zwingend jene mit den meisten oder leistungsfähigsten Agenten. Es sind jene, die früh verstanden haben, dass der Wert autonomer Systeme nur dann vollständig gehoben werden kann, wenn Transparenz und Kontrolle über das gesamte Netzwerk sichergestellt sind.

Multi-Agent-Systeme sind keine Zukunftsmusik mehr – sie sind operative Realität. Die Frage, die jedes Unternehmen für sich beantworten muss, lautet daher nicht: Sollten wir KI-Agenten einsetzen? Sondern: Können wir jederzeit erklären, was unser Agenten-System gerade tut – und wer dafür verantwortlich ist? Wer diese Frage souverän beantworten kann, hat die nächste Reifestufe der Enterprise-KI erreicht.