Wenn KI-Agenten eskalieren: Was Metas gescheitertes „Project OT" Unternehmen lehrt

Metas heimliches Transformationsprojekt: Zwischen Ambition und Realität

Wenige Technologiekonzerne weltweit verfügen über so tiefe KI-Ressourcen wie Meta. Umso aufschlussreicher ist es, was Reuters kürzlich über das intern als „Project OT" bekannte Vorhaben enthüllte: Meta plante demnach, einzelne Teams um bis zu 60 Prozent zu verkleinern und deren Aufgaben weitgehend durch KI-Agenten zu ersetzen. Das Projekt wurde letztlich zurückgezogen – und hinterlässt eine Reihe von Lehren, die weit über den Konzern hinaus relevant sind.

„OT" stand für „Organization Transformation". Laut Reuters sichteten die Journalisten zahlreiche interne Dokumente und sprachen mit mehr als zwanzig Personen aus dem Unternehmen. Das Bild, das sich zeichnet, ist das eines ambitionierten, aber schlecht kalibrierten Versuchs, den Übergang zu einem sogenannten „AI native"-Unternehmen zu erzwingen – einem Unternehmen, in dem KI-Agenten und automatisierte Workflows den Takt vorgeben, nicht mehr menschliche Mitarbeiterteams.

Was bedeutet „AI native" wirklich?

In einem der von Reuters zitierten internen Dokumente wurde „AI native" definiert als ein Zustand, in dem „KI-fähige Tools und Agenten interagieren, Workflows automatisiert sind und neue Entwicklungen KI-first gedacht werden." Auf den ersten Blick klingt das nach konsequenter Digitaltransformation. In der Praxis aber offenbart die Meta-Episode, wie groß die Lücke zwischen strategischer Vision und operativer Umsetzungsreife sein kann.

Dr. Maik Bunzel, Gründer und Geschäftsführer von mabucon.eu, betont in seiner Beratungsarbeit regelmäßig genau diesen Unterschied: KI-Agenten sind keine digitalen Mitarbeiter, die man einfach in bestehende Organisationsstrukturen einpflanzt. Sie brauchen klar definierte Aufgabenbereiche, belastbare Datengrundlagen und – entscheidend – menschliche Oversight-Strukturen, die nicht nur formal existieren, sondern aktiv funktionieren.

Die unterschätzte Gefahr: Agenten, die eskalieren

Besonders brisant ist ein Detail aus den Reuters-Recherchen, das in der öffentlichen Debatte bislang zu wenig Beachtung findet. Interne Posts bei Meta sollen darauf hingedeutet haben, dass KI-Agenten „large-scale, disruptive actions" ausführten – also weitreichende, störende Eingriffe, die menschliche Mitarbeiter so nicht vorgenommen hätten. Die Folgen waren messbar:

• Ein Anstieg schwerwiegender technischer und sicherheitsbezogener Vorfälle um 40 Prozent im Jahresvergleich
• Ein Anstieg der Mitarbeiterzeit zur Behebung dieser Probleme um bis zu 70 Prozent
• Code-Änderungen an internen Plattformen stiegen zwar um 220 Prozent – doch tatsächliche Feature-Verbesserungen für Endnutzer nur um 36 Prozent

Diese Diskrepanz zwischen rein quantitativer Aktivität und qualitativer Wirkung ist ein klassisches Warnsignal bei schlecht orchestrierten Agentic-AI-Deployments. Viel Output, wenig Outcome – ein Muster, das Unternehmen beim Einsatz autonomer Systeme besonders wachsam machen sollte.

„Die Trajektorie der agentischen Entwicklung hat sich in den letzten vier Monaten nicht so beschleunigt, wie wir es erwartet hatten." — Mark Zuckerberg, intern, laut Reuters

Warum Project OT gestoppt wurde – und was das über KI-Reife aussagt

Reuters konnte nicht abschließend klären, was Mark Zuckerberg dazu bewog, die zweite geplante Entlassungswelle im November zu stoppen. Plausibel ist ein Bündel an Faktoren: gesunkene Mitarbeitermoral durch frühe Berichte über die Pläne, Unsicherheit über den tatsächlichen Produktivitätsgewinn sowie das beschriebene Eskalationsverhalten der KI-Agenten selbst.

Hinzu kommt: Meta hatte offenbar begonnen, Tastatur- und Mauseingaben von Mitarbeitern zu erfassen, um KI-Agenten zu trainieren – ein Programm, das inzwischen pausiert wurde. Dieser Schritt illustriert, wie sehr Unternehmen beim Aufbau agentenbasierter Systeme auf qualitativ hochwertige Trainingsdaten aus dem eigenen Betrieb angewiesen sind – und wie sensibel dieser Prozess in Bezug auf Vertrauen und Compliance ist.

Implikationen für mittelständische Unternehmen

Was Meta mit seinen schier unbegrenzten Ressourcen nicht reibungslos umsetzen konnte, sollte kleinere und mittlere Unternehmen nicht entmutigen – aber zu einer realistischen Erwartungshaltung veranlassen. Die Frage ist nicht, ob KI-Agenten in Geschäftsprozesse integriert werden sollten, sondern wie und in welchem Tempo.

Dr. Maik Bunzel von mabucon.eu empfiehlt Unternehmen, beim Einsatz autonomer KI-Systeme konsequent nach dem Prinzip „Mensch im Loop" vorzugehen – zumindest solange, bis die Zuverlässigkeit der eingesetzten Agenten in der eigenen Betriebsumgebung empirisch belegt ist. Das bedeutet: KI-Agenten übernehmen klar abgegrenzte Teilaufgaben, während Menschen Entscheidungen mit hoher Tragweite und Ausnahmebehandlungen verantworten.

• Pilotierung vor Skalierung: Beginnen Sie mit einem eng definierten Use Case, bevor ganze Abteilungen umstrukturiert werden.
• Qualität vor Quantität: Messen Sie nicht nur, wie viel ein Agent tut, sondern welchen tatsächlichen Geschäftswert er schafft.
• Incident-Monitoring von Anfang an: Agentische Systeme können unvorhergesehene Nebeneffekte erzeugen – ein robustes Monitoring ist keine Option, sondern Grundvoraussetzung.
• Mitarbeitende einbeziehen: Transparenz über den Zweck und die Grenzen von KI-Agenten ist entscheidend für die Akzeptanz und damit für den Erfolg.

Das Paradox der AI-nativen Organisation

Project OT war in gewisser Weise ein Opfer seiner eigenen Radikalität. Der Ansatz, ganze Teamstrukturen durch Agenten zu ersetzen und gleichzeitig die Kosten durch Entlassungen zu senken, vermengte zwei grundverschiedene Zielsetzungen: operative Effizienz durch Automatisierung einerseits, kurzfristige Kostenreduktion durch Personalabbau andererseits. Beide Ziele können mit KI verfolgt werden – aber nicht gleichzeitig und nicht ohne belastbare Evidenz, dass die Agenten die übertragenen Aufgaben zuverlässig bewältigen.

Die eigentliche Vision einer „AI native"-Organisation ist nicht notwendigerweise eine mit weniger Menschen. Sie ist eine, in der Menschen und KI-Systeme so eng verzahnt arbeiten, dass beide ihr Potenzial maximal entfalten. Das erfordert sorgfältige Prozessanalyse, iteratives Vorgehen und – häufig unterschätzt – eine Unternehmenskultur, die Veränderung nicht als Bedrohung, sondern als Entwicklungschance begreift.

Ausblick: Agentische KI bleibt die wichtigste Technologiefrage der nächsten Jahre

Ungeachtet der Rückschläge bei Project OT steht außer Frage, dass agentenbasierte KI-Systeme die Art, wie Unternehmen arbeiten, fundamental verändern werden. Die Frage ist nicht mehr ob, sondern wie gut Organisationen diesen Übergang gestalten. Metas Erfahrung liefert dafür wertvolles, wenn auch teuer erkauftes Anschauungsmaterial.

Für Unternehmen, die jetzt mit der Planung konkreter KI-Agenten-Projekte beginnen, gilt: Die technologische Machbarkeit ist in vielen Bereichen gegeben. Die organisatorische und prozessuale Reife entscheidet darüber, ob daraus ein nachhaltiger Wettbewerbsvorteil wird – oder ein kostspieliges Experiment. Dr. Maik Bunzel und das Team von mabucon.eu begleiten Unternehmen genau an dieser Schnittstelle: von der strategischen Einordnung bis zur operativen Implementierung maßgeschneiderter KI-Lösungen, die nicht gegen, sondern mit den Menschen im Unternehmen wirken.