Når AI-agenter eskalerer: Hvad Metas mislykkede "Project OT" lærer virksomheder

Metas hemmelige transformationsprojekt: Mellem ambition og virkelighed

Få teknologikoncerner i verden råder over så dybe KI-ressourcer som Meta. Desto mere sigende er det, hvad Reuters for nylig afslørede om det projekt, der internt er kendt som „Project OT": Meta planlagde angiveligt at skære enkelte teams ned med op til 60 procent og i vid udstrækning erstatte deres opgaver med KI-agenter. Projektet blev i sidste ende trukket tilbage – og efterlader en række læringer, der er relevante langt ud over koncernen selv.

„OT" stod for „Organization Transformation". Ifølge Reuters gennemgik journalisterne adskillige interne dokumenter og talte med mere end tyve personer fra virksomheden. Det billede, der tegner sig, er et ambitiøst, men dårligt kalibreret forsøg på at tvinge overgangen til en såkaldt „AI native"-virksomhed igennem – en virksomhed, hvor KI-agenter og automatiserede workflows sætter dagsordenen, ikke længere menneskelige medarbejderteams.

Hvad betyder „AI native" egentlig?

I et af de interne dokumenter, som Reuters citerede, blev „AI native" defineret som en tilstand, hvor „KI-aktiverede værktøjer og agenter interagerer, workflows er automatiserede, og nye udviklinger tænkes KI-first." Ved første øjekast lyder det som konsekvent digital transformation. Men i praksis afslører Meta-episoden, hvor stor kløften kan være mellem strategisk vision og operationel implementeringsmodenhed.

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, understreger i sit rådgivningsarbejde regelmæssigt netop denne forskel: KI-agenter er ikke digitale medarbejdere, man blot kan plante ind i eksisterende organisationsstrukturer. De kræver klart definerede ansvarsområder, pålidelige datagrundlag og – afgørende – menneskelige oversight-strukturer, der ikke blot eksisterer formelt, men fungerer aktivt.

Den undervurderede fare: Agenter, der eskalerer

Særligt bemærkelsesværdigt er et detalje fra Reuters' research, som hidtil har fået for lidt opmærksomhed i den offentlige debat. Interne opslag hos Meta skal have antydet, at KI-agenter udførte „large-scale, disruptive actions" – altså vidtrækkende, forstyrrende indgreb, som menneskelige medarbejdere ikke ville have foretaget. Konsekvenserne var målbare:

• En stigning i alvorlige tekniske og sikkerhedsrelaterede hændelser på 40 procent år over år
• En stigning i den medarbejdertid, der bruges på at afhjælpe disse problemer, på op til 70 procent
• Kodeændringer på interne platforme steg ganske vist med 220 procent – men faktiske forbedringer af funktioner for slutbrugere kun med 36 procent

Denne diskrepans mellem rent kvantitativ aktivitet og kvalitativ effekt er et klassisk advarselssignal ved dårligt orkestrerede Agentic-AI-deployments. Masser af output, lidt outcome – et mønster, der bør gøre virksomheder særligt årvågne ved anvendelsen af autonome systemer.

„Trajektorien for den agentiske udvikling har ikke accelereret i de seneste fire måneder på den måde, vi forventede." — Mark Zuckerberg, internt, ifølge Reuters

Hvorfor Project OT blev stoppet – og hvad det siger om KI-modenhed

Reuters kunne ikke afgøre med sikkerhed, hvad der fik Mark Zuckerberg til at stoppe den anden planlagte afskedigelsesbølge i november. En kombination af faktorer virker sandsynlig: faldende medarbejdermoral som følge af tidlige rapporter om planerne, usikkerhed om de faktiske produktivitetsgevinster samt den beskrevne eskaleringsadfærd hos KI-agenterne selv.

Hertil kommer: Meta havde tilsyneladende begyndt at registrere tastatur- og museinput fra medarbejdere for at træne KI-agenter – et program, der nu er sat på pause. Dette skridt illustrerer, i hvor høj grad virksomheder ved opbygningen af agentbaserede systemer er afhængige af kvalitativt højtydende træningsdata fra deres egen drift – og hvor følsom denne proces er med hensyn til tillid og compliance.

Implikationer for mellemstore virksomheder

Det, som Meta med sine næsten ubegrænsede ressourcer ikke kunne gennemføre gnidningsfrit, bør ikke afskrække mindre og mellemstore virksomheder – men det bør give anledning til en realistisk forventningsafstemning. Spørgsmålet er ikke, om KI-agenter bør integreres i forretningsprocesser, men hvordan og i hvilken takt.

Dr. Maik Bunzel fra mabucon.eu anbefaler virksomheder konsekvent at følge princippet om Human-in-the-Loop ved anvendelsen af autonome KI-systemer – i hvert fald indtil pålideligheden af de anvendte agenter er empirisk dokumenteret i den pågældende driftsmiljø. Det betyder: KI-agenter overtager klart afgrænsede delopgaver, mens mennesker er ansvarlige for beslutninger med stor rækkevidde og for håndtering af undtagelser.

• Pilotprojekt før skalering: Begynd med en snævert defineret use case, inden hele afdelinger omstruktureres.
• Kvalitet frem for kvantitet: Mål ikke kun, hvor meget en agent gør, men hvilken faktisk forretningsværdi den skaber.
• Incident-Monitoring fra starten: Agentiske systemer kan generere uforudsete sideeffekter – et robust monitoring er ikke en mulighed, men en grundlæggende forudsætning.
• Inddrag medarbejderne: Transparens om KI-agenters formål og begrænsninger er afgørende for accepten og dermed for succesen.

Paradokset i den AI-native organisation

Project OT var på en måde et offer for sin egen radikalitet. Tilgangen med at erstatte hele teamstrukturer med agenter og samtidig reducere omkostningerne via afskedigelser sammenblandes to grundlæggende forskellige målsætninger: operationel effektivitet gennem automatisering på den ene side og kortsigtede omkostningsreduktioner gennem personalenedskæringer på den anden. Begge mål kan forfølges med KI – men ikke samtidig og ikke uden solid evidens for, at agenterne håndterer de overdragne opgaver pålideligt.

Den egentlige vision om en "AI native"-organisation er ikke nødvendigvis en med færre mennesker. Det er en, hvor mennesker og KI-systemer arbejder så tæt sammenvævet, at begge realiserer deres potentiale maksimalt. Det kræver grundig procesanalyse, en iterativ tilgang og – ofte undervurderet – en virksomhedskultur, der ikke opfatter forandring som en trussel, men som en udviklingsmulighed.

Perspektiv: Agentisk KI forbliver det vigtigste teknologispørgsmål i de kommende år

Uanset tilbageslagene med Project OT er der ingen tvivl om, at agentbaserede KI-systemer fundamentalt vil ændre den måde, virksomheder arbejder på. Spørgsmålet er ikke længere om, men hvor godt organisationer formår at håndtere denne overgang. Metas erfaringer leverer værdifuldt – om end dyrt betalt – undervisningsmateriale til netop dette formål.

For virksomheder, der nu begynder at planlægge konkrete KI-agent-projekter, gælder følgende: Den teknologiske gennemførlighed er til stede på mange områder. Den organisatoriske og procesmæssige modenhed afgør, om det resulterer i en bæredygtig konkurrencefordel – eller et kostbart eksperiment. Dr. Maik Bunzel og teamet fra mabucon.eu støtter virksomheder præcis i dette grænsefelt: fra strategisk indplacering til operationel implementering af skræddersyede KI-løsninger, der ikke virker imod, men sammen med menneskene i virksomheden.