Agenternes kompleksitet: Den undervurderede fare i enterprise-KI-systemer

Hvis én agent er god, er hundrede så bedre? Ikke nødvendigvis.

Løfterne om autonome KI-agenter er lokkende: processer, der styrer sig selv, beslutninger, der træffes på millisekunder, workflows, der kører døgnet rundt – uden menneskelig indgriben. Men i praksis i virksomhedssammenhæng tegner der sig et mønster, der i stigende grad bekymrer strategiansvarlige: Jo flere agenter en virksomhed deployer, desto sværere bliver det at bevare overblikket – over hvad disse agenter gør, kommunikerer indbyrdes og sætter i gang.

Det er ikke længere en teoretisk advarsel. Det er den levede virkelighed i den Enterprise-AI-bølge, der i øjeblikket ruller gennem virksomheder af alle størrelser. Og den medfører en ofte overset erkendelse: Den største risiko er ikke den enkelte autonome agent – det er kompleksiteten mellem agenterne.

Kombinatorisk kompleksitet: matematik, der undervurderes

Den, der kun driver én KI-agent, har en overskuelig opgave. Den, der tilføjer en anden, får én forbindelse dertil. Men den, der driver ti agenter, har potentielt ikke ti, men dusinvis af forbindelsesstier – for hver agent kan henvende sig til enhver anden, og hver af disse interaktioner kan udløse yderligere handlinger. Kompleksitet skalerer ikke lineært med antallet af agenter, men eksponentielt med antallet af mulige interaktionsstier.

En supportsag, der tidligere berørte ét enkelt system, bevæger sig i dag gennem fire eller fem agenter, før et menneske overhovedet får kendskab til den. Hvert af disse overdragelsespunkter er en beslutning – én, som ingen eksplicit har godkendt. Og præcis på dette punkt begynder governance at svigte: ikke gennem én enkelt fejl, men gennem den gradvise akkumulation af overdragelser, som ingen længere kan gennemskue fuldt ud.

Permissions Creep: når rettigheder udvikler et eget liv

Et særligt lumsk fænomen i multi-agent-systemer er det såkaldte Permissions Creep: En agent udstyres oprindeligt med brede API-adgange, fordi det præcise indskrænkning af rettigheder syntes for besværligt. Måneder senere har denne agent – gennem sammenkædning med andre agenter – fået en sti ind i systemer, der aldrig oprindeligt var tiltænkt. Ingen har aktivt godkendt det. Det er bare sket.

Dette mønster er typisk for virksomheder, der ønsker at skalere hurtigt, men ikke opbygger governance-infrastrukturen i samme tempo. Spørgsmålet om, hvilken agent der har adgang til hvilket system, bør til enhver tid kunne besvares – i praksis hersker der her ofte tavshed.

„Vi ser gang på gang hos kunder, at deployment-trinnet er velplanlagt – men spørgsmålet om, hvem der på lang sigt bærer ansvaret for en agent, forbliver ubesvaret." – Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu

Governance-underskuddet: tjeklister er ikke nok

Den første reaktion hos mange IT- og compliance-teams er refleksagtig: godkende agenter, protokollere, sætte flueben. Men denne tankegang om enkeltpunkter rækker ikke langt nok. Governance i multi-agent-miljøer er ikke en engangsopgave, men en kontinuerlig proces på tværs af hele proceskæden.

Der er tre niveauer, som virksomheder skal skelne klart imellem:

• Identitet: Hver agent skal have en egen, klart defineret identitet i systemet – med eget scope, egne tilladelser og en navngiven menneskelig ansvarlig. Ingen shadow-provisioning, ingen arvede tilladelser fra deployeren.
• Observability: Virksomheder skal i realtid kunne se, hvad en agent har gjort, hvilke efterfølgende handlinger den har udløst, og hvor denne sti ender. En kvartalsrapport er ikke tilstrækkelig – transparensen skal være kontinuerlig.
• Enforcement: Den afgørende, ofte manglende byggesten: evnen til at stoppe et kald i strid med retningslinjerne, inden det udføres – ikke blot dokumentere det i efterfølgende. Et dashboard, der viser, at en agent for fem minutter siden har overtrådt sit scope, er et monitoring-værktøj. Et system, der forhindrer denne overtrædelse, er ægte governance.

Den, der kun har opbygget monitoring, har kun gjort halvdelen af arbejdet.

Ownership som strategisk problem

Et andet strukturelt problem: Når fem agenter er involveret i et workflow, og noget går galt i trin fire, er spørgsmålet om ansvar ofte umuligt at besvare. Organisationsdiagrammer slutter ved "agent deployed" – de rækker sjældent til "det menneske, der hæfter for dette agent-trin". Denne ownership-kløft er ikke teknisk, den er organisatorisk. Og den kan kun lukkes, hvis governance fra starten forstås som en del af deployment-processen.

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, understreger regelmæssigt dette punkt i samtaler med virksomhedskunder: Den tekniske implementering af en KI-agent er ofte løst hurtigere end det organisatoriske spørgsmål om, hvem der på lang sigt står inde for dens adfærd. Den, der lader dette spørgsmål stå åbent, bygger på et skrøbeligt fundament – uanset hvor godt agenten selv fungerer.

Kompleksitet er ikke en grund til at bremse – men til at strukturere

Det ville være forkert at fortolke den beskrevne kompleksitet som et argument imod at udbygge KI-agenter. Det modsatte er tilfældet: Virksomheder, der betragter governance-infrastruktur som en strategisk investering, kan skalere deres agent-flåder betydeligt hurtigere og mere sikkert end dem, der behandler governance som en efterfølgende compliance-opgave.

Målet er ikke en opbremsning, men det, man kunne beskrive som Human-Agent Harmony: en arkitektur, hvor skalering og ansvarlighed vokser parallelt i stedet for at blive spillet ud mod hinanden. Autonomi er ikke problemet. Ukontrolleret autonomi er.

Hvad virksomheder konkret bør gøre nu

• Opbyg et agentregister: Hver agent i produktion bør registreres med eget navn, klart defineret scope og en navngiven ansvarlig.
• Gør interaktionsstier synlige: Hvilken agent kalder hvilken? Hvilke systemer er tilgængelige via flertrinskæder? Disse grafer skal tegnes og vedligeholdes.
• Prioritér enforcement frem for monitoring: Den der kun observerer, reagerer. Den der implementerer enforcement-mekanismer, handler proaktivt.
• Planlæg governance fra begyndelsen: Ikke som efterarbejde efter deployment, men som en fast bestanddel af ethvert agentprojekt.
• Afklar organisatorisk ownership: Teknisk dokumentation erstatter ikke menneskeligt ansvar. For hver agent, for hver kæde.

Udsyn: Den næste modenhedsfase for enterprise-KI

Den aktuelle fase af enterprise-AI-adoption kan beskrives med en sammenligning: Mange virksomheder deployer agenter med en startups hastighed og et pilotprojekts governance-framework. Det fungerer, indtil den første alvorlige fejlfunktion opstår i en kompleks kæde – og så forvandles en pilot til et problem.

De virksomheder, der om et til to år står som vindere af denne transformation, er ikke nødvendigvis dem med flest eller mest kapable agenter. Det er dem, der tidligt har forstået, at værdien af autonome systemer kun kan realiseres fuldt ud, når transparens og kontrol over hele netværket er sikret.

Multi-agent-systemer er ikke længere fremtidsmusik – de er operationel virkelighed. Det spørgsmål, som enhver virksomhed må besvare, er derfor ikke: Bør vi anvende KI-agenter? Men: Kan vi til enhver tid forklare, hvad vores agentsystem gør lige nu – og hvem der er ansvarlig for det? Den der suverænt kan besvare dette spørgsmål, har nået den næste modenhedsfase inden for enterprise-KI.