Når AI-agenter handler selv: Hvorfor governance skal forankres i datalaget

Autonomi som vendepunkt: Når KI-agenter selv tager initiativ

Længe var brugen af KI i erhvervsmiljøer et klart reguleret samspil: Et menneske stiller et spørgsmål, systemet leverer et svar, og til sidst er det stadig en medarbejder, der beslutter, hvad der skal ske med det. Denne orden er ved at opløse sig. Moderne KI-agenter planlægger, beslutter og handler selvstændigt – på tværs af systemgrænser, uden at et menneske skal godkende hvert enkelt trin. Dermed forskydes ikke blot den tekniske arkitektur, men også det grundlæggende spørgsmål om ansvar.

Det centrale spørgsmål, som enhver seriøs arkitektur-review må stille, lyder: Hvad forhindrer reelt en agent i at udføre en handling, som den aldrig var autoriseret til? Svaret på dette spørgsmål afgør, om en virksomhed virkelig kan stole på sine KI-agenter – eller om den befinder sig i en falsk tryghed.

Den klassiske Guardrails' strukturelle svigt

Den første reaktion hos mange it-ansvarlige er forståelig: Man sætter værn op omkring agenten – instruktioner, retningslinjer, overvågningslag oven over modellen. Disse mekanismer er ikke uden værdi, men de deler en fundamental strukturel svaghed.

Et anskueligt tankeeksperiment tydeliggør problemet: Tag reglen "Åbn aldrig bildøren." Følger en agent denne instruktion strengt og bogstaveligt, kan den hverken stige ind eller ud. Ændrer konteksten sig imidlertid dramatisk – køretøjet forulykkede, det brænder, et menneske skal reddes – vender den fornuftige regel sig om til sin modsætning. Kontekst i beslutningsøjeblikket er alt. Vi kræver intelligent handling af agenter; det kræver ligeledes intelligente, kontekstsensitive regler.

Kontroller på agentniveau er kun så pålidelige, som agentens adfærd er forudsigelig. Og autonomi er præcis den egenskab, der gør denne adfærd vanskelig at beregne. Governance, der er afhængig af at gennemgå en handling inden dens udførelse, kan simpelthen ikke følge med et system, der agerer på tværs af snesevis af systemer i løbet af millisekunder.

Datalaget som det egentlige håndhævelsespunkt

Her begynder et paradigmeskift, som er af central betydning for virksomhedsarkitekter: Governance skal håndhæves der, hvor agenter reelt arbejder – i det operative datalag, i den rette kontekst, i det rette øjeblik. Agenter skaber værdi ved at berøre data: De læser, transformerer, aggregerer og handler i stigende grad direkte på grundlag af data. En policy, der fastslår, at en agent ikke må have adgang til en bestemt datakategori, er kun meningsfuld, hvis systemet kan afvise denne adgang i forespørgslens øjeblik.

Det afgørende er: Når Governance er forankret i datalaget, gælder den uafhængigt af, hvordan agenten er bygget, eller hvordan den opfører sig – fordi kontrollen er en egenskab ved databasen selv, ikke et løfte fra agenten. Agentisk adfærd kan være probabilistisk. Governance må det ikke være.

„Målet er ikke at forhindre agenter i at udføre nyttigt arbejde. Det handler om at definere, hvor langt en agent må gå, hvad den må berøre, hvad den må ændre, og hvornår eskalering er påkrævet."

Ni kontrolmekanismer, tre operative imperativer

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, har observeret denne tendens i praksis i nogen tid: „Virksomheder, der i dag bygger Agentic-AI-arkitekturer sammen med os, støder senest ved emnet compliance og revisionsmuligheder på dette spørgsmål. De tekniske kontrolmekanismer er ofte allerede til stede i databaserne – det, der mangler, er den konceptuelle ramme for at behandle agenten selv som en selvstændig aktør med en egen identitet."

Fra den aktuelle fagdiskussion kan man udlede ni konkrete kontrolmekanismer, der kan henføres til tre overordnede imperativer:

• Håndhæve: Rollebaseret og attributbaseret adgangskontrol (RBAC/ABAC), der træder i kraft på forespørgselstidspunktet – for agenter såvel som for menneskelige brugere. Dynamisk Column Masking på baggrund af de samme policy-stier. Og: agenten som First-Class Principal med en egen identitet og erklæret formål ved sessionens begyndelse.
• Se og bevise: Klassificering og tagging, der driver policy. Session-Level-Audit-Logging, der registrerer, hvilken agent der har handlet for hvilken bruger under hvilket erklæret formål. Lineage på tværs af pipelines for at spore et resultat tilbage til den oprindelige forespørgsel.
• Forene og sikre: Centraliseret, portabelt policy-management. Kryptering i hvile og under overførsel. Konsekvent håndhævelse på tværs af on-premises-, cloud- og suveræne eller Air-Gap-miljøer.

Agent-identitet og „Declared Purpose" som nøglebegreb

Et særligt vigtigt konceptuelt fremskridt i denne diskussion er princippet om Declared Purpose: Agenten erklærer ved sessionens begyndelse, på hvis vegne og til hvilket formål den handler. Dette erklærede formål videregives som attribut til adgangskontrollen og evalueres der ligesom en rolle eller afdelingstilhørsforhold. Det betyder: håndhævelsesmekanismen ændrer sig ikke grundlæggende – men den kontekst, den evaluerer, bliver betydeligt rigere.

Dette er mere end et teknisk detalje. Det er et juridisk og regulatorisk argument. I regulerede brancher – finansielle tjenesteydelser, sundhedsvæsen, offentlig forvaltning – er evnen til efterfølgende uden huller at rekonstruere, hvilken agent der har gjort hvad, for hvem og med hvilket erklæret mål, ikke valgfri. Det er en forudsætning for overhovedet at anvende agenter produktivt.

Digitalt snor frem for låst dør: Den rette tankegang for Enterprise-AI

Den metafor, der bedst opsummerer denne tilgang, lyder: digitalt snor, ingen låst dør. Governance på datalaget skal ikke hindre agenter i at arbejde – det skal definere, hvor langt de kan gå. Den, der internaliserer denne tilgang, kan anvende KI-agenter mere aggressivt og hurtigere, fordi sikkerheds-, risiko- og ledelseshold kan stole på den operative model, der ligger til grund.

Dr. Maik Bunzel fra mabucon.eu siger det præcist: „Governance, der først træder i kraft i efterhånd eller kun eksisterer på papiret, er værdiløs i en verden med autonome agenter. Det, virksomheder har brug for, er kontrolmekanismer, der eksekveres i realtid, i det øjeblik data anmodes om – uanset hvor kreativ agenten var i sin beslutningstagning."

Fremtidsperspektiv: Hvad virksomheder konkret bør gøre nu

For virksomheder, der i dag er i gang med at opbygge eller skalere Agentic-AI-systemer, kan der ud fra denne debat udledes klare handlingsanbefalinger:

• Indfør agentidentitet: Behandl KI-agenter som selvstændige principals i jeres Identity Management – med egen ID, deklareret formål og Session-Binding.
• Gennemgå eksisterende kontroller i datalaget: RBAC, Column-Level-Security, Masking og Audit-Logging findes allerede i mange enterprise-databaser. Spørgsmålet er, om de er konfigureret til agent-trafik.
• Etabler Policy as Code: Policies skal være maskinlæsbare, centralt administrerbare og portable på tværs af miljøer.
• Prioriter lineage og revisionssporbarhed: Enhver agenthandling skal kunne rekonstrueres – ikke kun til interne gennemgange, men også til lovmæssige krav.
• Planlæg for suverænitet: Særligt i regulerede brancher er datasuverænitet – kontrollen over, hvor data befinder sig, og hvem der tilgår dem under hvilken policy – en forudsætning, ikke et nice-to-have.

KI-agenters kapacitet vil fortsætte med at vokse. De virksomheder, der nu lægger de rette governance-fundamenter i deres datalag, vil kunne udnytte denne udvikling som en konkurrencefordel – og ikke opleve den som en ukontrollerbar risiko. Det er ikke et argument for tilbageholdenhed, men for præcision: i arkitekturen, i policy og i ansvarsfordelingen.