Dataspor som sikkerhedsnet: Hvorfor agentic AI har brug for Data Lineage

Når KI-agenter flytter data – og ingen bemærker det

Forestil dig følgende scenarie: En salgsmedarbejder spørger en KI-agent om aktuelle kundepriser. Agenten gennemsøger dertil flere interne kilder – herunder begrænsede prissystemer, intern kommunikation og arkiverede tilbud. Resultatet virker korrekt. En anden agent tilgår dette output og opretter automatisk et tilbud til kunden. Intet menneske kontrollerer overdragelsen. Når det færdige dokument indeholder fortrolige og ikke-godkendte oplysninger, kan det ikke længere fastslås, hvor de problematiske data er indgået i workflowet – eller hvordan de har spredt sig på tværs af systemer, filer og agenter.

Dette scenarie, som MIT Technology Review beskriver i en aktuel analyse, er ikke en hypotetisk worst case-konstruktion. Det er en logisk konsekvens af den måde, moderne KI-agenter indlejres i virksomhedsprocesser – nemlig hurtigt, bredt og ofte uden tilstrækkelige governance-strukturer i baggrunden.

Det egentlige problem: Datasynlighed, ikke værktøjer

Længe var KI-sikkerhed primært et teknisk spørgsmål – firewalls, adgangskontroller, krypterede endpoints. Disse foranstaltninger er fortsat vigtige, men rækker ikke til ved agentic AI. Den afgørende forskel ligger i dataenes natur: De er ikke længere statiske. KI-agenter ingesterer, kopierer, komprimerer, transformerer og redistribuerer information i et tempo og en fragmentering, som klassiske sikkerhedstilgange simpelthen ikke kan håndtere.

„KI-sikkerhed er ikke et værktøjsproblem – det er et problem med datasynlighed."

Denne formulering rammer kernen. Virksomheder, der i dag anvender agentic AI, må forstå: Angrrebsvektoren er ikke KI i sig selv, men den ukontrollerede datastrøm mellem agenter, systemer og output. Så snart en agent behandler en anden agents resultat som en pålidelig kilde – uden gennemsigtighed om, hvorfra disse data stammer – opstår der en kæde, som er svær at bryde.

Data Lineage: Den manglende byggesten i KI-governance

Data Lineage – altså den fuldstændige sporbarhed af dataflowet fra kilde til output – er ikke et nyt koncept. I klassisk dataarkitektur og inden for regulatorisk compliance har det været anvendt i årevis. Men i verden med autonome KI-workflows får det en helt ny betydning og en ny grad af hastende nødvendighed.

Når KI-agenter handler selvstændigt, delegerer, opsummerer og viderebehandler, er der brug for et lag, der registrerer:

• Hvilken datakilde blev tilgået af hvilken agent på hvilket tidspunkt?
• Hvordan blev indholdet transformeret – komprimeret, selekteret, kombineret?
• Til hvilke efterfølgende agenter eller systemer blev resultatet videregivet?
• Hvilke adgangsrettigheder gjaldt på tidspunktet for dataadgangen – og blev de overholdt?

Uden denne synlighed er det simpelthen umuligt efterfølgende at forstå, hvordan et problematisk output er opstået – og endnu vanskeligere at forhindre det strukturelt.

Hybride workflows som en særlig udfordring

Virkeligheden i de fleste virksomheder er hybrid: Nogle trin udføres af mennesker, andre af KI-agenter – og overleveringerne mellem de to sker ofte implicit. Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, påpeger regelmæssigt denne blinde vinkel i sin rådgivningspraksis: „Det farligste sted i et automatiseret workflow er ikke KI'en – det er det øjeblik, hvor et KI-output bliver input til næste trin uden nogen kontrol. Det er præcis her, man har brug for lineage, ikke tillid."

Hybride workflows skaber særlig kompleksitet, fordi de hverken er fuldt menneskelige eller fuldt maskinelle. Governance-frameworks, der bygger på klare ansvarsområder, støder her på deres grænser. Der er behov for tekniske mekanismer, der – uafhængigt af den udførendes art, hvad enten det er et menneske eller en maskine – protokollerer dataflowet og gør det revisionssikret.

Implikationer for virksomhedsarkitektur

For virksomheder, der i dag investerer i agentic AI eller planlægger at gøre det, medfører denne analyse konkrete strukturelle krav:

• Governance by Design: Data Lineage må ikke være en eftertanke. Den skal fra begyndelsen være integreret i arkitekturen for autonome systemer – som en integreret bestanddel, ikke som et audit-værktøj i slutningen af kæden.
• Dataklassificering som forudsætning: KI-agenter kan kun træffe korrekte adgangsbeslutninger, hvis data er klart klassificeret og forsynet med metadata – fra følsomt til offentligt, fra aktuelt til arkiveret.
• Agent-til-agent-tillid skal reguleres eksplicit: I multi-agent-systemer må tillid ikke arves implicit. Hver agent skal have definerede rettigheder og bør ikke behandle data, hvis oprindelse den ikke kender.
• Revisionssikkerhed som compliance-krav: Med den stigende regulering omkring KI – eksempelvis via EU AI Act – bliver evnen til at dokumentere dataflows en juridisk nødvendighed, ikke blot best practice.

Mellem automatiseringspres og tab af kontrol

Der er en strukturel spænding, som mange virksomheder mærker i øjeblikket: Presset for hurtigt at automatisere processer er enormt. Samtidig vokser bevidstheden om, at ukontrolleret automatisering skaber nye risici, der er sværere at håndtere end de oprindelige manuelle processer. Denne spænding kan ikke løses med mere KI – den kræver bedre governance.

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, siger det præcist: „Den, der integrerer KI-agenter i kritiske workflows uden at implementere Data Lineage, automatiserer ikke kun processer – vedkommende automatiserer også potentielle fejlkilder. Og de skalerer lige så hurtigt som effektivitetsgevinsterne."

Fremtidsperspektiv: KI-sikkerhed nydefineret

Den næste modenhedsfase for KI-integration i virksomheder vil i høj grad afhænge af, om det lykkes at skabe tillid til automatiserede systemer teknisk – ikke gennem håb, men gennem sporbarhed. Data Lineage er i den sammenhæng ikke en valgfri funktion, men fundamentet for enhver seriøs KI-governance-strategi.

Organisationer, der i dag investerer i denne infrastruktur, skaber ikke kun større sikkerhed – de skaber grundlaget for skalerbar, pålidelig automatisering. Og det er præcis forskellen mellem AI som eksperiment og AI som strategisk virksomhedsaktiv.