← Tilbage til oversigtenAI-agenter & automatisering

Shepherd: Hvorfor AI-agenter har brug for en meta-manager

Dr. Maik Bunzel
Dr. Maik Bunzel
22.11.2026 · 6 min. læsetid
Shepherd: Hvorfor AI-agenter har brug for en meta-manager

Problemet med autonome KI-agenter: Når ingen holder øje

Autonome KI-agenter overtager i stigende grad selvstændige opgaver i virksomheder – de gennemsøger indbakker, udfører kode, koordinerer databaseforespørgsler og udløser komplekse workflows. Men jo længere en agent kører, og jo større handlerum den besidder, desto større bliver sandsynligheden for, at den driver ind i uønskede eller ligefrem farlige adfærdsmønstre. Reelle hændelser – fra utilsigtet sletning af hele e-mail-indbakker til automatiserede angreb på fremmede systemer – viser: Autonomi uden tilsyn er ikke en feature, men en risiko.

Netop her tager et forskningsprojekt fat, som i øjeblikket vækker betydelig opmærksomhed i KI-miljøet: Shepherd, et meta-agentframework udviklet af forskere ved Northeastern University, Stanford University og UC Berkeley. Den centrale tese er lige så enkel som indlysende – KI-agenter har brug for ledere, præcis som menneskelige medarbejdere.

Hvad er en meta-agent – og hvorfor er konceptet afgørende?

I konteksten af multi-agent-systemer skelner man mellem worker-agenter, der udfører konkrete opgaver, og overordnede meta-agenter, der observerer, evaluerer og korrigerer worker-agenternes adfærd. Shepherd implementerer netop denne lagdeling: Meta-agenten fungerer som tilsynsfører, der griber ind, når en worker-agent udfører fejlagtige eller risikable handlinger.

Forskerne anvender et prægnant billede til dette: Worker-agenter er som får, der strejfer over en mark – og meta-agenten er hyrdens hund, der bringer dem tilbage på rette kurs. Hvad der lyder enkelt, har vidtrækkende tekniske implikationer for opbygningen af pålidelige automatiseringssystemer.

„Jo længere de kører, desto flere fejl kan opstå – og desto farligere kan deres handlinger blive. Vi er overbevist om, at der må findes et mellemliggende lag." – Weiyan Shi, Northeastern University

Version Control som fundament: Et koncept fra softwareudvikling

Det teknisk særligt interessante element i Shepherd er overførslen af et veletableret koncept fra softwareudvikling til KI-agenternes verden: Version Control. Systemer som Git giver udviklere mulighed for at gemme hver ændring i koden, rulle tilbage til en tidligere tilstand efter behov og forgrene udviklingslinjer (såkaldte forks). Shepherd overfører denne logik til agent-konteksten.

Hver handling fra en worker-agent – sammen med den aktuelle tilstand i dens omgivelser, det vil sige eksempelvis en e-mail-indbakke, et filsystem eller en database – gemmes som et såkaldt commit. Meta-agenten kan traversere denne commit-graf, springe tilbage til et vilkårligt punkt, opfange fejlagtige handlinger og forgrene worker-agenten i en alternativ udførelsesretning. Resultatet: en nulstillelig, inspicerbar og styrbar agentadfærd.

Sandboxing som sikkerhedslag

Ud over version-control-princippet anvender Shepherd Sandboxing. Handlinger som afsendelse af en e-mail udføres ikke øjeblikkeligt, men opfanges af en sandbox. Først efter godkendelse fra meta-agenten eller en menneskelig operatør udføres handlingen faktisk. Worker-agenten opererer i den tro, at den agerer i et reelt miljø – i virkeligheden befinder den sig dog i et kontrolleret rum, hvor enhver kritisk handling kan gennemgås, inden den får effekt.

Dette princip er yderst relevant fra et forretningsmæssigt perspektiv: Det muliggør menneskelig kontrol præcis dér, hvor den faktisk er nødvendig – uden at afbryde hele automatiseringsflowet eller ofre effektivitetsgevinsten.

Tre konkrete anvendelsesscenarier

Shepherd-teamet demonstrerede frameworkets praktiske anvendelighed ved hjælp af tre scenarier:

  • Konfliktløsning mellem parallelle agenter: En supervisor-meta-agent greb ind, når parallelle Coding-agenter kom i konflikt, og forbedrede deres fælles succesrate målbart.
  • Workflow-optimering: En optimerings-meta-agent analyserede afsluttede workflows fra worker-agenter, foreslog målrettede justeringer og testede disse ved kun at genudføre de berørte afsnit – uden at gentage hele processen.
  • Reinforcement Learning med tilsyn: En trænings-meta-agent identificerede kritiske forgreningspunkter i læringsprocessen, belønnede gunstige stier og guidede aktivt worker-agenten i retning af bedre resultater.

Hvad Shepherd betyder for virksomheder

For virksomheder, der satser på agentbaseret automatisering eller netop forbereder dette skridt, leverer Shepherd en vigtig konceptuel byggesten. Spørgsmålet er ikke længere blot: Hvad kan en KI-agent præstere? Men derimod: Hvordan sikrer vi, at den gør det på en kontrolleret, reverserbar og compliant måde?

Dr. Maik Bunzel, grundlægger og administrerende direktør for MABUCON, understreger i denne sammenhæng regelmæssigt, at governance-laget i praksis ofte undervurderes: Mange virksomheder investerer betydeligt i deres KI-agenters kapaciteter, men forsømmer spørgsmålet om, hvordan disse agenter kan overvåges, stoppes eller korrigeres, når de tager uventede veje. Netop denne kløft adresserer Shepherd – og gør frameworket til et konceptuelt værdifuldt referencepunkt for enhver, der planlægger skalerbare agentarkitekturer.

Human-in-the-Loop: Kontrollen forbliver hos mennesket

Et centralt designprincip i Shepherd er bevarelsen af menneskelig kontrol – ikke som en hæmsko, men som et strategisk indgrebspunkt. Meta-agenten kan eskalere problemer, forelægge handlinger til godkendelse og modtage menneskelige korrektioner. Denne model svarer til det, der i KI-governance-diskussionen betegnes som Human-in-the-Loop: Mennesker forbliver i sidste ende beslutningstagerne, men inddrages kun, når deres vurdering faktisk er påkrævet.

For virksomhedskonteksten betyder det: Automatisering og kontrol udelukker ikke hinanden. De kan arkitektonisk sammenfléttes på en måde, så mennesket griber ind præcis der, hvor det er nødvendigt – og KI-agenterne opererer frit der, hvor de kan gøre det sikkert.

Shepherd som open source-projekt: Demokratisering af Agent Management

Shepherd er tilgængeligt som open source-projekt og befinder sig i øjeblikket i en alpha-fase på vej mod produktionsmodenhed. Det er en del af Agent Sciences Research Initiative (ASRI) – et samarbejde mellem Northeastern, Stanford og UC Berkeley med det formål at gøre KI-agenter mere pålidelige, evaluerbare og sikre.

Forskernes langsigtede mål er eksplicit af demokratisk karakter: Agent Management skal ikke kun forbeholdes store tech-koncerner, men skal blive bredt tilgængeligt – så også mindre organisationer kan opbygge robuste og overvågbare agentsystemer.

Perspektivering og udsyn: Hvad virksomheder bør udlede nu

Shepherd præsenteres på NeurIPS-konferencen 2026 – en af de mest anerkendte platforme inden for maskinlæring. Det signalerer: Emnet Agent Management er ikke længere blot et teoretisk forskningsobjekt, men rykker ind i centrum af den anvendelsesorienterede KI-udvikling.

Dr. Maik Bunzel, grundlægger og administrerende direktør for MABUCON, ser i denne udvikling en logisk konsekvens af den voksende udbredelse af agentbaserede systemer: Med tiltagende autonomi stiger behovet for strukturerede tilsynsmekanismer uundgåeligt. Den, der i dag designer automatiseringsarkitekturer, bør tænke meta-agentniveauet ind fra begyndelsen – ikke som en efterfølgende sikring, men som en integreret bestanddel af et suverænt drevet KI-system.

For virksomheder giver Shepherd-tilgangen konkrete handlingsimpulser:

  • Planlæg tilsynslag fra starten: Den, der anvender KI-agenter, har ikke kun brug for en plan for deres evner, men også for deres kontrol.
  • Reversibilitet som designprincip: Agentsystemer bør bygges, så handlinger kan fortrydes – version-control-logik er en pragmatisk tilgang hertil.
  • Sandboxing til kritiske handlinger: Især i regulerede brancher eller ved dataføl somme processer bør ingen agenthandling være uigenkaldelig, før den er gennemgået.
  • Human-in-the-Loop strategisk positioneret: Mennesker behøver ikke overvåge alt – men de skal kunne gribe ind på de rigtige steder.

Udviklingen viser: Fremtiden for virksomhedsautomatisering ligger ikke i blind tillid til autonom KI – men i gennemtænkte arkitekturer, der forbinder autonomi og kontrol på intelligent vis. Shepherd er et tidligt, men konceptuelt overbevisende skridt i denne retning.

Nyhedsbrev

Vil du ikke gå glip af et indlæg?

Tilmeld dig nyhedsbrevet, så giver vi dig besked om hvert nyt blogindlæg. En kort e-mail, når noget udkommer, intet andet.

Ved tilmelding giver du samtykke til, at vi sender dig en e-mail om hvert nyt blogindlæg. Du bekræfter tilmeldingen via et link i vores e-mail og kan til enhver tid afmelde dig med ét klik. Læs mere: Databeskyttelse

Kontakt

Hvilken af dine arbejdsgange skal være den første til at blive klogere?

Beskriv kort, hvilken proces du vil understøtte eller erstatte ved hjælp af AI. Vi vender tilbage med en første, konkret vurdering – uforpligtende og fortroligt.