Når AI overtager lærlingårene: Det stille tab af menneskelig ekspertise

Når maskiner overtager læreårene

Der er et øjeblik i enhver ingeniørkarriere, som ikke lader sig simulere: den første virkelig uventede fejl, der kortvarigt ryster ens verdensbillede. Debugging-maratonet uden udsigt til ende klokken tre om natten. Det forvirrende "Hvorfor virkede det nu?" – og den langsomme, møjsommelige forståelse bagefter. Det er præcis ud af denne friktion, at det, man kalder ekspertise, opstår. Og det er præcis denne friktion, som kraftfulde KI-systemer i dag i stigende grad fjerner fra hverdagen på arbejdspladsen.

IEEE Spectrum har for nylig taget emnet op i et meget bemærket gæsteindlæg: Forfatter Richard Mitchell, grundlægger af AuraSpark Technologies, beskriver ud fra egne erfaringer med et styresystem til et kernekraftværk, hvordan hans team bevidst har indbygget manuelle trin i automatiserbare sekvenser – ikke på trods af automatiseringen, men på grund af den. Årsagen: Den, der udelukkende fører tilsyn i længden, holder på et tidspunkt op med at forstå. Dette designprincip – ineffizient by design, on purpose – er mere aktuelt end nogensinde i dag.

Dataene er svære at tale udenom

Det, der længe cirkulerede som en diffus uro blandt erhvervsuddannelseseksperter, får i stigende grad empiriske konturer. Et arbejdspapir fra Harvard, der analyserer data fra omkring 65 millioner beskæftigede i over 280.000 amerikanske virksomheder, viser: Efter introduktionen af generativ KI faldt beskæftigelsen blandt juniormedarbejdere med ca. ni procent over seks kvartaler – mens antallet af erfarne fagfolk forblev stabilt eller endda voksede. En analyse baseret på ADP-løndata fra Stanford University bekræfter tendensen: De yngste beskæftigede i KI-eksponerede erhverv har tabt betydeligt terræn siden slutningen af 2022.

Bemærkelsesværdig er Stanford-forskernes differentiering: Der, hvor KI automatiserer, taber juniors. Der, hvor KI blot augmenterer – dvs. supplerer eksisterende færdigheder frem for at erstatte dem – forbliver juniorkvoten stabil eller stiger endog. Kausaliteten er endnu ikke endeligt afklaret, og det er vigtigt at understrege. Økonomer fra New York Fed peger på fjernarbejde som en medvirkende årsag: Virksomheder er tilbageholdende med at ansætte uerfarne talenter, som de ikke fysisk kan oplære. Men begge forklaringer peger på det samme problem: Den kanal, gennem hvilken ekspertviden flyder fra erfarne til nyuddannede – Apprenticeship Channel – er beskadiget.

„Sie können kein Senior-Ingenieur werden, ohne zuerst Junior gewesen zu sein. Expertise wird nicht heruntergeladen. Sie wird verdient."

Denne sætning fra IEEE Spectrum-artiklen rammer kernen. Og den stiller virksomheder over for et strategisk spørgsmål, der rækker langt ud over HR-afdelinger.

Automatiseringsparadokset: En gammel lære fra luftfarten

Sikkerhedskritiske brancher har kendt dette fænomen i årtier under betegnelsen Automation Paradox: Jo mere kraftfuld automatiseringen er, desto mindre øvelse får mennesket – og desto mere overvældende bliver det øjeblik, hvor maskinen giver kontrollen tilbage. Det er som regel præcis dér, hvor situationen er særligt kompleks.

Paradeeksemplet er Air France-fly 447, der styrtede ned over Atlanterhavet i 2009. Isbelagte sensorer leverede forkerte data, autopiloten afbrød sig korrekt og overdrog kontrollen til besætningen. Det, der fulgte, var ikke en teknisk fejl – det var en kompetencefejl. Piloter, der i årevis havde set på, mens en højautomatiseret maskine fløj, var ikke længere i stand til manuelt at kompensere for et aerodynamisk stall i stor højde. Flyet var intakt. Den færdighed, som automatiseringen stille havde eroderet, var det ikke.

Luftfartsmyndighedernes reaktion var lærerig: Automatiseringen blev ikke rullet tilbage – i stedet blev manuel flyvning institutionaliseret som en selvstændig kompetence. FAA erklærede formelt i en Safety Alert i 2017, at manuel flyvning er fundamentet for alle øvrige flyvefærdigheder. Skill Decay blev anerkendt som et selvstændigt sikkerhedsrisiko og indregnet i træningsprogrammer.

Hvad det betyder for virksomheder, der satser på KI-automatisering

Dr. Maik Bunzel, grundlægger og administrerende direktør for mabucon.eu, påpeger regelmæssigt netop denne blinde vinkel i samtaler med kunder: „ROI'en ved en automatisering er ofte umiddelbart synlig – de langsigtede kompetenceomkostninger er det ikke. Hvis en juniormedarbejder aldrig lærer, hvorfor en proces fungerer på en bestemt måde, fordi KI'en allerede klarer det, bygger virksomheder på et vidensgrundlag, der systematisk udtyndes."

For organisationer, der indfører KI-agenter og Workflow-automatisering, rejser dette konkrete designspørgsmål:

• Hvilke opgaver bør bevidst forblive manuelle? Ikke af nostalgi, men for at bevare og udvikle kritisk procesforståelse.
• Hvordan muliggøres fejllæring på struktureret vis? KI-systemer har tendens til at forhindre fejl – og dermed fjerner de også læringsmuligheden. Sandboxed Environments og strukturerede sagsanalyser kan kompensere for det.
• Hvilken rolle overtager den menneskelige medarbejder ved Augmenting vs. Automating? Forskellen er afgørende – ikke kun for jobsikkerheden, men for kvaliteten af beslutningsgrundlaget i grænsetilfælde.
• Hvordan skaleres mentoring i et hybrid menneske-KI-miljø? Når KI overtager de enkle opgaver, skal seniormedarbejdere planlægges mere bevidst og struktureret ind som vidensformidlere.

Den stille fare: Confident but Wrong

Det måske farligste scenarie er ikke den totale afhængighed af KI-systemer – det lader sig let benævne og adressere. Den egentlige fare er mere subtil: en generation af fagfolk, der har lært at overvåge og validere KI-output, uden nogensinde at have internaliseret de grundlæggende principper, ud fra hvilke et output kan vurderes som plausibelt eller implausibelt.

Store sprogmodeller og agentbaserede KI-systemer leverer svar med ensartet sikkerhed – uanset om de er korrekte eller fundamentalt forkerte. Confident but wrong er ikke en sjældenhed, men et strukturelt kendetegn ved nutidens Generative AI-systemer. Den, der ikke har det faglige fundament til at genkende disse fejl, vil ukritisk overtage dem i workflows, rapporter og beslutninger – uden at opdage det.

Det er ikke et argument imod KI-automatisering. Det er et argument for bevidst design: for systemer, der ikke kun maksimerer effektivitet, men også kultiverer den menneskelige kompetence, der på lang sigt gør denne effektivitet sikker og robust.

Fra effektivitetstænkning til kompetencedesign

Erfaringerne fra kernekraft og luftfart lader sig overføre til software-engineering, dataanalyse, juridisk rådgivning, controlling og mange andre vidensprofessioner. Overalt, hvor KI overtager rutinepræget kognitivt arbejde, opstår det samme strukturelle spørgsmål: Hvordan sikres det, at fremtidens menneskelige ekspert ikke blot overvåger output og proces, men virkelig forstår, hvad vedkommende overvåger?

Dr. Maik Bunzel sætter det på en enkel formel, som han anvender ved konceptudviklingen af automatiseringsprojekter: „En god KI-løsning gør ikke mennesket overflødigt – den gør det bedre i de øjeblikke, der virkelig tæller." Det forudsætter, at de øjeblikke, hvor mennesker stadig tænker selv, ikke systematisk optimeres væk.

For virksomheder, der netop er ved at opbygge eller evaluere KI-agenter og automatiseringsworkflows, betyder det: Spørgsmålet om ROI skal nødvendigvis suppleres med spørgsmålet om kompetence-impact. Hvilke færdigheder styrkes af den nye arkitektur? Hvilke atrofierer? Og hvilke sikkerhedsforanstaltninger – analogt med manuel flyvning i luftfarten – indbygges bevidst?

Perspektiv: KI-implementering som designproces

Den næste fase af virksomhedsautomatisering vil ikke belønne dem, der automatiserer mest. Den vil belønne dem, der automatiserer klogtest – dem, der forstår, hvilken kompetence der skal bevares i organisationen, og som designer deres KI-systemer i overensstemmelse hermed.

Kernekraftværket fra IEEE Spectrum-artiklen blev aldrig bygget. Men det designprincip, der lå indlejret i dets kredsløb, er i dag mere aktuelt end nogensinde: Nogle gange er det ineffektive det klogeste. Virksomheder, der forstår dette og omsætter det i deres KI-strategi, vil om fem år ikke blot have mere effektive processer – de vil også have de bedre eksperter.