Gdy AI przejmuje lata terminowania: cicha erozja ludzkiej ekspertyzy

Gdy maszyny przejmują lata terminowania

W każdym zawodzie inżynierskim istnieje moment, którego nie da się zasymulować: pierwszy naprawdę nieoczekiwany błąd, który na chwilę podważa własny obraz świata. Maraton debugowania bez wyjścia o trzeciej w nocy. Dezorientujące „dlaczego to teraz zadziałało?" – a potem powolne, mozolne rozumienie. Właśnie z tego tarcia powstaje to, co nazywamy ekspertyzą. I właśnie to tarcie wydajne systemy AI coraz skuteczniej usuwają z codzienności zawodowej.

IEEE Spectrum podjął niedawno ten temat w szeroko komentowanym artykule gościnnym: autor Richard Mitchell, założyciel AuraSpark Technologies, opisuje z własnego doświadczenia przy systemie sterowania elektrownią jądrową, jak jego zespół świadomie wbudowywał ręczne kroki w automatyzowalne sekwencje – nie mimo automatyzacji, lecz właśnie ze względu na nią. Powód: kto przez długi czas jedynie nadzoruje, w pewnym momencie przestaje rozumieć. Ta zasada projektowania – nieefektywność przez zamysł, celowo – jest dziś bardziej aktualna niż kiedykolwiek.

Dane są trudne do zignorowania

To, co przez długi czas krążyło wśród ekspertów ds. kształcenia zawodowego jako nieokreślony niepokój, nabiera coraz wyraźniejszych konturów empirycznych. Opracowanie robocze Harvardu, analizujące dane około 65 milionów pracowników w ponad 280 000 amerykańskich przedsiębiorstw, pokazuje: po wprowadzeniu generatywnej AI zatrudnienie pracowników juniorskich spadło w ciągu sześciu kwartałów o około dziewięć procent – podczas gdy liczba doświadczonych specjalistów pozostała stabilna lub wręcz wzrosła. Analiza oparta na danych płacowych ADP przeprowadzona przez Stanford University potwierdza ten kierunek: najmłodsi pracownicy w zawodach narażonych na wpływ AI wyraźnie tracą grunt pod nogami od końca 2022 roku.

Pouczające jest przy tym rozróżnienie badaczy ze Stanforda: tam, gdzie AI automatyzuje, juniorzy tracą. Tam, gdzie AI jedynie augmentuje – czyli uzupełnia istniejące umiejętności zamiast je zastępować – wskaźnik juniorów pozostaje stabilny lub nawet rośnie. Przyczynowość nie została jeszcze ostatecznie wyjaśniona – i warto to podkreślić. Ekonomiści z Fed w Nowym Jorku wskazują na pracę zdalną jako współprzyczynę: firmy obawiają się zatrudniać niedoświadczone talenty, których nie mogą wdrożyć w sposób fizyczny. Jednak oba wyjaśnienia wskazują na ten sam problem: kanał, przez który wiedza ekspercka przepływa od doświadczonych do początkujących – tzw. Apprenticeship Channel – jest uszkodzony.

„Nie możesz zostać seniorem, jeśli wcześniej nie byłeś juniorem. Ekspertyzy się nie pobiera. Trzeba na nią zapracować."

To zdanie z artykułu w IEEE Spectrum trafia w sedno. I stawia przed firmami strategiczne pytanie, które wykracza daleko poza działy HR.

Paradoks automatyzacji: stara lekcja z lotnictwa

Branże krytyczne dla bezpieczeństwa znają to zjawisko od dziesięcioleci pod nazwą Automation Paradox: im wydajniejsza automatyzacja, tym mniej wprawy zdobywa człowiek – i tym bardziej przytłaczający staje się moment, w którym maszyna oddaje kontrolę. Zwykle dzieje się to dokładnie wtedy, gdy sytuacja jest szczególnie złożona.

Paradygmatycznym przykładem jest lot Air France 447, który rozbił się nad Atlantykiem w 2009 roku. Oblodzone czujniki dostarczały błędnych danych, autopilot prawidłowo się wyłączył i przekazał kontrolę załodze. To, co nastąpiło, nie było awarią techniczną – była to awaria kompetencji. Piloci, którzy przez lata obserwowali, jak wysoce zautomatyzowana maszyna sama lata, nie byli już w stanie ręcznie skompensować aerodynamicznego przeciągnięcia na dużej wysokości. Samolot był sprawny. Umiejętności, które automatyzacja po cichu wyeliminowała – już nie.

Reakcja organów lotniczych była pouczająca: nie ograniczono automatyzacji, lecz ręczne pilotowanie zostało ustanowione jako samodzielna kompetencja. W 2017 roku FAA oficjalnie ogłosiła w Safety Alert, że ręczne pilotowanie stanowi fundament wszystkich pozostałych umiejętności lotniczych. Skill Decay został uznany za odrębne zagrożenie bezpieczeństwa i uwzględniony w programach szkoleniowych.

Co to oznacza dla firm stawiających na automatyzację z wykorzystaniem AI

Dr. Maik Bunzel, założyciel i dyrektor generalny mabucon.eu, regularnie zwraca uwagę swoich klientów właśnie na ten ślepy punkt: „ROI automatyzacji jest często od razu widoczny – długoterminowe koszty kompetencyjne już nie. Jeśli młodszy pracownik nigdy nie nauczy się, dlaczego dany proces działa w określony sposób, bo AI już się tym zajmuje, firmy budują na bazie wiedzy, która systematycznie się wykrusza."

Dla organizacji wdrażających agentów AI i automatyzację przepływów pracy rodzi to konkretne pytania projektowe:

• Które zadania powinny świadomie pozostać wykonywane ręcznie? Nie z nostalgii, lecz po to, by zachować i rozwijać krytyczne rozumienie procesów.
• W jaki sposób umożliwia się strukturalne uczenie się na błędach? Systemy AI dążą do zapobiegania błędom – tym samym odbierają też okazję do nauki. Mogą to rekompensować środowiska sandbox oraz ustrukturyzowane analizy przypadków.
• Jaką rolę pełni pracownik przy augmenting kontra automating? Różnica jest kluczowa – nie tylko dla bezpieczeństwa zatrudnienia, lecz także dla jakości podstawy decyzyjnej w przypadkach granicznych.
• Jak skalować mentoring w hybrydowym środowisku człowiek–AI? Jeśli AI przejmuje proste zadania, starsi pracownicy muszą być bardziej świadomie i strukturalnie planowani jako przekaziciele wiedzy.

Ciche zagrożenie: Confident but Wrong

Być może najgroźniejszym scenariuszem nie jest całkowita zależność od systemów AI – to można łatwo nazwać i zaadresować. Prawdziwe niebezpieczeństwo jest subtelniejsze: pokolenie specjalistów, które nauczyło się nadzorować i walidować wyniki AI, nie internalizując nigdy podstaw pozwalających ocenić, czy dany wynik jest wiarygodny czy niewiarygodny.

Duże modele językowe i oparte na agentach systemy AI dostarczają odpowiedzi z niezmienną pewnością – niezależnie od tego, czy są poprawne, czy fundamentalnie błędne. Confident but wrong to nie rzadkość, lecz strukturalna cecha obecnych systemów Generative AI. Kto nie posiada merytorycznych podstaw, by rozpoznać te błędy, będzie je przenosił do przepływów pracy, raportów i decyzji – nie zdając sobie z tego sprawy.

To nie jest argument przeciwko automatyzacji AI. To argument za świadomym projektowaniem: za systemami, które nie tylko maksymalizują efektywność, lecz także kultywują ludzkie kompetencje sprawiające, że ta efektywność pozostaje długoterminowo bezpieczna i odporna na zakłócenia.

Od myślenia o efektywności do projektowania kompetencji

Doświadczenia z energetyki jądrowej i lotnictwa można przenieść na grunt inżynierii oprogramowania, analizy danych, doradztwa prawnego, controllingu i wielu innych zawodów opartych na wiedzy. Wszędzie tam, gdzie AI przejmuje rutynową pracę poznawczą, pojawia się to samo strukturalne pytanie: jak zagwarantować, że ekspert-człowiek przyszłości nie tylko monitoruje wyniki i procesy, lecz naprawdę rozumie to, co nadzoruje?

Dr. Maik Bunzel sprowadza to do prostej formuły, którą stosuje przy projektowaniu projektów automatyzacji: „Dobre rozwiązanie AI nie czyni człowieka zbędnym – sprawia, że jest lepszy w momentach, które naprawdę się liczą." Zakłada to, że chwile, w których ludzie nadal myślą samodzielnie, nie są systematycznie eliminowane w imię optymalizacji.

Dla firm, które właśnie budują lub oceniają agenty AI i zautomatyzowane przepływy pracy, oznacza to: pytanie o ROI musi być koniecznie uzupełnione pytaniem o wpływ na kompetencje. Jakie umiejętności są wzmacniane przez nową architekturę? Które ulegają atrofii? I jakie środki ochronne – analogiczne do ręcznego latania w lotnictwie – są świadomie wbudowywane?

Perspektywa: wdrożenie AI jako proces projektowy

Kolejna faza automatyzacji przedsiębiorstw nie nagrodzi tych, którzy zautomatyzują najwięcej. Nagrodzi tych, którzy zautomatyzują najmądrzej – którzy rozumieją, jakie kompetencje muszą zostać zachowane w organizacji, i którzy projektują swoje systemy AI właśnie z myślą o tym.

Elektrownia jądrowa z artykułu IEEE Spectrum nigdy nie powstała. Jednak zasada projektowania ukryta w jej obwodach jest dziś bardziej aktualna niż kiedykolwiek: Czasem to, co nieefektywne, jest najmądrzejsze. Firmy, które to pojmą i przełożą na swoją strategię AI, za pięć lat będą miały nie tylko sprawniejsze procesy – będą też dysponować lepszymi ekspertkami i ekspertami.