Когда ИИ берёт на себя годы ученичества: тихая утрата человеческой экспертизы

Когда машины берут на себя период ученичества

В жизни каждого инженера есть момент, который невозможно симулировать: первая по-настоящему неожиданная ошибка, которая на мгновение поколебала привычную картину мира. Отладочный марафон в тупике в три часа ночи. Растерянное «Почему это вдруг заработало?» — и медленное, мучительное понимание, которое приходит следом. Именно из этого трения рождается то, что называют экспертизой. И именно это трение мощные ИИ-системы сегодня всё активнее устраняют из повседневной профессиональной жизни.

Журнал IEEE Spectrum недавно обратился к этой теме в получившей широкий резонанс гостевой статье: автор Ричард Митчелл, основатель AuraSpark Technologies, описывает на основе собственного опыта работы с системой управления атомной электростанцией, как его команда намеренно встраивала ручные шаги в автоматизируемые последовательности — не вопреки автоматизации, а именно ради неё. Причина проста: тот, кто постоянно лишь наблюдает, в какой-то момент перестаёт понимать. Этот принцип проектирования — намеренная неэффективность, ineffizient by design, on purpose — сегодня актуален как никогда.

Данные говорят сами за себя

То, что долгое время существовало лишь как смутная тревога среди специалистов по профессиональному образованию, всё отчётливее обретает эмпирические очертания. Рабочий документ Гарварда, анализирующий данные около 65 миллионов сотрудников более чем 280 000 американских компаний, свидетельствует: после внедрения генеративного ИИ занятость среди младших специалистов за шесть кварталов сократилась примерно на девять процентов — тогда как число опытных кадров оставалось стабильным или даже росло. Анализ на основе данных о заработных платах ADP, проведённый Стэнфордским университетом, подтверждает эту тенденцию: самые молодые сотрудники в профессиях с высокой подверженностью ИИ заметно сдали позиции с конца 2022 года.

Показательно при этом разграничение, которое проводят стэнфордские исследователи: там, где ИИ автоматизирует, позиции джунов слабеют. Там, где ИИ лишь дополняет — то есть усиливает имеющиеся навыки, а не заменяет их, — доля младших специалистов остаётся стабильной или даже растёт. Причинно-следственная связь окончательно не установлена, и это важно подчеркнуть. Экономисты Федерального резервного банка Нью-Йорка указывают на удалённую работу как на сопутствующую причину: компании избегают нанимать неопытных специалистов, которых не могут ввести в должность очно. Однако оба объяснения указывают на одну и ту же проблему: канал, по которому экспертные знания передаются от опытных специалистов к начинающим — так называемый Apprenticeship Channel, — повреждён.

«Нельзя стать старшим инженером, не побывав сначала младшим. Экспертиза не скачивается. Она зарабатывается.»

Эта фраза из статьи IEEE Spectrum бьёт в самую точку. И она ставит перед компаниями стратегический вопрос, выходящий далеко за рамки HR-отделов.

Парадокс автоматизации: старый урок авиации

Отрасли с высокими требованиями к безопасности знакомы с этим явлением уже несколько десятилетий — под названием Automation Paradox: чем мощнее автоматизация, тем меньше практики получает человек — и тем острее он ощущает беспомощность в тот момент, когда машина возвращает ему управление. Как правило, это происходит именно тогда, когда ситуация особенно сложна.

Показательный пример — рейс Air France 447, потерпевший крушение над Атлантикой в 2009 году. Обледеневшие датчики передавали ошибочные данные, автопилот корректно отключился и передал управление экипажу. Последовавшее за этим было не технической, а компетентностной катастрофой. Пилоты, годами наблюдавшие за тем, как высокоавтоматизированная машина управляет собой, уже не могли вручную скомпенсировать аэродинамический срыв потока на большой высоте. Самолёт был исправен. Навык, который автоматизация незаметно разрушила, — нет.

Реакция авиационных регуляторов оказалась показательной: автоматизацию не стали сворачивать — вместо этого ручное пилотирование было институционализировано как самостоятельная компетенция. В 2017 году FAA официально заявило в Safety Alert, что ручное пилотирование является фундаментом всех прочих лётных навыков. Деградация навыков (Skill Decay) была признана самостоятельным риском для безопасности и включена в программы подготовки пилотов.

Что это означает для компаний, делающих ставку на KI-автоматизацию

Dr. Maik Bunzel, основатель и генеральный директор mabucon.eu, регулярно обращает внимание клиентов именно на эту слепую зону: «ROI автоматизации зачастую виден сразу — долгосрочные издержки на компетенции нет. Если младший сотрудник так и не учится понимать, почему процесс работает определённым образом, потому что KI уже взяла это на себя, компании строят на базе знаний, которая систематически истощается».

Для организаций, внедряющих KI-агентов и Workflow-автоматизацию, из этого вытекают конкретные вопросы проектирования:

• Какие задачи следует осознанно оставить ручными? Не из ностальгии, а чтобы сохранять и развивать критическое понимание процессов.
• Как структурно обеспечить обучение на ошибках? KI-системы склонны предотвращать ошибки — тем самым они лишают сотрудников возможности учиться. Компенсировать это можно с помощью Sandboxed Environments и структурированного разбора случаев.
• Какую роль берёт на себя человек — Augmenting или Automating? Это принципиальное различие — не только с точки зрения занятости, но и с точки зрения качества основы для принятия решений в пограничных ситуациях.
• Как масштабировать менторство в гибридной среде человека и KI? Когда KI берёт на себя простые задачи, опытных сотрудников необходимо целенаправленно и структурированно задействовать в роли передатчиков знаний.

Скрытая угроза: Confident but Wrong

Пожалуй, наиболее опасный сценарий — это не тотальная зависимость от KI-систем: её легко обозначить и устранить. Подлинная угроза тоньше: поколение специалистов, научившихся контролировать и верифицировать результаты KI, так и не усвоивших оснований, по которым можно судить о том, является ли тот или иной результат правдоподобным или неправдоподобным.

Большие языковые модели и агентные KI-системы выдают ответы с неизменной уверенностью — независимо от того, верны они или принципиально ошибочны. Confident but wrong — не исключение, а структурная особенность современных систем генеративного ИИ. Тот, у кого нет профессиональной базы, чтобы распознать эти ошибки, будет воспроизводить их в рабочих процессах, отчётах и решениях — не замечая этого.

Это не аргумент против автоматизации на основе ИИ. Это аргумент в пользу осознанного дизайна: в пользу систем, которые не просто максимизируют эффективность, но и развивают человеческую компетентность — ту самую, что делает эту эффективность надёжной и устойчивой в долгосрочной перспективе.

От мышления категориями эффективности — к дизайну компетентности

Опыт атомной энергетики и авиации применим к разработке программного обеспечения, анализу данных, юридическому консалтингу, контроллингу и многим другим интеллектуальным профессиям. Везде, где ИИ берёт на себя рутинную когнитивную работу, возникает один и тот же структурный вопрос: как обеспечить, чтобы эксперт-человек будущего не просто наблюдал за результатами и процессами, но по-настоящему понимал, что именно он контролирует?

Dr. Maik Bunzel формулирует это с помощью простой формулы, которую он применяет при проектировании проектов автоматизации: «Хорошее решение на базе ИИ не делает человека лишним — оно делает его лучше именно в те моменты, которые действительно важны». Это предполагает, что моменты, в которые люди ещё думают самостоятельно, не вычёркиваются из процесса систематически ради оптимизации.

Для компаний, которые сейчас выстраивают или оценивают ИИ-агентов и рабочие процессы автоматизации, это означает следующее: вопрос о ROI необходимо дополнить вопросом о влиянии на компетентность. Какие навыки укрепляет новая архитектура? Какие — атрофирует? И какие защитные меры — по аналогии с ручным пилотированием в авиации — встраиваются осознанно?

Взгляд в будущее: внедрение ИИ как процесс проектирования

Следующая фаза корпоративной автоматизации вознаградит не тех, кто автоматизирует больше всего. Она вознаградит тех, кто автоматизирует умнее всего — тех, кто понимает, какие компетенции в организации необходимо сохранить, и выстраивает свои ИИ-системы соответствующим образом.

Атомная станция из статьи в IEEE Spectrum так и не была построена. Но принцип проектирования, заложенный в её схемах, сегодня актуален как никогда: иногда неэффективное — это и есть самое умное. Компании, которые это поймут и воплотят в своей стратегии ИИ, через пять лет будут обладать не только более эффективными процессами — у них будут и более квалифицированные эксперты.