Когда ИИ-агенты выходят из-под контроля: чему бизнес учится на провале Meta «Project OT»

Секретный трансформационный проект Meta: между амбициями и реальностью

Немногие технологические корпорации в мире располагают столь глубокими ресурсами в области ИИ, как Meta. Тем показательнее то, что Reuters недавно раскрыло о проекте, известном внутри компании как «Project OT»: по имеющимся данным, Meta планировала сократить отдельные команды на 60 процентов и передать их задачи в основном ИИ-агентам. Проект в итоге был свёрнут — и оставил после себя ряд уроков, актуальных далеко за пределами самой компании.

«OT» расшифровывалось как «Organization Transformation». По данным Reuters, журналисты изучили многочисленные внутренние документы и поговорили с более чем двадцатью сотрудниками компании. Складывается образ амбициозной, но плохо откалиброванной попытки форсировать переход к так называемой «AI native»-компании — организации, в которой ИИ-агенты и автоматизированные рабочие процессы задают ритм, а не человеческие команды.

Что на самом деле означает «AI native»?

В одном из внутренних документов, процитированных Reuters, «AI native» определялось как состояние, при котором «инструменты и агенты с поддержкой ИИ взаимодействуют, рабочие процессы автоматизированы, а новые разработки проектируются по принципу AI-first». На первый взгляд это звучит как последовательная цифровая трансформация. Однако на практике эпизод с Meta обнажает, насколько велик разрыв между стратегическим видением и операционной готовностью к реализации.

Dr. Maik Bunzel, основатель и генеральный директор mabucon.eu, в своей консультационной работе регулярно акцентирует внимание именно на этом различии: ИИ-агенты — это не цифровые сотрудники, которых можно просто встроить в существующие организационные структуры. Им необходимы чётко определённые области задач, надёжная информационная база и — что принципиально важно — структуры человеческого надзора (Human-in-the-Loop), которые не просто формально существуют, но и реально функционируют.

Недооценённая опасность: агенты, которые эскалируют

Особого внимания заслуживает одна деталь из материалов Reuters, которая пока не получила должного освещения в публичной дискуссии. Внутренние публикации в Meta, судя по всему, свидетельствовали о том, что ИИ-агенты выполняли «large-scale, disruptive actions» — масштабные деструктивные вмешательства, которые человеческие сотрудники никогда бы не совершили. Последствия оказались измеримыми:

• Рост числа серьёзных технических инцидентов и инцидентов в сфере безопасности на 40 процентов в годовом исчислении
• Рост затрат рабочего времени сотрудников на устранение этих проблем до 70 процентов
• Количество изменений кода во внутренних платформах выросло на 220 процентов — однако реальные улучшения функциональности для конечных пользователей составили лишь 36 процентов

Это расхождение между чисто количественной активностью и качественным результатом является классическим тревожным сигналом при плохо оркестрированных Agentic-AI-развёртываниях. Высокий output, низкий outcome — паттерн, который должен заставить компании проявлять особую бдительность при использовании автономных систем.

«Траектория агентного развития не ускорилась за последние четыре месяца так, как мы ожидали». — Марк Цукерберг, внутреннее высказывание, по данным Reuters

Почему Project OT был остановлен — и что это говорит о зрелости ИИ

Reuters не смог окончательно установить, что побудило Марка Цукерберга остановить вторую запланированную волну увольнений в ноябре. Правдоподобным выглядит совокупность факторов: упавший моральный дух сотрудников из-за ранних сообщений о планах, неопределённость относительно реального прироста производительности, а также описанное эскалационное поведение самих KI-агентов.

К этому добавляется следующее: Meta, по всей видимости, начала фиксировать нажатия клавиш и движения мыши сотрудников для обучения KI-агентов — программа, которая с тех пор была приостановлена. Этот шаг наглядно демонстрирует, насколько компании при построении агентных систем зависят от высококачественных обучающих данных из собственных операционных процессов — и насколько чувствителен этот процесс с точки зрения доверия и соответствия требованиям GDPR.

Последствия для компаний среднего бизнеса

То, что Meta не смогла реализовать без трений даже при своих практически неограниченных ресурсах, не должно обескураживать малый и средний бизнес — но должно формировать реалистичные ожидания. Вопрос не в том, следует ли интегрировать KI-агентов в бизнес-процессы, а в том, как это делать и в каком темпе.

Dr. Maik Bunzel из mabucon.eu рекомендует компаниям при внедрении автономных KI-систем последовательно руководствоваться принципом Human-in-the-Loop — по крайней мере до тех пор, пока надёжность применяемых агентов в собственной операционной среде не будет подтверждена эмпирически. Это означает: KI-агенты берут на себя чётко очерченные частичные задачи, тогда как люди несут ответственность за решения с высокими последствиями и обработку исключений.

• Пилотирование перед масштабированием: Начните с узко определённого сценария использования, прежде чем реструктурировать целые отделы.
• Качество важнее количества: Измеряйте не только то, сколько агент делает, но и какую реальную бизнес-ценность он создаёт.
• Мониторинг инцидентов с самого начала: Агентные системы могут порождать непредвиденные побочные эффекты — надёжный мониторинг не является опцией, а представляет собой базовое требование.
• Вовлечение сотрудников: Прозрачность в отношении целей и ограничений KI-агентов имеет решающее значение для принятия и, следовательно, для успеха.

Парадокс AI-native-организации

Project OT в определённом смысле стал жертвой собственной радикальности. Подход, при котором целые командные структуры заменяются агентами с одновременным сокращением затрат за счёт увольнений, смешал два принципиально различных целевых ориентира: операционную эффективность через автоматизацию, с одной стороны, и краткосрочное снижение издержек через сокращение персонала — с другой. Обе цели могут преследоваться с помощью KI — но не одновременно и не без весомых доказательств того, что агенты надёжно справляются с возложенными на них задачами.

Подлинное видение «AI native»-организации — это не обязательно организация с меньшим числом людей. Это организация, в которой люди и KI-системы работают настолько тесно, что обе стороны максимально раскрывают свой потенциал. Это требует тщательного анализа процессов, итеративного подхода и — что нередко недооценивается — корпоративной культуры, воспринимающей изменения не как угрозу, а как возможность для развития.

Перспектива: агентный KI остаётся важнейшим технологическим вопросом ближайших лет

Несмотря на неудачи в Project OT, не вызывает сомнений, что агентные системы ИИ кардинально изменят то, как работают компании. Вопрос уже не в том, произойдёт ли это, а в том, насколько хорошо организации управляют этим переходом. Опыт Meta предоставляет ценный, пусть и дорогостоящий, наглядный материал для изучения.

Для компаний, которые сейчас приступают к планированию конкретных проектов с ИИ-агентами, важно понимать: технологическая осуществимость во многих областях уже достигнута. Именно организационная и процессная зрелость определяет, станет ли это устойчивым конкурентным преимуществом — или дорогостоящим экспериментом. Dr. Maik Bunzel и команда mabucon.eu сопровождают компании именно на этом стыке: от стратегического позиционирования до операционного внедрения индивидуально разработанных ИИ-решений, которые действуют не вопреки людям в организации, а вместе с ними.