Галлюцинированные решения, недействительные документы: что юристам нужно знать об использовании ИИ прямо сейчас

Когда ИИ изобретает несуществующее — и суд это замечает

Подписанный процессуальный документ, направленный через специальный электронный адвокатский почтовый ящик, с номерами абзацев, номерами дел и, казалось бы, тщательно подкреплённой аргументацией: внешне жалоба на недопущение кассационного обжалования в Федеральный суд по трудовым делам (BAG) выглядела как обычный адвокатский документ. Однако при более детальном изучении сенатом обнаружился весь масштаб проблемы. Четыре из цитируемых решений попросту не существовали. Ещё три были изложены с искажением содержания. Суд сделал соответствующий вывод: жалоба была недопустимой — поскольку без надлежащей адвокатской проверки не было и надлежащего представительства.

Определение BAG от 30 сентября 2026 года (Az. 2 AZN 339/26) стало прецедентным решением, вызвавшим значительный резонанс в юридическом сообществе — причём далеко за пределами судов по трудовым спорам. Ибо судебный акт недвусмысленно устанавливает: сгенерированные ИИ материалы, включённые в процессуальные документы без самостоятельной проверки, могут повлечь недопустимость всего средства правовой защиты. Риск, процессуальная острота которого, по всей видимости, до сих пор не была в полной мере осознана многими практикующими юристами.

Что именно решил BAG — и почему

Правовое значение решения BAG раскрывается через обязательное представительство по § 11 абз. 4 ArbGG. В BAG стороны должны быть представлены уполномоченным на ведение дел процессуальным представителем. В устоявшейся практике суд конкретизировал, что под этим понимается: поданный процессуальный документ должен быть плодом интеллектуального труда представителя. Если проект — независимо от того, кем или чем он подготовлен — принимается за основу, адвокат обязан самостоятельно его проверить и принять на себя полную ответственность за него.

В рассматриваемом деле BAG заключил из внешних обстоятельств, что именно эта проверка не была проведена. Наряду с отсутствием фирменного бланка юридической фирмы и нетипичными формулировками решающую роль сыграли прежде всего галлюцинированные ссылки на источники. Для суда было «совершенно исключено», что адвокат, действительно прочитавший и проверивший обоснование жалобы, стал бы цитировать решения, которые не существуют или которые говорят о прямо противоположном тому, что утверждается в документе.

Решения, которые не существуют или изложены неверно, свидетельствуют против адвокатской проверки — так указывает BAG в своём обосновании.

Попытка процессуального представителя исправить положение задним числом путём подачи соответствующего заявления не увенчалась успехом, поскольку оно было подано по истечении срока для представления обоснования. Восстановление пропущенного срока тем самым исключалось.

Не единичный случай: формирующийся массив судебной практики

BAG не одинок в своём решении. В последние месяцы в немецкой судебной практике обозначилась отчётливая тенденция жёстко санкционировать непроверенное использование ИИ в процессуальных документах — пусть и с различными процессуальными последствиями.

• Kammergericht Berlin (20.11.2025, Az. 17 WF 144/25): В ходе срочного семейно-правового производства KG установил, что процессуальный документ был явно результатом «фантазирования» ИИ и был принят без проверки. Суд указал на нарушение профессионального права, однако не сделал вывода об отсутствии надлежащего представительства.
• Kammergericht Berlin (25.08.2025, Az. 3 ORbs 164/25): Критика в адрес непроверенного автоматизированного ведения дела с недостоверными сведениями о ходе разбирательства в области дорожного права.
• Amtsgericht Köln (02.07.2025, Az. 312 F 130/25): Суд обязал впредь воздерживаться от ссылок, основанных на явно сгенерированных ИИ и вымышленных источниках, — с указанием на § 43a Abs. 3 BRAO.
• Landgericht Frankfurt a.M. (25.09.2025, Az. 2-13 S 56/24): Суд разъяснил, что адвокату должна быть известна ненадёжность юридических высказываний ИИ, а также что правосудие несёт серьёзный ущерб, если суды более не могут доверять ссылкам на источники.

Эти решения рисуют единую картину: проблема состоит не в использовании ИИ как таковом. Проблема — в отсутствии контроля над результатами ИИ.

Реальная обязанность проверки — и что она означает на практике

Dr. Maik Bunzel, основатель и генеральный директор mabucon.eu, следит за этим развитием с особым интересом, поскольку оно обнажает фундаментальное недопонимание того, что может и чего не может автоматизация на базе ИИ. «ИИ-системы — превосходные ассистенты для исследований и формулировок. Однако они работают вероятностно, а не фактологически. Кто игнорирует это и переносит выходные данные напрямую в обязательные документы, упускает ключевой шаг человеческого контроля», — такова оценка из практики консалтинга по внедрению ИИ.

С правовой точки зрения обязанность проверки уже закреплена в действующем профессиональном праве: § 43 Satz 1 BRAO требует добросовестного осуществления профессиональной деятельности. Федеральная палата адвокатов Германии (BRAK) в своих рекомендациях по применению ИИ (по состоянию на декабрь 2024 года) конкретизирует, что все результаты ИИ подлежат самостоятельной проверке. Германская ассоциация адвокатов (DAV) в своём инициативном заключении (Nr. 32/2025) также подчёркивает, что все ссылки на источники подлежат полной проверке — вне зависимости от наличия конкретных признаков галлюцинаций.

Структурированная цепочка проверки источников должна включать как минимум следующие шаги:

• Проверка идентичности: верифицировать в полном тексте суд, вид решения, дату, номер дела и ECLI.
• Доступ к полному тексту: не проводить проверку исключительно на основе списков результатов или сводок ИИ.
• Источник в контексте: действительно ли содержится утверждаемое высказывание? Является ли оно позицией суда, доводом стороны или obiter dictum?
• Проверка нормы: параграф, часть, предложение — и редакция, действовавшая в соответствующий момент времени.
• Документирование: фиксировать источник, дату обращения, конкретное место в тексте и имеющиеся сомнения.
• Отсутствие результата: не ограничиваться поиском в одной базе данных — обратиться к дополнительным источникам, региональным порталам или непосредственно в суд.

При этом такие источники данных, как Open Legal Data (с более чем 420 000 решений и MCP-доступом для KI-приложений) или публичный федеральный API NeuRIS, могут стать ценными инструментами. Они позволяют проверить существование и формат документа — однако не заменяют содержательной проверки цитируемого утверждения.

Что автоматизация на основе KI может сделать в правовой сфере — а что нет

Дискуссия вокруг галлюцинированных судебных решений соблазняет огульно отвергнуть KI как неподходящий инструмент для юридической работы. Это было бы ошибкой. При правильном применении — с чётко определёнными процессами проверки и Human-in-the-Loop в ключевых точках — KI способна существенно повысить качество юридической работы и одновременно сократить затраты на исследование и формулирование.

Dr. Maik Bunzel, основатель и генеральный директор mabucon.eu, формулирует это точно: «Цель современной Workflow-Automatisierung в правовой сфере — не заменить юриста машиной, а применять машину для всего, что она делает надёжно, оставляя юриста там, где требуются суждение, ответственность и несение правовых последствий». Это разграничение — не только этический постулат, но и, как теперь разъяснил BAG, процессуальная необходимость.

Конкретно для организации юридической фирмы это означает: KI может брать на себя исследовательские задачи, создавать первоначальные формулировки, структурировать шаблоны и находить ссылки на источники. Окончательный обзор — вычитка, верификация источников, содержательная проверка достоверности — должен оставаться в задокументированном шаге согласования у ответственного юриста. Тот, кто пропускает этот шаг под давлением сроков, из-за отсутствия процессов или недостаточного понимания KI, рискует не только нарушением профессиональных норм, но и — как показывает определение BAG — недопустимостью всего средства обжалования.

Открытые вопросы: страховое покрытие и ответственность

Помимо процессуальных рисков, возрастающее применение KI в адвокатуре поднимает ещё один, пока не решённый вопрос: страховое покрытие. BRAK прямо указывает на то, что при определённой степени автоматизации может оказаться под сомнением, осуществляется ли вообще адвокатская деятельность в смысле страхового права. Если при наступлении страхового случая страховщик заявит, что процессуальный документ является не результатом адвокатского труда, а продуктом автономной KI-системы, страховое возмещение может не последовать.

Обязательных норм о допустимой степени автоматизации на сегодняшний день не существует. Тем важнее уже сейчас разрабатывать собственные внутренние регламенты фирмы, проводящие чёткую границу между работой, поддерживаемой KI, и работой, замещённой KI, — и документировать это внутри организации.

Вывод: KI как ассистент, юрист как ответственное лицо

Решение BAG — это призыв к действию, но не запрет. Оно чётко обозначает границу между допустимой поддержкой KI и недопустимой передачей ответственности: она проходит там, где требуется самостоятельная, задокументированная проверка каждой цитируемой ссылки. Юридические фирмы, которые уже сейчас инвестируют в структурированное KI-управление — с чёткими Workflows, определёнными шагами проверки и прозрачной документацией — смогут использовать KI как подлинный инструмент повышения качества. Все остальные подвергают себя риску, который, как показывает определение BAG, может непосредственно повлечь недопустимость производства по делу.

Для компаний с собственным юридическим отделом действует тот же принцип: юридические документы, подготовленные с помощью ИИ и переданные без контроля со стороны человека, — это не повышение эффективности, а источник правовой ответственности. Внедрение надлежащих процессов контроля — это не вопрос удобства, а вопрос профессионального управления рисками.