ИИ допустил ошибки в более чем 1700 судебных делах с 2023 года

С 2023 года искусственный интеллект допустил более 5 тысяч ошибок в документах по более чем 1700 судебным делам. Это следует из базы данных, собранной аналитиком из Высшей коммерческой школы Парижа Дамьеном Шарлотеном и проанализированной «Коммерсантом». Среди участников процессов, предоставивших документы, в которых ИИ допустил ошибки, не только обычные граждане, но и юристы.

Наиболее частый тип ошибок, допускаемых ИИ в юридических документах — так называемые галлюцинации. Галлюцинации ИИ — это ответы модели на запросы пользователя, в которых она уверенно выдает ложную, неподтвержденную и, как правило, просто придуманную информацию, за факт. В юриспруденции галлюцинации могут проявляться в ссылках модели на несуществующие и придуманные ей юридические нормы и неверно процитированные документы.

Примеры юридических галлюцинаций ИИ

В беседе с «Коммерсантом» Шарлотен выделил показательный случай из своей базы. 13 марта 2026 года Апелляционный суд шестого округа США оштрафовал двух адвокатов на $15 000 каждого за ссылки на несуществующие прецеденты в судебной жалобе. Суд указал, что юристы обязаны проверять достоверность всех приведенных источников независимо от того, использовали они ИИ при подготовке документов или нет.

В решении отмечалось, что попытка подкрепить свою позицию вымышленными фактами является злоупотреблением, а приписывание ложных выводов реальным судьям наносит ущерб репутации судебной системы. Кроме того, проверка галлюцинаций создает дополнительную нагрузку на суд и, следовательно, на налогоплательщиков, поэтому штраф должен компенсировать затраты времени на такую проверку.

В апреле юридическая фирма Sullivan & Cromwell (S&C) уведомила федеральный суд США по делам о банкротстве, что один из документов по делу Prince Group, руководителя которой обвиняют в мошенничестве и использовании принудительного труда, содержал множество ошибок, возникших при использовании искусственного интеллекта. Представитель фирмы Эндрю Дитердерих в письме федеральному судье Нью-Йорка принес извинения за допущенные ошибки, в том числе за некорректные ссылки на Кодекс США о банкротстве.

В конце апреля Южная Африка, по сообщению Reuters, отозвала первый проект своей национальной политики в области ИИ после того, как выяснилось, что список источников в документе содержал галлюцинации, сгенерированные ИИ. «Этот неприемлемый промах доказывает, почему критически важен внимательный человеческий контроль за использованием искусственного интеллекта. Это урок, который мы принимаем со смирением», — заявил по этому поводу министр связи и цифровых технологий страны Солли Малатси.

Однако, были и успешные случаи использования ИИ в суде. В июне британская юридическая фирма Garfield AI впервые выиграла судебное дело, полностью подготовленное искусственным интеллектом без участия юриста на досудебной стадии. ИИ самостоятельно составил иск, подготовил свидетельские показания и другие процессуальные документы по делу о взыскании долга в 7 тысяч фунтов стерлингов. На судебном заседании интересы клиентки представлял адвокат, и суд обязал ответчика вернуть долг.

Тревожная статистика

«Коммерсантъ» отмечает тревожную тенденцию. Если в 2023 году база Шарлотена включала в себя всего 16 случаев галлюцинаций, то в 2024 — 59, а в 2025 — уже 827. За первое полугодие 2026 года зафиксировано 814 дел, что указывает на вероятность появления нового годового рекорда.

Чаще всего документы с ошибками, допущенными ИИ, предоставляют граждане, защищающие свои интересы в суде самостоятельно (1014 случаев). Как отмечает издание, проблема в том, что граждане зачастую не проверяют результат работы ИИ. Однако ненамного реже галлюцинации встречаются в документах профессиональных юристов (673 случая). Подобные ошибки также выявлялись у судей (20 дел), прокуроров и судебных экспертов.

По данным базы Дамьена Шарлотена, суды уже вынесли 298 денежных взысканий за использование в процессуальных документах ссылок на ИИ-галлюцинации. Как подсчитал «Коммерсантъ», их совокупный размер превышает $1,6 млн. При этом суды чаще штрафуют профессиональных участников процесса, тогда как к обычным гражданам относятся мягче.

По словам Шарлотена, практика применения санкций различается от страны к стране. В Израиле суды назначают штрафы сравнительно часто, но обычно на небольшие суммы. В США взыскания встречаются реже, однако могут включать в себя судебные издержки, из-за чего достигают значительных размеров. В то же время, отметил исследователь, большинство подобных случаев пока заканчивается лишь предупреждениями.

В большинстве дел в базе Шарлотена не указывается, какая именно ИИ-модель использовалась для подготовки документов. Однако чаще всего в списке фигурирует ChatGPT (115 упоминаний). Значительно реже упоминаются Claude, Grok, Perplexity, Microsoft Copilot и специализированные юридические сервисы, такие как Westlaw CoCounsel. При этом исследователь заявил «Коммерсанту», что по этим данным нельзя судить о качестве моделей, поскольку их популярность существенно различается.

Фото на обложке: ANDRANIK HAKOBYAN / Shutterstock