Законы робототехники на страже правосудия: помогут ли нейросети улучшить российскую судебную систему

Новации в судопроизводстве В России готовятся к масштабному внедрению ИИ в судебную систему – в Госдуму могут внести законопроект об использовании нейросетей в судопроизводстве, пишет «Парламентская газета». Вначале искусственный интеллект будет допущен к автоматизации рутинных процессов, но есть перспективы использования современных технологий в однотипных делах, в том числе для взыскания задолженностей по кредитам, коммунальным услугам и оформления бракоразводных процессов. Вопрос, будут ли нейросети когда-нибудь выносить судебные решения, остается открытым. Однако закон «О статусе судей» в текущей редакции четко определяет – окончательное слово всегда должно оставаться за человеком. Директор Судебного департамента при Верховном суде России Владислав Иванов в беседе с журналистами отметил, что искусственный интеллект не обладает эмпатией. «Искусственный интеллект не обладает такими качествами как, например, сострадание. И поэтому полностью заменить судей искусственным интеллектом невозможно», – заявил Иванов. Однако он отметил, что в рутинных процессах ИИ может стать хорошим помощником человеку. Глава Минцифры Максут Шадаев предположил, что искусственный интеллект в будущем сможет заменить половину чиновников. «Человека, надеемся, он не заменит, особенно врачей и учителей. Считаю, что половину чиновников точно может заменить. Может, чуть больше», – сказал он. Мировой опыт показывает, что использование искусственного интеллекта в судах постепенно становится реальностью. Например, в Китае и США нейросети помогают прогнозировать исходы дел и анализировать доказательства. Вместе с этим возникают вопросы безопасности, прозрачности алгоритмов и защиты персональных данных. Как Россия будет решать эти вызовы – станет ясно после обсуждения законопроекта. Вопросы этики Дискуссия о допустимости использования машинного разума в судопроизводстве ведется долгие годы. Этому вопросу посвящены сотни научных статей, тема нашла отражение в культуре – в том числе книгах и кинематографе. В популярном в 90-е фильме «Судья Дредд» этот вопрос поднимался метафорически: протагонист фильма, Джозеф Дредд, являлся по сюжету «человеком с машинной эффективностью» и выполнял функции прокурора, судьи и палача одновременно. Одну из важнейших концепций, которая в дальнейшем легла в основу дискуссий о взаимодействии человека и машины, придумал известный писатель-фантаст Айзек Азимов. В своем рассказе «Лжец!», написанном в 1941 году, Азимов представил три закона робототехники: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Робот обязан подчиняться приказам человека, если эти приказы не противоречат первому закону Робот должен заботиться о своей собственной безопасности, пока это не противоречит первому или второму закону. Позднее автор добавил «нулевой закон», который распространяет действие первого закона робототехники на все человечество. Что говорят эксперты Нейросети не понимают, что делают По мнению адвоката Матвея Цзена, нейросети на текущем уровне развития не способны работать в сфере судопроизводства из-за риска накопления ошибок. Сложные языковые модели не способны мыслить, они лишь находят ассоциации в массивах данных, на которых были обучены. «Это очень сложные программы, которые, по сути, пытаются подобрать наиболее подходящее слово после того, как уже было сказано предыдущее. Они не думают и не размышляют, а просто пытаются угадать слово, которое соответствует контексту. Все, кто сталкивался с этими большими моделями, отмечают, что у них есть сильная тенденция к «галлюцинациям», когда они сбиваются начинают выдавать совершенно бессмысленные фразы. Это показывает, что, во-первых, они ничего не понимают в том, что делают, а во-вторых, их работа не является надежной», – объяснил адвокат. Он отметил, что главный предмет рассмотрения в суде – это спорные ситуации, которые невозможно разрешить, не зная контекста. Искусственный интеллект, по мнению юриста, не способен работать на этом уровне. «В идеале судопроизводство – это рассмотрение спора. Представьте, что вы рассматриваете какой-то конфликт: один человек утверждает одно, другой – другое. Как вы можете, исходя из контекста, определить, кто прав, а кто нет? На самом деле, это невозможно. Если вы просто отказываетесь от своей роли судьи и разрешителя спора, то решение становится случайным. Поэтому в том виде, в котором сейчас существует искусственный интеллект, его нельзя использовать в судопроизводстве», – подчеркнул он. Судить людей должны люди Доктор юридических наук Владислав Гриб полагает, что использование ИИ возможно по простым категориям дел, например, в административном производстве или для фиксации нарушений. При этом, использовать ИИ для каких-то решений в суде, по мнению юриста, недопустимо. «В административном производстве по некоторым категориям дел это возможно. Но я против расширения применения искусственного интеллекта, потому что суд и судебные органы – это не только формальное фактическое исследование доказательств, это еще и оценка личности правонарушителя. Именно здесь возникает такая вилка наказаний как в административном, так и в уголовном праве, исходя из личности», – пояснил Гриб. Судебная система должна опираться на человека, а не на машину, убежден юрист. Расширение властных полномочий искусственного интеллекта, по его мнению, довольно опасно, поскольку только человеческий разум способен учитывать сложные моральные, социальные и эмоциональные аспекты каждого дела. «Судить людей должны люди, а не роботы или искусственный интеллект. Не дай Бог, если мы будем давать всё больше властных полномочий искусственному интеллекту и роботам без контроля со стороны человека. Это опасная тенденция», – заявил собеседник «ФедералПресс». Искусственный интеллект уже применяется Адвокат Константин Акулич рассказал, что искусственный интеллект в российском судопроизводстве применяется на практике в основном для транскрибации аудио и сравнения текстов большого объема. «На этапе защиты в судах имеются программно-аппаратные комплексы, которые за счет нейросетей переводят речь в текст для облегчения работы протокола. Все остальное я не видел, так как не сталкивался. В плане работы адвокатов нейросети активно применяются во многих направлениях, например, для сравнения больших текстов. Если текст объемный и занимает несколько сотен страниц, то нейросети помогают выделить основные мысли», – сказал Акулич. По его словам, для упрощения работы с большим объемом документов создаются готовые шаблоны, с помощью которых рутинная часть судебного процесса автоматизируется. «Это позволяет разгрузить суды и аппарат судов от технической работы. Компании, которые массово обращаются за выдачей судебных приказов, оптимизируют этот процесс, создавая шаблоны в офисных программах или привлекая искусственный интеллект, который анализирует базу данных, находит должников и формирует готовое заявление, которое остаётся только подписать и доставить в суд», – пояснил эксперт. Нейросети нужно «приручить» Адвокат Юлия Андреева полагает, что применение нейросетей в сфере судопроизводства – это вопрос времени. Она отметила, что молодежи гораздо проще взаимодействовать с ИИ, поэтому некоторые функции судебной работы можно переложить на электронных помощников. «Отрицать возможность использования и «приручения» искусственного интеллекта в сфере судопроизводства уже невозможно. Какими бы ретроградами мы ни были, высокая степень зарегулированности нашей жизни, количество документов, которые необходимо обрабатывать судам, а также тот факт, что новому поколению молодых людей гораздо проще взаимодействовать с искусственным интеллектом, очевидно, что ряд вопросов вполне может разрешаться с помощью ИИ», – рассказала Андреева корреспонденту «ФедералПресс». Фото: ФедералПресс / Светлана Возмилова