Почему суд встал на сторону студентки, уличенной в использовании ИИ при написании диплома

Студентка-заочница Московского международного университета отстояла в суде право на защиту диплома, который преподаватели сочли написанным нейросетью. Корреспондент "РГ" разбирался в деталях дела и в том, как данный прецедент может изменить всю систему образования.

Четыре года студентка лингвистического факультета грызла гранит науки. Без "хвостов" и долгов, успешно сдав все промежуточные аттестации, она подошла к финалу - написанию дипломной работы. Итог своих бессонных ночей она загрузила в систему "Антиплагиат.Вуз" и отправила научному руководителю. Однако ответ стал для нее шоком: преподаватель заявил, что в тексте есть признаки машинной генерации. При этом ни точного процента, ни конкретных фрагментов, вызвавших подозрения, представлено не было. Девушка оперативно переработала главы и загрузила исправленный вариант, но опоздала на один рабочий день - дедлайн выпал на воскресенье, а потому вуз отказался принимать работу, сославшись на просрочку. За этим последовало отчисление "за нарушение учебной дисциплины". Однако дипломница не сдалась и пошла в суд.

В суде разгорелся спор. Университет настаивал на фальсификации: мол, писать диплом с помощью ИИ - это недопустимо. Защита студентки построила стратегию на двух китах: процедурных нарушениях со стороны вуза и несостоятельности доказательной базы. Во-первых, вуз не ознакомил студентку с внутренними положениями о проверке работ на ИИ в установленный срок. А в правилах университета не было прописано, что делать, если последний день сдачи выпадает на выходной. Все эти "пробелы" были истолкованы в пользу заявительницы.

Но главный козырь защиты - нестабильность самого алгоритма "Антиплагиата". Студентка сравнила два отчета и обнаружила, что одни и те же фрагменты текста программа в разное время классифицировала по-разному: то как "нейросетевые", то как "авторские". Представители же университета не смогли объяснить суду, как именно работает система и какова ее погрешность.

В результате Вахитовский райсуд Казани, а затем и Верховный суд РТ встали на сторону студентки. Отчисление признали незаконным. Вуз обязали восстановить девушку на четвертом курсе, выплатить 40 тысяч рублей компенсации морального вреда и 20 тысяч - штрафа. Ключевая фраза в решении Фемиды звучит так: отчет "Антиплагиата" - это вероятностный результат, а не утвердительный вердикт. Он не может служить единственным и бесспорным доказательством недобросовестности, если не подкреплен экспертной оценкой человека. Теперь студентка вернется к учебе, а преподавателям предписано повторно проверить ее ВКР. Если оригинальность составит не менее 50%, работу допустят к защите.

Это первый оправдательный прецедент в РФ в таком деле, ранее похожий случай был в Белгородской области, но там студентка не смогла оспорить отчисление. Теперь же своим решением суд дал вузам четкий сигнал: автоматические проверки - лишь вспомогательный инструмент. Только вот за рамками конкретной истории остается еще много вопросов о том как студентам и преподавателям не стать заложниками между ИИ-пишущими и ИИ-проверяющими. Корреспондент "РГ" попросила экспертов прокомментировать самые острые ситуации.

Насколько прозрачны алгоритмы проверки

Эксперты сходятся во мнении, что система не раскрывает алгоритм выявления ИИ-следа. Преподаватель видит лишь итоговые показатели оригинальности и помеченные фрагменты, но не получает достоверного подтверждения того, что текст написан машиной.

- Система "Антиплагиат" не раскрывает в открытом доступе алгоритм, по которому выявляет ИИ-след, однако вероятно опирается на те же механизмы, что и схожие сервисы. Сформировался и целый пул так называемых сервисов типа Humanizer, нацеленных на обход обнаружение ИИ-контента и его "очеловечивание". Однако системы обнаружения тоже развиваются: появляются новые инструменты, например, "тепловые карты" в системе "Думейт", которые цветом подсвечивают фрагменты с разной вероятностью машинной генерации, однако это лишь вспомогательные инструменты, не позволяющие дать однозначного ответа на вопрос об авторстве текста. Ни один из современных сервисов проверки текста не сертифицирован для целей признания его отчетов неоспоримым доказательством применения ИИ, а Минобрнауки четко обозначило свою позицию: делать выводы только по результатам компьютерной проверки невозможно и неправомерно, - уверен кандидат юридических наук, зампред Совета молодых ученых Финансового университета при Правительстве РФ Исмаил Исмаилов

Есть ли у систем проверки сертификаты?

Ни один из современных сервисов обнаружения ИИ-контента не сертифицирован для целей признания его отчетов неоспоримым доказательством в суде. В Минобрнауки четко обозначили позицию: делать выводы только по результатам компьютерной проверки неправомерно.

- В теме ИИ и студенческих работ сейчас очень легко поставить человеку клеймо. Программа что-то отметила - и студент уже вынужден оправдываться. Это опасная привычка. Университету так проще, но с правом и здравым смыслом тут начинаются проблемы. "Антиплагиат.Вуз" может быть полезным инструментом. Он показывает место, к которому стоит присмотреться. Но отчет программы не рассказывает, как появилась работа. Студент мог сам написать текст и попросить нейросеть поправить язык. Мог использовать ее как черновик. Мог вообще ничего не использовать, но писать таким вымученным научным стилем, что машина увидит там свои признаки, - поясняет гендиректор АНО "Центр реализации национальных проектов" Виталий Кривцов. - Лицензия у сервиса тоже не закрывает спор. Она говорит только о том, что вуз может пользоваться программой. Вина конкретного студента доказывается иначе. Нужно читать работу, разговаривать с автором, смотреть, понимает ли он тему.

Существует ли допустимый процент сгенерированного текста?

Единой федеральной нормы нет. Вузы устанавливают требования самостоятельно. В некоторых университетах (например, в Московском педагогическом университете) разрешено использовать ИИ, но его доля ограничена 30%, при этом требуется полная декларация применения нейросетей. В других, а таких университетов большинство, даже 10% могут стать критическими. Важно отметить, что сам факт наличия ИИ-контента не считается плагиатом, но он уменьшает долю самостоятельного авторского текста. Например, если в вузе установлен порог оригинальности в 70%, а система выявила 30% ИИ-контента, то работа формально может пройти проверку.

- Программа антиплагиат не всегда успевает за новыми технологиями. В ряде случаев она может показывать сгенерированный текст, иногда может не показывать. А некоторые языковые модели она вообще не видит. При этом надо обратить внимание, что "Антиплагиат" обновляется практически ежедневно. На практике в работах, которые были загружены месяц назад, перед защитой она показывает уже другие результаты, - поясняет завкафедрой финансового и инвестиционного менеджмента Финансового университета при Правительстве РФ Юлия Грищенко. - На самом деле, преподавателю даже и не нужно проводить проверку работы на антиплагиат. Читая текст, сразу понятно, кто это написал: человек или текст сгенерирован языковой моделью. Наша задача - сделать так, чтобы ИИ был хорошим ассистентом и помощником, выполняющим часть рутинной работы, например, сбор большого массива данных, формирование гипотезы, а также ее тестирование можно было бы проводить с помощью ИИ.

Является ли проверка на ИИ обязательной?

- Проверка студенческих работ на наличие контента, сгенерированного ИИ, - это инициатива отдельных университетов, а не обязательное требование Минобрнауки, на уровне которого пока не сформулировано ни нормативных требований, ни методических рекомендаций для вузов, однако их разработка уже ведется. Но вузы имеют право устанавливать свои правила использования ИИ при написании работ, - поясняет кандидат юридических наук, зампред Совета молодых ученых Финансового университета при Правительстве РФ Исмаил Исмаилов.

Главное же правило, которое должен соблюдать вуз во избежание конфликтов, заранее ознакомить студентов требованиями проверки их на ИИ.

- Система "Антиплагиат" не раскрывает в открытом доступе алгоритм, по которому выявляет ИИ-след, однако вероятно опирается на те же механизмы, что и схожие сервисы. Сегодня сформировался уже и целый пул сервисов типа Humanizer, нацеленных на обход обнаружение ИИ-контента и его "очеловечивание". Однако системы обнаружения тоже развиваются: появляются новые инструменты, например, "тепловые карты" в системе "Думейт", которые цветом подсвечивают фрагменты с разной вероятностью машинной генерации, однако ни один из современных сервисов проверки текста не сертифицирован для целей признания его отчетов неоспоримым доказательством применения ИИ, а Минобрнауки четко обозначило свою позицию: делать выводы только по результатам компьютерной проверки невозможно и неправомерно, - подводит итог Исмаил Исмаилов.

С помощью ИИ проверили "Войну и мир", и алгоритм заподозрил, что некоторые фрагменты могли быть написаны нейросетью

Можно ли выявить ИИ фрагменты без программы?

В текстах, сгенерированных ИИ обращает на себя внимание излишняя структурированность, обилие списков и шаблонных переходов, отсутствие живого повествования. Часто в них "слишком идеальный" язык: отсутствие стилистических неровностей и опечаток, неестественно сложные конструкции. Грешат они и информационным вакуумом: мало ссылок на актуальные источники или ссылки на несуществующие работы (так называемые "галлюцинации" нейросетей). А еще в них встречаются не логичные повторы - многократное изложение одной и той же мысли разными словами.

- У текстов, написанных ИИ, часто встречаются характерные паттерны, и люди, которые регулярно работают с нейросетями, легко замечают их. Однако нейросети развиваются, и качество сгенерированного текста улучшается с каждым годом. Поэтому в перспективе главным критерием станет не стиль текста, а несоответствие уровня работы реальным возможностям конкретного студента. Проблема лишь в том, что при больших потоках преподаватели далеко не всегда успевают хорошо узнать каждого обучающегося", - поясняет директор по образовательной методологии в ООО "Винни" Мария Липчанская.

Отменят ли письменные работы в вузах?

Министр науки и высшего образования РФ Валерий Фальков недавно допустил, что письменные работы могут исчезнуть, а вузы вернутся к устным экзаменам. На прошлой неделе первый вуз в России, Сочинский институт (филиал) РУДН уже отменил дипломные работы студентов.

В целом же позиция преподавательского сообщества состоит в том, что диплом - это не просто файл для архива. Это зафиксированная гипотеза, методика и результаты, которые можно проверить. Вопрос не в том, каким инструментом (гусиным пером, печатной машинкой или ChatGPT) написан текст, а в том, есть ли у автора собственные мысли.

- Сегодня перед вузами стоит более широкая задача: научиться оценивать не текст как таковой, а то, насколько он отражает реальные образовательные результаты студента. Письменная работа, устный ответ, решение новой задачи или разбор собственных ошибок - это лишь разные способы проверить знание и понимание. Чем разнообразнее инструменты оценки, тем объективнее итоговый результат. В перспективе важную роль в такой системе оценки могут сыграть образовательные ИИ-агенты, которые помогают студенту работать над учебными задачами и параллельно анализируют весь процесс обучения, - уверена Мария Липчанская.

Казусы электронной головы

Весной этого года несколько изданий проверили тексты Льва Толстого с помощью искусственного интеллекта. Результаты оказались неожиданными: алгоритм заподозрил, что некоторые фрагменты из "Войны и мира" могли быть написаны нейросетью. Если ИИ сомневается в подлинности произведений классика русской литературы, то как доверять его выводам при проверке студенческих работ?

Преподаватели американских университетов столкнулись с тем, что детекторы ИИ ошибочно отмечают их старые научные статьи и методические разработки как "сгенерированные". Миннесотский университет признал это системной проблемой. В Таиланде 12 преподавателей английского языка столкнулись с отказом публиковать свои работы в научных журналах из-за ошибок систем Turnitin, GPTZero и iThenticate.

Парадоксально, но академические тексты, написанные в строгом стиле с обилием терминов, часто вызывают у ИИ подозрения в генерации. Это приводит к ошибочной маркировке таких работ как ИИ-контент.

Современные детекторы ИИ анализируют формальные характеристики текста, такие как "гладкость" и частота используемых конструкций. Это приводит к систематическим ошибкам, даже когда текст написан человеком. Пока ни одна система не может с абсолютной уверенностью отличить текст, написанный человеком, от созданного ИИ.

.