Учёные США создали детектор текста, сгенерированного ИИ

Ученые из Канзасского университета разработали детектор искусственного интеллекта, который может определять сгенерированный нейросетями контент в научных статьях с точностью 100%.

Согласно отчёту , команда исследователей выбрала 64 реальных научных статей и использовала их для создания 128 статей с помощью ChatGPT , которые затем использовались для обучения детектора ИИ.

Созданный инструмент на 100% различал статьи, написанные человеком, от статей, сгенерированных ИИ, и с 92% точностью определял текст ИИ в конкретных абзацах статьи.

Главный автор исследования Хезер Дезайр сказал, что сейчас есть очень серьезные проблемы с ИИ-письмом. Одна из самых больших проблем заключается в том, что ИИ собирает текст из многих источников и не проводит никакой проверки на точность.

На рынке уже существуют подобные инструменты. Например, инструмент OpenAI , запущенный в январе, позволяет различать текст, написанный ИИ, и текст, написанный человеком. Вероятность успеха составляет около 26%, а человеческая работа ошибочно определяется как работа ИИ в 9% случаев. Создание такого инструмента началось после того, как Министерство образования Нью-Йорка заблокировало доступ к ChatGPT для учеников в государственных школах.