OpenAI выпустил инструмент для распознавания собственных текстов

Инструмент представили через пару месяцев после того, как OpenAI привлекла внимание общества к ChatGPT — боту, умеющего писать тексты как человек. На прошлой неделе Microsoft, которая уже вложила в OpenAI значительные средства, объявила о многомиллиардных инвестициях для интеграции разработок стартапа в свои сервисы.

Многие учебные заведения ограничили использование ChatGPT у учеников, из-за опасений, что бот может вредить качеству обучения. Сэм Альтман, глава OpenAI, шутя, сказал, что так же было с калькуляторами. Однако, он также заявил, что компания может помочь учителям распознавать "фальшивые" работы, сделанные ИИ.

Разработка нового инструмента продолжается, но в настоящее время он еще совершает много ошибок. OpenAI ждет обратной связи от учителей и родителей. По данным OpenAI, программа-классификатор при оценке тестовых текстов на английском языке успешно идентифицирует 26% текстов, созданных ИИ, как "вероятно написанные ИИ", однако неправильно классифицирует 9% текстов, созданных человеком, как написанные ИИ.

Это не первая попытка создать инструмент для распознавания текстов, созданных машинами. Недавно студент Принстонского университета Эдвард Тянь представил GPTZero для преподавателей. OpenAI ранее выпустила свой инструмент для распознавания текстов, созданных ИИ, в 2019 году вместе с языковой моделью LLM. По словам сотрудников стартапа, новая версия инструмента эффективнее распознаёт тексты, которые выдаются за тексты, написанные человеком.

Инструмент не эффективен в анализе текстов короче 1000 знаков, и OpenAI не рекомендует использовать его для других языков, кроме английского. Также созданный ИИ текст может быть легко исправлен вручную, усложняя тем самым его идентификацию. OpenAI уже обращала внимание в 2019 году, что идентификация синтетического текста является сложной задачей, но компания планирует продолжать работать над распознаванием системы в будущем.