Автоматизированный чат-бот OpenAI на базе искусственного интеллекта, ChatGPT, покорил Интернет, но не обошлось без проблем. С писателями, программистами, маркетологами и, по-видимому, всеми остальными, кто использует ChatGPT для создания контента, компании по всему миру наблюдают за цунами контента, созданного ИИ.
Из-за проблем с плагиатом и украденным контентом, постоянно возникающих вокруг ChatGPT и его выходных данных, OpenAI выпустила новую GPT-Classifier, инструмент, предназначенный для обнаружения и раскрытия того, был ли текст, который вы читаете, работой ChatGPT или какой-либо другой его Инструменты GPT.
OpenAI запускает GPT-классификатор для проверки текста, написанного AI
Объявление OpenAI приходит как тщательное изучение написания ИИ и текста, сгенерированного ИИ шагает вперед, и компании интегрируют вывод ChatGPT.
Новый GPT-классификатор пытается выяснить, был ли данный фрагмент текста написан человеком или работой генератора ИИ. В то время как ChatGPT и другие модели GPT тщательно обучены всем способам ввода текста, Инструмент GPT-Classifier «точно настроен на наборе данных, состоящем из пар текста, написанного человеком, и текста, написанного ИИ, на та же тема».
Таким образом, вместо того, чтобы собирать информацию и воссоздавать ее наилучшее приближение, GPT-классификатор пытается сравнить сходство между известным человеческим текстом и известным текстом ИИ, чтобы найти расхождения, раскрывающие источник писатель.
Обнаружение GPT-классификатора в настоящее время ограничено
Хотя идея легкого обнаружения текста, созданного ИИ, будет приятной для ушей редакторов и преподавателей, OpenAI предупредил, что его «классификатор не полностью надежен».
В настоящее время GPT-Classifier «правильно идентифицирует 26% текста, написанного ИИ», в то же время помечая 9% текста, написанного человеком, как написанный ИИ. OpenAI также отмечает, что точность инструмента «обычно улучшается по мере увеличения длины вводимого текста».
Беглый тест GPT-классификатора выявил пример, созданный человеком, и отметил, что он «очень маловероятен». Создан AI», а также правильно указал, что сгенерированный ChatGPT фрагмент о проблемах с USB был «возможно, AI генерируется».
Спрос на обнаружение ChatGPT высок
Даже с учетом ограничений GPT-Classifier потребность в надежном обнаружении ChatGPT, вероятно, приведет к тому, что многие обратятся к этому инструменту. Приверженность OpenAI созданию и выпуску бесплатного инструмента обнаружения GPT важна, потому что чем больше студентов, писатели, программисты и другие используют инструменты для генерации текста с помощью ИИ, понимание и обнаружение этого ввода станет жизненно важный.
На данный момент, хотя GPT-Classifier запущен, работает и доступен для тестирования, лучше относиться к его маркировке с долей скептицизма.
