OpenAI признает недостатки ИИ-детекторов текстового контента
Компания OpenAI признала, что детекторы текстового содержимого, разработанные для различения текстов, созданных человеком и системами искусственного интеллекта, такими как ChatGPT, в настоящее время неэффективны. Признание этого факта было сделано в недавней записи в блоге, где OpenAI предложила рекомендации для преподавателей, использующих ChatGPT в своей профессиональной деятельности.
В OpenAI подчеркнули, что, несмотря на совместные усилия различных производителей, в том числе и их самих, ни один инструмент не смог продемонстрировать устойчивую способность различать, написан ли контент человеком или создан искусственным интеллектом. Ранее OpenAI уже запускала экспериментальный инструмент AI Classifier, который в июле был снят с производства из-за низкой производительности: он точно определял происхождение текста только в 26% случаев, что делало его практически неэффективным для использования по назначению.
В публикации также отмечается, что такие литературные произведения, как произведения Шекспира, и такие значимые документы, как Декларация независимости США, часто ошибочно классифицировались детектором как продукты генерации искусственного интеллекта, что свидетельствует о существенном недостатке системы.
Кроме того, в OpenAI подчеркнули, что ChatGPT не может достоверно определить и проверить, был ли тот или иной контент создан им или другим генеративным ИИ, и часто дает случайные и фактически необоснованные ответы на прямые запросы по этому поводу.
Что такое ChatGPT:
Свежие комментарии