Плохие новости для учителей. OpenAI утверждает, что невозможно определить, используют ли учащиеся ChatGPT для обмана

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

OpenAI готовит учителей к началу нового учебного сезона, выпустив руководство по использованию ChatGPT в классе, несколько месяцев спустя после того, как педагоги подняли тревогу о том, что ученики обращаются к искусственному интеллекту для мошенничества.

Однако плохие новости для учителей и профессоров: OpenAI говорит, что сайты и приложения, обещающие выявлять копии, созданные искусственным интеллектом в работах студентов, ненадежны.

В разделе FAQ для педагогов компания заявила, что обнаружила, что детекторы контента на основе искусственного интеллекта не могут «надежно различать между контентом, созданным искусственным интеллектом, и контентом, созданным человеком».

«Когда мы в OpenAI пытались обучить детектор контента, созданного искусственным интеллектом, мы обнаружили, что он отмечал текст, написанный человеком, такой как Шекспир и Декларация о независимости, как созданный искусственным интеллектом»

OpenAI

Такие детекторы контента также имеют тенденцию считать, что работы студентов, для которых английский не является родным языком, созданы искусственным интеллектом, как заявила OpenAI, подтвердив проблему, о которой ранее сообщал The Markup.

С момента выпуска ChatGPT он быстро стал популярным инструментом среди студентов, так как его способность генерировать текст и убедительные человеческие ответы делает его полезным инструментом для выполнения заданий, таких как написание эссе и исследовательских работ.

Однако учителя беспокоятся о том, что студенты могут обманывать, представляя идеи и фразы из чат-бота как свои собственные, и что они становятся чрезмерно зависимыми от инструмента, который остается подверженным ошибкам и галлюцинациям.

Профессора начали выявлять студентов, использующих ChatGPT для мошенничества при написании эссе в колледже спустя месяц после выпуска чат-бота в ноябре 2022 года. Опрос в начале этого года показал, что каждый четвертый учитель утверждал, что он поймал студентов на мошшеничестве с использованием ChatGPT.

OpenAI признает, что учителямогут столкнутся со студентами, представляющими контент, созданный искусственным интеллектом, как свою собственную работу, и предлагает рекомендации, такие как просьба студентам сохранить свои беседы с ChatGPT и представить их в домашних заданиях.

«Ведя запись своих разговоров с искусственным интеллектом, студенты могут оценить свой прогресс с течением времени. Они могут видеть, как развиваются их навыки задавать вопросы, анализировать ответы и интегрировать информацию»

OpenAI

OpenAI также признает, что ChatGPT не лишен предвзятостей и стереотипов, поэтому «пользователи и педагоги должны внимательно изучить его контент».

Источник: https://www.businessinsider.com/

4 комментария

Добавить комментарий

"… что невозможно определить, используют ли учащиеся ChatGPT для обмана или не для обмана".

Ответить

Не знаю как в американских универах, но у нас преподы хорошо, если текст реферата прочитают, не говоря уже о том, что они полезут смотреть ссылки на источники ))

Ответить

А зачем? Всё зависит от цели «реферата». Может это просто требование деканата. И тогда какая преподавателю разница, что вы там написали. Оценивает он ваши знания и делать он это будет уж точно не на основе реферата. Если реферат раскрывает тему и не является плагиатом на существующую статью, то какая разница, кто вам его написал? «Работу этого чата» активно выполняют всякие организации, которые обещают написать вам ваш реферат за некую сумму. Последнее даже хуже, т.к. с программой вы самостоятельно выбираете способ написания реферата и потом, если это важно, ещё и прочитаете его и исправите неточности. Т.е. проделаете работу.
Поэтому не вижу проблем.