Плохие новости для учителей. OpenAI утверждает, что невозможно определить, используют ли учащиеся ChatGPT для обмана

OpenAI готовит учителей к началу нового учебного сезона, выпустив руководство по использованию ChatGPT в классе, несколько месяцев спустя после того, как педагоги подняли тревогу о том, что ученики обращаются к искусственному интеллекту для мошенничества.

Однако плохие новости для учителей и профессоров: OpenAI говорит, что сайты и приложения, обещающие выявлять копии, созданные искусственным интеллектом в работах студентов, ненадежны.

В разделе FAQ для педагогов компания заявила, что обнаружила, что детекторы контента на основе искусственного интеллекта не могут «надежно различать между контентом, созданным искусственным интеллектом, и контентом, созданным человеком».

«Когда мы в OpenAI пытались обучить детектор контента, созданного искусственным интеллектом, мы обнаружили, что он отмечал текст, написанный человеком, такой как Шекспир и Декларация о независимости, как созданный искусственным интеллектом»

OpenAI

Такие детекторы контента также имеют тенденцию считать, что работы студентов, для которых английский не является родным языком, созданы искусственным интеллектом, как заявила OpenAI, подтвердив проблему, о которой ранее сообщал The Markup.

С момента выпуска ChatGPT он быстро стал популярным инструментом среди студентов, так как его способность генерировать текст и убедительные человеческие ответы делает его полезным инструментом для выполнения заданий, таких как написание эссе и исследовательских работ.

Однако учителя беспокоятся о том, что студенты могут обманывать, представляя идеи и фразы из чат-бота как свои собственные, и что они становятся чрезмерно зависимыми от инструмента, который остается подверженным ошибкам и галлюцинациям.

Профессора начали выявлять студентов, использующих ChatGPT для мошенничества при написании эссе в колледже спустя месяц после выпуска чат-бота в ноябре 2022 года. Опрос в начале этого года показал, что каждый четвертый учитель утверждал, что он поймал студентов на мошшеничестве с использованием ChatGPT.

OpenAI признает, что учителямогут столкнутся со студентами, представляющими контент, созданный искусственным интеллектом, как свою собственную работу, и предлагает рекомендации, такие как просьба студентам сохранить свои беседы с ChatGPT и представить их в домашних заданиях.

«Ведя запись своих разговоров с искусственным интеллектом, студенты могут оценить свой прогресс с течением времени. Они могут видеть, как развиваются их навыки задавать вопросы, анализировать ответы и интегрировать информацию»

OpenAI

OpenAI также признает, что ChatGPT не лишен предвзятостей и стереотипов, поэтому «пользователи и педагоги должны внимательно изучить его контент».

Источник: https://www.businessinsider.com/