«Обман» ИИ более сбивает с толку, чем предполагали профессора

В кампусе идет гонка вооружений, и профессора проигрывают.

Послушайте эту статью

00:00

12:19

Слушайте больше историй на hark

Эта статья была опубликована в информационном бюллетене One Story to Read Today, в котором наши редакторы рекомендуют одну обязательную к прочтению статью из журнала The Atlantic с понедельника по пятницу. Зарегистрируйтесь здесь.

Стопроцентный ИИ. Вот какой вывод сделала программа по поводу студенческой работы. Один из профессоров академической программы, которой я руководю, наткнулся на это открытие и спросил меня, что с ним делать. Затем другой увидел тот же результат — 100-процентный ИИ — для другой работы того же студента и тоже задался вопросом: что это значит? Я не знал. Я до сих пор не знаю.

Проблема распадается на новые проблемы: можно ли точно знать, что студент использовал ИИ, что вообще означает «использовать» ИИ для написания работ и когда такое использование равносильно мошенничеству. Программное обеспечение, помечавшее работы наших студентов, также было многоуровневым: Canvas, наша система учебных курсов, работала под управлением Turnitin, популярного сервиса по обнаружению плагиата, который недавно установил новый алгоритм обнаружения искусственного интеллекта. Предполагаемое доказательство мошенничества было получено из матрешки из черных ящиков в сфере образовательных технологий.

Такова студенческая жизнь в конце первого учебного года ChatGPT: череда обвинений и замешательства. За последние несколько недель я разговаривал с десятками преподавателей и студентов, которые сейчас впервые сталкиваются с волной «обманов» ИИ. Их истории заставили меня пошатнуться. Сообщения из кампуса намекают на то, что законное использование ИИ в образовании может быть неотличимо от недобросовестного и что выявление мошенников, не говоря уже о привлечении их к ответственности, более или менее невозможно.

Когда-то студенты сдавали экзамены или раздавали одноклассникам работы. Затем они начали передавать домашнюю работу на аутсорсинг, чему способствовал Интернет. Интернет-компании, такие как EssayShark (которая утверждает, что продает курсовые работы «только для исследовательских и справочных целей»), сделали этот процесс профессиональным. Теперь учащиеся могут покупать ответы к заданиям в «учебных» службах, таких как Chegg. Дети называют эту практику «чеггингом». Но когда осенью прошлого года были выпущены чат-боты с искусственным интеллектом, все эти методы мошенничества прошлого показались устаревшими. «Теперь мы считаем, что [ChatGPT] влияет на темпы роста числа наших новых клиентов», — признал генеральный директор Chegg во время телеконференции по финансовым вопросам в этом месяце. С тех пор компания потеряла около $1 млрд рыночной стоимости.

Другие компании могут извлечь выгоду из тех же потрясений. К 2018 году Turnitin уже получала более 100 миллионов долларов ежегодного дохода, чтобы помочь профессорам выявлять нарушения. Его программное обеспечение, встроенное в учебные программы, которые студенты используют для сдачи работ, сравнивает их материалы с базой данных существующих материалов (включая другие студенческие работы, которые Turnitin ранее использовала) и помечает материалы, которые могли быть скопированы. Компания, которая утверждает, что обслуживает 15 000 образовательных учреждений по всему миру, была приобретена за 1,75 миллиарда долларов в 2019 году. В прошлом месяце она запустила надстройку для обнаружения искусственного интеллекта (без возможности отказаться от нее для учителей). Противодействие чат-ботам с использованием искусственного интеллекта, как и сами чат-боты, берут верх.

Теперь, когда первая весна чат-ботов подходит к концу, новое программное обеспечение Turnitin обеспечивает поток положительных идентификаций: эта статья была «18% ИИ»; тот самый «100% ИИ». Но что на самом деле означают все эти цифры? Удивительно и возмутительно, но очень трудно сказать наверняка. В каждом из случаев «100% ИИ», о которых я слышал, студенты настаивали на том, что они не позволяли ChatGPT или любому другому инструменту ИИ выполнять всю свою работу.

Но, по мнению компании, такое обозначение действительно предполагает, что 100 процентов эссе – как и каждое из его предложений – было создано на компьютере, и, кроме того, это суждение было вынесено с 98-процентной уверенностью. Представитель Turnitin признал по электронной почте, что «текст, созданный другим инструментом, использующим алгоритмы или другие компьютерные системы», включая средства проверки грамматики и автоматические переводчики, может привести к ложному срабатыванию, и что некоторые «настоящие» тексты могут быть похожи на искусственный интеллект. -генерируемое письмо. «Некоторые люди просто пишут очень предсказуемо», — сказала она мне. Учтены ли все эти предостережения в заявлениях компании о 98-процентной уверенности в своих анализах?