ChatGPT助长学术造假，被多国禁止使用，OpenAI推出AI文本分类器

今日份知识你摄入了么？

2023年1月31日，ChatGPT的制造商OpenAI的标识出现在纽约的一部手机上

ChatGPT的制造商推出了一款新工具，旨在缓解人们对“利用AI在学校作弊”的担忧。这个工具叫做AI文本分类器，可以识别那些不是由学生动笔而是由AI程序产生的写作。

该工具由总部位于旧金山的AI技术公司OpenAI推出。该公司是ChatGPT的制造商，ChatGPT是一种AI系统，可以按需生成任何类型的文字。许多教育官员担心，ChatGPT可能会助长学术欺诈行为，污染学习环境。

但是，OpenAI警告说，新的AI文本分类器工具——就像其他已经可用的工具一样——并不完美。来自OpenAI的Jan Leike解释道，检测AI写作的方法“有时会出错”。

“正因为如此，”他补充，“在做检测时，不应该仅仅依靠它来完成。”

ChatGPT于11月30日推出后，数百万人开始尝试使用该工具，其中包括青少年和大学生。该工具是OpenAI网站上的一项免费服务。

许多人已经找到了创造性地、无害地使用它的方法。尽管如此，一些教育工作者还是担心它会否轻松回答学生们带回家的测试问题，帮助他们完成其他作业。

全国各地的学区报告说，他们看到关于ChatGPT的讨论日新月异。

到学校新年开学时，纽约市、洛杉矶和美国其他大型公立学区开始禁止在教室和学校设备上使用它。

去年12月，西雅图公立学区在所有学校设备上屏蔽了ChatGPT，但随后向教育工作者开放。学区发言人Tim Robinson表示，教师们希望将ChatGPT作为一种教学工具。

“我们不能忽视这一请求。”Robinson说。

该学区还在讨论将ChatGPT的使用扩展到课堂，让教师使用它来教授学生批判性思维。Robinson解释道，学生们还可以使用这项服务作为“私人老师”，或者在完成作业时用它提供答案借鉴。

近日，OpenAI在一篇博客中写到了其检测工具的局限性。但该公司补充说，除了捕捉写作作弊的行为外，该工具还可以帮助发现虚假信息活动和滥用AI模仿人类的行为。

一段文字越长，该工具就能更好地检测AI系统或人类是否写了什么东西。AI文本分类器可以检查任何一篇文章，无论是大学入学论文，还是Ralph Ellison的《看不见的人》（Invisible Man）的文学研究。然后，该工具将声称这篇文章是“非常不可能，不太可能，不清楚它是否是，可能是，很可能是”AI创造的。

但就像ChatGPT本身一样，AI文本分类器如何得出结果并不容易，Leike坦言。

这个工具还有很多东西没有被很好地理解。他直言：

“要提到分类器的实际工作方式，我们真的不能说明太多。”

✦+

+

国际舆论

世界各地的大学也开始讨论如何负责任地使用AI技术。法国最著名大学之一的巴黎政治学院最近禁止了对它的使用。巴黎政治学院警告称，任何被发现使用ChatGPT或其他AI工具制作书面或口头作品的人都可能被学校和其他机构废除作品，进行处罚。

作为对社会批判的回应，OpenAI表示，他们已经努力工作了几个星期，以找到应对之策来帮助教育工作者。

法国数字经济部长Jean-Noël Barrot最近在加州会见了OpenAI领导人和首席执行官Sam Altman。一周后，Barrot告诉参加瑞士达沃斯世界经济论坛的人们，他对这项技术充满希望，但同时，这位政府部长表示，还有一些棘手的道德问题需要解决。

他说：“所以，如果你是法律系的学生，就有必要担心，因为很明显，ChatGPT和其他工具将能够提供相对令人印象深刻的考试。”。“如果你在经济学系，那你就没事了，因为当你在研究生级别的经济学系时，ChatGPT将很难找到或提供预期的东西。”

他说，最好让用户了解这些系统是如何工作的，以便他们知道他们之前的哪些想法是错的，这会显得越发重要。

原文作者：Matt O'Brien and Jocelyn Gecker

翻译作者：高佑兮

美工编辑：过儿

校对审稿：Chuang

原文链接：https://learningenglish.voanews.com/a/ChatGPT-releases-new-tool-to-identify-ai-writing/6943338.html

本周公开课预告