(相關(guān)資料圖)

ChatGPT的開發(fā)者OpenAI正試圖通過發(fā)行一種新工具來遏制用戶將聊天機(jī)器人ChatGPT作為作弊工具使用的行為，該工具可以幫助教師檢測作業(yè)是由學(xué)生還是人工智能完成的。

美聯(lián)社1月31日報道稱，此前美國的中小學(xué)與高校已就ChatGPT淪為作弊工具一事進(jìn)行了長達(dá)數(shù)周的討論，他們擔(dān)心ChatGPT能夠根據(jù)命令編寫任何內(nèi)容，這可能會助長學(xué)術(shù)不端并阻礙學(xué)習(xí)。

對此，OpenAI于1月31日推出了新的AI文本分類器，OpenAI表示，該工具除了阻止學(xué)術(shù)剽竊外，還可以幫助檢測自動發(fā)布虛假信息的行為和其他濫用人工智能模仿人類的行為。

OpenAI指出，一段文本越長，該工具就越能檢測出它是人工智能還是人類寫的東西。輸入任何文本，如大學(xué)入學(xué)論文或?qū)瓲柗颉ぐ＠锷≌f《隱形人》的文學(xué)分析等文本，該工具則會根據(jù)具體情況將其標(biāo)記為“非常不可能、不太可能、不清楚是否是、可能或極有可能是AI生成的”。

不過，OpenAI警告說，它的新工具——就像其他已經(jīng)可用的工具一樣——并不是無懈可擊的。負(fù)責(zé)提高系統(tǒng)安全性的OpenAI一致性團(tuán)隊(duì)負(fù)責(zé)人萊克（Jan Leike）表示，檢測由AI編寫的文本的方法“并不完美，有時會出錯”，“正因?yàn)槿绱?，在做決定時不應(yīng)該僅僅依賴它?！?/p>

報道稱，ChatGPT于去年11月30日作為免費(fèi)應(yīng)用程序在OpenAI的網(wǎng)站上推出，此后數(shù)以百萬計的青少年和大學(xué)生開始試用ChatGPT。雖然許多人找到了頗具創(chuàng)造性且無害的ChatGPT使用方法，但ChatGPT可以輕松回答家庭測試問題并協(xié)助完成其他作業(yè)的能力在一些教育工作者中引發(fā)了恐慌。

據(jù)《紐約時報》今年1月16日報道，日前，美國北密歇根大學(xué)教授安東尼·奧曼 (Antony Aumann）評改“世界宗教”課程的結(jié)課論文時，發(fā)現(xiàn)一篇論文在提交上來的眾多作業(yè)中脫穎而出。這篇文章以罩袍禁令的道德影響為題，段落簡潔，例子恰當(dāng)，論據(jù)嚴(yán)謹(jǐn)。但奧曼卻暗暗生疑。在他質(zhì)問學(xué)生之后，后者向他坦陳這篇文章其實(shí)是用ChatGPT生成的。奧曼所經(jīng)歷的“代寫”事件遠(yuǎn)非個例，這也暴露出學(xué)生使用ChatGPT等人工智能科技可能引發(fā)的學(xué)術(shù)誠信、教學(xué)考核方式等各方面顧慮。