OpenAI緊急發布AI文本檢測工具

隨著ChatGPT在教育和學術領域的迅速躥紅，用人工智能寫作業、代碼甚至論文已經成為ChatGPT最熱門的應用，這引起了各國教育部門的高度關注和警惕。

據BusinessInsider報道，紐約市、西雅圖、洛杉磯和巴爾的摩K-12公立學區已經禁止使用ChatGPT，法國和印度的大學也禁止在學校計算機上使用該平臺。

近日，OpenAI緊急發布了一個AI文本檢查工具（鏈接在文末），能夠檢測輸入內容是否是使用ChatGPT等人工智能工具生成的。

“AI文本分類器是一個經過微調的GPT模型，可以預測一段文本由AI（例如ChatGPT）生成的可能性。”OpenAI的一篇新博文解釋道。

BleepingComputer測試了OpenAI發布的AI文本檢測工具（分類器），發現其準確性不容樂觀，它能正確識別人類撰寫的文章，但是在分析由ChatGPT和You.com的AI聊天機器人生成的內容時，準確性大打折扣。

根據OpenAI公布的數據，AI文本檢查工具只能成功識別26%的AI文本，同時錯誤地將9%的人類文本標記（誤報）為AI文本。

顯然，AI文本檢查工具自身也需要大量數據訓練才能提高準確性，目前而言，它還不是檢測人工智能生成內容的可靠工具。鑒于很多教育工作者會用新發布的AI文本檢查工具來檢查學生是否在家庭作業（或論文）中使用AI技術，OpenAI警告說該工具不應該被用作確定學術不端的“唯一證據”。