前兩天，我們剛報道了斯坦福大學研究出了一個名為 DetectGPT 模型，該模型可以檢測出文本段落是否是由一個給定的大型語言模型（LLM）生成的，斯坦福大學將使用 DetectGPT 來應對學生使用 ChatGPT 等 AI 工具作弊和生成論文的現(xiàn)象。

這才沒過幾天，ChatGPT 的開發(fā)商 OpenAI 就決定親自上陣發(fā)布了一個免費的網絡工具AI Text Classifier（需登錄 OpenAI 賬號使用），這個工具的目的跟 DetectGPT 一樣，也是幫助用戶識別某一段文本是由人類還是機器寫的。

這個工具的使用方式也很簡單，用戶只需要將一段文字復制到文本框中，系統(tǒng)會對該文本是由 AI 系統(tǒng)生成的可能性進行判斷，判斷結果從「非常不可能 —— 很有可能」共分成了 5 個等級。

AI Text Classifier 不僅可以檢測 ChatGPT 生成的文本，還可以檢測其他同類 AI 工具生成的文本。只不過根據 OpenAI 的說法，該工具的準確性目前似乎不是很高。

AI Text Classifier 可以正確地將 26% 的 AI 生成文本識別為「可能是 AI 寫的」，而將人類寫的文本錯誤地標記為是由 AI 寫的的情況有 9%。

因此，OpenAI 的負責人 Jan Leike 也強調到，這個工具并不完美，既會產生誤報也會產生漏報，用戶不應該僅僅依靠這一個工具來確定文本的作者。

除了判斷結果不夠精確以外，OpenAI 還表示該工具更擅長分析由 1000 個以上字符組成的英語文本。AI Text Classifier 不能可靠地評估更短的或用其他語言寫的文本片段。此外，該工具也不能準確檢測 AI 生成的計算機代碼。

從上面的結果來看，為了避免 “冤案錯案”，AI Text Classifier 暫時還不適合老師使用。當然，OpenAI 已經了解到教育和其他領域對 AI 生成文本的擔憂，他們正在研究其他方法，以幫助人們區(qū)分 AI 生成的文本和人類創(chuàng)作的文本。