站長之家(ChinaZ.com) 7月26日 消息:OpenAI 因其 AI 文本檢測器無法準(zhǔn)確判斷文本是否由AI生成而將其下架。該檢測器在確定文本是由人還是機(jī)器生成方面的準(zhǔn)確率較低。OpenAI 表示他們正在努力改進(jìn)，并研究更有效的文本來源技術(shù)，以及開發(fā)能夠幫助用戶了解音頻或視覺內(nèi)容是否由 AI 生成的機(jī)制。

該檢測器免費(fèi)供用戶使用，用戶可以將文本復(fù)制粘貼到其中以檢查其是否由計(jì)算機(jī)生成。這對于確定電子郵件、博客文章或論文是否由人類撰寫非常有用。分類器使用大型語言模型對內(nèi)容進(jìn)行排名，以確定其中有多少可能是由軟件生成的，從 “非常可能” 到 “不確定” 到 “可能”。

OpenAI 在發(fā)布時(shí)警告稱其 AI 檢測器 “不完全可靠”，并承認(rèn)它很容易錯(cuò)誤地將人類寫的文本標(biāo)記為機(jī)器寫的。然而，OpenAI 卻大力推崇 ChatGPT 等機(jī)器人的使用，盡管其不可靠。

該檢測器在處理經(jīng)人類編輯過的 AI 生成文本方面表現(xiàn)不佳，并且對其訓(xùn)練數(shù)據(jù)集中未見過的散文也感到困惑。它在預(yù)測方面也存在過度自信的問題:“有時(shí)檢測器對錯(cuò)誤的預(yù)測非常自信”，OpenAI 表示。

OpenAI 推出 AI 檢測器是因?yàn)槿藗儗C(jī)器內(nèi)容被學(xué)生用來寫作文和完成作業(yè)的擔(dān)憂日益增長。在發(fā)布時(shí)，OpenAI 敦促教育工作者不要將該模型的預(yù)測視為絕對真實(shí)，而是將其作為一種輔助工具來確定文本來源的其他方法。

準(zhǔn)確檢測 AI 生成的文本目前仍然是一個(gè)困難的問題。其他開發(fā)者和公司開發(fā)的類似工具也不可靠，并對學(xué)生的教育產(chǎn)生了真實(shí)的影響。美國德克薩斯州農(nóng)工大學(xué)的一位教師因 ChatGPT 預(yù)測他們的文本為 AI 生成而暫時(shí)扣留了一些學(xué)生的成績，該大學(xué)隨后恢復(fù)了學(xué)生的分?jǐn)?shù)。

與此同時(shí)，Turnitin 開發(fā)的 AI 軟件已在學(xué)校和大學(xué)中推廣使用，以 “98% 的準(zhǔn)確率” 解決抄襲問題，盡管其真實(shí)的準(zhǔn)確性尚不清楚。馬里蘭大學(xué)的計(jì)算機(jī)科學(xué)家進(jìn)行的一項(xiàng)研究表明，目前最好的檢測器正確檢測機(jī)器生成文本的機(jī)會(huì)并不比拋硬幣好多少。

OpenAI 仍在努力解決這個(gè)棘手的問題。上周，這個(gè)由微軟資助的實(shí)驗(yàn)室承諾在與拜登 - 哈里斯政府合作的承諾中開發(fā)用于 AI 生成內(nèi)容的數(shù)字水印技術(shù)，以確保下一代機(jī)器學(xué)習(xí)技術(shù)的安全使用。

（舉報(bào)）