(相關(guān)資料圖)

周二，人工智能研究初創(chuàng)公司OpenAI推出了一款工具，可以弄清文本是由人類撰寫的還是由計算機生成的。

兩個月前，OpenAI推出的聊天機器人ChatGPT吸引了公眾的注意，ChatGPT可以根據(jù)人的提示生成看起來似乎是由人撰寫的文本。在引發(fā)了一波關(guān)注之后，微軟(MSFT.US)上周宣布，對OpenAI進行數(shù)十億美元的投資，并表示將把這家初創(chuàng)公司的人工智能模型整合到其面向消費者和企業(yè)的產(chǎn)品中。

學(xué)校很快就限制使用ChatGPT，擔(dān)心這一軟件會影響學(xué)生學(xué)習(xí)。OpenAI的CEO Sam Altman表示，過去，在計算器等技術(shù)出現(xiàn)后，教育也發(fā)生了變化，但他也表示，公司可能有辦法幫助教師識別人工智能撰寫的文本。

該公司員工Jan Hendrik Kirchner、Lama Ahmad、Scott Aaronson和Jan Leike在一篇博文中寫道，“OpenAI的新工具可能會出錯，這是一項正在進行中的工作，公司希望家長和老師對分類器提出反饋”。

這些OpenAI員工寫道，“在我們對英語文本的‘挑戰(zhàn)集’評估中，我們的分類器正確地將26%的人工智能撰寫的文本(真陽性)識別為‘可能是人工智能撰寫的’，而將人類撰寫的文本錯誤地標(biāo)記為人工智能撰寫的文本的比例為9%(假陽性)”。

這并非是人們首次嘗試確定文本是否是由機器生成的。本月早些時候，普林斯頓大學(xué)學(xué)生Edward Tian發(fā)布了一個名為GPTZero的工具，并在發(fā)布工具的網(wǎng)站上指出，這是為教育工作者而制作的。OpenAI自己也在2019年發(fā)布過一個檢測器，但它沒有ChatGPT的核心內(nèi)容那么復(fù)雜。員工們寫道，新版本更適合處理來自最新人工智能系統(tǒng)生成的文本。

新工具不擅長分析少于1000個字符的文本，而且OpenAI不建議將其用于英語以外的其他語言。另外，員工們寫道，可以對人工智能生成的文本稍作更新，使分類器無法正確判斷它是否主要是由人類撰寫的。

即使早在2019年，OpenAI就明確表示，識別合成文本并非易事。公司打算繼續(xù)克服這方面的挑戰(zhàn)。員工們寫道，“我們將繼續(xù)進行檢測人工智能生成的文本方面的工作，我們希望在未來分享改進的方法”。