曾被我們戲稱「做 AI 的喊捉 AI」的 OpenAI AI Text Classifier 人工智慧文字偵測工具，想不到開放還沒到半年的時間，就因為準確率實在太低而被官方主動關閉。繼續閱讀 OpenAI 抓「AI 文」工具宣告失敗，但還是想幫忙分辨人工智慧生成的圖像與語音報導內文。
OpenAI 抓「AI 文」工具宣告失敗，但還是想幫忙分辨人工智慧生成的圖像與語音
從 OpenAI 在部落格所宣布的用語其實可以看出。這個 AI Text Classifier 可以說是自從生成式 AI 突然爆紅以來，首見用於反制偵測所謂「AI 體」的手段。但看來應該是完全跟不上目前生成式 AI 成長發展速度了（沈默）。
實際上，在 ChatGPT 剛剛起步的時候，其準確率就已經只有不到 3 成的 26% 而已。而當時宣稱將會持續搜集使用者對於此工具的意見，希望能在未來逐步加強偵測工具的辨識能耐的做法。顯然走到了接近半年之後根本行不通。
“As of July 20, 2023, the AI classifier is no longer available due to its low rate of accuracy. We are working to incorporate feedback and are currently researching more effective provenance techniques for text, and have made a commitment to develop and deploy mechanisms that enable users to understand if audio or visual content is AI-generated. （ChatGPT 翻譯：截至 2023 年 7 月 20 日，由於其低準確率，AI 分類器已不再可用。我們正在努力整合意見反應，現正在研究更有效的文本來源技術，並承諾開發和部署機制，使用戶能夠了解音訊或視覺內容是否由 AI 生成。）”
OpenAI 在當初宣布 OpenAI AI Text Classifier 的文章中，更新了上面這段訊息。
雖然講起來，這項工具在當初發表的時候，就已經打過不少預防針，像是基本字數的要求、準確率不高，還有建議要搭配其他方式來判斷是否為 AI 所生成的文字等。不過會由官方來直接喊停倒也有相當的意義存在 – 就… AI 所產生的文字應該只會越來越讓人難以分辨與真人間的差異。
▲圖片來源：Pixabay
雖不致於是道高一尺魔高一丈的概念，但以 OpenAI 等生成式人工智慧研發的角度來看，能產出以 AI 亂真（人）的文字絕對是最高指導標準。那麼這類可以找到非人類特徵的機制，顯然也會是他們接下來需要補上的… 算「漏洞」嗎？而在這樣一陣貓捉老鼠之後，所謂的偵測機制的準確度會漸漸低到必須關閉，好像也是不意外的事情？
然後最近 OpenAI 信誓旦旦要將 20% 算力用於控管 AI 的宣告，又讓人有一種莫名的既視感？真的可以期待他們控管得住嗎？
▲圖片來源：Neowin
是說，在這段文字裡 OpenAI 倒也有提到他們會開發新的機制，甚至連 AI 生成的圖片與音訊都希望能夠偵測。倒也會讓人有，他們可能在準備一些更強的機制的猜想。
雖然個人對於這種有點邏輯打架的發展還是不太抱希望。但若 OpenAI 真的有心拿出夠多的運算開發資源，相信還是可以期待一下，能應付更多樣人工智慧生成文本或媒體形式的機制，未來有望為控管 AI 的工作提供一些幫助了（希望啦…）。
