讓對著人工智慧「詠唱」躍升成為人類熱門新技能。在文字產生的聊天機器人領域,乃至於圖片生成人工智慧技術方面都具備很高話題性,相當程度引領了熱潮的 OpenAI。該公司近日對外宣告,已經開發出了可以初步檢測由 AI 所產生的文字的偵測工具:OpenAI AI Text Classifier。繼續閱讀做 AI 的喊捉 AI,搞出 ChatGPT 的 OpenAI 發表能抓包人工智慧文字的偵測器報導內文。
做 AI 的喊捉 AI,搞出 ChatGPT 的 OpenAI 發表能抓包人工智慧文字的偵測器(來玩玩看吧)
也許,要能抓包透過 AI 所產生的內容,還是需要 AI 來幫忙?
讓對著人工智慧「詠唱」躍升成為人類熱門新技能。在文字產生的聊天機器人領域,乃至於圖片生成人工智慧技術方面都具備很高話題性,相當程度引領了熱潮的 OpenAI。該公司近日對外宣告,已經開發出了可以初步檢測由 AI 所產生的文字的偵測工具:OpenAI AI Text Classifier(點我前往)
沒錯,這功能已經可以直接玩了。小編直接嘗試了複製自己的報導還有其他外媒的報導,發現都評斷為非 AI 所撰寫(但中文字真的要貼很多才能讀取,總覺得可能並不真正支援中文);然後我們也跑去複製了 Gizmodo 實驗性透過 ChatGPT 所產生的報導內容,結果也真的抓到了。
顯然,大家看到這個消息應該會覺得,如此一來,想透過像是 ChatGPT 等 AI 聊天機器人來偷吃步做功課或工作的人,接下來應該會很難過了。不過根據 OpenAI 的說法,這個偵測工具除了需要至少 1,000 個字元(約 150 ~ 250 個字)才能使用;且目前能成功辨識的機率也還僅有 26% 而已(鬆了口氣的人可以舉手了~咦)。
基本上,OpenAI 明確提到不要以他們對偵測工具做為評斷相關內容是否為 AI 所產生的唯一依據。建議需搭配其他的方式來比對比較適當。但他們也會持續搜集使用者對於此工具的意見,希望能在未來逐步加強偵測工具的辨識能耐。
▲圖:這就算是有抓到了。
是說,OpenAI AI Text Classifier 其實也如同 ChatGPT 與 GPT-3 一樣,都是透過搜集網路上公開的文字資料不斷進行機器學習,進而達到可以初步辨識文字是否由 AI 所產生的能力。自然,既然鎖定的是 AI 聊天機器人的產物,這項工具也會去「研究」除了自家 ChatGPT 以外的其他 AI 技術。
就官方的說法,OpenAI AI Text Classifier 目前透過鑽研來自 5 個不同單位共 34 種不同的文字生成系統,並直接與由真人所產生的版本進行比對。
雖然在各方除了打造超像人的 AI 聊天機器人的同時,也同步在開發可以抑制濫用這類技術的科技 – 也許未來會被加入 Slack 等工作傳訊應用中,或者是直接在瀏覽器延伸功能提供這類偵測功能。給人感覺好像還不是完全沒有反制這種技術被惡意使用的機制。
不過個人比較好奇的是,像是這樣貓抓老鼠的遊戲。如果最終這些偵測器所學習到的「非人類特徵」被拿去改善「老鼠」的技術的話,是否最終將會讓 AI 產生的內容更難被抓到?講起來,當人類現在一窩蜂的跑到這類應用之中實際與 AI 聊天,基本上也早就在幫忙這些技術一點一滴的變得更像人就是了…