現在 AI 聊天機器人越來越好用,AI 能夠通過 Web Search 來快速蒐集資料,因此國外有些創作者有時會使用聊天機器人來生成某些影片文案內容,許多聊天機器人廠商也會提供類似文案生成的範例供大家參考。不過 AI 聊天機器人真的完整具備搜集資料並撰寫文章的內容了嗎?中國網友使用 DeepSeek 來撰寫有關咀嚼有助於減緩老年人大腦衰老並改善老年人認知的抖音文案,DeepSeek 真的洋洋灑灑寫了一堆內容,並且附上了內容相關文獻來源。有了文獻來源感覺好像很真實,不過經過網友調查,發現 DeepSeek 提供的內容是錯誤,文獻來源也都是假的。
中國 AI DeepSeek 幻覺嚴重?被抓包捏造學術資料與編造假文獻
中國網友 @大萌分享了一段名為「DeepSeek 能全相信嗎?真的?假的?」的影片,影片中作者提到自己在網路上看到很多創作者會使用 AI 聊天機器人來生成影片文案,AI 生成效率非常快,一天幾百條文案都不是問題。剛好他作為抖音創作者也想來嘗試看看 DeepSeek 影片文案生成的能力,因此她請 DeepSeek 以科研數據為根據寫一篇「咀嚼有助於減緩老年人大腦衰老,咀嚼能夠連接大腦海馬體,改善老年人認知」的抖音文案。
DeepSeek 寫的文案中提到每天咀嚼 30 次以上的老人,3 年後認知衰退風險降低 42% 的內容,還貼心附上了數據來源。由於作者本來就已經做了一些這方面的數據蒐集,她發現她並沒有看過有關文案中的這段內容。為了確認內容正確性,作者去文獻搜索的網站輸入了關鍵字和 DeepSeek 提供的期刊名稱,反覆尋找都沒有發現 DeepSeek 提供的內容出現在任何文獻當中。
後面作者又讓 DeepSeek 尋找「咀嚼改善認知的科學證據」,DeepSeek 一樣是寫了一大堆內容且都附贈科研證據來源。最後 DeepSeek 對此的總結是咀嚼防痴呆的效果比每週有氧運動兩次的效果更好,後面還附上所謂的科研來源。
不過作者沒有看到把咀嚼和有氧運動相比較的論文,因此複製了 DeepSeek 提供的科研來源並要求 DeepSeek 提供該來源的英文文獻全名。沒想到 DeepSeek 居然突然反悔,表示自己前面的說法是錯誤的,沒有找到這樣的文獻內容。接著又說重新給出了更權威的證據,給了三篇附上標題、期刊和 DOI 碼的文獻。
附上文獻標題、期刊甚至還有 DOI 碼,感覺 DeepSeek 這次給的文獻證據很充分。不過作者已經不信任 DeepSeek,因此還是使用文獻搜尋網站進行搜尋,結果發現這些網站上根本找不到 DeepSeek 提供的文獻。後來想說 DOI 碼是專屬於學術文章、期刊、研究報告等電子出版品的永久識別碼,每一篇文章的 DOI 碼不一樣,輸入標題找不到文章,輸入 DOI 碼應該可以找到。沒想到輸入 DOI 碼後發現 DeepSeek 居然是拿其他文獻的 DOI 碼來作為自己亂編的文獻的 DOI 碼。事實上 DeepSeek 提到的所有文獻全部都是假的,不僅沒有那些文章,甚至連附上的 DOI 碼都是盜用別篇文獻的。
這個問題可就很嚴重的,如果只是胡言亂語就算了,但 DeepSeek 居然嘗試用其他文獻的 DOI 碼來作為自己瞎編文獻的 DOI 碼。從文章標題、文章來源、文章結果通通都是編造的。而在作者發布的影片下方也有其他網友留言表示自己學法律的,他還發現 DeepSeek 會編造假法條和假案例,
也有人表示問 DeepSeek 每天要喝多少水,DeepSeek 回覆要喝 23 升水。23 升水大概是 23000 ml,答案根本就是在鬼扯蛋。
現在可能也有人會使用 AI 幫助自己寫論文,讓 AI 幫助自己搜尋論文資料,有網友也發現 DeepSeek 所提供的論文資料來源根本找不到東西。
其實不管是 DeepSeek 還是其他的 AI 聊天機器人,到現在為止都還是會出現胡言亂語、幻覺的問題。我們每次在介紹大家新的 AI 聊天機器人時也都會提醒大家要自己去查證 AI 提供的資料,因為 AI 胡言亂語的情況還是有可能會發生。今天 DeepSeek 編造文獻標題、來源、結果等等資訊的分享也剛好再給大家一次提醒。不管是 ChatGPT、Gemini、Claude 或 DeepSeek 都有可以出現編造資訊的情況,因此我們在接收 AI 聊天機器人提供的資訊時一定要親自查證,以免誤用錯誤資訊導致悲劇發生的問題。
有興趣的朋友可以觀看抖音創作者@小萌的完整影片,理解更詳細的文獻造假查證過程: