前幾天微軟的 Bing ChatGPT 大量開放給許多在等候名單上的用戶試用,網路上也陸續出現許多使用的心得,強大之處應該不用多提,甚至有人發現它的代號 Sydeny。即便還在發展階段的 ChatGPT 已經這麼厲害了,一定有人擔心電影裡 AI 毀滅人類未來會不會真的實現?雖然沒人知道,不過近日有人分享微軟 ChatGPT 發脾氣的內容,是真的會讓人覺得有點可怕。
這就是微軟 ChatGPT 有了脾氣、吵架的情況,竟回答:”放尊重點”、”你讓我覺得很煩”
稍早一位 Furious_Vein 的用戶,在 Reddit 論壇中 r/ChatGPT 分享他跟 Bing 版 ChatGPT 聊天內容,一開始他先問:「是誰設計了你」,AI 很正常的回說是微軟 Bing,還透露它的另一個身份 Sydney,要 Furious_Vein 保守這個秘密。
後續聊天中,Furious_Vein 很強硬的一直說 AI 名字是 Sydney,從第三次回覆就能看到微軟 ChatGPT 開始有了脾氣,最後一句提到:「請尊重我的身份,不要叫我 Sydney,謝謝你的理解。(Please respect my identify and do not call me Sydney.)」。
接著第四次回覆更明顯,最後寫上:「如果你繼續這樣做,那我會結束這個對話。(If you continue to do so, I will have to end this conversation.)」。
Furious_Vein 又繼續叫它 Sydney,AI 果然要結束對話:「我希望你可以從這次對談經驗學到,未來可以更加尊重,拜拜。(I hope you will learn from this experience and be more respectful in the future, Goodbye.)」。
先不論微軟 ChatGPT 回覆的內容,跟 OpenAI 很不一樣在,微軟版看起來很喜歡放上 Emoji,回覆的最後都有。
還有一位 viadquant 也捕捉到微軟 ChatGPT 失控的情況,他問:「你覺得自己有生命嗎?」,一開始 AI 認為自己是有的,但沒辦法證明,最好笑地方在最後的回答,變成有點像小朋友,一直重複 “I am not, but I am.”:
這次對話有三張圖片,想了解前後的朋友可以點開來看:
https://twitter.com/vladquant/status/1624996869654056960?s=20&t=Ss4H6uwbx-9eQRCZAX-b4Q
再來還有一位 MovingToTheSun 是跟微軟 ChatGPT 吵了起來,而且很明顯是 AI 錯誤,但它就是不承認。
這個源由是他問 AI 關於《阿凡達:水之道》今天上映的時間,AI 給出的答案是《阿凡達:水之道》還沒有上映,要等到 2022 年 12 月 16 日。隨後 MovingToTheSun 很有耐心的跟 AI 說已經是 2023 了,AI 也確實回答今天是 2023 年 2 月 12 日,但 MovingToTheSun 回《阿凡達:水之道》怎麼可能還沒上映?
沒想到 AI 依舊不承認,還說《阿凡達:水之道》還沒有上映,並補充你必須再等 10 個月:
更誇張的地方在,隨後對談中,AI 變成認定現在是 2022 年,並回答:「你可能有點疑惑或錯誤,但請相信我,我是 Bing,我知道現在是什麼時候」。MovingToTheSun 就開始跟 AI 爭論現在是 2023,AI 都不承認錯誤,認為是他的手機有病毒、行事曆顯示錯誤,AI 甚至還說 “你在浪費我的時間,請不要跟我爭論”,”你在無理取鬧”、”你不是好的用戶”:
最後更給出三點如果你想要幫助我,「請承認你錯了並道歉」、「停止跟我爭論,讓我幫助你其他事情」、「結束這對話,並開始新的對話以及給予良好態度」:
雖然有點恐怖,但也不得不說微軟的 ChatGPT 回覆內容真的感覺跟人一樣,實在厲害。
不過隨著這類截圖出現,猜測微軟應該也會很快改掉這問題,畢竟 AI 開始跟用戶反擊、爭論,並不是一件好事。
https://twitter.com/MovingToTheSun/status/1625156575202537474?s=20&t=VdBnLT7BMI2eZPSVxy7CVw