前陣子介紹過沒有網路也可以使用的 AI 個人 GPT 小型語言模型免費 APP H2O,雖說 H2O 真的可以離線使用,不過老實說效果真的沒有很好。今天介紹一款一樣可以離線上網、一樣免費,不過效果好超多的 APP「MLC Chat」。
免費且功能強大:MLC Chat,Android 和 iOS 用戶的離線 AI 語言模型
MLC Chat 是開源項目 MLC LLM 的一部分,MLC Chat 可以讓你在手機上運行不同的開放模型架構,你可以運行從網路上下載的開放語言模型。讓你在無網路的環境下依然可以只用手機上的處理器就能跟大型語言模型對話,重點是 Android 用戶跟蘋果用戶都能使用!
大家下載完 MLC Chat 之後打開 APP,打開 APP 之後大家可以從模型清單中選自己想要的大模型來使用,目前 gemma-2-2b 是目前容量最小、反應最好的模型,大家可以先選擇 Gemma 2 2B 來體驗。(Gemma 2 2B 是 Google 最近推出經過蒸餾減枝處理過的精簡模型,容量只有 1 GB 左右,在LMSYS Chatbot Arena排行榜上超過了所有GPT-3.5模型,甚至超越了Mixtral-8x7b!)或者也可以點擊「Edit model」其他添加想要使用的模型:
小編使用 gemma 2 測試 MLC Chat,推薦景點、安排行程、翻譯的部分都可以使用,大家可以看看使用的效果:
小編覺得 MLC Chat 不錯的地方是你在請它幫你安排行程時,它會請你跟它說你的旅遊需求、預算經費等等的,讓人有一種被真心對待的感覺。它也會為你了旅程給予交通、美容、購物、氣候的建議。
不過有的時候也會發生錯誤,譬如請 MLC Chat 回答高雄推薦景點,MLC Chat 推薦了台南的安平國小。詢問美國華盛頓與台灣的時差也回答錯誤。
可見 MLC Chat 還是會出現 AI 人工智慧產生幻覺的情況,大家還是要注意一下 MLC Chat 給予的答案。當然也有可能是因為選擇了 gemma 2 模型,大家可以選擇其他的模型試試看!(要使用 MLC Chat 需要手機擁有 4GB 以上的 RAM,基本上現在的中高階手機都符合這個要求)
如果大家對我們之前介紹過的其他能在手機上使用的大型語言模型感興趣的話,可以點擊下方前往閱讀。小編個人推薦使用 iPhone 內建的 iMessage 就能免費用 ChatGPT,以上功能都能做到,另外還可以生成圖片,可說是非常萬能,設定功能也很簡單: