稍早 Meta 正式推出新一代 LLM 大型語言模型 Llama 3,號稱是目前最強大的開源模型,有 80 憶個參數(8B)和 700 憶個參數(70B),並且已經在各大雲端、軟體開放,Meta 自家的 Meta.AI 當然也是,每一個人即刻起都能免費體驗,想玩玩看的人,下面就來教你怎麼玩到。
Meta 推出全新 Llama 3 模型,Meta.Ai 網頁版、AI 聊天本地軟體皆能免費玩到了
Meta 這次推出的 Llama 3 模型共有兩個版本,Llama 3 8B 和 Llama 3 70B,參數越多基本上效能就是越強,但相對對設備規格的要求也越高。根據 Meta 首席 AI 科學家 LeCun 的說法,Meta 現在還在訓練更大、更強大的模型,據說有超過 4000 億個參數。
下圖是官方提供的測試數據,Llama 3 8B 跟另外兩個免費開源模型 Gemma 7B – It 和 Mistral 7B Instruct 相比,各方面都大幅領先,尤其是 GSM-8K。而 Llama 3 70B 則是跟 Gemini Pro 1.5 和 Claude 3 Sonnet 相比,雖然 GPQA 和 MATH 小落後一點,但其他方面都勝出:
人工測試還有跟 GPT-3.5 比較,Llama 3 70B 勝出非常多:
LeCun 透露的 400B+ 模型目前的測試數據:
對於有興趣的人,基本上有二種簡單的方式可以玩到,首先第一個是透過 Meta.ai 網站,目前已經升級到 Llama 3 模型。不過 Meta.ai 只有在部份國家開放,台灣沒有,所以如果你想玩,需要利用 VPN 來解除這個地區限制。
1. 透過 Meta.ai 體驗 Llama 3 模型
人在台灣、日本等還沒開放的國家打開 Meta.ai 網頁版會顯示「Meta AI isn’t available yet in your country」,這時請用 VPN 連接到美國伺服器,像是我們常推薦的 Ivacy:
接著重整一下頁面就能正常使用了,無需登入即可聊天:
開始聊天前,會跳出這提示,可點擊「Continue without login」來略過,不過如果你想要生成圖片,就一定要登入 Facebook 帳號:
未登入聊天需要設定出生年份,記得選成年的年齡:
我測試一下中文,目前看起來依舊沒有非常好,但至少聽的懂我在問什麼:
我有問它是使用什麼模型,但首次它給我還是舊的 Llama 2,而我再次確認是否升級到 Llama 3,它則回答已經升級。根據 Meta 官方說明,Meta.ai 已經升級到 Llama 3 了:
2. 使用 LM Studio 來嘗試 Llama 3
Llama 3 8B 和 Llama 3 70B 模型已經分享到 Hugging Face 了,所以可以直接透過 LM Studio 這種本地 AI 聊天機器人部屬軟體來嘗試。
打開 LM Studio 後,搜尋 Llama 3,就能找到 8B 和 70B 的模型,70B 模型檔要 30GB 以上,一般電腦建議用 8B 就好,70B 一定跑不動: