想玩玩看 Google 推出的 Gemma AI 開源模型嗎?這篇就要來教你怎麼在 Windows 和 Mac 電腦上安裝,方法非常簡單,只需要下載 LM Studio 這款免費軟體就能做到,甚至是玩其他 LLM 大語言模型也行,而且能離線運行,不需要用到網路。
教你在電腦裡安裝 Google Gemma AI 模型,無需網路就能運行(Windows/Mac)
點擊上方連結進到 LM Studio 關往後,就下載你的作業系統版本,支援 Windows、Mac 和 Linux,Mac 部分要注意是僅限 Apple Silicon 處理器:
我以 Windows 版為介紹範例,下載好後可直接點兩下打開來使用,無需安裝:
雖然目前只有英文介面,但使用方式很簡單,首頁中間就會看到 Google Gemma AI 模型(2B)的載點,Google Gemma AI 是開源模型,有 2B 和 7B 二種,2B 的參數有 20 億,7B 則是 70 億,2B 檔案比較小,而且不太要求電腦硬體規格,因此就算是比較舊的電腦,也能輕鬆運行,因此建議先測試看看 2B,覺得不太夠再下載 7B 試試:
按 Download 就會開始下載,模型檔要 2.67GB,Gemma 7B 的話幾乎都要 4GB:
點底部可以查看下載進度,速度就取決於你的網速:
下載好後,請點擊最左邊第三個 Chat 圖示:
然後按一下上方的 Select a model to load,這邊會列出你下載過的所有 AI 模型,我就只有下載 Gemma 2B,因此就只有這一個。電腦容量夠的人,也可以下載多個模型,這樣你就能切換測試哪一個最好:
選好後會跳出這訊息,這就看你要選哪一個:
接著即可開始跟 Gemma AI 聊天了:
支援中文,但我建議如果可以還是用英文比較好,因為這模型非常適合用於英文任務,像是建立文本、摘要、推理等等,獲得結果之後,再透過 ChatGPT 之類翻成中文之類:
Gemma 模型簡介
Gemma 系列是基於 Gemini 模型同一研究與技術開發的輕量級、尖端開源模型。由 Google DeepMind 和 Google 的其他團隊共同開發,”Gemma” 這一名稱源自拉丁語,意指 “珍貴的石頭”。Gemma 模型的數據支持由促進創新、協作和負責任使用人工智慧(AI)的開發工具提供。
Gemma 模型能夠在應用程式、硬體、行動裝置或雲端服務上運作。還可以透過調整技巧來自訂這些模型,讓它們在執行重要任務上更出色。
用戶不僅可利用 Gemma 模型進行文本生成,還能調整模型專注於特定任務的執行。經過調整的 Gemma 模型能為用戶帶來更精準、高效的生成式 AI 解決方案。