雖然前陣子有很多人反應 ChatGPT 的 GPT-4 變笨了,OpenAI 也承認現在 GPU 短缺,導致效能沒有以前那麼好,但 OpenAI 還是持續提升 GPT 模型的能力,同時也調降 API 的價格,讓用戶更能負擔,近日就公布 6 大全新更新內容,下方就整理給大家。
OpenAI 推出 ChatGPT 新更新內容,並調降 OpenAI API 的價格
近日 OpenAI 公布 ChatGPT 和 API 獲得的 6 大更新內容,分別是:
- Chat Completions API 新增函數呼叫(Function call)功能
- 更新 GPT-4 和 GPT-3.5-Turbo 模型版本
- 新的 GPT-3.5-Turbo 16k 上下文版本
- 嵌入模型的成本降低 75%
- GPT-3.5-Turbo 的 Tokens 成本降低 25%
- 宣布 GPT-3.5-Turbo-0301 和 GPT-4-0314 模型的停用時間表
針對函數呼叫(Function call)部分,OpenAI 表示現在開發者可以向 GPT-3.5-Turbo-0613 和 GPT-4-0613 描述程式函數,讓模型建立程式碼來執行這些函數。
補充:GPT-3.5-Turbo-0613 和 GPT-4-0613 是新推出的模型版本,最大特色就是多了函數呼叫。
像是創建一個聊天機器人,透過呼叫外部工具來回答問題(如:ChatGPT Plug),將自然語言轉換為數據庫查詢,並從文字內容中提取結構化的數據。下方是 OpenAI 給出的案例,也截圖給大家參考,完整內容可以至 OpenAI 官網閱讀:
簡單來說,當詢問「波士頓現在的天氣怎麼樣?」時,這二個模型會直接呼叫外部第三方的天氣相關 API,然後搜尋符合的數據並給予準確答案。
GPT-3.5-Turbo 16k 提供原本 GPT-3.5 Turbo 的 4 倍上下文長度,多達 16,000 tokens,而且價格只是 2 倍,每 1K 的輸入 tokens 為 0.003 美金,每 1K 的輸出 tokens 為 0.004 美金。
OpenAI 表示,它可以一次處理大約 20 頁的文字,這數量還是有一點少,跟其他 AI 新創公司的 Anthropic 旗艦模型相比,能處理的數百頁文字差非常多。
而最後歡迎的 GPT-3.5-Turbo 模型現在已經降低 25% 的成本,開發人員現在可以以每 1K 輸入 tokens 為 0.0015 美金,和 1K 輸出 tokens 0.002 美金的價格使用此模型,這相當於大約 700 頁只需 1 美金。
text-embedding-ada-002 嵌入模型則降低 75% 的成本,每 1K tokens 為 0.0001 美金。