“深度求索”官方公眾號昨日(12 月 26 日)發(fā)布博文,宣布上線并同步開源 DeepSeek-V3 模型,用戶可以登錄官網(wǎng) chat.deepseek.com,與最新版 V3 模型對話。
援引博文介紹,DeepSeek-V3 是一個 6710 億參數(shù)的專家混合(MoE,使用多個專家網(wǎng)絡將問題空間劃分為同質(zhì)區(qū)域)模型,激活參數(shù) 370 億,在 14.8 萬億 token 上進行了預訓練。
多項評測成績超越 Qwen2.5-72B 和 Llama-3.1-405B 等開源模型,性能比肩 GPT-4o 和 Claude-3.5-Sonnet 等世界頂尖閉源模型。
該模型在知識、長文本、代碼、數(shù)學和中文等方面均取得顯著進步,尤其在算法代碼和數(shù)學方面表現(xiàn)突出,生成速度提升至 60 TPS,相比 V2.5 提升了 3 倍。
官方開源了原生 FP8 權重,并提供 BF16 轉(zhuǎn)換腳本,方便社區(qū)適配和應用。SGLang、LMDeploy、TensorRT-LLM 和 MindIE 已支持 V3 模型推理。
DeepSeek-V3 更新上線的同時,DeepSeek 還調(diào)整了 API 服務價格,模型 API 服務定價也將調(diào)整為每百萬輸入 tokens 0.5 元(緩存命中)/ 2 元(緩存未命中),每百萬輸出 tokens 8 元。
官方還決定為全新模型設置長達 45 天的優(yōu)惠價格體驗期:即日起至 2025 年 2 月 8 日,DeepSeek-V3 的 API 服務價格仍然會是大家熟悉的每百萬輸入 tokens 0.1 元(緩存命中)/ 1 元(緩存未命中),每百萬輸出 tokens 2 元,已經(jīng)注冊的老用戶和在此期間內(nèi)注冊的新用戶均可享受以上優(yōu)惠價格。