首頁 > AI工具 > 星火X2.6效能參數有哪些?雲端和端側兩套規格

星火X2.6效能參數有哪些?雲端和端側兩套規格

更新時間:2026-10-25 06:22:58 發布時間:5小時前 閱讀:6 views次

雲端看293B總參數那一檔,端側看4B開源權重。星火X2.6 的參數分兩套說:雲端是 293B 總參數、30B 啟用的 MoE,支援百萬 token 上下文;端側是開源的 4B 模型,主打離線辦公任務。兩套規格不是大小號關係,走的是端雲協同的不同分工。

星火X2.6雲端端側規格

星火X2.6雲端版本的規格參數

雲端這一檔的硬指標有三項值得記住:拿介面地址和密鑰就能調,不用管底下的機器怎麼擺。總參數 293B、啟用 30B、上下文百萬 token。稀疏啟用的設計讓推理時只調三分之一的專家,成本和顯存佔用比同等總參數的稠密模型低。百萬上下文意味著整本書、整套合同能一次喂進去,不用切片。

規格項 數值 影響
總參數 293B 決定能力上限
啟用參數 30B 決定單次推理開銷
上下文長度 百萬 token 決定單次能帶多少材料
訓練算力 飛星二號萬卡國產平台 決定長上下文訓練效率

末行不是宣傳口徑,它直接影響長上下文能力能做到多穩。訓練時用長程任務動態並行,按任務長度分配算力,把兩千億級資料、256K 長度的訓練週期從四個多月壓到一個多月,這類效率提升才讓百萬上下文在國產晶片上跑得起來。

星火X2.6端側4B的規格與定位

端側這一檔是 4B 參數,權重已開源,可以直接部署到 AI PC、汽車座艙、機器人平台。本地部署的門檻不在框架,在顯存和散熱,這兩項決定長任務能不能跑住。它的定位不是縮小版雲端模型,而是承擔“資料不出端”的那部分活:讀本地郵件、彙總週報、分析經營資料,這些任務的共同點是素材在本地、不能上雲。

能力上官方給的指標是端側智慧體任務覆蓋度四成出頭,在辦公類任務上對比同級的開源小模型有優勢。這個數字的含義是能接住一部分多步任務,不是全部,複雜的推理和長文件處理仍然要轉給雲端。選端側版本時按這個定位判斷,別指望它在本地跑完整條複雜鏈路。

星火X2.6推理鏈路的效率提升

推理側的改動集中在快取。國產晶片的顯存和頻寬是瓶頸,長上下文最容易卡在放不下、算不快上,解法是四層 KV Cache 分佈式架構加自適應存算協同,把快取複用率提上來,官方口徑是推理效率提升約四倍半,快取命中率從六成三升到九成六左右。

快取命中率這個指標對使用者的意義在費用上。命中快取的輸入按更低的單價計費,長文件任務反覆引用同一批材料時才吃得到這個紅利,一次性的短問答幾乎碰不到。評估成本時按自己的請求形態算,別照抄標稱價格。

星火X2.6路由準確率的含義

端雲協同的核心是那個判斷:這條請求該在端上跑、去雲端跑,還是兩邊配合。路由準確率官方給到九成六左右,前代是八成出頭,提升來自基於評語模型的協同訓練。準確率高意味著少走冤枉路,既不把敏感資料誤發上雲,也不把簡單任務送去雲上多花錢。

對使用者來說這項參數不可見,只能從現象判斷。端側能處理的活如果頻繁轉雲,說明路由偏保守;反過來敏感內容被送出去,說明策略配錯了。企業部署時這一層可以按策略約束,把某些目錄或某些類型的資料固定在端側處理。

星火X2.6參數與業務選型的對應

把這幾個數字落到選型上,判斷順序是先資料邊界再任務複雜度。資料不能出端,只有端側 4B 這一條路,就要接受能力上限;資料可以上雲,百萬上下文那檔能省掉大量切分和拼接的工作;介於兩者之間,用端雲協同讓系統自己分流。

四條的權重按團隊實際情況排,排完多半隻剩一個方案。剩下那個方案再去做小規模驗證,用一件有標準答案的真實任務跑一遍,比看參數表有用。

常見問答

星火X2.6的參數比上一代大嗎

沒有變大。雲端仍是 293B 總參數、30B 啟用的同一規格,端側從兩檔收成一檔 4B。變化在訓練平台、推理快取架構和端雲路由,屬於同規格下的效率與能力提升,不是靠堆參數換效能。選型時按能力表現判斷,不要按參數量橫向比。

星火X2.6的百萬上下文是輸入還是輸出

指輸入側能帶多少內容。百萬 token 說的是單次請求裡可以塞進去的材料長度,輸出仍然受最大輸出長度限制,兩者在計費上分開算。實際使用時輸出長度遠小於輸入,長文件任務的錢主要花在把材料讀進去這一步上。

星火X2.6端側4B能離線跑嗎

能。權重下載到本地後不依賴網路,推理在設備上完成,素材不出端。代價是算力受設備限制,長任務耗時明顯變長,電量消耗也跟著上去。筆記本上跑短任務沒問題,持續時間長的批次處理建議一直插著電源,散熱也要留意些。

星火X2.6的參數在哪裡能查到原文

在發佈頁和技術文件裡。參數量、上下文、快取命中率這類數字按官方模型頁和權重頁的說明覈對,第三方轉述容易出現口徑混用,比如把訓練效率的提升當成推理效率。要引用具體數字,先回到官方頁面覈對一遍,再寫進自己的方案。