雲端看293B總參數那一檔,端側看4B開源權重。星火X2.6 的參數分兩套說:雲端是 293B 總參數、30B 啟用的 MoE,支援百萬 token 上下文;端側是開源的 4B 模型,主打離線辦公任務。兩套規格不是大小號關係,走的是端雲協同的不同分工。

雲端這一檔的硬指標有三項值得記住:拿介面地址和密鑰就能調,不用管底下的機器怎麼擺。總參數 293B、啟用 30B、上下文百萬 token。稀疏啟用的設計讓推理時只調三分之一的專家,成本和顯存佔用比同等總參數的稠密模型低。百萬上下文意味著整本書、整套合同能一次喂進去,不用切片。
| 規格項 | 數值 | 影響 |
|---|---|---|
| 總參數 | 293B | 決定能力上限 |
| 啟用參數 | 30B | 決定單次推理開銷 |
| 上下文長度 | 百萬 token | 決定單次能帶多少材料 |
| 訓練算力 | 飛星二號萬卡國產平台 | 決定長上下文訓練效率 |
末行不是宣傳口徑,它直接影響長上下文能力能做到多穩。訓練時用長程任務動態並行,按任務長度分配算力,把兩千億級資料、256K 長度的訓練週期從四個多月壓到一個多月,這類效率提升才讓百萬上下文在國產晶片上跑得起來。
端側這一檔是 4B 參數,權重已開源,可以直接部署到 AI PC、汽車座艙、機器人平台。本地部署的門檻不在框架,在顯存和散熱,這兩項決定長任務能不能跑住。它的定位不是縮小版雲端模型,而是承擔“資料不出端”的那部分活:讀本地郵件、彙總週報、分析經營資料,這些任務的共同點是素材在本地、不能上雲。
能力上官方給的指標是端側智慧體任務覆蓋度四成出頭,在辦公類任務上對比同級的開源小模型有優勢。這個數字的含義是能接住一部分多步任務,不是全部,複雜的推理和長文件處理仍然要轉給雲端。選端側版本時按這個定位判斷,別指望它在本地跑完整條複雜鏈路。
推理側的改動集中在快取。國產晶片的顯存和頻寬是瓶頸,長上下文最容易卡在放不下、算不快上,解法是四層 KV Cache 分佈式架構加自適應存算協同,把快取複用率提上來,官方口徑是推理效率提升約四倍半,快取命中率從六成三升到九成六左右。
快取命中率這個指標對使用者的意義在費用上。命中快取的輸入按更低的單價計費,長文件任務反覆引用同一批材料時才吃得到這個紅利,一次性的短問答幾乎碰不到。評估成本時按自己的請求形態算,別照抄標稱價格。
端雲協同的核心是那個判斷:這條請求該在端上跑、去雲端跑,還是兩邊配合。路由準確率官方給到九成六左右,前代是八成出頭,提升來自基於評語模型的協同訓練。準確率高意味著少走冤枉路,既不把敏感資料誤發上雲,也不把簡單任務送去雲上多花錢。
對使用者來說這項參數不可見,只能從現象判斷。端側能處理的活如果頻繁轉雲,說明路由偏保守;反過來敏感內容被送出去,說明策略配錯了。企業部署時這一層可以按策略約束,把某些目錄或某些類型的資料固定在端側處理。
把這幾個數字落到選型上,判斷順序是先資料邊界再任務複雜度。資料不能出端,只有端側 4B 這一條路,就要接受能力上限;資料可以上雲,百萬上下文那檔能省掉大量切分和拼接的工作;介於兩者之間,用端雲協同讓系統自己分流。
四條的權重按團隊實際情況排,排完多半隻剩一個方案。剩下那個方案再去做小規模驗證,用一件有標準答案的真實任務跑一遍,比看參數表有用。
沒有變大。雲端仍是 293B 總參數、30B 啟用的同一規格,端側從兩檔收成一檔 4B。變化在訓練平台、推理快取架構和端雲路由,屬於同規格下的效率與能力提升,不是靠堆參數換效能。選型時按能力表現判斷,不要按參數量橫向比。
指輸入側能帶多少內容。百萬 token 說的是單次請求裡可以塞進去的材料長度,輸出仍然受最大輸出長度限制,兩者在計費上分開算。實際使用時輸出長度遠小於輸入,長文件任務的錢主要花在把材料讀進去這一步上。
能。權重下載到本地後不依賴網路,推理在設備上完成,素材不出端。代價是算力受設備限制,長任務耗時明顯變長,電量消耗也跟著上去。筆記本上跑短任務沒問題,持續時間長的批次處理建議一直插著電源,散熱也要留意些。
在發佈頁和技術文件裡。參數量、上下文、快取命中率這類數字按官方模型頁和權重頁的說明覈對,第三方轉述容易出現口徑混用,比如把訓練效率的提升當成推理效率。要引用具體數字,先回到官方頁面覈對一遍,再寫進自己的方案。
權重不對外公開,能力按服務調用。SparkAudio 1.0 是訊飛自研的語音基座,官方沒有開源安排,也拿不到可下載的權重;用它的方...
2026-10-25
先升級產品再開功能,不用裝任何外掛。SparkAudio 1.0 的用法是把訊飛辦公本、輸入法、翻譯機或聽見升到最新版本,然後在錄音...
2026-10-25
不做獨立的客戶端,能力隨硬體上線。SparkAudio 1.0 是科大訊飛推出的星火語音基座大模型,圍繞語音識別、同傳、實時互動三個...
2026-10-25
先下4B權重再配框架,顯存不夠就換量化版。星火X2.6 能在本地跑的只有端側那一檔 4B 開源權重,權重託管在模型倉庫裡,下載後...
2026-10-25
雲端同規格換了訓練底座,端側只剩4B一檔。星火X2.6 與星火X2.5 的雲端同為 293B 總參數、30B 啟用的 MoE,區別在訓練算力、...
2026-10-25