← 全部模型

Kimi-Linear-48B-A3B-Instruct

發布時間 發布主體 Moonshot AI

模型定位

Kimi-Linear-48B-A3B-Instruct 是指令版文字生成模型,採用混合線性注意力架構與專家混合(MoE)設計,總參數約 480 億,每個 token 約啟用 30 億參數。官方提供可下載的模型權重,模型卡標示 MIT 授權。(huggingface.co)

能力與用途

  • 支援文字對話與指令式生成,可用於長文件處理、長上下文問答及自架文字助理等場景。
  • 官方列示上下文長度為 1M tokens;模型設定檔中的最大長度為 1,048,576 tokens。(huggingface.co)
  • 架構結合 Kimi Delta Attention(KDA)與全域 Multi-head Latent Attention(MLA),官方列出的比例為 3:1。
  • 官方在特定長上下文比較中報告,KV 快取需求最多減少 75%,解碼吞吐量最多提高約 6 倍;這些是特定測試條件下的結果,不代表所有部署均可達到。(github.com)

部署與限制

官方提供 Hugging Face Transformers 推論範例,並示範使用 vLLM 自行部署相容 OpenAI 格式的 API。模型倉庫識別名稱是 moonshotai/Kimi-Linear-48B-A3B-Instruct;這是權重倉庫名稱,不代表已核實的 Moonshot 託管 API 模型 ID。自行部署需要相容的軟體環境及足夠的運算與記憶體資源;實際速度和可用上下文會受硬體、推論框架及部署設定影響。生成內容仍可能有錯誤,重要結果應另行驗證。(github.com)

價格

截至 2026-11-17,查閱官方中國大陸及國際平台後,未能核實此特定模型的官方託管 API 輸入與輸出計費價格;不將其他 Kimi 型號的報價套用於本模型。自行部署另有硬體及運算成本。查詢來源:中國大陸官方平台;國際官方平台。(platform.kimi.com)

發布日期與官方來源