← 전체 모델

Kimi-Linear-48B-A3B-Base

발표일 발표 기관 Moonshot AI

모델 개요

Kimi-Linear-48B-A3B-Base는 Moonshot AI가 공개한 텍스트 생성용 사전학습 기반 모델이다. 전체 파라미터는 480억 개이며, 토큰당 약 30억 개가 활성화되는 MoE 구조를 사용한다. 공개일은 2025년 10월 30일이다. (huggingface.co)

능력과 용도

  • Kimi Delta Attention(KDA)과 Multi-Head Latent Attention(MLA)을 3:1로 결합한 하이브리드 선형 어텐션 구조를 사용한다. 공식 모델 카드의 컨텍스트 길이는 1M 토큰이다. (huggingface.co)
  • 텍스트 생성, 장문 컨텍스트 연구, 추가 사전학습 및 파인튜닝의 기반 모델로 활용할 수 있다. 가중치는 공개되어 있으며 모델 카드에 MIT 라이선스가 명시되어 있다. (huggingface.co)
  • 공식 논문의 비교 실험에서는 1M 컨텍스트에서 전체 MLA 대비 KV 캐시 사용량을 최대 75% 줄이고 디코딩 처리량을 최대 6배 높였다고 보고한다. 이는 해당 실험 조건의 결과이며 모든 배포 환경에서 보장되는 수치는 아니다. (arxiv.org)

제한

  • Base 체크포인트는 별도 공개된 Instruct 버전과 구분된다. 대화형 서비스에 사용하기 전에는 지시 이행과 안전성을 평가하고 필요에 따라 추가 튜닝해야 한다.
  • 자체 배포에는 모델 가중치와 호환 소프트웨어, 충분한 연산·메모리 자원이 필요하다. 실제 속도와 사용 가능한 컨텍스트 길이는 배포 환경에 따라 달라질 수 있다. 공식 예제는 Instruct 체크포인트를 사용하므로 Base에 그대로 적용되는 설정으로 간주해서는 안 된다. (github.com)

가격

2026년 11월 17일 기준, 이 정확한 Base 모델에 대한 공식 호스팅 API의 입력 및 출력 토큰 가격은 중국 국내 CNY 가격과 국제 USD 가격 모두 확인되지 않았다. 다른 Kimi 모델의 요금을 이 모델에 적용할 수 없다. 자체 호스팅에는 별도의 인프라 비용이 발생할 수 있다. 확인한 공식 가격 안내: 중국 국내 사이트, 국제 사이트. (platform.kimi.com)

공식 자료