Kimi K3 × GPT-5.6 Luna という構成

結論と前提の訂正

先に結論から。この構成は成立するが、よく流通している説明には事実誤認が 2 つ混ざっている。

その上で、この構成の骨子は次のとおり。

• K3（重い側）: マルチファイル改修・長時間エージェント・1M コンテキストの読解・フロントエンド生成。オープンウェイトなので、最悪 API が止まっても重みが手元に残る。
• Luna（軽い側）: 分類・ルーティング・要約・抽出・大量バッチ。入力単価が K3 の 1/15 で、reasoning_effort: none により思考トークンをゼロにできる。
• 効かせどころ: 総コストは「K3 に投げる比率をどこまで下げられるか」でほぼ決まる。オーケストレータ＋安価ワーカー構成の削減率は、Anthropic 公表値と OSS 実測で 46〜74% のレンジに収まっている。

なぜ「今」なのか

この構成が話題になったのは偶然ではなく、15 日間に 3 つの出来事が連鎖したためである。順序に意味があるので時系列で示す。

OpenAI 自身は値下げの理由を「サービング効率の改善」と説明している。 ただし背景として、OpenRouter 上で米国エンタープライズが消費するトークンの 46% を中国系モデルが占めるという報道が同時期に出ており、 競争環境の変化を織り込んだ動きと読むメディアが多い。

Kimi K3 とは何者か

ベンチマーク上の位置

K3 は「総合ではフロンティアに一歩届かないが、特定領域では首位」という尖った形をしている。 Moonshot 自身の技術報告も、アブストラクトで “its overall performance still trails the most powerful proprietary models, namely Claude Fable 5 and GPT-5.6 Sol” と認めている。

読み方としては、エージェント的な長時間タスク（SWE-Marathon・FrontierSWE・BrowseComp）で K3 が勝ち、研究レベルの難問（HLE）と総合力（GDPval）でフロンティア勢に負けるという整理になる。 Frontend Code Arena で人間ブラインド評価 1 位を取っている点は、UI 生成用途では実務的に効く。

弱点とライセンス

• 冗長性: Artificial Analysis の Intelligence Index 実行で 130M 出力トークンを消費（比較中央値 100M に対し約 +30%）。thinking を切れないため、軽いタスクほど割高になる。
• ハルシネーション: K2.6 の 39% から 51% に悪化したと報告されている。ツール呼び出しを伴うエージェント用途では単価やベンチスコアより実務リスクが大きい。
• ライセンス: 独自の Kimi K3 License で OSI 準拠ではない。連続 12 か月の MaaS 売上が $20M を超えるホスティング事業者は別途商用契約が必要、100M MAU 超または月商 $20M 超のプロダクトは UI に「Kimi K3」の表示義務。Moonshot 自身も “open source” ではなく “open weight” と表現している。
• セルフホストのハードル: MXFP4 でも重み 1.56 TB。8×H200（約 1.13 TB）では単ノードに載らず最低 2 ノード、単ノードで余裕を持てるのは 8×B300 クラス。加えて MXFP4 は Blackwell / MI400 でネイティブ動作するためハードウェア選択を実質的に縛る。

GPT-5.6 Luna とは何者か

Luna は GPT-5.6 の 3 ティアのうち最下段で、OpenAI 公式の推奨用途は “efficient, high-volume workloads”、AWS のモデルカードではより具体的に “classification, summarization, routing, and real-time applications” とされている。 2026-07-30 の値下げでファミリー内の価格勾配が一気に開いた。

この表で目を引くのが Terra が K3 を両軸で下回っている点である。入力 $2.00 < $3.00、出力 $12.00 < $15.00 で、コンテキストも同じ 1.05M。 したがって「重い側を K3 にする」判断は、Terra ではなく K3 を選ぶ積極的な理由（オープンウェイト性・データ主権・エージェント系ベンチでの優位）を明示できて初めて成立する。

どこでホストするか

K3 の単価は ほぼ全プロバイダで $3.00 / $15.00 に張り付いている。重み公開後も値崩れが起きていない。 その理由として、K3 ライセンスの MaaS 条項（年商 $20M 超のホスティング事業者は Moonshot と別途契約）でマージンが薄い点が指摘されている。 結果として選択の軸は価格ではなく、速度・レイテンシ・データ所在・コンテキスト上限になる。

出力速度・初回応答は Artificial Analysis の Kimi K3 (max) 実測。ブレンド単価は cache-hit : input : output = 7 : 2 : 1 で算出した参考値で、素の $3.00 / $15.00 とは別物。 速度は最速と最遅で 5.5 倍の開きがあり、同じモデル・同じ価格でもホスト選択が体感を支配する。

Fireworks を基準に置く理由

• 速度と初動の両立: 出力 164 t/s（2 位）かつ初回応答 1.13 秒（最速）。対話とバッチを 1 プロバイダで賄える。
• データ所在の選択肢: US-only ルータ accounts/fireworks/routers/kimi-k3-us（+10%）と、オープンモデルに対する既定 ZDR。SOC 2 Type II / HIPAA / ISO 27001 を保持。
• バッチ 50% 引き: 非同期でよい大量処理はさらに半額。
• K3 の LoRA が回せる: 2.8T 級モデルを自前 GPU なしでチューニングできる数少ない経路。実例として RL 20 ステップ・860K training tokens で約 $65・30〜60 分という報告がある（ただし学習側のコンテキストは 192K 上限）。
• Microsoft Foundry 経由でも同モデルが調達可能（+10%）。

分業の設計

役割分担の原則は 「モデルで分けるのではなく、タスクで分ける」。 判断の分岐点は「思考トークンを払う価値があるか」と「272K を超えるか」の 2 つに集約できる。

削減効果の目安は、Anthropic 公表値で「フロンティア・オーケストレータ + 1 段下のワーカーで、性能 96% をコスト 46% で達成」（BrowseComp）。 OSS の実測では 12 ワーカー構成の監査タスクが、全部フロンティアで $14.50、1 段下のワーカー併用で $6.10（−58%）、最安ワーカーで $3.70（−74%）。 K3 + Luna はこの構造の変種なので、削減率は 46〜74% のレンジで見積もるのが妥当である。

月額コスト計算機

自分のワークロードを入れて比較する。スライダーを動かすと即座に再計算される。 ハイブリッド行は「重い側に回す割合」で入力・出力の両方を按分し、残りを Luna に流した場合の合計である。

実装

Fireworks で K3 を叩く

# base_url と model を差し替えるだけで OpenAI SDK がそのまま通る
from openai import OpenAI

client = OpenAI(
    base_url="https://api.fireworks.ai/inference/v1",
    api_key=os.environ["FIREWORKS_API_KEY"],
)

resp = client.chat.completions.create(
    model="accounts/fireworks/models/kimi-k3",
    messages=[{"role": "user", "content": "..."}],
    # K3 は thinking 常時 ON。low / high / max のみ（none も medium も無い）
    extra_body={"reasoning_effort": "low"},
)

# データ所在を US に固定する場合（+10%）
#   model="accounts/fireworks/routers/kimi-k3-us"
# 高速ルータ
#   model="accounts/fireworks/routers/kimi-k3-fast"

Luna を補助側に置く

from openai import OpenAI
client = OpenAI()  # OPENAI_API_KEY

resp = client.responses.create(
    model="gpt-5.6-luna",
    input="この issue を bug / feature / question に分類せよ:\n...",
    # none にすると思考トークンが出ない = 実質入力単価だけで済む
    reasoning={"effort": "none"},
    text={"verbosity": "low"},
    # GPT-5.6 世代はキャッシュを確実に当てるため明示キーが要る
    prompt_cache_key="issue-classifier-v3",
)

Claude Code から K3 を使う

Moonshot が Anthropic 互換エンドポイントを公式提供しているため、プロキシも fork も不要で環境変数だけで動く。

ANTHROPIC_BASE_URL="https://api.moonshot.ai/anthropic"
ANTHROPIC_AUTH_TOKEN="$MOONSHOT_API_KEY"
ANTHROPIC_MODEL="kimi-k3[1m]"
ANTHROPIC_DEFAULT_OPUS_MODEL="kimi-k3[1m]"
ANTHROPIC_DEFAULT_SONNET_MODEL="kimi-k3[1m]"
ANTHROPIC_DEFAULT_HAIKU_MODEL="kimi-k3[1m]"
CLAUDE_CODE_SUBAGENT_MODEL="kimi-k3[1m]"
CLAUDE_CODE_AUTO_COMPACT_WINDOW="1048576"
CLAUDE_CODE_EFFORT_LEVEL="max"

# 注意点
#  - モデル ID は kimi-k3 ではなく kimi-k3[1m]（1M コンテキスト版の別 ID）
#  - ANTHROPIC_API_KEY が残っていると AUTH_TOKEN と競合して黙って壊れる。unset すること
#  - 定額の Kimi Code Plan は別ドメイン https://api.kimi.com/coding/v1 で認証変数も別
#  - Anthropic は Claude Code の非 Claude モデルへのルーティングをサポート対象外としている

LiteLLM で二段構成にする

model_list:
  - model_name: heavy
    litellm_params:
      model: openai/accounts/fireworks/models/kimi-k3
      api_base: https://api.fireworks.ai/inference/v1
      api_key: os.environ/FIREWORKS_API_KEY
  - model_name: light
    litellm_params:
      model: openai/gpt-5.6-luna
      api_key: os.environ/OPENAI_API_KEY
  - model_name: escalate
    litellm_params:
      model: openai/gpt-5.6-sol
      api_key: os.environ/OPENAI_API_KEY

router_settings:
  enable_pre_call_checks: true
  # 通常の失敗時フォールバック
  fallbacks: [{"heavy": ["escalate"]}, {"light": ["heavy"]}]
  # コンテキストが溢れたときだけ長文脈側へ逃がす
  context_window_fallbacks: [{"light": ["heavy"]}]

litellm_settings:
  num_retries: 3
  request_timeout: 600
  allowed_fails: 3
  cooldown_time: 30

OpenRouter でプロバイダを固定する

{
  "model": "moonshotai/kimi-k3",
  "provider": {
    "order": ["fireworks"],
    "allow_fallbacks": false,
    // tool calling を必ず効かせたいときの定石
    "require_parameters": true,
    "sort": "throughput"
  }
}

落とし穴

出典

一次ソース（本ドキュメントの数値はここから取得）

• Kimi K3 料金（Moonshot 公式）
• Kimi K3 × Claude Code 設定ガイド（Moonshot 公式）
• Kimi モデル一覧・固定パラメータ（Moonshot 公式）
• Kimi K3 技術報告 arXiv:2607.24653
• Hugging Face: moonshotai/Kimi-K3
• Kimi K3 License 原文
• Moonshot AI 公式ブログ: Kimi K3
• Fireworks: Kimi K3 モデルページ
• Fireworks 公式ブログ: Kimi K3 on Fireworks
• Fireworks 料金
• Fireworks クイックスタート
• OpenAI: gpt-5.6-luna モデルページ
• OpenAI: gpt-5.6-terra モデルページ
• OpenAI API 料金
• OpenAI: reasoning ガイド
• OpenAI: prompt caching ガイド
• OpenAI API changelog
• DeepInfra: Kimi 系モデル一覧
• DeepInfra ブログ（“coming soon” の出典）
• Artificial Analysis: Kimi K3 プロバイダ比較
• Artificial Analysis: GPT-5.6 Luna
• Anthropic: prompt caching
• LiteLLM: フォールバック設定
• LiteLLM: Responses API ブリッジ
• OpenRouter: プロバイダルーティング
• Codex CLI: config reference
• vLLM: Kimi K3 サポート（tool_calls の既知問題）

二次ソース（文脈・解説）

• Simon Willison: Kimi K3
• Interconnects: The open weights escalation
• The Decoder: 「超安価な中国製 AI」の終わり
• Latent Space: Much ado about open weights
• VentureBeat: Luna 80% 値下げ
• Artificial Analysis: K3 が Intelligence Index 3 位に
• Vellum: GPT-5.6 Sol / Terra / Luna 解説
• OpenRouter: moonshotai/kimi-k3