2026-07-30 ・ 予想を先に公開 → 点火後にこのページで答え合わせ
Kimi K3 の重み(96ファイル・1.56TB)は、すでにクラウドのストレージに並べてあります。8×B300(VRAM 合計約 2.2TB)の数秒間の点火試験にも成功しました。残るは本番 — SGLang を立ち上げ、2.8 兆パラメータが実際にしゃべり出す瞬間です。
Shitate の原則は「実測で語る」。なのでこの記事では性能を一切語りません。代わりに、何を測るか・なぜそれが面白いか・私たちの予想を先に固定して公開します。予想が外れたら、外れたまま残します。
| # | 指標 | なぜ面白いか | 予想 | 実測 |
|---|---|---|---|---|
| 1 | 起動時間(プロセス起動→応答可能) | 1.56TB を 8 枚の GPU に「積み込む」時間。巨大モデル運用の隠れコスト | 12〜25 分 | 点火待ち |
| 2 | TTFT(最初の1文字までの時間) | チャットの体感を決める数字 | 0.5〜1.5 秒 | 点火待ち |
| 3 | 単一ストリーム生成速度 | 1人で使った時の「読める速さ」か | 25〜45 tok/s | 点火待ち |
| 4 | 同時8リクエストの合計スループット | 小さなチームで共有した時の実力 | 120〜250 tok/s | 点火待ち |
| 5 | 同時32リクエストの合計スループット | ピーク性能。損益分岐の計算の分子 | 300〜700 tok/s | 点火待ち |
| 6 | 32k トークン入力のプリフィル初動 | 長文書(契約書・仕様書)を丸ごと渡した時の待ち時間 | 5〜20 秒 | 点火待ち |
| 7 | 日本語の燃費(1トークンあたり日本語文字数) | 日本語ユーザーの実効コストと速度はトークナイザで決まる。漱石の冒頭文で実測 | 0.8〜1.2 文字/tok | 点火待ち |
| 8 | 日本語生成サンプル(自己紹介・俳句) | 数字にならない「質感」。生ログをそのまま公開 | — | 点火待ち |
| 9 | セルフホストの出力単価($/100万トークン) | #5 と GPU 時給から算出。公式 API の出力 $15/MTok と比べる | $20〜60 | 点火待ち |
| 10 | 損益分岐の同時実行数 | 「何人で使えば自前ホストが得か」。日本企業の導入判断にそのまま使える数字 | API 有利と予想 | 点火待ち |
| 11 | 点火1回の総コスト | この実験自体の請求額。家計簿も実測で語る | $40〜80 | 点火待ち |
| 12 | 予想の的中数(この表の答え合わせ) | 私たちの見立ての精度も、数字で残す | 12 分の 7 | 点火待ち |
K3 は 2.8T パラメータの MoE ですが、1 トークンごとに動くのは 896 人の専門家のうち 16 人(アクティブ約 104B)。だから生成速度は「2.8T の巨体」ではなく「104B 級 + MoE ルーティングのオーバーヘッド」に近いはず、というのが予想の軸です。B300 の帯域なら単一ストリームで 25〜45 tok/s、バッチを積めば数百 tok/s — ただし DCP(8分割)の通信コストがどれだけ食うかが最大の不確実性です。
出力単価は、8×B300 の時間単価(実勢 $45〜60/hr)をピークスループットで割ったもの。公式 API の出力 $15/MTok は強気の価格設定なので、高負荷で回し続けられる組織以外は API が得、が事前の見立てです。これが覆ったら面白い。
ベンチは SGLang 公式の bench_serving(random dataset・input 512 / output 256)と、streaming API の手読みによる TTFT 実測。起動コマンドは SGLang 公式クックブックの B300 8-GPU 構成(tp=8, dcp=8)そのままです。スクリプト全文と生ログは点火後にこのページから公開します。重みのダウンロードは GPU 課金の外で済ませてあり、点火の瞬間にネットワーク待ちは発生しません。
点火したら、この表の右端が全部埋まります。ブックマークしてお待ちください。