Fable 5に迫る「Kimi K3」オープンウェイト版が公開。MXFP4形式で1.56TB

　フロンティア級AIを手元にダウンロードできる時代が本当に来た。Moonshot AIが7月17日(日本時間)に発表した3兆パラメータ級のAIモデル「Kimi K3」のオープンウェイト版が、7月28日にHugging Faceで公開された。MXFP4形式でファイルサイズは1.56TB。同モデルは、コーディングのProgram Benchなど一部ベンチマークでAnthropicの「Claude Fable 5」やOpenAIの「GPT-5.6 Sol」を上回った。

Kimi K3の性能や特徴

　Kimi K3は、総パラメータ数2.8T(2.8兆)、アクティブパラメータ数1,040億のマルチモーダルAIモデル。オープンモデルとしては最大規模となる。コンテキストは最大100万トークンで、テキストと画像の入力に対応する。

　視覚とコーディングの融合も特徴だ。生成したコードの実行画面をスクリーンショットで自ら確認し、修正するというループを回せるため、ゲーム開発やフロントエンド、CADに強いとしている。

　性能面では、コーディングのProgram Benchで77.8%を記録し、Fable 5の76.8%とGPT-5.6 Solの77.6%を上回った。長期タスクのSWE Marathonも42.0%で、Fable 5の35.0%とGPT-5.6 Solの39.0%に差をつけた。WebブラウジングのBrowseCompでは91.2%で、88.0%のFable 5と90.4%のGPT-5.6 Solを抑えている。総合性能では両者に及ばないと同社自身が認めつつ、それ以外のテスト対象モデルは一貫して上回るフロンティア級だとしている。

Kimi K3のコーディング系ベンチマーク比較。Program Benchは77.8%でGPT-5.6 Solの77.6%とClaude Fable 5の76.8%を上回り、SWE Marathonも42.0%で首位。Terminal Bench 2.1は88.3%で、首位のGPT-5.6 Sol(88.8%)に0.5ポイント差まで迫った。なおFable 5のスコアはフォールバックを含む可能性があるとされる

Kimi K3のエージェント系・ビジュアル系ベンチマーク比較。WebブラウジングのBrowseCompは91.2%でGPT-5.6 Solの90.4%とClaude Fable 5の88.0%を上回り、Automation Benchの30.8%、SpreadsheetBench 2でもClaude Fable 5の34.7%に0.1ポイント差で並ぶ34.8%となり首位。一方、GDPval-AA v2 EloやJobBenchではFable 5が上回っている

　アーキテクチャには、新機構の「Kimi Delta Attention(KDA)」と「Attention Residuals」を採用する。KDAは、文章のどこに注目するかを決めるアテンション処理を、長い文脈でも効率よく回せるようにする機構だ。Attention Residualsは、前の層の情報をそのまま次へ足していく従来のやり方に代えて、深い層が必要な情報だけを選んで取り出せるようにするのだという。こうした構造の刷新に学習手法の改良を合わせ、前世代のKimi K2と比べて約2.5倍のスケーリング効率を実現したとする。

　構造は、入力ごとに一部の専門ネットワークだけを動かして効率を稼ぐMoE(Mixture-of-Experts)型を採用。896のエキスパートからトークンごとに16を選んで駆動し、これとは別に常時動く共有エキスパートを2つ持つ。総パラメータ数2.8兆に対して実際に動くのが1,040億にとどまるのは、この仕組みによる。

　重みは、事後学習(SFT)の段階から量子化を織り込んだMXFP4形式で配布される。推論エンジンにはvLLM、SGLang、TokenSpeedが推奨されている。なお、同社が推奨する推論環境は64基以上のアクセラレータによるスーパーノード構成で、動作には相応の設備が必要となる。

Kimi K3のライセンス

　重みに適用されるライセンスが前世代のKimiモデルで使われてきたModified MITではなく、「Kimi K3 License」となる。条文の建て付けはMITライセンスに近い。モデルの重み・パラメータ・設定ファイル・推論/学習コードを「Software」と定義し、その使用・複製・改変・再配布・販売を無償で認める。ファインチューニングや派生モデルの作成も許可されている。

　一方で、大規模な商用利用には独自の条件が付く。モデルの推論やファインチューニングを、第三者が実質的に制御できる形で提供する事業が対象だ。特定の機能に組み込んだだけのエンドユーザー向け製品や、他社がホストするモデルへリクエストを中継するだけのものは含まない。この事業で関連会社を含む総収入が連続12カ月で2,000万ドル(約33億円、1ドル=約164円換算)を超える場合は、Moonshot AIとの個別契約が必要になる。

　また、月間アクティブユーザー数1億超または月間売上2,000万ドル(約33億円)超の商用製品・サービスで使う場合は、UIに「Kimi K3」の表示が求められる。社内利用や、Moonshot AI公式製品・認定推論パートナー経由の利用は対象外だ。