AIモデルではなく推論エンジン

Mixture of Experts(MoE) の expert を GPU・CPU・RAM・SSD に分けて置き、家庭用PC で大きな MoE を動かします。

動かしているモデルは Qwen3.8-Flash-Next（Alibaba の Qwen）で、総パラメータ 125B、1 回の計算で使うのは 6B の MoE です。

Strata が前提にしているのは、ISTA-DASLab（オーストリアの研究所の研究室）が独自方式で量子化した版です。

Coder 版の作られ方

各層 512 個ある expert のうち 256個だけを残した版が「Coder」です。結果としてメモリは半分近くで済みます。

狙いは「コーディング向けに特化させること」です。

expertを選んだのは ISTA-DASLab で、利用者ではありません。コード・エージェント作業・画像のデータで最適化して選んでいます（RCOという手法）。

オーストリアの研究所が必要ないと判断したが日本人のユーザが自分のタスクをする上で必要なexpertが落ちてる可能性がある(「日本語の文章に使う expert が落ちているかも」という西尾の仮説) のは、理解のとおりです。

ただし、その後の分析で分かったこと落ちたのは一部です。よく使われる expert の上位 1,000 個のうち、Coder は 75% を残していました。

文章課題で Coder 系が振るわなかったのは、「長い日本語を生成はしているのに、ファイルに書き込めていない」という別の原因(c) の方が数字に合います。

(b) と (c) のどちらが効いているのか、両方なのかは、まだ切り分けられていません。