公開情報による2026年Q2時点で、1-bit LLMは「研究室の珍奇」から「CPU推論の本命候補」へと位置を変えつつある。本稿では、Microsoft Researchが主導するBitNet b1.58系の到達点と、実運用で押さえるべき制約を整理する。
まず前提を確認する。BitNet b1.58は重みを{-1, 0, +1}の三値（log2(3)≈1.58 bit）で表現するアーキテクチャで、従来のpost-training量子化ではなく、最初から低ビットで学習する「native 1-bit LLM」である。2025年4月、Microsoftは2Bパラメータ・4兆トークン学習のbitnet-b1.58-2B-4Tを公開し、同規模のフル精度モデルに比肩する性能を実証した。2026年Q2時点で、bitnet.cppは公式推論フレームワークとして継続的に更新されており、ARM／x86 CPUでの最適化カーネルが整備されている。
性能面の数字は明快だ。公開情報によれば、bitnet.cppはARM CPUで1.37〜5.07倍の高速化と55.4〜70.0%のエネルギー削減を達成し、x86 CPUでは2.37〜6.17倍の高速化と71.9〜82.2%のエネルギー削減を示した。さらに100B規模のBitNet b1.58を単一CPUで実行し、人間の読み速度に匹敵する5〜7 tokens/sを得たと報告されている。GPUを前提とせず、汎用サーバCPUで巨大モデルを動かす経路が現実的に開けた意味は大きい。
アーキテクチャ面の派生も進んでいる。BitNet a4.8は活性値を4-bitに量子化することで、メモリ帯域を一段下げる方向性を示した。重みだけでなく活性も低ビット化することで、KVキャッシュ含むトータルのフットプリントが縮む。エッジデバイス搭載の現実味が増す変化だ。
一方、2026年Q2時点でMicrosoftは「BitNet b1.58を商用・実世界アプリケーションでそのまま使うことは推奨しない」と明示している。これはモデル能力ではなく、安全評価・整合性・ドメイン適応の追加検証が必要という慎重姿勢の表明である。実運用に向けては、(a) 自社ドメインでの追加SFT、(b) 評価ハーネス整備、(c) bitnet.cppの専用C++実装上での挙動確認、の三点を必ず通すべきだ。CUDA上の汎用推論と同等性能は出ないため、「PyTorchで動かしたら遅い」のは想定通りで、本番はbitnet.cppにルートする前提で設計する。
経済性の観点で言えば、1-bit LLMの本丸はTCOである。GPU調達難・電力単価上昇・エッジデバイスでのオフライン要件——この三つが揃う環境では、CPUで十分な品質が出るモデルが戦略的に効く。日本のオフィス端末や工場現場のような「GPUが置けない／置きたくない」場所で、ローカル推論を成立させる手段として最有力候補に入った。
KGA ITでは、bitnet.cppの社内導入評価、ドメイン追加学習の設計、CPU推論サーバのキャパシティプランニングを含むPoCを支援している。`llama.cpp`／`bitnet.cpp`の比較ベンチから入り、運用への着地点を一緒に見極める。