コンテンツへスキップ

Llama 4 Scout 109B-A17Bをローカルで動かすのに最適なGPU

2026年10月時点のリアルタイム価格とおすすめハードウェアに更新済みです。

109B
17B
moe

Llama 4 Scout 109B-A17Bはmixture-of-expertsモデルです。109B個のパラメータすべてがVRAMに常駐する必要がありますが、トークンごとに活性化するのは17B個のみです — そのため、同サイズのdenseモデルよりはるかに高速に生成できますが、必要なメモリは同サイズ分のままです。

Llama 4 Scout 109B-A17Bをローカルで動かすには、Q4_K_M量子化・64kトークンのコンテキストでおよそ67GBのVRAMが必要です。 収まる中で最もコスパの良いカードはRTX PRO 6000 Blackwell(96GB)で、毎秒約44トークンを生成できると見込まれます。

コンテキスト長を調整

スライダーでよく使われるサイズを選ぶか、任意の値を直接入力してください。

k トークン
8k
16k
32k
64k
128k
256k
予算重視のエントリーQ3_K_M 量子化
47 GB
4.4 GB
合計VRAM:51.4 GB

推奨ハードウェア

RTX PRO 6000 Blackwell
1618 tok/sプリフィル
50 tok/s生成
CAD 20499·96GB VRAM
カードを見る

Q3の重み(約47GB)に64kのKVキャッシュを加えると48GBを超えます。このティアで単一GPUの選択肢となるのは、RTX PRO 6000 Blackwell(96GB)のみです。

バランスの取れたスイートスポットQ4_K_M 量子化
62.7 GB
4.4 GB
合計VRAM:67 GB

推奨ハードウェア

RTX PRO 6000 Blackwell
1618 tok/sプリフィル
44 tok/s生成
CAD 20499·96GB VRAM
カードを見る

Q4の重みは約63GBです。ハイエンドのワークステーションまたはMac Studio Ultra級のハードウェアが必要です。

ほぼ無劣化Q8_0 量子化
125.3 GB
4.4 GB
合計VRAM:129.7 GB

推奨ハードウェア

データベースに該当するGPUが見つかりません。 すべてのGPUを見る

この109BモデルでQ8_0を使うには約130GBのVRAMが必要です — 単一のコンシューマー向けまたはワークステーション向けGPUでは対応できません。マルチGPUクラスター、または統合メモリを持つApple Silicon(Mac Studio Ultra)の利用をご検討ください。

同じVRAM要件を持つ他のモデル

Llama 4 Scout 109B-A17Bの重みは96GBのカードに収まるため、同程度のサイズの他のモデルも同じGPUで動作します。生成速度は異なります — mixture-of-expertsモデルは高速で、denseモデルは低速です — が、いずれも同じVRAM容量で読み込めます:

Qwen3.5-122B-A10B122BDBRX132BMixtral 8x22B141B

Llama 4 Scout 109B-A17B向けに構成を最適化

量子化の推奨

日常的なコーディングや推論タスクには、Q4_K_M(4ビット量子化)が品質とメモリ効率の最良のバランスを提供します — FP16と比較してメモリ要件を70%以上削減しながら、品質低下はごくわずかです。Q8以上のプリセットはより高い忠実度を保ちますが、VRAM使用量が大幅に増加するため、レイヤーオフロードが必要になりスループットが低下する場合があります。

推奨ローカルソフトウェア

ローカル推論には、GPUへのモデル分割とコンテキストキャッシュの最適化が自動化されているOllamaを主要ランナーとして使用することをおすすめします。より高度なファインチューニングや量子化の分割には、Flash Attentionをネイティブビルドしたllama.cppが最も細かい制御を提供します。

Llama 4 Scout 109B-A17Bをローカルで動かす — FAQ

Llama 4 Scout 109B-A17Bを動かすにはどのくらいのVRAMが必要ですか?

KVキャッシュ量子化を有効にした64kコンテキストの場合、Llama 4 Scout 109B-A17BにはQ4_K_M(多くの人におすすめの量子化)で約67GBのVRAMが必要です。Q3_K_Mに下げると、多少の品質低下と引き換えに約51.4GBまで削減できます。一方Q8_0は、このモデルが出せる最高品質のために約129.7GBが必要です。

Llama 4 Scout 109B-A17Bはどのくらいのサイズのグラフィックカードに収まりますか?

Llama 4 Scout 109B-A17BはQ4_K_Mで約67GBが必要ですが、これは単一の24GBコンシューマー向けカードの容量を上回ります。ワークステーション向けカード、マルチGPU構成、またはより強力な量子化が必要です — そうしないとレイヤーがシステムRAMに溢れ、生成速度が大幅に低下します。

Llama 4 Scout 109B-A17Bにはどの量子化を使うべきですか?

VRAMに余裕がない限りQ4_K_Mを使用してください。約67GBが必要で、フル精度との品質差はごくわずかです。Q8_0は約129.7GBが必要ですが、その品質向上は日常的なコーディングやチャットではほとんど体感できません。余ったVRAMはコンテキストを長くする方に使う方がよいでしょう。

コンテキスト長はLlama 4 Scout 109B-A17Bに必要なVRAMにどう影響しますか?

モデルの重みは固定ですが、KVキャッシュはコンテキスト長に比例して増加します。Llama 4 Scout 109B-A17Bを64kコンテキストで使用する場合、キャッシュは約4.4GBです。128kに倍増すると、約8.7GBになります。KVキャッシュ量子化をオフにすると、これらの数値はさらに倍になります。

Llama 4 Scout 109B-A17Bはなぜパラメータ数から想像されるより高速なのですか?

Llama 4 Scout 109B-A17Bはmixture-of-expertsモデルです。109B個のパラメータすべてをVRAMに保持する必要がありますが、各トークンの生成に使われるのは17B個のみです。生成速度はこの17B個のアクティブパラメータの転送速度に左右されるため、体感的には109Bモデルよりも17Bモデルに近くなります — ただしメモリは109B分すべてが必要です。

同じGPUでLlama 4 Scout 109B-A17Bに似た他のモデルも動かせますか?

はい。Llama 4 Scout 109B-A17BはQ4_K_Mで約67GBが必要で、同じカードに重みが収まるモデルであれば動作します — Qwen3.5-122B-A10B (122B), DBRX (132B), Mixtral 8x22B (141B)などが該当します。重みは同じGPUに収まりますが、生成速度は異なります(mixture-of-expertsモデルは高速、denseモデルは低速)。

▸トークン速度の推定方法

各GPUには2つの指標が表示されます:Read tok/s(モデルがプロンプトを読み込む速度)とDecode tok/s(トークンを生成して返す速度)です。これらは根本的に異なるボトルネックをモデル化しています。

📖

リード(プリフィル)

プロンプトは1回の並列処理で処理されます。これは計算律速であり、GPUのテンソルコアを飽和させます。

read tok/s ≈ TFLOPS × readFactor × 400 ÷ activeParams
⚡

デコード(生成)

新しいトークンを1つ生成するたびに、モデルのアクティブな重み全体をVRAMから読み込む必要があります。これはメモリ帯域幅律速です。GPUは計算ではなく、データ待ちで処理が止まります。

decode tok/s ≈ bandwidth × decodeFactor ÷ (weights + kv_cache)

重み = (activeParams × bits ÷ 8) × 1.15(オーバーヘッド)。ステップごとのKVキャッシュ = activeParams × multiplier × contextK。

アーキテクチャ利用率係数

アーキテクチャ
デコード
リード
Blackwell、Xe2
0.45
0.55
Ada Lovelace、RDNA 4、Battlemage
0.38
0.48
Ampere、Turing、RDNA 3、Xe-HPG
0.28
0.38
Volta、RDNA 1/2
0.2
0.25
テンソルコア以前の世代(Pascal、Maxwell、Kepler、GCN、Alchemist)
0.12
0.15

左:デコード係数 — 右:リード係数

データソース

TFLOPSとメモリ帯域幅はGPUデータベースから取得しています。データがない場合、帯域幅は組み込みの辞書データにフォールバックします。

制限事項

これらは分析による推定値であり、ベンチマークの実測結果ではありません。絶対的な性能保証としてではなく、相対的な比較の参考としてご利用ください。