GPUメモリ不足を超える。748GB搭載「MSI XpertStation WS300」で始めるローカル大規模AI

みなさんこんにちは。アプライド広域システム営業部です。

生成AIの活用が広がる一方、製造業や研究機関では、

・機密データや設計情報をクラウドへ出せない
・利用したいAIモデルがGPUメモリに収まらない
・クラウドの利用コストや待ち時間を抑えたい

といった課題が顕在化しています。

特に、大規模言語モデルのLLMや、画像と文章を組み合わせて処理するVLMは大型化が進んでいます。一般的な48GBや96GBクラスのGPUでは、モデル全体を読み込めないケースも少なくありません。
こうした課題に対する新たな選択肢が、748GBのコヒーレントメモリを搭載した「MSI XpertStation WS300」です。
本記事では、WS300の特徴と、どのようなAI開発に適しているのかを分かりやすく解説します。

大規模AIに特化したデスクサイド基盤

MSI XpertStation WS300は、NVIDIA DGX Stationアーキテクチャを採用した、AI開発向けのデスクサイドシステムです。

NVIDIA GB300 Grace Blackwell Ultra Desktop Superchipを搭載し、大容量メモリ、高速ネットワーク、AIソフトウェア環境を一体化しています。製品ページでは、大規模AIの推論、追加学習、シミュレーションなどをデスクサイドで実行するためのプラットフォームとして紹介されています。

通常のRTX PRO搭載ワークステーションが、CAD、CAE、3DCG、映像、画像認識などを幅広く扱う「汎用型」であるのに対し、WS300は大規模LLMやVLMのローカル開発・推論・評価に特化した製品です。

また、多数のGPUを搭載するラック型GPUサーバーほど大掛かりな設備を必要とせず、研究室や開発部門の近くへ設置しやすいことも特徴です。

最大の特長は748GBのコヒーレントメモリ

WS300を一般的なGPUワークステーションと分ける最大のポイントが、合計748GBのコヒーレントメモリです。

内訳は次のとおりです。

GPU側：252GB HBM3e
CPU側：496GB LPDDR5X
合計：748GB

Grace CPUとBlackwell Ultra GPUをNVLink-C2Cで接続することで、CPU側とGPU側のメモリを連携して利用します。製品仕様では、GPU側のHBM3eは7.1TB/s、CPU側のLPDDR5Xは396GB/sの帯域として案内されています。

ただし、748GBすべてが同じ速度のGPUメモリというわけではありません。

最も高速なのはGPU側の252GB HBM3eです。252GBを超えてCPU側のLPDDR5Xまで利用する場合は、速度とのトレードオフが生じます。

それでも、従来はGPUメモリ不足で読み込めなかった大規模モデルを、複数のGPUサーバーへ分割せず、単一ノードへ収容できる可能性が広がることが大きな価値です。

数百B級モデルをローカルで検証する新たな選択肢

AIモデルに必要なメモリは、パラメータ数とデータ精度によって大きく変わります。

おおよその目安として、BF16やFP16では1パラメータ当たり約2バイト、FP8では約1バイト、4bitでは約0.5バイトが必要です。

代表的なモデル	総パラメータ数	モデル構造	BF16概算	FP8概算	4bit概算
Gemma 3 27B	27B	Dense	約54GB	約27GB	約14GB
gpt-oss-120b	117B	MoE／5.1B稼働	約234GB	約117GB	約59GB
Qwen3-235B-A22B	235B	MoE／22B稼働	約470GB	約235GB	約118GB
DeepSeek-R1	671B	MoE／37B稼働	約1.34TB	約671GB	約336GB

※上記は、1パラメータ当たりBF16＝約2バイト、FP8＝約1バイト、4bit＝約0.5バイトとして単純計算した、モデル重みのみの概算です。
実際の動作には、KVキャッシュ、推論エンジン、量子化情報、演算用ワークスペースなどの追加メモリが必要です。また、特定モデルの動作を保証するものではありません。

例えば、Gemma 3 27Bは一般的なGPUワークステーションでも扱いやすい規模ですが、Qwen3-235B-A22BをBF16で保持すると、モデル重みだけで約470GBが必要になります。

DeepSeek-R1のような671B級モデルでは、BF16のままでは約1.34TBとなり、WS300の748GBを超えます。一方、4bitへ量子化した場合は、モデル重みの概算が約336GBとなり、748GBのコヒーレントメモリを活用することで、単一ノードへ収容できる可能性が出てきます。

ただし、FP8で約671GBのように748GBの上限に近い場合、モデル重み以外に必要なメモリの余裕が少ないため、単純に「748GB以内だから動作する」とは判断できません。

WS300でモデルを検討する際は、次の3つの領域に分けて考えます。

・252GB以内
GPU側のHBM3e内へ収まり、高速に処理しやすい領域

・252GB超～748GB以内
CPU側メモリも活用し、数百B級モデルを単一ノードで検証する領域

・748GB超
より強い量子化、モデル分割、複数ノード、GPUサーバーを検討する領域

※gpt-oss-120bは、単純計算では4bitで約59GBですが、公式配布モデルはMXFP4で量子化されており、80GBクラスのGPUで動作するように設計されています。したがって、表の数字はあくまで精度別の一般的な比較であり、実際の配布形式や実装によって必要容量は変わります。

大容量メモリが活きる3つの活用シーン

748GBの価値は、巨大なモデルを1つ読み込むことだけではありません。

機密データを使ったローカルRAG

社内の技術文書、設計情報、品質記録、研究データなどを外部へ送信せず、ローカル環境で検索・回答させる基盤として活用できます。

大規模モデルの推論・評価・追加学習

複数のLLMやVLMを比較したり、既存モデルを自社の専門データに合わせて効率よく調整したりする用途です。巨大モデルを一から学習するというよりも、推論、評価、省メモリ型の追加学習を繰り返す環境として適しています。

AIエージェントやチーム共有環境

AIエージェントでは、回答を生成するLLMに加えて、文書検索、検索結果の絞り込み、画像認識などを担当する複数のAIを組み合わせることがあります。また、長い文書やソースコードを扱う長コンテキスト処理や、複数ユーザーによる同時利用でも、モデル本体以外のメモリが必要です。

WS300が最適とは限らない。用途に応じた使い分け

WS300は、すべてのAI案件に適した万能型ワークステーションではありません。
主な用途に応じて、次のように使い分けます。

製品カテゴリー	適した用途
RTX PROワークステーション	CAD、CAE、3DCG、映像、画像AI、小～中規模LLM
MSI XpertStation WS300	大規模LLM・VLM、長コンテキスト、AIエージェントのローカル検証
GPUサーバー／クラスター	大規模学習、多数ユーザー、本番サービス、複数GPUの並列処理

WS300の導入前には、少なくとも次の項目を確認する必要があります。

・利用するモデル名とパラメータ規模
・推論、評価、追加学習のどれを行うか
・BF16、FP8、4bitなどの精度・量子化条件
・想定するコンテキスト長と同時利用人数
・使用するソフトウェアやコンテナのArm64対応
・電源、設置スペース、ストレージ、ネットワーク環境

WS300にはGrace CPUが採用されているため、x86環境向けにのみ提供されているソフトウェアや独自プログラムについては、事前の互換性確認が必要です。