前回 は 1 台のセットアップを記録した。
今回は 2 台を QSFP ケーブルで連結し、DeepSeek V4 Flash Vision Exp を動かすまでの手順を記録した。
1. QSFP ケーブルでの 2 台接続
まず QSFP ケーブルで 2 台の GX10 を接続する。
QSFP ケーブルを差すときは、有線 LAN ポートに近い方のポートを使う。 そうすると、後で行うインターフェースが、この記事で書かれているものと同じになるはず。
2. インターフェースの特定と固定 IP の割り当て
接続後、ibdev2netdev
コマンドでインターフェースを確認する。
ibdev2netdev以下のような出力になる。
roceP2p1s0f0 port 1 ==> enP2p1s0f0np0 (Up)
roceP2p1s0f1 port 1 ==> enP2p1s0f1np1 (Down)
rocep1s0f0 port 1 ==> enp1s0f0np0 (Up)
rocep1s0f1 port 1 ==> enp1s0f1np1 (Down)
Up となっているインターフェースに、それぞれ固定 IP を割り当てる。
GX10-1 では /etc/netplan/40-cx7.yaml を編集する。
network:
version: 2
ethernets:
enp1s0f1np1:
addresses:
- 192.168.100.10/24
dhcp4: no
enP2p1s0f1np1:
addresses:
- 192.168.101.10/24
dhcp4: noGX10-2 では同じファイルに以下の内容を書く。
network:
version: 2
ethernets:
enp1s0f1np1:
addresses:
- 192.168.100.11/24
dhcp4: no
enP2p1s0f1np1:
addresses:
- 192.168.101.11/24
dhcp4: no両方で設定を適用する。
sudo chmod 600 /etc/netplan/40-cx7.yaml
sudo netplan applyip addr show
で、設定が正しく適用されていることを確認する。
3. パスワードレス SSH の設定
ノード間でパスワードレス SSH を行うための設定をする。
両方の GX10 でキーペアを作成する。
ssh-keygen -t ed25519お互いに公開鍵を送信し合う。
GX10-1 から GX10-2 へ公開鍵を送信する。
ssh-copy-id 192.168.100.11GX10-2 から GX10-1 へ公開鍵を送信する。
ssh-copy-id 192.168.100.10ノード間通信を確実に QSFP ケーブルで行うため、hosts ファイルにエントリを追加する。
192.168.100.10 gx10-1
192.168.100.11 gx10-2
ここまでで連携の土台が完成する。
4. DeepSeek V4 Flash レシピの適用
次に、DeepSeek-v4-Flash-DSpark-2x-DGX-Spark のレシピを適用する。
GX10-1 で作業を開始する。
mkdir -p ~/project
cd project
git clone https://github.com/MiaAI-Lab/DeepSeek-v4-Flash-DSpark-2x-DGX-Spark.gitenv ファイルを用意する。
cd DeepSeek-v4-Flash-DSpark-2x-DGX-Spark
cp .env.dspark.example .env.dspark
vim .env.dspark以下を指定する。
WORKER_HOST=192.168.100.11
MASTER_ADDR=192.168.100.10
VLLM_HOST_IP=192.168.100.10
WORKER_VLLM_HOST_IP=192.168.100.11
GX10-2 のユーザーを docker グループに入れ忘れていたのが発覚したのでここで入れる。
sudo usermod -aG docker <ユーザー名>両方の GX10 で Docker イメージを pull する。
docker pull ghcr.io/anemll/dspark-vllm-gx10:0.1.1次にモデルをダウンロードする。GX10-1 で以下を実行する。
./prepare-dspark-model-cache.sh --officialしばらく待つと、GX10-1 と GX10-2 の両方にモデルがダウンロードされる。
5. サーバー起動と動作確認
これで準備が整ったので、サーバーを起動する。
./start-deepseek-v4-flash-dspark.shboot-shape-warmup: 47/47 requests ok in 77s
のような文字列が表示され、コマンド実行が終われば起動完了である。
docker ps でコンテナが動いていることを確認する。
最後に、curl コマンドでチャットのエンドポイントにリクエストを送り、動作確認する。
ポート 8888 で待ち受けているので、以下のコマンドでリクエストを投げる。
curl http://localhost:8888/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"deepseek-v4-flash-vision-exp","messages":[{"role":"user","content":"Design a small rate"}]}'応答の JSON が返却されれば OK.
あとは OpenAI 互換の好きなクライアントで接続すれば良い。
以上。
参考資料
DGX Spark(ASUS GB10)を 2 台つなげる設定をしていくよ
— 大雪 命 (@mikoto2000) September 7, 2026
