DS4 (DwarfStar 4) — DeepSeek V4 Flash ローカル推論エンジン 完全解説
2026-06-12 15:04
# DS4 (DwarfStar 4) — DeepSeek V4 Flash ローカル推論エンジン 完全解説

> 調査日: 2026-06-12 / YouTube動画: s3P_OOm9wNM (Tech千一夜チャンネル 12:05 / 2,423 views)
> 参照URL: techno-edge.net / knightli.com / gadget-otaku.com / zenn.dev/kamo78 / GMOグループ技術ブログ

---

## 1. DS4（DwarfStar 4）とは何か

| 項目 | 内容 |
|------|------|
| 正式名称 | DwarfStar 4 (ds4) |
| 開発者 | **Salvatore Sanfilippo（antirez）** — Redis作者 |
| 公開日 | 2026年5月初旬（GitHubへ公開直後にds4→DwarfStar 4にリネーム） |
| 対象モデル | **DeepSeek V4 Flash専用**（他モデルへの対応は計画なし） |
| 言語 | C言語製 / 依存ライブラリ極小 |
| 動作環境 | **Apple Silicon Mac + Metal必須** / 128GB以上の統一メモリ必須 |
| ライセンス | リポジトリのライセンス条項に準拠 |
| GitHubリポジトリ | https://github.com/antirez/ds4 |

### 「もうひとつのllama.cppではない」
READMEでantirezが明言: 「これは汎用GGUFローダーでも、ラッパーでも、フレームワークでもない。DeepSeek V4 Flashというたった1つのモデルを、推論エンジン・GGUFファイル・エージェント連携の3つすべてでend-to-endで完成形に近づける」プロジェクト。

### antirezがDeepSeek V4 Flashを選んだ8つの理由（README記載）
1. MoEのアクティブパラメータ効率（284Bながら推論時アクティブ数が少ない）
2. 思考セクションが問題複雑度に比例して短い
3. 1Mトークンの長文コンテキスト
4. 知識の解像度と広さ（辺境の知識にも到達できる）
5. 多言語対応の品質（英語・イタリア語）
6. KVキャッシュの極端な圧縮（ディスク永続化が可能）
7. 特殊な2-bit量子化（品質劣化最小限で81GBに圧縮）
8. 継続的な開発への期待

---

## 2. 技術的な主要発見（3つの革新）

### 2-1. ディスクKVキャッシュ
- プロンプトのトークン列をSHA1でキー化し `.kv` ファイルとしてSSDに保存
- コールドスタート時・会話継続中・退避時・終了時に自動セーブ/ロード
- **同一プロンプト2回目は最大18倍の高速化を実現**

| 計測 | プリフィル時間 | 総処理時間 |
|------|-------------|-----------|
| 1回目（cold） | 4.813秒 | 5.129秒（KV 40.77 MiB保存） |
| 2回目（cache hit） | 0.000秒 | **0.282秒**（5.5msでロード） |

### 2-2. 非対称2-bit量子化（Asymmetric Quantization）
- MoEエキスパートのup/gate部分: **IQ2_XXS**（大胆な2-bit圧縮）
- MoEエキスパートのdown部分: **Q2_K**
- 注意機構のプロジェクション層・共有エキスパート・出力層: **Q8_0またはF16**（精度維持）
- 結果: 284Bパラメータのモデルを**約81GBに圧縮**（品質劣化を最小限に抑制）

### 2-3. エンドツーエンド設計（OpenAI/Anthropic互換API）
- **OpenAI互換**: `/v1/chat/completions` エンドポイント実装
- **Anthropic互換**: `/v1/messages` エンドポイント実装
- Claude Code / opencode / Hermes Agent とそのまま接続可能

---

## 3. Apple Silicon最適化の具体的内容

### 動作要件
- **必須**: Apple Silicon Mac + 128GB以上の統一メモリ
- **理由**: 量子化後でも約81GBのモデルサイズ + KVキャッシュ領域が必要
- 推論中のメモリ使用量: 最大110GB程度（推論後は解放）
- Windows/Linux: 未サポート（CUDAは低優先度 / CPUバックエンドはmacOSカーネルクラッシュの可能性あり）

### Metal活用による速度性能（M4 Max 128GB MacBook Proでの実測）

**短い対話での速度:**

| 条件 | プリフィル（t/s） | 生成速度（t/s） |
|------|-----------------|----------------|
| 短い挨拶（cold start含む） | 22.69 | 23.42 |
| コード生成 fibonacci(20) | 49.36 | 31.14 |
| thinkingモード/中問題 | 80.34 | 31.80 |

**長コンテキストでの安定性（ds4-bench, イタリア語小説テキスト, 128トークン生成）:**

| コンテキスト長 | プリフィル（t/s） | 生成（t/s） |
|-------------|----------------|------------|
| 2,048 | 315.66 | 25.85 |
| 16,384 | 168.93 | 14.48 |
| 32,768 | 135.36 | 15.75 |
| 65,536 | **119.74** | 14.75 |

→ **長コンテキストでもプリフィル120 t/s程度、生成15 t/s程度を維持**（実用的な速度）

---

## 4. 実践的コマンド例

### インストール・ビルド
```bash
# 前提: Xcode Command Line Tools が必要
# xcode-select --install

# リポジトリのクローン＆ビルド（数秒で完了）
git clone https://github.com/antirez/ds4.git
cd ds4
make

# モデルダウンロード（約81GB / 約20分）
./download_model.sh q2-imatrix
```

### 起動方法（3モード）
```bash
# 1. インタラクティブCLIモード
./ds4

# 2. HTTPサーバーモード（Claude Code等と接続する場合）
./ds4-server --ctx 100000 --kv-disk-dir /tmp/ds4-kv --kv-disk-space-mb 8192

# 3. 実験的Agentモード
./ds4 --agent
```

### macOS LaunchAgent常駐化（kamo78氏手順）
```bash
# 推奨ディレクトリ構成
# $HOME/llm/ds4/ ← ds4本体
# $HOME/llm/ds4/ds4flash.gguf ← モデル
# $HOME/Library/Caches/ds4-kv/ ← KVキャッシュ
# $HOME/bin/start-ds4-server ← 起動ラッパー

# LaunchAgent plistファイル配置先
# ~/Library/LaunchAgents/com.kamo.ds4.plist

# LaunchAgent登録・起動
launchctl load ~/Library/LaunchAgents/com.kamo.ds4.plist
launchctl start com.kamo.ds4

# 停止
launchctl stop com.kamo.ds4
launchctl unload ~/Library/LaunchAgents/com.kamo.ds4.plist
```

LaunchAgent化のメリット:
- ターミナルを閉じても継続動作
- macOS再ログイン後に自動起動
- クラッシュ時の自動再起動
- Hermes Agent等からのAPIサーバーとして常時利用可能

---

## 5. Claude Codeとの連携

### 接続方法（最もシンプルな方法）
```bash
# Step 1: DS4サーバーを起動
./ds4-server --ctx 100000 --kv-disk-dir /tmp/ds4-kv --kv-disk-space-mb 8192

# Step 2: 環境変数を書き換えるだけで接続完了
export ANTHROPIC_BASE_URL=http://127.0.0.1:8000
export ANTHROPIC_MODEL="deepseek-v4-flash"
claude
```

### 動作確認結果（GMOグループ技術ブログより）
- 起動時の最初の問答: 約2分（約3万トークンの事前読み込み）
- その後: KVキャッシュが効いて**高速応答**
- 「君の名は？」→ `deepseek-v4-flash` と正しく返答
- PythonコードのEDA（Palmer Penguinsデータセット）生成・動作確認済み
- 日本語文字化け発生→指摘するとシステムフォントを探索してコード修正を自律実施

### 他モデルとの比較
- **Gemma 4 26B A4B / Qwen 3.6-35B-A3B** と比較して、よりオリジナルのClaude Codeに近い応答品質

### KVキャッシュ注意事項
- `/tmp/ds4-kv` 配下にキャッシュファイル（400MB〜800MB/個）が蓄積
- 定期的なクリーンアップが必要

### 9router連携も可能
DS4はOpenAI互換エンドポイントを持つため、9routerのカスタムプロバイダーとして登録し、shadow上の他エージェント（Codex/agy/Hermes）のバックエンドとして利用できる可能性がある（未実証）。

---

## 6. 中華系APIポリシーとの関係

**結論: DS4はポリシー問題なし（ローカル実行のみ）**

| 観点 | 評価 |
|------|------|
| 開発者 | **antirez（Salvatore Sanfilippo）= イタリア人**。Redis作者。非中華 |
| エンジン（ds4本体） | C言語製OSSでGitHub公開。非中華 |
| モデル（DeepSeek V4 Flash） | deepseek-ai（中国企業）が開発。MITライセンスでHuggingFace公開 |
| データ送信 | **ローカル実行のみ**。中国サーバーへのAPI送信は一切発生しない |
| ポリシー適合性 | ✅ **完全適合**。「中華系API不使用ポリシー」はAPI送信禁止であり、ローカル実行は制限対象外 |

**重要な区別:**
- ❌ 禁止: `open.bigmodel.cn`（GLM-5）, `api.moonshot.cn`（Kimi）等の**中国サーバーへのAPI送信**
- ✅ 許可: DeepSeek V4 Flash GGUFをローカルダウンロードして**オフライン推論**

> `rules/multi-model-routing.md` の「中華系API不使用ポリシー」注釈: 「ローカルなら是Z-Image(Alibaba)も送信なしで許容」と整合。

---

## 7. アクションアイテム（shadow導入可否評価）

### ❌ shadow本体への導入は不可（スペック未達）

| 要件 | shadow実態 | 判定 |
|------|-----------|------|
| **128GB以上の統一メモリ** | RAM 7.7GB + swap 8GB | ❌ 絶対不足 |
| **Apple Silicon + Metal** | Linux (x86) | ❌ 非対応OS |
| ストレージ（~81GB） | 8GB空き（87%使用中） | ❌ 容量不足 |

### ✅ 将来的な活用シナリオ（Mac端末での運用）

1. **専用推論サーバー化**: M4/M5 Max MacBook Pro 128GBを専用機として用意し、DS4をLaunchAgent常駐化。shadow/arcanaから `http://:8000` でAPIアクセス
2. **Claude Codeのバックエンド**: `ANTHROPIC_BASE_URL`を向けるだけで接続完了（完全ローカルで課金ゼロ）
3. **Hermes Agent連携**: OpenAI互換APIのため接続はシンプル

### 評価まとめ
- **技術的価値**: 非常に高い。128GB MacがあればClaude Codeを完全ローカル・無料で動かせる
- **shadwでの実用性**: 現時点では不可。Mac端末が前提
- **モニタリング推奨**: GitHubスターの伸び・CUDA対応の進捗・他量子化形式対応を追跡

---

## 参照元
- YouTube: s3P_OOm9wNM (Tech千一夜 | DS4徹底解説 12:05)
- https://www.techno-edge.net/article/2026/05/10/5049.html (松尾公也 / CloseBox)
- https://knightli.com/en/2026/05/11/deepseek-v4-flash-ds4-metal/
- https://gadget-otaku.com/2026/05/10/ds4-local-llm-engine-mac-deepseek-v4-flash/
- https://zenn.dev/kamo78/articles/ds4-m5max-launchagent (macOS LaunchAgent化手順)
- https://recruit.group.gmo/engineer/jisedai/blog/claude-code-deepseek-v4-flash-dwarfstar4/ (GMO / Claude Code連携)

---

**このYouTube動画は記録価値があるか: YES** — antirez（Redis作者）によるDeepSeek V4 Flash専用ローカル推論エンジンDS4の解説として、Claude CodeをローカルのAnthropicエンドポイント互換で動かす具体的手順を含む高い実用価値を持つ。
ds4 dwarfstar4 deepseek-v4-flash local-llm antirez apple-silicon metal claude-code ローカルLLM 推論エンジン KVキャッシュ 量子化