llama.cpp v0.6.0 / ROCm 10.1 に対応

[mitsuharu]

概要

llama.cpp の固定バージョンを v0.6.0 に更新し、Windows GPU ビルド設定を現行の upstream に追従します。
あわせて ROCm 10.1.0 を選択可能にし、デフォルトを 10.1.0 へ更新します。

変更内容

• vendor/llama.cpp を v0.6.0 に更新
• ROCm の選択肢に 10.1.0 を追加し、デフォルトを 10.1.0 に変更
• v0.6.0 で使われなくなったビルドオプションを削除
  • GGML_CUDA_CUB_3DOT2
  • GGML_HIP_ROCWMMA_FATTN
• ROCm の peer copy を rocm_peer_copy で選択可能に変更
  • disabled（デフォルト）: GGML_CUDA_NO_PEER_COPY=ON
  • enabled: GGML_CUDA_NO_PEER_COPY を指定せず、ROCm/HIP の peer copy を利用
• CUDA は従来どおり GGML_CUDA_NO_PEER_COPY=ON を維持
• ROCm のキャッシュキー、Artifact名、Release情報に peer copy 設定を反映
• README の対応バージョン・利用方法を更新

ROCm 10.1

ROCm 10.1.0 は 2026-10-05 に Windows 対応を含む正式リリースが公開され、TheRock の stable wheel index (whl-next) にも rocm-10.1.0 が公開されています。

ROCm 10.1 の non-P2P / multi-GPU 修正を検証しやすいよう、peer copy を有効化したビルドも手動で選択できます。既存環境との互換性を優先し、デフォルトは peer copy 無効のままです。

確認ポイント

PR の軽量 CI では PowerShell 構文チェックと Windows x64 CPU smoke build を実行します。
GPU 固有の変更を含むため、マージ前に手動 workflow で ROCm 10.1.0 / gfx1201 を以下の2条件で比較することを推奨します。

• rocm_peer_copy=disabled
• rocm_peer_copy=enabled