Native WebGPU版を作る #75
Description
内容
ONNXRuntimeのネイティブ版にWebGPU Execution Providerが増えようとしています。
WebGPUと名前はついていますが、実態はCross-platform GPUなので、これによりMacを含めた様々な環境でGPUを利用できるようになります。これに対応したいです。
Pros 良くなる点
- Linux：Vulkan対応
- Mac：Metal対応
- Windows：Direct3D 12対応
のGPUを有効活用できる（WindowsはDirectMLがあるのでいらないかも 内蔵GPUだとWebGPUの方が早くなったので必要そう）
Cons 悪くなる点
メンテコスト
実現方法
ロードマップとしてはこんな感じです：
- ONNXRuntime 1.23対応（intonation.onnxが落ちる、ONNXRuntimeのバグの可能性が高い？）
- Minimum Reproduction Stepを作っていたらいつのまにか修正されてました（えぇ…）
- Voicevox ONNXRuntimeの追従： ほぼ完了
- onnxruntime-builderの追従： feat: onnxruntime 1.23.0に対応 onnxruntime-builder#90
- ortの追従（ @qryxip さんが作業中？）：最新版 (2.0.0-rc.10)のアップストリームをマージする ort#15
- エンジン・コアのAPI周りの策定
- WebGPU版のONNXRuntimeビルドの命名規則を決める（ref: （CPU以外の）複数のEPを有効化したビルドはどう提供するべきか？ onnxruntime-builder#89 、 (os, arch, device)の組を決める文字列の仕様と名前を決めたい #76 も含む）
- 実際にコアで動くか検証
OSの種類/ディストリ/バージョン
- Windows
- macOS
- Linux
その他
関連リンク：