本项目采用基于发布年月的版本号命名策略，格式为 YY.MM，发布节奏为按季度发布，一般在每年的 3/6/9/12 月发布正式版本，版本号对应为 YY.03/YY.06/YY.09/YY.12。已发布版本与 IXUCA SDK 关联关系如下表所示：
| Release Date | Release Version | IXUCA SDK |
|---|---|---|
| Jun 2026 | 26.06 | v4.4.0 |
| Mar 2026 | 26.03 | v4.4.0 |
| Dec 2025 | 25.12 | v4.3.0 |
| Sep 2025 | 25.09 | v4.3.0 |
| Jun 2025 | 25.06 | v4.2.0 |
| Mar 2025 | 25.03 | v4.2.0 |
| Dec 2024 | 24.12 | v4.1.2 |
| Sep 2024 | 24.09 | v4.1.2 |
| Jun 2024 | 24.06 | v4.0.0 |
| Mar 2024 | 24.03 | v4.0.0 |
- 新增了 15 个推理小模型示例，其中支持 IGIE 推理引擎的 9 个，支持 ixRT 推理引擎的 6 个。
- 新增了 9 个大语言模型推理示例，涉及使用 ComfyUI，Indextts，Qwen-TTS，Qwen-ASR等
| IGIE | ||
|---|---|---|
| ConvNeXt_Large | RegNetY-800MF | RegNetY-8GF |
| ShuffleNetV1 | Yolo11l | Yolo11x |
| YOLOv8l | YOLOv8x | DINOv2 |
| ixRT | ||
| ViT | DeiT_B | MobileNet V1 |
| DBNet | DDRNet | DeepSpeech2 |
| LLM | ||
| Qwen-Image (ComfyUI) | Z-Image (Diffusers) | IndexTTS-2 (Indextts) |
| Qwen3-TTS-12Hz-1.7B-Base (Qwen-TTS) | Qwen3-ASR-1.7B (Qwen-ASR) | PaddleOCR-VL-1.5 (Transformers) |
| Qwen3-Embedding-8B (vLLM) | ERNIE-4.5-VL-28B-A3B-Thinking (Transformers) | CosyVoice (IGIE) |
- 适配 IGIE Conformer 在 PyTorch 2.10 环境下的运行
- 修复 IGIE YOLOv5m 模型在 INT8 精度下 DECODER_INPUT_NAMES 缺失的问题
- 使用 onnxruntime 量化工具替换原有 deploy_tools 量化流程
- 修复 IGIE ViT 模型导出问题
- 修复 Qwen-VL 模型在缺失 img_pad_id 时的兼容性问题
- 修复 ixRT YOLOv3、YOLOv5m、YOLOv7、YOLOv7m 模型相关运行问题
- 修复 EfficientNet-B1 模型的部分运行异常
- 更新 supported_env 及依赖脚本以适配 IXUCA SDK 4.4.0
- 新增 CosyVoice IGIE 实现的 torchaudio 适配支持
DeepSparkInference 26.06 对应天数软件栈 4.4.0 版本。
honglyua，majorli6，shengyan.zhao，fhfang，anders。
- 新增了 16 个推理小模型示例，其中支持 IGIE 推理引擎的 10 个，支持 ixRT 推理引擎的 6 个。
- 新增了 18 个大语言模型推理示例，其中 10 个使用 vLLM，6 个使用 xDiT，2 个使用 ixRT。
| IGIE | ||
|---|---|---|
| MobileViT-S | ViT-B-32 | ViT-L-14 |
| DETR | RT-DETR | YOLOv11m |
| YOLOv11s | YOLOv26n | YOLOv5s |
| DenseNet121(int8) | ||
| ixRT | ||
| Swin Transformer | RepNet | Grounding DINO |
| RT-DETR | CRNN | UNet |
| LLM | ||
| DeepSeek-V3.1 (vLLM) | DeepSeek-VL2 (vLLM) | DeepSeek-OCR (vLLM) |
| InternLM3 (vLLM) | MiniCPM-V-4 (vLLM) | Qwen3-8B (vLLM) |
| Qwen3-32B (vLLM) | Qwen3-30B-A3B (vLLM) | Qwen3-235B-A22B (vLLM) |
| Qwen3-Next-80B (vLLM) | FLUX.1-Dev(xDiT) | HunyuanVideo(xDiT) |
| Wan2.1-T2V-14B(xDiT) | Wan2.2-TI2V-5B(xDiT) | HunyuanDiT-v1.2(xDiT) |
| SD3-Medium(xDiT) | CosyVoice (ixRT) | Stable Diffusion 2.1 (ixRT) |
- 适配了 IXUCA SDK 4.4.0 版本的 CI 测试流程
- 修复了 IGIE MViTv2-base 模型运行时缺少 pkg_resources 模块的问题
- 修复了 vLLM 推理模型的 deprecated 参数错误并升级为离线推理模式
- 修复了 DeepSeek-R1-Distill-Llama-8B 模型在 vLLM 0.11.2 版本上的兼容性问题
- 修复了 Qwen-VL、Qwen2-VL、Qwen2.5-VL、Whisper 等模型的参数错误问题
- 修复了 Pixtral 模型在 vLLM 0.11.2 版本上的兼容性问题
- 修复了 ixRT RT-DETR 模型在 batchsize 为 64 时运行报错的问题
- 修复了多个模型的 trust_remote_code 参数配置问题
- 修复了 IGIE YOLOv8n 模型与 ultralytics 版本的兼容性问题
- 修复了 YOLOx 模型的数据集路径问题
- 修复了 IGIE ResNet 和 VGG16 模型在安装 TensorFlow 时的报错问题
- 修复了 protobuf 版本导致的兼容性问题
- 新增了 ARM 架构的核心绑定命令支持
- 新增了 YOLOv8n ixRT 模型的 batchsize 参数支持
DeepSparkInference 26.03 对应天数软件栈 4.4.0 版本。
YoungPeng，honglyua，majorli6，shengyan.zhao，yougouda，jinrui.zhang，tianyu，anders。
- 新增了 15 个推理小模型示例，其中支持 IGIE 推理引擎的 9 个，支持 ixRT 推理引擎的 6 个。
- 新增了 8 个大语言模型推理示例，其中 7 个使用 vLLM，1 个使用 Diffusers。
| ixRT | ||
|---|---|---|
| DeepSort | FastReID | Transformer |
| YOLOF | YOLOv12 | YOLOv13 |
| IGIE | ||
| EfficientNet-B7 | FreeAnchor | RegNet_X_800MF |
| RegNet_X_8GF | PISA | YOLOv8-N |
| YOLOv9 | YOLOv10 | YOLOv11 |
| LLM | ||
| NVLM-D (vLLM) | PaliGemma (vLLM) | Phi-3 Vision (vLLM) |
| Pixtral (vLLM) | Qwen3Moe (vLLM) | Stable Diffusion 3 (Diffusers) |
| Step3-VL (vLLM) | XLM-RoBERTa (vLLM) | |
- 新增了对模型推理的 batchsize 参数配置的支持，并在 CI 中添加相应测试 (#ID8SDF, #IDBGCP)
- 新增了 vLLM 推理模型的 benchmark 脚本支持 (#ID8TTL)
- 优化了 21 个推理小模型的 README 指导文档说明 (#IDBBZV)
- 更新了 Conformer IGIE 和 BERT Large SQuAD ixRT 模型失效的链接 (#ID8KFK, #ID9RDW)
- 修复了 CosyVoice2-0.5B 模型推理报错的问题 (#ID5Y84)
- 修复了 Fuyu-8B 模型推理报错的问题 (#ID5Y8O)
- 修复了 YOLOv8 ixRT 模型推理日志中的警告打印问题 (#IDC1OI)
- 修复了 Conformer 模型解读异常问题 (#ID9RDQ)
- 修复了 EfficientNet-B1 和 YOLOv4 模型 int8 推理精度异常的问题 (#ID912Z)
- 修复了 ResNetV1d-50 和 RetinaFace ixRT 模型推理报错的问题 (#ID931D, #ID94XO)
- 修复了 YOLO 系列模型在在 PyTorch 2.7 环境导出 ONNX 时的兼容报错问题 (#ID95LK)
- 修复了 8 个推理小模型在 CI 上运行报错的问题 (#ID9DH4)
- 修复了 YOLOv4 ixRT 模型量化 ONNX 报错的问题 (#IDA3BX)
- 修复了 YOLOv10 ixRT 模型 dynamic shape 的问题（#IDAOW0）
DeepSparkInference 25.12 对应天数软件栈 4.3.0 版本。
YoungPeng，anders，fhfang，郭寒冰，qiang.zhang，majorli6，honglyua。
- 新增了 19 个推理小模型示例，其中支持 IGIE 推理引擎的 12 个，支持 ixRT 推理引擎的 7 个。
- 新增了 11 个大语言模型推理示例，涉及 FastDeploy、LMDeploy 和 vLLM 等框架。
| ixRT | ||
|---|---|---|
| ATSS | CLIP | CSPResNeXt50 |
| EfficientNet-B4 | EfficientNet-B5 | PAA |
| RetinaNet | ||
| IGIE | ||
| EfficientNet-B6 | MNASNet1_3 | Regnet_x_32gf |
| Regnet_x_400mf | Regnet_y_3_2gf | Regnet_y_32gf |
| RegNet_y_400mf | SSD | VGG13 |
| VGG13_BN | YOLOF | YOLOv13 |
| 大模型 | ||
| CosyVoice2-0.5B | E5-V (vLLM) | ERNIE-4.5-21B-A3B (FastDeploy) |
| ERNIE-4.5-300B-A47B (FastDeploy) | GLM-4V (vLLM) | InternLM3 (LMDeploy) |
| MiniCPM-o-2_6 (vLLM) | Qwen-VL (vLLM) | Qwen2-VL (vLLM) |
| Qwen2.5-VL (vLLM) | Whisper (vLLM) | |
- 修复了 BERT Large SQuAD 模型链接 404 问题 (#ICSF66)
- 修复了 4.3.0 容器环境下部分模型的依赖缺失问题
- 修复了 MViTv2-base 模型推理异常的问题
- 更新了 CLIP 模型的最新代码
- 更新了 ByteMLPerf 工具箱中 optimizer 的代码出处 (#ICKHTC)
- 更新了 4.3.0 适用大/小模型推理的 Docker 使用说明 (#ICLDBK)
DeepSparkInference 25.09 对应天数软件栈 4.3.0 版本。
YoungPeng，fhfang，郭寒冰，qiang.zhang，majorli6，honglyua。
- 新增了 24 个推理小模型示例，其中支持 IGIE 推理引擎的 15 个，支持 IxRT 推理引擎的 9 个。
- 新增了 6 个基于 vLLM 的大语言模型推理示例，其中 3 个为多模态模型。
| IGIE | |||
|---|---|---|---|
| ConvNext_Tiny | CSPResNeXt50 | EfficientNet_B5 | |
| GFL | MNASNet1_0 | Regnet_x_3_2gf | |
| Regnet_y_16gf | SqueezeNet1_1 | Twins_PCPVT | |
| UNet | VAN_B0 | VGG19 | |
| ViT | VGG19_BN | YOLOv12 | |
| IxRT | |||
| ResNeXt101_32x8d | ResNeXt101_64x4d | ShuffleNetV2_x0_5 | |
| ShuffleNetV2_x1_0 | ShuffleNetV2_x1_5 | ShuffleNetV2_x2_0 | |
| YOLOv9 | YOLOv10 | YOLOv11 | |
| 大模型 | |||
| Aria (vLLM) | H2OVLChatModel (vLLM) | Idefics3-8B-Llama3 (vLLM) | |
| Llama-3.2 (vLLM) | MiniCPM-V2 (vLLM) | Pixtral-12B-2409 (vLLM) | |
- 修复了模型代码中的绝对路径的问题。
- 修复了 EfficientNetV2 模型依赖 timm 版本的问题。
- 修复了 GoogleNet 和 InceptionV3 模型（IGIE）的编译报错问题。
- 更新了 stable-diffusion-v1-5 模型在 huggingface 上的链接。
- 更新了 MiniCPM-V2 推理模型代码示例。
- 优化了 IxRT 和 IGIE 中视觉分类模型的公共代码避免重复。
- 增加了 DeepSparkInference 全部模型的 json 配置文件。
- 增加了模型库首页的英文版 README 文档。
DeepSparkInference 25.06 对应天数软件栈 4.2.0 版本。
YoungPeng，majorli6，honglyua，qiang.zhang。
- 新增了 25 个推理小模型示例，其中支持 IGIE 推理引擎的 15 个，支持 IxRT 推理引擎的 10 个。
- 新增了 11 个大模型推理示例，其中 6 个为 DeepSeek-R1 蒸馏模型。
| IGIE | |||
|---|---|---|---|
| CSPResNet50 | ConvNeXt_S | EfficientNet_b4 | |
| HRNetPose | MNASNet0_75 | Mixer_B | |
| Regnet_x_16gf | ResNeXt101_32x8d | SABL | |
| ShuffleNetv2_x2_0 | SqueezeNet1_0 | SVT_base | |
| VGG11 | Wide_ResNet101 | YOLOv11 | |
| IxRT | |||
| ConvNeXt-Base | DeiT-tiny | DenseNet201 | |
| EfficientNet-B3 | EfficientNetv2_rw_t | EfficientNetv2_s | |
| FoveaBox | FSAF | HRNet | |
| RetinaFace | |||
| 大模型 | |||
| DeepSeek-R1-Distill-Llama-8B | DeepSeek-R1-Distill-Llama-70B | DeepSeek-R1-Distill-Qwen-1.5B | |
| DeepSeek-R1-Distill-Qwen-7B | DeepSeek-R1-Distill-Qwen-14B | DeepSeek-R1-Distill-Qwen-32B | |
| Chameleon-7B | Fuyu-8B | InternVL2-4B | |
| LLaVA | LLaVA-Next-Video-7B | ||
- 新增了 IxRT 的 NLP 推理模型的自动化测试运行脚本。
- 优化了 IGIE 推理模型自动化测试的运行脚本。
- 修复了 onnxruntime 1.17.1 导致的 quantize fail 问题。
- 修复了 BERT 模型在 INT8 精度下的问题。
- 修复了 YOLOv6 IGIE 模型运行推理脚本报错的问题。
- 修复了 mmpretraino 0.24.0 与 mmcv 2.1.0 版本不兼容问题。
- 修复了 ChatGLM3-6B-32k 模型中的中文乱码问题。
- 修复了 vLLM 模型中 SamplingParams 的初始化问题。
- 更新了所有模型 README 文档格式，补充了模型所支持的 IXUCA SDK 版本。
DeepSparkInference 25.03 对应天数软件栈 4.2.0 版本。
YoungPeng，majorli6，xinchi.tian，xiaomei.wang，honglyua，qiang.zhang。
- 新增了 24 个推理小模型示例，其中支持 IGIE 推理引擎的 15 个，支持 IxRT 推理引擎的 9 个。
- 新增了 9 个大语言模型的推理示例，其中支持 vLLM 的 8 个，支持 ixFormer 的 1 个。
| IGIE | |||
|---|---|---|---|
| ConvNeXt-Base | DenseNet201 | EfficientNet-B3 | |
| EfficientNetV2-S | MNASNet0_5 | MViTv2_base | |
| Regnet_y_1_6gf | ResNetV1_D50 | ResNeXt101_64x4d | |
| ShuffleNetV2_x1_5 | Kie_layoutXLM | SVTR | |
| YOLOv9 | YOLOv10 | PAA | |
| IxRT | |||
| CenterNet | OpenPose | RTMPose | |
| CSPDarkNet53 | DensNet161 | DensNet169 | |
| EfficientNetB2 | ResNeXt50_32x4d | ConvNeXt-Small | |
| 大模型推理 | |||
| CLIP (IxFormer) | ChatGLM3-6B-32K (vLLM） | Llama2-7B (vLLM) | |
| MiniCPM-V-2 (vLLM） | Qwen-7B (vLLM) | Qwen1.5-32B-Chat (vLLM） | |
| Qwen2-72B-Instruct (vLLM） | Qwen2-7B-Instruct (vLLM） | StableLM2-1.6B (vLLM） | |
- 新增了 IGIE 推理模型自动化测试的运行脚本。
- 修复了 YOLOv8 IxRT 模型运行推理脚本报错的问题。
- 更新了 YOLOv9 和 YOLOv10 的 IGIE 模型的配置文件。
- 完善了 IxRT 模型 BERT，Mask RCNN，MobileNetV2 和 YOLOX 的 end2end 推理时间打印。
DeepSparkInference 24.12 对应天数软件栈 4.1.2 版本。
YoungPeng，majorli，xinchi.tian，xiaomei.wang，honglyua，qiang.zhang。
- 新增了 29 个推理小模型示例，其中支持 IGIE 推理引擎的 15 个，支持 IxRT 推理引擎的 14 个。
| IGIE | |||||
|---|---|---|---|---|---|
| ATSS | ConvNeXt-Small | CSPDarkNet50 | DeiT-tiny | ||
| DenseNet169 | EfficientNet-B2 | EfficientNetV2-M | FCOS | ||
| FSAF | RepVGG | RetinaFace | RTMDet | ||
| RTMPose | SEResNet50 | ShuffleNet_V2_X1_0 | |||
| IxRT | |||||
| ALBERT | Conformer | DeBERTa | FaceNet | ||
| RoBERTa | RoFormer | Swin Transformer Large | Transformer ASR | ||
| VideoBERT | Wide_ResNet50 | Wide&Deep | YOLOv4 | ||
| YOLOv6 | YOLOv8 | ||||
- 新增了 5 个大语言模型的推理示例。
- Llama3-70B (TensorRT-LLM)
- Qwen1.5-7B (Text Generation Inference)
- Qwen1.5-7B (vLLM)
- Qwen1.5-14B (vLLM)
- Qwen1.5-72B (vLLM)
- 修复了 BERT Base SQUAD 模型在 NV 环境上 int8 精度异常的问题。
- 修复了 Mask RCNN 模型在 NV 24.04 环境上运行编译报错的问题。
- 修复了 CLIP IGIE 模型对 transformers 版本有依赖的问题。
- 完善了 IxRT 部分模型的 end2end 推理时间打印。
DeepSparkInference 24.09 对应天数软件栈 4.1.2 版本。
YoungPeng，majorli，xinchi.tian，xiaomei.wang，wenfeng.zhang，haoyanlong，qiang.zhang。
- 新增了 33 个推理小模型示例，其中支持 IGIE 推理引擎的 16 个，支持 IxRT 推理引擎的 15 个。
| IGIE | |||||
|---|---|---|---|---|---|
| CenterNet | DenseNet161 | EfficientNet_b1 | EfficientNet_rw_t | ||
| FoveaBox | HRNet | MobileNetv3_Large | MobileNetv3_Small | ||
| Regnet_x_1_6gf | RepNet | Res2Net50 | ResNeSt50 | ||
| ResNet101 | ResNet152 | ShuffleNetv2_x0_5 | Wide_ResNet50 | ||
| IxRT | |||||
| BERT Base SQuAD | DenseNet | DETR | EfficientNet_V2_t | ||
| FCOS | HRNet | Inception_ResNet_V2 | InceptionV3 | ||
| ResNet_V1_D50 | SoloV1 | SqueezeNet_v1.1 | YOLOv3 | ||
| YOLOv5m | YOLOv5s | YOLOv7 | |||
- 新增了 4 个大语言模型的推理示例。
- Baichuan2-7B (vLLM)
- ChatGLM-3-6B (vLLM)
- Llama2-7B (TensorRT-LLM)
- Qwen-7B (Text Generation Inference)
- 修复了 YOLOX IxRT 插件编译会报错的问题。
- 完善了 libGL 依赖在 Ubuntu 上安装的帮助说明。
DeepSparkInference 24.06 对应天数软件栈 4.0.0 版本。
YoungPeng，majorli，xinchi.tian，tianxi-yi，may，xiaomei.wang，cheneychen2023，qiang.zhang。
- 新增了 48 个推理模型示例，其中支持 IGIE 推理引擎的 28 个，支持 IxRT 推理引擎的 20 个。
| IGIE | |||||
|---|---|---|---|---|---|
| AlexNet | BERT Base NER | BERT Base SQuAD | BERT Large SQuAD | ||
| CLIP | Conformer | Conformer-B | DeepSort | ||
| DenseNet121 | EfficientNet-B0 | FastReID | GoogLeNet | ||
| HRNet-W18 | InceptionV3 | MobileNetV2 | ResNet18 | ||
| ResNet50 | ResNeXt50_32x4d | RetinaNet | Swin Transformer | ||
| VGG16 | YOLOv3 | YOLOv4 | YOLOv5 | ||
| YOLOv6 | YOLOv7 | YOLOv8 | YOLOX | ||
| IxRT | |||||
| AlexNet | BERT Base SQuAD | BERT Large SQuAD | CSPResNet50 | ||
| EfficientNet-B0 | EfficientNet-B1 | GoogLeNet | Mask R-CNN | ||
| MobileNetV2 | MobileNetV3 | RepVGG | Res2Net50 | ||
| ResNet101 | ResNet18 | ResNet34 | ResNet50 | ||
| ShufflenetV1 | SqueezeNet 1.0 | VGG16 | YOLOX | ||
DeepSparkInference 24.03 对应天数软件栈 4.0.0 版本。