本目录包含工作流的前端展示代码与后端模型调用代码,以及前端展示代码。
请在 SumDS 的虚拟环境中运行,以确保依赖一致性与模型路径加载无误。
该系统采用 Gradio 库作为前端界面,调用 Flow 中定义的工作流逻辑,完整流程如下:
- 每条输入输出都会保存为log日志
用户输入 -> DeepSeek-7B 进行数据预处理 -> 预处理后的结果传递给 DeepSeek-32B -> DeepSeek-32B 分析用户数据 -> 输出最终结构化分析结果
- 用户通过 Gradio 输入病情描述;
- 系统展示一个 “模型正在推理” 的进度提示;
- 模型完成推理后,界面展示最终的结构化分析结果;
- 支持连续输入多条数据、重复运行测试。
- 保存每条输入为log日志
| 模型 | 作用 |
|---|---|
| DeepSeek-7B | 输入内容预处理 / 提示词重构 |
| DeepSeek-32B | 深度理解 / 医疗结构化分析输出 |
两个模型在 Flow 中被同时加载,运行时自动协同工作,无需用户手动干预。
- 前端界面:Gradio Blocks 构建输入框、进度提示、结果输出;
- 模型调用:基于 Transformers 进行本地推理;
- 多模型协同:7B 和 32B 模型串联使用,数据在中间阶段自动传递。
- 激活
SumDS虚拟环境; - 运行
workflow.py确保两个模型能正常推理; - 启动
front中的 Gradio 接口进行可视化展示; - 链接
Autodl提供的映射端口,之后本地的6006端口上可见前端演示 - 输入测试文本,查看分析结构化输出。
如有部署问题或路径加载异常,请检查模型目录是否匹配本地路径,或联系开发人员协助。