Skip to content

MangguoD/7-32Workflow

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

22 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

DeepSeek 双模型工作流演示说明

本目录包含工作流的前端展示代码与后端模型调用代码,以及前端展示代码。
请在 SumDS 的虚拟环境中运行,以确保依赖一致性与模型路径加载无误。


工作流程简介

该系统采用 Gradio 库作为前端界面,调用 Flow 中定义的工作流逻辑,完整流程如下:

  • 每条输入输出都会保存为log日志

用户输入 -> DeepSeek-7B 进行数据预处理 -> 预处理后的结果传递给 DeepSeek-32B -> DeepSeek-32B 分析用户数据 -> 输出最终结构化分析结果


前端展示功能

  • 用户通过 Gradio 输入病情描述;
  • 系统展示一个 “模型正在推理” 的进度提示;
  • 模型完成推理后,界面展示最终的结构化分析结果;
  • 支持连续输入多条数据、重复运行测试。
  • 保存每条输入为log日志

模型职责说明

模型 作用
DeepSeek-7B 输入内容预处理 / 提示词重构
DeepSeek-32B 深度理解 / 医疗结构化分析输出

两个模型在 Flow 中被同时加载,运行时自动协同工作,无需用户手动干预。


技术栈说明

  • 前端界面:Gradio Blocks 构建输入框、进度提示、结果输出;
  • 模型调用:基于 Transformers 进行本地推理;
  • 多模型协同:7B 和 32B 模型串联使用,数据在中间阶段自动传递。

使用说明

  1. 激活 SumDS 虚拟环境;
  2. 运行 workflow.py 确保两个模型能正常推理;
  3. 启动 front 中的 Gradio 接口进行可视化展示;
  4. 链接 Autodl 提供的映射端口,之后本地的6006端口上可见前端演示
  5. 输入测试文本,查看分析结构化输出。

如有部署问题或路径加载异常,请检查模型目录是否匹配本地路径,或联系开发人员协助。

Author

MangguoD

About

毕业论文

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages