关于pipeline使用triton server

[zzk2021]

请允许我提交一个triton server版本，这是我完成的代码并且公司里一直在用的（同意开源）。框架使用异步流水线，4卡3090可以承受一定的并发，能提高多卡机器的吞吐量，具体速度需要我测试了再提交。

谢谢！