Device Graph Runner增加异步语义

[LeoLau94]

Describe the feature🚀

现在Device Graph Runner只有同步语义，会阻塞当前的线程和stream，我们希望有一套兼容异步语义回调和runner forward的设计

xpu_graph/src/xpu_graph/device_graph_runner.py

Line 139 in fa37ad3

assert self._copy_to_param_buffer(*args, **kwargs)

References

https://docs.pytorch.org/docs/stable/generated/torch.cuda.Stream.html
https://docs.pytorch.org/docs/main/notes/cuda.html

Environment details

XpuGrpah: 0.10.1

[LeoLau94]

#491

通过这笔PR，我们目前实现了torch-like的异步风格，此issue我们认为可以关闭了。

[LeoLau94]

cc @YYYYimo

[LeoLau94]

不对，关键还是在copy和launch之间的多流异步设计，这块还是应该修改一下相关接口的调用。

@YYYYimo 可以思考一下，是不是可以允许用户在copy回调函数里返回stream，我们在forward实现中去wait 这个 stream，那么应该如何设计新增的异步copy接口呢