fmha_plugins 的源代码可以提供一下吗？ #240

Open

opened

描述功能
我需要在不同的cuda版本上部署类似的模型，请问方便提供一下fmha的源代码吗？不是很想去trt-llm里面移植。
万分感谢！

Metadata

Assignees

No one assigned

Labels

No labels

No labels

Type

No type

Fields

No fields configured for issues without a type.

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests