requires device with capability < (8, 0) but your GPU has capability (12, 0) (too new)

[lucasjinreal]

NotImplementedError: No operator found for memory_efficient_attention_forward with inputs:
query : shape=(8, 1, 8, 64) (torch.float32)
key : shape=(8, 192, 8, 64) (torch.float32)
value : shape=(8, 192, 8, 64) (torch.float32)
attn_bias : <class 'NoneType'>
p : 0.0
fa3F@2.8.3-133-gde1584b is not supported because:
requires device with capability < (8, 0) but your GPU has capability (12, 0) (too new)
dtype=torch.float32 (supported: {torch.bfloat16, torch.float16})
requires device with capability == (8, 0) but your GPU has capability (12, 0) (too new)
fa2F@2.5.7-pt is not supported because:
dtype=torch.float32 (supported: {torch.bfloat16, torch.float16})
cutlassF-pt is not supported because:
requires device with capability < (5, 0) but your GPU has capability (12, 0) (too new)

5070 can not running this function, any help?

[Feng-coder0]

[linux & win] cuda 12.9 version

pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu129

You can try installing this version. My GPU is 5090 with CUDA 12.8. By installing the cu129 version (which should be the latest version), I solved this problem, and there's no need to install CUDA 12.9.

[lucasjinreal]

I switched to use sdpa as alternative, it's faster and stable.

[istalo]

5080 and CUDA 13.0, ran into the same issue when trying to update SD installation, not to mention, it seems like 2.9.1 torch is running into issues with it, downgrading to 2.9.0 made the install successful, prompt ran then the same thing popped up on the terminal.

[dawnhan1983-sys]

5060Ti and CUDA13.0 have the same issue. Downgrading torch to 2.9.0 made the installation and ComfyUI startup successfully, but failed in generation with the same Errors.

[lucasjinreal]

try sdpa, it doesn't slow at all and inside torch itself...

[SamTyurenkov]

same problem here:

some memory efficient attention is unavailable for the same reason

root@54fd6c3bee7c:/workspace# venv_cc12_cuda129/bin/python -m xformers.info
xFormers 0.0.34+0eb7c43.d20251123
memory_efficient_attention.ckF: unavailable
memory_efficient_attention.ckB: unavailable
memory_efficient_attention.ck_splitKF: unavailable
memory_efficient_attention.cutlassF-pt: available
memory_efficient_attention.cutlassB-pt: available
memory_efficient_attention.cutlassF-blackwell: unavailable
memory_efficient_attention.cutlassB-blackwell: unavailable
memory_efficient_attention.fa2F@2.8.2: available
memory_efficient_attention.fa2B@2.8.2: available
memory_efficient_attention.fa3F@0.0.0: unavailable
memory_efficient_attention.fa3B@0.0.0: unavailable
memory_efficient_attention.fa3F_splitKV@0.0.0: unavailable
memory_efficient_attention.triton_splitKF: available
indexing.scaled_index_addF: available
indexing.scaled_index_addB: available
indexing.index_select: available
sp24.sparse24_sparsify_both_ways: available
sp24.sparse24_apply: available
sp24.sparse24_apply_dense_output: available
sp24._sparse24_gemm: available
sp24._cslt_sparse_mm_search@0.7.1: available
sp24._cslt_sparse_mm@0.7.1: available
is_triton_available: True
pytorch.version: 2.9.1+cu128
pytorch.cuda: available
gpu.compute_capability: 12.0
gpu.name: NVIDIA RTX PRO 6000 Blackwell Workstation Edition
dcgm_profiler: unavailable
build.info: available
build.cuda_version: 1208
build.hip_version: None
build.python_version: 3.12.12
build.torch_version: 2.9.1+cu128
build.env.TORCH_CUDA_ARCH_LIST: 8.9;12.0
build.env.PYTORCH_ROCM_ARCH: None
build.env.XFORMERS_BUILD_TYPE: None
build.env.XFORMERS_ENABLE_DEBUG_ASSERTIONS: None
build.env.NVCC_FLAGS: None
build.env.XFORMERS_PACKAGE_FROM: None
build.nvcc_version: 12.8.93
source.privacy: open source

[jovan2009]

same problem here:

some memory efficient attention is unavailable for the same reason

root@54fd6c3bee7c:/workspace# venv_cc12_cuda129/bin/python -m xformers.info xFormers 0.0.34+0eb7c43.d20251123 memory_efficient_attention.ckF: unavailable memory_efficient_attention.ckB: unavailable memory_efficient_attention.ck_splitKF: unavailable memory_efficient_attention.cutlassF-pt: available memory_efficient_attention.cutlassB-pt: available memory_efficient_attention.cutlassF-blackwell: unavailable memory_efficient_attention.cutlassB-blackwell: unavailable memory_efficient_attention.fa2F@2.8.2: available memory_efficient_attention.fa2B@2.8.2: available memory_efficient_attention.fa3F@0.0.0: unavailable memory_efficient_attention.fa3B@0.0.0: unavailable memory_efficient_attention.fa3F_splitKV@0.0.0: unavailable memory_efficient_attention.triton_splitKF: available indexing.scaled_index_addF: available indexing.scaled_index_addB: available indexing.index_select: available sp24.sparse24_sparsify_both_ways: available sp24.sparse24_apply: available sp24.sparse24_apply_dense_output: available sp24._sparse24_gemm: available sp24._cslt_sparse_mm_search@0.7.1: available sp24._cslt_sparse_mm@0.7.1: available is_triton_available: True pytorch.version: 2.9.1+cu128 pytorch.cuda: available gpu.compute_capability: 12.0 gpu.name: NVIDIA RTX PRO 6000 Blackwell Workstation Edition dcgm_profiler: unavailable build.info: available build.cuda_version: 1208 build.hip_version: None build.python_version: 3.12.12 build.torch_version: 2.9.1+cu128 build.env.TORCH_CUDA_ARCH_LIST: 8.9;12.0 build.env.PYTORCH_ROCM_ARCH: None build.env.XFORMERS_BUILD_TYPE: None build.env.XFORMERS_ENABLE_DEBUG_ASSERTIONS: None build.env.NVCC_FLAGS: None build.env.XFORMERS_PACKAGE_FROM: None build.nvcc_version: 12.8.93 source.privacy: open source

I have an RTX 5060 Ti and I get the same but it is pretty much expected.

These 3 are relevant, I believe, only if you have an AMD GPU (if I'm not mistaken):

memory_efficient_attention.ckF: unavailable
memory_efficient_attention.ckB: unavailable
memory_efficient_attention.ck_splitKF: unavailable

Flash attention 3 probably works only on Hopper arch:

memory_efficient_attention.fa3F@0.0.0: unavailable
memory_efficient_attention.fa3B@0.0.0: unavailable
memory_efficient_attention.fa3F_splitKV@0.0.0: unavailable

Only these 2 features I have no idea why are always disabled in my builds too, in spite of "blackwell" being there in the names:

memory_efficient_attention.cutlassF-blackwell: unavailable
memory_efficient_attention.cutlassB-blackwell: unavailable

[Yifo98]

步骤一：修改dispatch.py
找到........\python_embeded\Lib\site-packages\xformers\ops\fmha\dispatch.py这个文件；点击进去第19行修改成：_USE_FLASH_ATTENTION_3 = False；
步骤二：修改cutlass.py 、common.py；
- RTX 5080显卡计算能力：(12, 0)
- xformers限制：CUDA_MAXIMUM_COMPUTE_CAPABILITY = (9, 0)
- GPU太新，超出了库的硬件支持范围
（1）如何查询自己显卡计算能力，cmd运行以下命令
nvidia-smi --query-gpu=name,compute_cap --format=csv
（2）修改1：cutlass.py 第170行。将GPU支持上限从RTX 30系列扩展到RTX 50系列
修改前： CUDA_MAXIMUM_COMPUTE_CAPABILITY = (9, 0)
修改后：CUDA_MAXIMUM_COMPUTE_CAPABILITY = (12, 9)
（3）修改2：common.py 第471行。 目的：修复错误信息，正确显示最高能力要求而非最低能力要求（记得要英文符号输入字符）
修改前： f"requires device with capability < {cls.CUDA_MINIMUM_COMPUTE_CAPABILITY} "
修改后： f"requires device with capability <= {cls.CUDA_MAXIMUM_COMPUTE_CAPABILITY} "

步骤一：作用：强行关掉 Flash-Attention v3，让 xformers 不再尝试用 FA3 kernel，改去用 FA2 / cutlass 等别的实现。

• 这一招本身是 安全的、合理的，GitHub 上也有人专门建议关闭 FA3 来规避各种 bug
• 副作用只有一个：少了 FA3 的那点加速（在你这种新卡上，本来也跑不起来，还报错…
  步骤二：
  （2）作用： xformers 原本的逻辑是：只有 GPU算力 <= 9.0 才认为 cutlass 这个 kernel “支持”；你的卡是 (12, 0)，所以被判定为 “太新、不支持”。你把最大算力改到 (12, 9)，就是在跟 xformers 说：“别瞎说了，9.0 以上到 12.9 都给我当成支持。”
  几点现实判断：
• NVIDIA 的 PTX 一般是向前兼容的：
  为 8.x / 9.x 编的 PTX，在 12.x GPU 上通常还能 JIT 成机器码跑起来。
• xformers 把上限写成 (9, 0) 很大程度上是“没测过 / 不敢保证，所以先锁死”，而不一定是真的跑不了。
• 所以这个修改本质是：绕过“过于保守的检查”，让 kernel 在 50 系 / 算力 12.0 上也试着跑。
  这属于野路子但常见的野路子：- 成功的话：报错消失、注意力加速正常用；- 失败的话：要么重新报 CUDA 错、要么直接崩，极端情况下可能出现数值异常（画图就是出怪图，训练就更不建议这么干）。
  👉 结论：可以当作临时 workaround，用在 ComfyUI / 出图场景问题不大，但不算“官方正确做法”。
  （3）作用：只是把错误提示里的文案改正确——原来那句提示写反了（用 MINIMUM），所以才会出现你截图里那种怪话：requires device with capability < (5, 0) but your GPU has capability (12, 0) (too new)逻辑真正用来判断的是 MIN / MAX 数值本身，这一行只是 显示信息，不影响实质行为。
  👉 这一步纯粹是“修文案”，干不干都行，干了更不误导人。

[lixida123]

步骤一：修改 dispatch.py 找到........\python_embeded\Lib\site-packages\xformers\ops\fmha\dispatch.py 这个文件;点击进去第19行修改成：_USE_FLASH_ATTENTION_3 = False; 步骤二：修改 cutlass.py 、common.py; - RTX 5080显卡计算能力：（12， 0） - xformers限制：CUDA_MAXIMUM_COMPUTE_CAPABILITY = （9， 0） - GPU太新，超出了库的硬件支持范围 （1）如何查询自己显卡计算能力，cmd运行以下命令 nvidia-smi --query-gpu=name，compute_cap --format=csv （2）修改1:cutlass.py 第170行。将GPU支持上限从RTX 30系列扩展到RTX 50系列 修改前： CUDA_MAXIMUM_COMPUTE_CAPABILITY = （9， 0） 修改后：CUDA_MAXIMUM_COMPUTE_CAPABILITY = （12， 9） （3）修改2:common.py 第471行。目的：修复错误信息，正确显示最高能力要求而非最低能力要求（记得要英文符号输入字符） 修改前： f“需要具能力的设备 <{cls.CUDA_MINIMUM_COMPUTE_CAPABILITY} “ 修改后： f”需要具备能力 <= {cls.CUDA_MAXIMUM_COMPUTE_CAPABILITY}”

步骤一：作用：强行关掉 Flash-Attention v3，让 xformers 不再尝试用 FA3 kernel，改去用 FA2 / cutlass 等别的实现。

• 这一招本身是 安全的、合理的，GitHub 上也有人专门建议关闭 FA3 来规避各种 bug
• 副作用只有一个：少了 FA3 的那点加速（在你这种新卡上，本来也跑不起来，还报错… 步骤二： （2）作用： xformers 原本的逻辑是：只有 GPU算力 <= 9.0 才认为 cutlass 这个 kernel “支持”;你的卡是 （12， 0），所以被判定为 “太新、不支持”。你把最大算力改到 （12， 9），就是在跟 xformers 说：“别瞎说了，9.0 以上到 12.9 都给我当成支持。“ 几点现实判断：
• NVIDIA 的 PTX 一般是向前兼容的：
  为 8.x / 9.x 编的 PTX，在 12.x GPU 上通常还能 JIT 成机器码跑起来。
• xformers 把上限写成 （9， 0） 很大程度上是“没测过 / 不敢保证，所以先锁死”，而不一定是真的跑不了。
• 所以这个修改本质是：绕过“过于保守的检查”，让 kernel 在 50 系 / 算力 12.0 上也试着跑。 这属于野路子但常见的野路子：- 成功的话：报错消失、注意力加速正常用；- 失败的话：要么重新报 CUDA 错、要么直接崩，极端情况下可能出现数值异常（画图就是出怪图，训练就更不建议这么干）。 👉 结论：可以当作临时 workaround，用在 ComfyUI / 出图场景问题不大，但不算“官方正确做法”。 （3）作用：只是把错误提示里的文案改正确——原来那句提示写反了（用 MINIMUM），所以才会出现你截图里那种怪话：需要具备能力< （5， 0） 但你的 GPU 有能力 （12， 0） （太新）逻辑真正用来判断的是 MIN / MAX 数值本身，这一行只是显示信息，不影响实质行为。 👉 这一步纯粹是“修文案”，干不干都行，干了更不误导人。

Thank you for your answer. xformers no longer report errors, but in actual tests, comfyui is not as fast as SDP after running graphs