Skip to content

视频infer不支持除了qwen系列的其他模型? #7558

@Asunatan

Description

@Asunatan

Describe the bug
使用infer命令,测试了lava和gemma3vision
swift infer
--model /home/user02/SCY/SonoVLM_V2/checkpoints/除了千问系列的其他
--stream true
--infer_backend pt
--max_new_tokens 2048

Image

报错:

Image Image

使用python代码也是一样,而且不抛出任何异常,如下:

Image

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions