Skip to content

[BUG] 不支持vllm本地部署的API服务 #2691

@wikithink

Description

@wikithink

Bug Description
不支持vllm本地部署的API服务。增加模型时,填写好ip和端口、key之后,点击“检查”按钮,报错“Direct IP access not allowed”
而我本地使用curl请求同样的API完全没有问题。

Image

其他上下文
chatbox版本:1.16.4
vllm版本:0.9.2
操作系统:win10

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions