Skip to content

上下文太长的时候发送回答在 mobile 上会卡顿 #242

@allentofight

Description

@allentofight

升级到 16k 后,上下文确实长了,但如果上下文过长再问的话要卡顿挺久(可能在3~5s)才能发出问题

setStore("messageList", k => [
          ...k,
          {
            role: "user",
            content: inputValue
          }
        ])
        if (store.remainingToken < 0) {
          throw new Error(
            store.sessionSettings.continuousDialogue
              ? "本次对话过长,请清除之前部分对话或者缩短当前提问。"
              : "当前提问太长了,请缩短。"
          )
        }
        setStore("loading", true)
        controller = new AbortController()
        // 在关闭连续对话时,有效上下文只包含了锁定的对话。
        await fetchGPT(

测试发现在 await fetchGPT 前的 setStore("messageList" 卡顿过长时间

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions