Skip to content

Commit 78b6349

Browse files
committed
docs: synced via GitHub Actions
1 parent 8657eda commit 78b6349

File tree

4 files changed

+186
-121
lines changed

4 files changed

+186
-121
lines changed

src/dev-guide/ai/translate.md

Lines changed: 7 additions & 3 deletions
Original file line numberDiff line numberDiff line change
@@ -27,15 +27,19 @@ ollatel提供了简易的Ollama控制界面。
2727
在命令行中通过`ollama pull deepseek-r1:8b`下载deepseek模型。
2828

2929
### 修改输入和输出的最大token数
30-
ollama缺省的输入上下文长度是2048,对于比较长的输入提示来说会出现数据被截断的问题。可以创建一个名为`deepseek-32k.txt`的文件,其中增加num_ctx参数的配置
30+
ollama缺省的输入上下文长度是2048,对于比较长的输入提示来说会出现数据被截断的问题。
31+
可以在调用的时候传递`num_ctx`参数,也可以创建一个名为`deepseek-8b-8k.txt`的文件,其中增加num_ctx参数的配置
3132

3233
```
3334
FROM deepseek-r1:8b
3435
35-
PARAMETER num_ctx 32768
36+
PARAMETER num_ctx 8192
3637
PARAMETER num_predict -1
3738
```
3839

39-
然后执行 `ollama create deepseek-r1:8b-32k -f deepseek-32k.txt`来创建一个名为`deepseek-r1:8b-32k`的新的模型。
40+
然后执行 `ollama create deepseek-r1:8b-8k -f deepseek-8b-8k.txt`来创建一个名为`deepseek-r1:8b-8k`的新的模型。
41+
42+
扩大上下文长度后会导致运行时内存消耗变大。
43+
4044

4145

src/gpt/ollama/deepseek-8b-8k.txt

Lines changed: 4 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,4 @@
1+
FROM deepseek-r1:8b
2+
3+
PARAMETER num_ctx 8192
4+
PARAMETER num_predict -1

0 commit comments

Comments
 (0)