ollama 大版本 0.10 发布,支持暴露网络和 UI 界面
简介
在
v0.9 大版本发布后
,ollama 又陆续发布了几个小版本 v0.9.1
~v0.9.6
,以及近期发布的v0.10.0
大版本 v0.10.0
发布的功能较少,而重要的特性发布在 v0.9.1。
v0.10.0
0.10 的改动如下:
ollama ps
支持显示 context 长度
$ ollama ps
NAME ID SIZE PROCESSOR CONTEXT UNTIL
deepseek-r1:7b 0a8c26691023 5.6 GB 100% GPU 4096 4 minutes from now
- 并行请求处理能力设置为 1
v0.9.1
- 新支持工具调用的模型
- DeepSeek-R1-2508 (671B model)
- Magistral
- 新版图形化界面,支持 Windows 和 MacOS
新特性
- 支持将 ollama api 地址安全暴露到局域网和公网
默认没有开启暴露 ollama 到网络时,lsof
命令看到 ollama 监听在localhost:11434
,只能本机访问。
$ lsof -i :11434
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
ollama 40567 geek 3u IPv4 0x62f76e6a7b5beca6 0t0 TCP localhost:11434 (LISTEN)
开启暴露 ollama 到网络后,ollama 监听在*:11434
,则可以局域网访问,如果你的 ollama 运行在公网,就能公网访问。
# geek @ geekMBP-5 in ~/.ollama [22:25:21]
$ lsof -i :11434
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
ollama 40671 geek 3u IPv6 0x761d41a6e1c8ab12 0t0 TCP *:11434 (LISTEN)
- 支持修改模型存储目录
从本机的设置页面看,默认模型目录是/Users/geek/.ollama/models
,可以点击Browser
设置自己的目录,该功能也方便我们迁移模型目录。
- 支持精简对话 UI
ollama 提供了精简的 UI 界面,可以选择模型、文本对话,支持的功能非常少,远不如 LobeChat。
而 v0.9.2
到 v0.9.6
,主要是修复 bug 和支持新的开源模型
Gemma 3n
总结
本次 ollama 发布 v0.10.0
非常值得升级,修复了很多 bug,改进了性能。最重要的是提供了 UI 节点和必要的设置,让用户可以选择是否暴露到公网、改动模型存储目录。