景区网站建设 现状,wordpress简历模板,重庆市建设工程造价站,互联网保险中介平台说起来这个问题真实让人无语。按照我之前说过的方法#xff1a;设置Ollama在局域网中访问的方法#xff08;Ubuntu#xff09;_ollama 局域网访问-CSDN博客
把Ollama的默认端口修改后#xff0c;如果再运行#xff1a;
ollama ps
则会报下面的错#xff1a;
Error: c…说起来这个问题真实让人无语。按照我之前说过的方法设置Ollama在局域网中访问的方法Ubuntu_ollama 局域网访问-CSDN博客
把Ollama的默认端口修改后如果再运行
ollama ps
则会报下面的错
Error: could not connect to ollama app, is it running?
感觉似乎是没有运行一样运行ollama list也是一样的结果但是如果查看服务的状态
sudo systemctl status ollama
可以看到服务是active的。百思不得其解以为是ollama的bug结果在这里看到
https://github.com/ollama/ollama/issues/2928
原来改过端口之后要加端口号才能正常运行命令
OLLAMA_HOST127.0.0.1:10001 ollama listOLLAMA_HOST127.0.0.1:10001 ollama psOLLAMA_HOST127.0.0.1:10001 ollama run qwen2:72b
我这里对应的.service文件是这样
[Unit]
DescriptionOllama Service
Afternetwork-online.target[Service]
ExecStart/usr/local/bin/ollama serve
Userollama
Groupollama
Restartalways
RestartSec3
EnvironmentPATH/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/snap/bin
EnvironmentOLLAMA_HOST0.0.0.0:10001
EnvironmentOLLAMA_KEEP_ALIVE1h
EnvironmentOLLAMA_NUM_PARALLEL5[Install]
WantedBydefault.target
其实UserGroup之类的都不需要修改主要是要加上端口号才能正常运行。修改完.service文件需要重新启动一下服务我之前说的是重启操作系统效果是一样的
sudo systemctl daemon-reload
sudo systemctl restart ollama
另外修改并发数之后加载到GPU/CPU的模型大小也会发生变化
~$ OLLAMA_HOST127.0.0.1:10001 ollama ps
NAME ID SIZE PROCESSOR UNTIL
qwen2:72b 14066dfa503f 49 GB 5%/95% CPU/GPU 59 minutes from now
原本42GB的qwen2:72b变成49GB了interesting虽然大小只变化了一点但在CPU上之后速度慢了很多。
就简单总结这么多。
