ollama 默认绑定 127.0.0.1 。linux 下 docker 不支持 host.docker.internal. 当 ollama 绑定 0.0.0.0 后，ollama 可被其它人使用。
This topic created in 614 days ago, the information mentioned may be changed or developed.
 |
tributeMar 3, 2025
1
反代+basic auth
|
 |
layxyMar 3, 2025
2
如果是云服务，配置组策略，使用反代作为统一出入口
|
 |
luckycMar 3, 2025
3
既然是生产环境了, 就不要用 ollama 撒, 换成 vLLM
|
 |
TsubasaHanekawMar 3, 2025
4
套壳 openapi,就能有 apiKey 访问了
|
 |
npeMar 3, 2025
5
1.安全组
2.vpn |
 |
zhengfan2016Mar 3, 2025
6
你 vps 没防火墙？ vps 提供商没有防火墙？说实话，即然你 dify 和 ollama 都在同一台 vps 上，干嘛需要暴露端口出来
|
 |
NSAgoldMar 3, 2025 via Android
7
ollama 绑 0.0.0.0 防火墙拒绝非本机访问端口不就好了...
|
 |
jasonkayzkMar 3, 2025
8
跑 docker 里面不暴露端口、安全组也不开放。
dify 发布的 API 需要 token 才能调用。 |
 |
mmdsunMar 3, 2025 via iPhone
9
3 楼的 vLLM 部署
|
Select Language