品牌网站建是啥重庆seo推广公司

Ollama

1、安装ollama

Windows版本下载：2024WindowsOllama最新0.5.4版本资源-CSDN文库, 下载速度超快，官网太慢了

双击安装，安装成功后，托盘区有Ollama图标

右键View logs打开目录

C:\Users\Administrator\AppData\Local\Ollama

Ollama安装位置并添加环境变量

C:\Users\Administrator\AppData\Local\Programs\Ollama

Ollama app: C:\Users\Administrator\AppData\Local\Programs\Ollama\ollama app.exe

2、修改Ollama监听端口

如修改为8000，不修改其他机器无法访问，因为Ollama默认绑定localhost或者127.0.0.1

先结束托盘区的Ollama, 再添加环境变量OLLAMA_HOST为:18000

Windows开放8000端口访问或者关闭防火墙

netsh advfirewall set allprofiles state off

测试Ollama在运行

http://192.168.146.101:18000

3、ollama拉取镜像

ollama pull snowflake-arctic-embed2:latest
ollama pull bge-m3:latest
ollama pull qwen2.5:7b
ollama pull glm4:9b
ollama pull llama2-chinese:7b
ollama pull llama3.2:3b

4、ollama查看镜像

5、ollama部署web-ui

git clone https://github.com/open-webui/open-webui.git
cd open-webui
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://192.168.1.17:50080 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Dify

1、安装部署Dify

# 下载源码
git clone https://gitee.com/liuchuangjun/dify.git

（注意gitee中代码最新为0.6.11， 不支持chatflow）

需要去github上下载源码

https://github.com/langgenius/dify.git

cd dify
# 安装运行docker compose
cd docker
docker compose up -d

（如果失败则单独拉取镜像

docker pull langgenius/dify-api:0.6.11

docker pull langgenius/dify-web:0.6.11

docker pull langgenius/dify-sandbox:0.2.1

docker pull semitechnologies/weaviate:1.19.0

）
#  注册管理员账号
http://192.168.1.39/install 

2、添加成员