当前位置: 首页 > news >正文

apache网站部署有域名了怎么建立网站

apache网站部署,有域名了怎么建立网站,深圳纯设计室内设计公司排名,java做网站编程6概述: 本文介绍用Open webui ollama搭建一套Deepseek推理服务,可以在web页面上直接进行对话。作为体验搭建的是Deepseek 7b参数版本 首先选择一个云厂商创建一台ubuntu系统的虚拟机,带公网IP,通过shell登录虚拟机完成以下操作&…

概述:

本文介绍用Open webui + ollama搭建一套Deepseek推理服务,可以在web页面上直接进行对话。作为体验搭建的是Deepseek 7b参数版本

首先选择一个云厂商创建一台ubuntu系统的虚拟机,带公网IP,通过shell登录虚拟机完成以下操作;如果选择下通过docker安装,建议选择海外网络。

搭建方式一:docker搭建

安装docker:

sudo apt updatesudo apt-get install apt-transport-https ca-certificates curl software-properties-common lrzsz -ysudo curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -sudo add-apt-repository "deb [arch=amd64] https://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"sudo apt updatesudo apt-get install docker-ce -y

安装open webui

启动open webui

docker run --network host -d -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama 

如果虚机是带GPU的可以通过下面命令启动

docker run --network host -d --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

启动后可以通过docker ps 命令查看容器正常运行:

通过netstate -natp查看监听端口:

设置云平台安全组放通8080端口

启动过程会自动下载一些文件,通过命令docker logs open-webui -f 查看启动日志,等文件下载完即可通过:http://虚机ip:8080访问webui

第一次登录,根据自己情况输入名称,邮箱,密码完成本地注册

从选择模型下拉框中输入“deepseek-r1:7b” 进行下载,或者登录Ollama.com查找自己想要的模型

等模型下载完就可以进行对话,由于最近deepseek火热,模型下载速度很慢需要1-4个小时

搭建方式二:安装命令安装

 

sudo -i#安装conda
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.shbash Miniconda3-latest-Linux-x86_64.sh#创建python 3.11环境
export PATH=/root/miniconda3/bin:$PATHconda create -n py311 python=3.11 -ysource activate py311#安装ollama
curl -fsSL https://ollama.com/install.sh | sh#安装open webui
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip3 install open-webui#启动ollama
nohup ollama serve |tee ./ollama.log &#启动open webui
nohup open-webui serve --port 8080|tee ./webui.log 2>&1 &

可以通过tail -f webui.log 查看open webui启动日志,启动过程会自动下载一些文件,通过看日志确认文件下载完便可以通过8080端口访问,后续步骤如方式一

http://www.dinnco.com/news/25757.html

相关文章:

  • 建程网客服电话多少网站建设公司seo关键词
  • 武汉专业做网站的公司竞价排名点击器
  • 芜湖做网站推广有哪些公司聊城seo整站优化报价
  • 专业做网站的公司保定大数据营销名词解释
  • 怎么做淘宝客网站和APP互联网营销师证书
  • 网站建设下什么费用国外推广都是怎么推广
  • asp微信网站什么是核心关键词
  • 儿童个人网站模板广州疫情升级
  • 学会建网站如何做网络营销百度投诉中心24人工客服电话
  • 网站建设开票开什么内容网页设计论文
  • 提供网站建设运营公司资质营销推广有哪些公司
  • wordpress类百度地图排名怎么优化
  • 网站资料如何做脚注100种找客户的方法
  • 网站制作书籍推荐2021年十大热点事件
  • 行业门户型网站制作新乡百度网站优化排名
  • 国外seo网站电商平台怎么运营的
  • 灵璧哪有做网站的seo平台怎么样
  • vi设计网站排行榜谷歌网站推广优化
  • 网站开发人员需要具备的能力2345网址导航官网下载安装
  • 北京网站关键词排名推广怎么做营销推广方案
  • 网站建设是什么软件抖音怎么推广
  • 网页制作网站制作步骤奶糖 seo 博客
  • 温州网站建设哪家好百度联盟广告点击一次收益
  • 国内外网站开发的现状柳市网站制作
  • 做胎压的网站seo优化资源
  • 教育培训网站源码 模板 php培训机构网站源码培训学校网站源码企业网站是什么
  • 网站开发工程师面试试题googlechrome
  • php smarty 网站源码百度销售
  • 网店设计公司优化推广网站排名
  • 邯郸做网站的搜索引擎排名原理