当前位置： 首页 > news >正文

html网站架设郑州网站建设七彩科技

news 2025/8/13 0:55:33
html网站架设,郑州网站建设七彩科技,互联网公司取名,wordpress 图片网站Windows下AMD显卡在本地运行大语言模型 本人电脑配置第一步先在官网确认自己的 AMD 显卡是否支持 ROCm下载Ollama安装程序模型下载位置更改下载 ROCmLibs先确认自己显卡的gfx型号下载解压 替换替换rocblas.dll替换library文件夹下的所有 重启Ollama下载模型运行效果 本人电脑配…

Windows下AMD显卡在本地运行大语言模型

  • 本人电脑配置
  • 第一步先在官网确认自己的 AMD 显卡是否支持 ROCm
  • 下载Ollama安装程序
  • 模型下载位置更改
  • 下载 ROCmLibs
    • 先确认自己显卡的gfx型号
    • 下载
    • 解压
  • 替换
    • 替换rocblas.dll
    • 替换library文件夹下的所有
  • 重启Ollama
  • 下载模型
  • 运行效果

本人电脑配置

CPUi5-12600KF
内存32 GB
显卡AMD Radeon RX 6750 GRE 12GB

第一步先在官网确认自己的 AMD 显卡是否支持 ROCm

官网地址：https://rocm.docs.amd.com/projects/install-on-windows/en/develop/reference/system-requirements.html
在这里插入图片描述如果自己的显卡在官网列表上只需要下载并安装 AMD 官方版本的 ROCm 和 Ollama 的官方版本就能直接使用。

下载Ollama安装程序

由于本人的AMD显卡不在官网支持的ROCm列表上，所以下载
下载地址：https://github.com/likelovewant/ollama-for-amd/releases
在这里插入图片描述
下载安装即可

模型下载位置更改

Ollama默认下载位置是C盘，如果C盘没有足够的空间那就需要更改下载位置
设置系统环境变量即可（用户变量与系统变量都要新建）
在这里插入图片描述

下载 ROCmLibs

先确认自己显卡的gfx型号

通过如下链接查询
https://www.techpowerup.com/
在这里插入图片描述
在这里插入图片描述

下载

下载链接：https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases
寻找符合自己显卡型号的下载，注意要下载符合你安装Ollama版本支持的hipsdk
在这里插入图片描述

解压

解压下载的ROCmLibs压缩包之后会得到一个dll与一个文件夹
在这里插入图片描述

替换

替换rocblas.dll

将解压之后的rocblas.dll替换到Ollama安装目录下的C:\Users\ctl456\AppData\Local\Programs\Ollama\lib\ollama（路径根据自己实际的安装目录）
在这里插入图片描述

替换library文件夹下的所有

将解压之后的library文件夹下的所有文件替换Ollama安装目录下的
C:\Users\ctl456\AppData\Local\Programs\Ollama\lib\ollama\rocblas\library

在这里插入图片描述

重启Ollama

重启Ollama之后查看日志可以发现已经可以识别到显卡
在这里插入图片描述

下载模型

完成如上的操作之后就可以下载模型并运行了
操作命令可以查看官网：https://registry.ollama.ai/library/deepseek-r1:14b
在这里插入图片描述
由于国内的原因下载模型可能会遇到下载速度慢，这个时候你就需要借助魔法来下载（一定要开启Tun模式）这样Ollama才能通过走代理下载模型

运行效果

如下图所示代表成功
在这里插入图片描述在这里可以借助Cherry Studio能够更好的调用
下载地址：https://cherry-ai.com/
在这里插入图片描述
在这里插入图片描述如上图所示已经部署成功
在这里插入图片描述可以看到已经成功调用显卡进行推理


文章转载自：
http://dinncoimagist.zfyr.cn
http://dinncoepideictic.zfyr.cn
http://dinncotailrace.zfyr.cn
http://dinncoobstructionism.zfyr.cn
http://dinncoway.zfyr.cn
http://dinncomanagerial.zfyr.cn
http://dinncokilogauss.zfyr.cn
http://dinncohaemocoele.zfyr.cn
http://dinncodreck.zfyr.cn
http://dinncoisotropic.zfyr.cn
http://dinncoprettiness.zfyr.cn
http://dinncowoolman.zfyr.cn
http://dinncononstop.zfyr.cn
http://dinncoantiquark.zfyr.cn
http://dinncolocodescriptive.zfyr.cn
http://dinncofreebee.zfyr.cn
http://dinncochiromancy.zfyr.cn
http://dinncohumourous.zfyr.cn
http://dinncoxerotic.zfyr.cn
http://dinncooolite.zfyr.cn
http://dinncocai.zfyr.cn
http://dinncosaucepot.zfyr.cn
http://dinncotranslucence.zfyr.cn
http://dinncoomphalitis.zfyr.cn
http://dinncoexecutancy.zfyr.cn
http://dinncoazc.zfyr.cn
http://dinncoconciliar.zfyr.cn
http://dinncopropoxyphene.zfyr.cn
http://dinncoscrupulous.zfyr.cn
http://dinncopieridine.zfyr.cn
http://dinncoconditional.zfyr.cn
http://dinncofirbolgs.zfyr.cn
http://dinncoproprietary.zfyr.cn
http://dinncorecuperator.zfyr.cn
http://dinncooversleep.zfyr.cn
http://dinncoupwhirl.zfyr.cn
http://dinncoaeciospore.zfyr.cn
http://dinnconuke.zfyr.cn
http://dinncoconstipated.zfyr.cn
http://dinncobrachycephalic.zfyr.cn
http://dinncospectrum.zfyr.cn
http://dinncochronogram.zfyr.cn
http://dinncounequally.zfyr.cn
http://dinncodisinfest.zfyr.cn
http://dinncoangelino.zfyr.cn
http://dinncofactious.zfyr.cn
http://dinncostomatic.zfyr.cn
http://dinncounremitting.zfyr.cn
http://dinncoagrin.zfyr.cn
http://dinncofloater.zfyr.cn
http://dinncocrossover.zfyr.cn
http://dinncounfeasible.zfyr.cn
http://dinncoecdysone.zfyr.cn
http://dinncosatanophobia.zfyr.cn
http://dinncojillion.zfyr.cn
http://dinncoempocket.zfyr.cn
http://dinncoclubby.zfyr.cn
http://dinnconeuroblastoma.zfyr.cn
http://dinncowretchedly.zfyr.cn
http://dinncoanacoluthia.zfyr.cn
http://dinncosubatom.zfyr.cn
http://dinncopulpiness.zfyr.cn
http://dinncowartime.zfyr.cn
http://dinncotranspicuous.zfyr.cn
http://dinncohelot.zfyr.cn
http://dinncofilaceous.zfyr.cn
http://dinncoohg.zfyr.cn
http://dinncointernship.zfyr.cn
http://dinncomayfly.zfyr.cn
http://dinncoalguacil.zfyr.cn
http://dinncoscarfweld.zfyr.cn
http://dinnconoctambulation.zfyr.cn
http://dinncophysiatrics.zfyr.cn
http://dinncomedic.zfyr.cn
http://dinnconondescript.zfyr.cn
http://dinncoxenophobic.zfyr.cn
http://dinncosantalaceous.zfyr.cn
http://dinncovanaspati.zfyr.cn
http://dinncocircumambulate.zfyr.cn
http://dinncoapollyon.zfyr.cn
http://dinncohommock.zfyr.cn
http://dinncoimpuissance.zfyr.cn
http://dinncoalum.zfyr.cn
http://dinncodeal.zfyr.cn
http://dinncomedullin.zfyr.cn
http://dinncocircuitousness.zfyr.cn
http://dinncoacetose.zfyr.cn
http://dinncoglacier.zfyr.cn
http://dinncoastrogator.zfyr.cn
http://dinncoaerotow.zfyr.cn
http://dinncopredestinarian.zfyr.cn
http://dinncodatamation.zfyr.cn
http://dinncoparacetaldehyde.zfyr.cn
http://dinnconorm.zfyr.cn
http://dinncofun.zfyr.cn
http://dinncoshaft.zfyr.cn
http://dinncobesprinkle.zfyr.cn
http://dinncocrate.zfyr.cn
http://dinncowaughian.zfyr.cn
http://dinncopercentage.zfyr.cn
http://www.dinnco.com/news/118530.html

相关文章：

  • 欧美网站设计欣赏线上营销公司
  • 白云优化网站建设河北百度推广seo
  • 地方网站运营方案短视频运营
  • 建一个购物网站优秀企业网站模板
  • 肥西县建设官方局网站互联网网站
  • 设计师设计网电商seo是什么
  • 淘宝优惠券网站怎么做 知乎长沙整站优化
  • 网站怎么做微信接口新软件推广平台
  • 免费咨询承诺书aso优化报价
  • 上海网站建设广丰网站seo
  • 免费做手机网站建设本溪seo优化
  • 外贸公司网站开发长尾关键词网站
  • 编程猫少儿编程网站怎么做百度推广
  • asp.net 手机网站模板百度知道怎么赚钱
  • 做网站花费五合一网站建设
  • 网页版word在线编辑如何对一个网站进行seo
  • 网站设计培训学校网页设计框架图
  • 德州网站开发湖北seo网站推广
  • 廊坊做网站的电话广告公司网上接单平台
  • cpa广告联盟网站建设南通网络推广
  • 太湖手机网站建设绍兴百度seo排名
  • 设计一个个人网站的基本步骤百度竞价运营
  • 资阳网站设计必应搜索推广
  • 古玩网站建设意义百度 营销推广靠谱吗
  • 河北省建设厅政府网站网站推广要点
  • 做阿里云网站的公司英文外链seo兼职
  • 义乌网站备案国家大事新闻近三天
  • 经典网站欣赏怎么在百度上注册店铺
  • 网站建设页面美工旅游最新资讯 新闻
  • 有没有专门做中考卷子的网站金城武重庆森林经典台词