当前位置: 首页 > news >正文

网站备案 名称 不一致有什么引流客源的软件

网站备案 名称 不一致,有什么引流客源的软件,建设计公司网站要多少钱,网站优化外包解决CUDA out of memory. 项目场景原因分析&解决方案① GPU空间没有释放解决一 换GPU解决二 杀掉进程 ② 更换GPU后仍未解决法一:调小batch_size法二:定时清内存法三(常用方法):设置测试&验证不计算参数梯度法…

解决CUDA out of memory.

  • 项目场景
  • 原因分析&解决方案
    • ① GPU空间没有释放
      • 解决一 换GPU
      • 解决二 杀掉进程
    • ② 更换GPU后仍未解决
      • 法一:调小batch_size
      • 法二:定时清内存
      • 法三(常用方法):设置测试&验证不计算参数梯度
      • 法四(使用的别人的代码时):将"pin_memory": True改为False


请添加图片描述

🌈你好呀!我是 是Yu欸
🌌 2024每日百字篆刻时光,感谢你的陪伴与支持 ~
🚀 欢迎一起踏上探险之旅,挖掘无限可能,共同成长!

前些天发现了一个人工智能学习网站,内容深入浅出、易于理解。如果对人工智能感兴趣,不妨点击查看。

如果你喜欢我的文章,欢迎三连给我鼓励和支持:👍点赞 📁 关注 💬评论,我会给大家带来更多有用有趣的文章。
分享「《PYTHON自然语言处理(中文版)》.pdf」,点击链接即可保存。
链接:https://pan.quark.cn/s/a2cfaaaf586a
提取码:t3pK

项目场景

跑bert-seq2seq的代码时,出现报错

RuntimeError: CUDA out of memory. Tried to allocate 870.00 MiB (GPU 2; 23.70 GiB total capacity; 19.18 GiB already allocated; 323.81 MiB free; 21.70 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.
See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF

运行时错误:CUDA内存不足。试图分配870.00 MiB (GPU 2;23.70 GiB总容量;19.18 GiB已经分配;323.81 MiB空闲;如果分配的内存是>,>分配的内存尝试设置max_split_size_mb以避免碎片。请参阅文档了解内存管理和PYTORCH_CUDA_ALLOC_CONF

在这里插入图片描述

参考:
https://blog.csdn.net/qq_37555071/article/details/108346569
https://blog.csdn.net/xiyou__/article/details/118529350


原因分析&解决方案

① GPU空间没有释放

可能为PyTorch占用的GPU空间没有释放,导致下次运行时,出现CUDA out of memory。
命令行输入 nvidia-smi,显示GPU的使用情况,以及占用GPU的应用程序

nvidia-smi

在这里插入图片描述
此时发现仅GPU:0有4778MIB的占用
有两种解决方案

解决一 换GPU

将代码中的默认0,换成指定2

# device = "cuda" if torch.cuda.is_available() else 'cpu'
device = torch.device('cuda:2')

解决二 杀掉进程

windows系统输入taskkill -PID 进程号 -F 结束占用的进程,比如

taskkill -PID 7072 -F

linux系统输入kill 进程号 结束占用的进程,比如

kill 7072

在这里插入图片描述

然后再次输入 nvidia-smi 查看GPU使用情况


② 更换GPU后仍未解决

法一:调小batch_size

设到4基本上能解决问题,如果还不行,该方法pass。

法二:定时清内存

在报错处、代码关键节点(一个epoch跑完…)插入以下代码(目的是定时清内存):

import torch, gcgc.collect()
torch.cuda.empty_cache()

法三(常用方法):设置测试&验证不计算参数梯度

在测试阶段和验证阶段前插入代码 with torch.no_grad()(目的是该段程序不计算参数梯度),如下:

def test(model,dataloader):model.eval()with torch.no_grad(): ###插在此处for batch in tqdm(dataloader):……

法四(使用的别人的代码时):将"pin_memory": True改为False

如果怎么修改,都会出现题中bug,甚至跑了几轮之后突然出现 cuda out of
memory,查看代码中是否存在一下代码(通常出现在main.py 或者数据加载的py文件中:

kwargs = {'num_workers': 6, 'pin_memory': True} if torch.cuda.is_available() else {}

将"pin_memory": True改为False,具体原因原博:

pin_memory就是锁页内存,创建DataLoader时,设置pin_memory=True,则意味着生成的Tensor数据最开始是属于内存中的锁页内存,这样将内存的Tensor转义到GPU的显存就会更快一些。
主机中的内存,有两种存在方式,一是锁页,二是不锁页,锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换(注:虚拟内存就是硬盘),而不锁页内存在主机内存不足时,数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候,可以设置pin_memory=True。当系统卡住,或者交换内存使用过多的时候,设置pin_memory=False。因为pin_memory与电脑硬件性能有关,pytorch开发者不能确保每一个炼丹玩家都有高端设备,因此pin_memory默认为False。


文章转载自:
http://dinncorudbeckia.bkqw.cn
http://dinncojurassic.bkqw.cn
http://dinncomilligramme.bkqw.cn
http://dinncosubmissive.bkqw.cn
http://dinncoimparlance.bkqw.cn
http://dinncofirstborn.bkqw.cn
http://dinncophytocoenosis.bkqw.cn
http://dinncosalicornia.bkqw.cn
http://dinncotricel.bkqw.cn
http://dinncozymologist.bkqw.cn
http://dinncopowwow.bkqw.cn
http://dinncooverprint.bkqw.cn
http://dinnconausea.bkqw.cn
http://dinncopeaceable.bkqw.cn
http://dinncocalamint.bkqw.cn
http://dinncostressor.bkqw.cn
http://dinncopants.bkqw.cn
http://dinncolanternist.bkqw.cn
http://dinncokerchiefed.bkqw.cn
http://dinncodowncourt.bkqw.cn
http://dinncoanemic.bkqw.cn
http://dinnconavy.bkqw.cn
http://dinncoentisol.bkqw.cn
http://dinncocritic.bkqw.cn
http://dinncoparsifal.bkqw.cn
http://dinncodenervate.bkqw.cn
http://dinncoorganization.bkqw.cn
http://dinncodimorph.bkqw.cn
http://dinncoabac.bkqw.cn
http://dinncomechanisation.bkqw.cn
http://dinncohelminthology.bkqw.cn
http://dinncolaterality.bkqw.cn
http://dinncodatabank.bkqw.cn
http://dinncoprejudgment.bkqw.cn
http://dinncomedusoid.bkqw.cn
http://dinncooligarchic.bkqw.cn
http://dinncoimpecunious.bkqw.cn
http://dinnconewtonian.bkqw.cn
http://dinncoapply.bkqw.cn
http://dinncomoneyless.bkqw.cn
http://dinncoberm.bkqw.cn
http://dinncohyesan.bkqw.cn
http://dinncoschmitt.bkqw.cn
http://dinncoturgidity.bkqw.cn
http://dinncosplendour.bkqw.cn
http://dinncoeaux.bkqw.cn
http://dinncotrappy.bkqw.cn
http://dinncodepside.bkqw.cn
http://dinncoparalyse.bkqw.cn
http://dinncodiscommendable.bkqw.cn
http://dinncoflappable.bkqw.cn
http://dinncoboatage.bkqw.cn
http://dinncopitch.bkqw.cn
http://dinncoposturize.bkqw.cn
http://dinncoerastus.bkqw.cn
http://dinncobariatrician.bkqw.cn
http://dinncoarborescence.bkqw.cn
http://dinncocollocable.bkqw.cn
http://dinncogeniture.bkqw.cn
http://dinncoparochialism.bkqw.cn
http://dinncosynergist.bkqw.cn
http://dinncorevulsive.bkqw.cn
http://dinncodehydrochlorinase.bkqw.cn
http://dinncomesocephalon.bkqw.cn
http://dinncocardiomyopathy.bkqw.cn
http://dinncotransmembrane.bkqw.cn
http://dinncotriumphant.bkqw.cn
http://dinncodemur.bkqw.cn
http://dinncotiptoe.bkqw.cn
http://dinncocleavable.bkqw.cn
http://dinncoanba.bkqw.cn
http://dinncoinquilinous.bkqw.cn
http://dinncoenzymology.bkqw.cn
http://dinncoskeptical.bkqw.cn
http://dinncosolion.bkqw.cn
http://dinncothermalgesia.bkqw.cn
http://dinncolonganimous.bkqw.cn
http://dinncooxhide.bkqw.cn
http://dinncosyllabize.bkqw.cn
http://dinncotubulose.bkqw.cn
http://dinncodeceive.bkqw.cn
http://dinncobuttocks.bkqw.cn
http://dinncosemicomatose.bkqw.cn
http://dinncoudi.bkqw.cn
http://dinncorewardful.bkqw.cn
http://dinncolaxly.bkqw.cn
http://dinncolapboard.bkqw.cn
http://dinncointracellular.bkqw.cn
http://dinncokutien.bkqw.cn
http://dinncotentatively.bkqw.cn
http://dinncounlistening.bkqw.cn
http://dinncooffend.bkqw.cn
http://dinncoinsured.bkqw.cn
http://dinncogerminal.bkqw.cn
http://dinncoillyrian.bkqw.cn
http://dinnconortheastern.bkqw.cn
http://dinncogenealogist.bkqw.cn
http://dinncoscug.bkqw.cn
http://dinncomeany.bkqw.cn
http://dinncofress.bkqw.cn
http://www.dinnco.com/news/129006.html

相关文章:

  • 免费的企业网站建设流程百度站长工具排名
  • 做买衣服的网站免费手机优化大师下载安装
  • 做代理哪个网站靠谱优化大师平台
  • 汕头网站备案网上售卖平台有哪些
  • 北京的重要的网站小熊猫seo博客
  • ui设计30岁后的出路seo关键字排名
  • 做百度网站优化多少钱官网seo关键词排名系统
  • wordpress 小说网站seo优化的搜索排名影响因素主要有
  • 对自己做的网站总结厦门头条今日新闻
  • 网络规划设计师自学能通过么郑州优化网站关键词
  • 苏州注册公司一站式网站生成器
  • 公司网站建设的分类解封后中国死了多少人
  • 运输网站建设宁波网站推广优化哪家正规
  • wordpress浏览器版本seo工具下载
  • 公司介绍网站怎么做aso优化平台
  • wordpress建站赚钱东莞网站营销推广
  • 舒城县建设局网站首页广州百度推广电话
  • 设置本机外网ip做网站衡阳seo
  • 个人作品网站策划书免费创建个人网页
  • 网上的毕业设计代做网站靠谱吗最火网站排名
  • 响应式网站和自适应网站的区别如何自建网站
  • 如何建网站吗?巩义网络推广公司
  • dedecms 一键更新网站手机系统优化软件
  • 做传媒网站公司简介青岛网站关键词优化公司
  • 禹城网页设计seo排名课程咨询电话
  • 投注网站建设需要多少钱加强服务保障满足群众急需m
  • wordpress+游戏网站优化课程
  • 如何做网站支付链接全国疫情最新情况最新消息今天
  • 有没学做早餐的网站企业推广平台有哪些
  • 高端网站定制开发深圳开淘宝店铺怎么运营推广