炼丹用显卡是买有锁3080ti还是a4000呢？

gx19860411 · 发表于 2021-12-9 11:27

3080ti显存12，位宽和带宽都比16G的a4000大，价格现在好像差不多，也到预算顶端了，该买哪个呢？
话说我看系统里性能里的共享gpu内存利用率一直为0，有什么办法让炼丹时把这部分给用上么？

QUI · 发表于 2021-12-9 16:12

看你炼什么了，我用rtx 5000的16G有时候都很吃紧

gx19860411 · 发表于 2021-12-9 16:41

QUI 发表于 2021-12-9 16:12
看你炼什么了，我用rtx 5000的16G有时候都很吃紧

后面可能往CV+NLP的方向继续学吧
我是刚学了ResNet，试着复现一个34层的，结果手上的P2000的5G显存就受不了了。但奇怪的是用官方的ResNet，能塞进101层的。但是看结构，同层数的竟然差不多。。。

Vicarious · 发表于 2021-12-9 17:35

还在学习阶段建议就先用colab（
一般来说不做三维、不跑特别大的模型的话，8到12G的显存就够了；
做三维很多时候2张24G的卡也不够

如果楼主是单纯想业余学一下的话，先嫖colab这种免费资源比较好，后面想玩一些生成模型、或者用放出来预训练权重的大模型再看具体需求；

如果是接下来准备从事科研/读研读博之类的，那建议找个有钱的组（笑

目前整个深度学习的趋势就是大模型、大数据、transformer统治一切了，找个有钱的组比啥都实在

—— 来自 Sony XQ-AT52, Android 11上的 S1Next-鹅版 v2.5.2-play

QUI · 发表于 2021-12-9 17:35

gx19860411 发表于 2021-12-9 16:41
后面可能往CV+NLP的方向继续学吧
我是刚学了ResNet，试着复现一个34层的，结果手上的P2000的5G显存就受不 ...

人家实现的时候都用的8×V100，CV多缝合点模块很容易10G往上了。NLP还有一堆超大参数量的东西

commanderyuri · 发表于 2021-12-9 17:48

提示: 作者被禁止或删除内容自动屏蔽

gx19860411 · 发表于 2021-12-9 18:30

其实我也是刚接触。深度学习在我专业还没什么应用，所以也不清楚该往哪个方向使劲。cv+nlp也是网友推荐的，说是前沿可以水论文

—— 来自 Xiaomi M2011K2C, Android 11上的 S1Next-鹅版 v2.5.2

燕山雪 · 发表于 2021-12-9 19:59

何凯明新出的mae号称**减小了训练复杂度（实际上也是如此），然后他写这篇文章大概花了8.3个tpu年的训练时间……你拿一张显卡想自己做点小项目练练手没问题，要靠它发有价值的论文大概是想多了……

Konayu · 发表于 2021-12-9 20:01

CV的话16G都经常不够用的

假侦探trap · 发表于 2021-12-9 20:35

搭车问一下colab付费版有人试过吗，值得买吗

坑狗madao · 发表于 2021-12-9 21:00

假侦探trap 发表于 2021-12-9 20:35
搭车问一下colab付费版有人试过吗，值得买吗

我前两天刚买了pro会员。

pro+实在是买不起，也不是买不起，就是不太舍得。

pro这两天用下来还行，比白嫖稳定多了。而且机器的RAM也大了不少。

不过我从来都只有P100用，V100没分配到过。

一个月10刀，对于工作的人来说不算什么，但是对学生来说可能还是会有点压力。

我自己是有一块3080ti、一块2080s、一块3060的，但我基本上还是主要用colab。毕竟P100锻炼一个月都不止60块钱。

而且很方便，随时随地都能用。上班没事干都可以调调程序。
还有很多其他的租用GPU的平台，按时间计费的，还有国内的一些平台，我就都没用过了，用过的大佬也可以推荐一下。

坑狗madao · 发表于 2021-12-9 21:01

gx19860411 发表于 2021-12-9 18:30
其实我也是刚接触。深度学习在我专业还没什么应用，所以也不清楚该往哪个方向使劲。cv+nlp也是网友推荐的， ...

敢问大佬什么专业？

gx19860411 · 发表于 2021-12-9 21:59

坑狗madao 发表于 2021-12-9 21:00
我前两天刚买了pro会员。

pro+实在是买不起，也不是买不起，就是不太舍得。

求问colab能用pytorch么？还有之前好像看到说容易断，不知道是怎么回事

—— 来自 Xiaomi M2011K2C, Android 11上的 S1Next-鹅版 v2.5.2

gx19860411 · 发表于 2021-12-9 22:03

坑狗madao 发表于 2021-12-9 21:01
敢问大佬什么专业？

城市规划…
相关专业土地方面好像有用深度学习模拟用地变化的，其他我专业好像没什么应用。

—— 来自 Xiaomi M2011K2C, Android 11上的 S1Next-鹅版 v2.5.2

坑狗madao · 发表于 2021-12-9 22:04

gx19860411 发表于 2021-12-9 21:59
求问colab能用pytorch么？还有之前好像看到说容易断，不知道是怎么回事

—— 来自 Xiaomi M2011K2C, And ...

应该是可以。但我目前是用tensorflow。我之前试过用清华的那个tianshou，那个好像就是用的pytorch。

你可以开个白嫖账号试试能不能用、好不好用。

坑狗madao · 发表于 2021-12-9 22:07

gx19860411 发表于 2021-12-9 22:03
城市规划…
相关专业土地方面好像有用深度学习模拟用地变化的，其他我专业好像没什么应用。

我就是现在研究的话不知道做什么方向、什么应用。

对于我这个外专业来讲，模拟用地变化，我感觉最难的还是获得数据，以及数据处理。。。

gx19860411 · 发表于 2021-12-9 22:45

坑狗madao 发表于 2021-12-9 22:07
我就是现在研究的话不知道做什么方向、什么应用。

对于我这个外专业来讲，模拟用地变化，我感觉最难的还 ...

我也是一样，所以现阶段还是多接触这一块，看看都能进去什么出来什么，然后再试着塞本专业的数据和场景。

—— 来自 Xiaomi M2011K2C, Android 11上的 S1Next-鹅版 v2.5.2

n.dante · 发表于 2021-12-9 22:50

个人不建议买显卡。租用云服务器划算得多。aws或者小供应商lambda cloud这种。按需租用，不存在硬件不够用的情况。而且比colab在配置，保存环境上更方便。

lvcha · 发表于 2021-12-9 23:53

提示: 作者被禁止或删除内容自动屏蔽

Neozero · 发表于 2021-12-10 04:14

提示: 作者被禁止或删除内容自动屏蔽

Redis · 发表于 2021-12-10 06:55

提示: 作者被禁止或删除内容自动屏蔽

gx19860411 · 发表于 2021-12-10 14:32

A4000丽台也卖完了，客服说让每星期问一次

—— 来自 Xiaomi M2011K2C, Android 11上的 S1Next-鹅版 v2.5.2

TonyKnight · 发表于 2021-12-10 14:40

城市规划专业？倒是知道计科有个研究方向是城市计算

whzfjk · 发表于 2021-12-10 23:04

提示: 作者被禁止或删除内容自动屏蔽

DENHJD · 发表于 2021-12-11 00:13

whzfjk 发表于 2021-12-10 23:04
有时候更劝退我的是几百GB的数据集和几百KB的网速

还有限流量的校园网

每次想拖数据集我都得拿块硬盘回家挂一夜，然后再拿回学校一点点传服务器上

		自动登录	找回密码
密码			立即注册

[硬件] 炼丹用显卡是买有锁3080ti还是a4000呢？

评分

commanderyuri commanderyuri 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2014-5-13 头像被屏蔽	发表于 2021-12-9 17:48 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

lvcha lvcha 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-6-22 头像被屏蔽	发表于 2021-12-9 23:53 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

Neozero Neozero 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-1-17 头像被屏蔽	发表于 2021-12-10 04:14 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

Redis Redis 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2013-11-27 头像被屏蔽	发表于 2021-12-10 06:55 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

whzfjk whzfjk 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2015-5-11 头像被屏蔽	发表于 2021-12-10 23:04 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报