AI炼丹术学习入门硬件咨询

droople · 发表于 2020-10-15 09:39

本帖最后由 droople 于 2020-10-15 10:07 编辑

想自学深度学习，现在手上有一台9700+2070+64g 蓝天笔记本，够学入门炼丹术了吗？

老黄的那个jetson Xavier nx 是学炼丹术用的吗？

谢谢

----发送自 Xiaomi POCO F2 Pro,Android 10

DeepFishing · 发表于 2020-10-15 09:57

jetson是部署用的，并不能跑训练，2070够了，主要是笔记本装Linux的体验比较拉跨

—— 来自 Sony H8296, Android 10上的 S1Next-鹅版 v2.2.0.1

66666 · 发表于 2020-10-15 10:08

提示: 作者被禁止或删除内容自动屏蔽

DENHJD · 发表于 2020-10-15 10:10

jetson是终端推理用的，跟学习炼丹没有联系
这笔记本完全够用，不过建议至少有个备用电脑，回头模型训练跑一两天，你急用电脑就没辙了

droople · 发表于 2020-10-15 10:10

DeepFishing 发表于 2020-10-15 09:57:16
jetson是部署用的，并不能跑训练，2070够了，主要是笔记本装Linux的体验比较拉跨

—— 来自 Sony H8296, A ...

的确，以前笔记本跑Linux都还可以，在这个蓝天上反而没跑起来

-- 来自有消息提醒的 Stage1官方 iOS客户端

droople · 发表于 2020-10-15 10:12

DENHJD 发表于 2020-10-15 10:10:41
jetson是终端推理用的，跟学习炼丹没有联系
这笔记本完全够用，不过建议至少有个备用电脑，回头模型训练跑 ...

那没事，我主用的电脑是核显小电脑

-- 来自能手机投票的 Stage1官方 iOS客户端

droople · 发表于 2020-10-15 10:15

66666 发表于 2020-10-15 10:08:16
1060入门都够了，真正需要大规模炼丹的可以用租云端GPU，现在有点商用的仙丹炼制成本都是上百万的，比挖矿 ...

商用炼丹都是做什么啊？视觉视频之类的吗？
我主要想做文本分析和数据分析，这个成本高吗？

-- 来自能手机投票的 Stage1官方 iOS客户端

DENHJD · 发表于 2020-10-15 10:19

droople 发表于 2020-10-15 10:12
那没事，我主用的电脑是核显小电脑

-- 来自能手机投票的 Stage1官方 iOS客户端 ...

那够了，装好ubuntu，部署好环境，跑大模型的时候做好散热就齐活了

droople · 发表于 2020-10-15 10:24

DENHJD 发表于 2020-10-15 10:19:10
那够了，装好ubuntu，部署好环境，跑大模型的时候做好散热就齐活了

那就太好了，p750的cpu散热不行，gpu还好，压得住

-- 来自能看大图的 Stage1官方 iOS客户端

66666 · 发表于 2020-10-15 10:36

提示: 作者被禁止或删除内容自动屏蔽

droople · 发表于 2020-10-15 10:44

本帖最后由 droople 于 2020-10-15 10:47 编辑

66666 发表于 2020-10-15 10:36:35
目前国内商用的大部分都集中在CV（图像处理），文本分析和数据分析更需要RAM对计算要求不是很大，但是如 ...

训练文本分析和数据分析需要多少内存啊？
我这边能用来训练的原始数据总量大概TB水平

-- 来自能看大图的 Stage1官方 iOS客户端

----发送自 Xiaomi POCO F2 Pro,Android 10

kurararara · 发表于 2020-10-15 11:12

不是很懂这个需求

如果只是学习的话随便一张GPU就够了
如果是是有什么项目需求的话，一般也不会在本地跑，笔记本就是个ssh客户端

droople · 发表于 2020-10-15 11:20

kurararara 发表于 2020-10-15 11:12:19
不是很懂这个需求
如果只是学习的话随便一张GPU就够了
如果是是有什么项目需求的话，一般也不会在本地跑， ...

都要用服务器跑吗？

-- 来自能搜索的 Stage1官方 iOS客户端

東京急行 · 发表于 2020-10-15 12:25

服务器上也是装的GPU啊，自己本机装GPU当然是最方便的了hhh
我觉得有条件的话选个显存大的，遇到复杂的的模型也不用慌hhh

lvcha · 发表于 2020-10-15 12:58

提示: 作者被禁止或删除内容自动屏蔽

lvcha · 发表于 2020-10-15 13:04

提示: 作者被禁止或删除内容自动屏蔽

kurararara · 发表于 2020-10-15 13:08

droople 发表于 2020-10-15 11:20
都要用服务器跑吗？ -- 来自能搜索的 Stage1官方 iOS客户端

看你需求吧，如果只是单纯的学习的话随便一张GPU就够了，当然显存越大跑得越快当然越好，但只是学习的话用些轻量化的模型也完全足够了......但是你又说有TB级的数据要跑......如果是做项目做工程的话我感觉至少至少都几个几十个GPU日起步了吧

Re.Troy · 发表于 2020-10-15 13:27

反正都跑不了Transformer

lvcha · 发表于 2020-10-15 13:32

提示: 作者被禁止或删除内容自动屏蔽

MakeLaugh · 发表于 2020-10-15 13:50

现在pytorch的多
只有多服务器分布式GPU跑的时候可能要花点时间调试
GPU最好还是都装在一台服务器里

droople · 发表于 2020-10-15 14:00

lvcha 发表于 2020-10-15 13:32:17
看你需求了。
普通人用用买个3080基本就够了。

2070够吗？只做文本和数据

-- 来自能看大图的 Stage1官方 iOS客户端

lvcha · 发表于 2020-10-15 14:35

提示: 作者被禁止或删除内容自动屏蔽

Neozero · 发表于 2020-10-15 15:24

提示: 作者被禁止或删除内容自动屏蔽

Linjiangzhu · 发表于 2020-10-15 15:55

TB级别的文字处理要买服务器跑。你要是只是业余用用教科书上的算法MB级别的就够，不用这么大训练集的。主要看你需求。

droople · 发表于 2020-10-15 17:14

Linjiangzhu 发表于 2020-10-15 15:55:27
TB级别的文字处理要买服务器跑。你要是只是业余用用教科书上的算法MB级别的就够，不用这么大训练集的。主要 ...

明白了,谢谢啦，tb级别是最坏打，实际上可能是gb级别

-- 来自能看大图的 Stage1官方 iOS客户端

droople · 发表于 2020-10-15 17:15

lvcha 发表于 2020-10-15 14:35:51
看你模型多复杂的。
普通的模型基本都能装下的。
我一开始是1066，后来换成2080ti。
都能装下。

模型能 ...

那就先把钱省下来了

-- 来自能搜索的 Stage1官方 iOS客户端

bad_alloc · 发表于 2020-10-15 17:24

先学，学着学着自然会写一些东西跑，实际跑起来就知道需要什么规模的算力资源了
关键还是要先有想跑的东西

御风八极 · 发表于 2020-10-15 17:25

租个云GPU是王道。

御风八极 · 发表于 2020-10-15 17:25

本帖最后由御风八极于 2020-10-15 17:26 编辑

租个云GPU是王道。好处是可以根据项目需求换套餐。前提是你有大块的时间。在租用期间尽量充分利用。
本质上跟买车/租车/出租车是一个道理。

jinyang411 · 发表于 2020-10-15 18:26

2070？就跑个Bert的话batch size能有多少？要不租要不换更好的吧

droople · 发表于 2020-10-15 18:36

引用第26楼bad_alloc于2020-10-15 20:24发表的 :
先学，学着学着自然会写一些东西跑，实际跑起来就知道需要什么规模的算力资源了关键还是要先有想跑的东西

@bad_alloc
好，谢谢

----发送自 Xiaomi POCO F2 Pro,Android 10

mimighost · 发表于 2020-10-15 23:08

1060/1070 ti

玩儿玩儿没啥

mimighost · 发表于 2020-10-15 23:09

玩儿cv以上的够用

nlp的，我觉得还是暂时别想

我自己装过一个dual gpu的，那个风扇吵得我想死

还是租云计算平台的省心

蓝泽玲 · 发表于 2020-10-15 23:16

本帖最后由蓝泽玲于 2020-10-15 23:19 编辑

NLP做点分析不打榜的话其实还好， word2vec就很够用，这年头打榜不用BERT系的Embedding就很难了。

商用NLP的分析的话内存需求也很大，很多时候瓶颈其实在I/O上。不过64GB应该够用了，反正个人电脑终归只能玩玩toy data，工业界实际的数据都是大到你内存肯定不能一口气都进去，总是要从分布式数据库读的。最后还是要用云。

droople · 发表于 2020-10-16 15:29

蓝泽玲发表于 2020-10-15 23:16:03
NLP做点分析不打榜的话其实还好， word2vec就很够用，这年头打榜不用BERT系的Embedding就很难了。

商用NLP ...

好吧，只能到时候边做边看了

-- 来自能看大图的 Stage1官方 Android客户端

treexper · 发表于 2020-10-16 16:00

入门你这配置够好了，我读完博士都没你配置好。

不要买新硬件，因为你随时可能弃坑。

qratosone · 发表于 2020-10-16 17:31

提示: 作者被禁止或删除内容自动屏蔽

		自动登录	找回密码
密码			立即注册

66666 66666 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2002-8-22 头像被屏蔽	发表于 2020-10-15 10:08 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

66666 66666 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2002-8-22 头像被屏蔽	发表于 2020-10-15 10:36 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

lvcha lvcha 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-6-22 头像被屏蔽	发表于 2020-10-15 12:58 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

lvcha lvcha 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-6-22 头像被屏蔽	发表于 2020-10-15 13:04 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

lvcha lvcha 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-6-22 头像被屏蔽	发表于 2020-10-15 13:32 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

lvcha lvcha 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-6-22 头像被屏蔽	发表于 2020-10-15 14:35 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

Neozero Neozero 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-1-17 头像被屏蔽	发表于 2020-10-15 15:24 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

qratosone qratosone 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2013-12-23 头像被屏蔽	发表于 2020-10-16 17:31 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

[其他] AI炼丹术学习入门硬件咨询

啊