AI炼丹术学习入门硬件咨询
本帖最后由 droople 于 2020-10-15 10:07 编辑想自学深度学习，现在手上有一台9700+2070+64g 蓝天笔记本，够学入门炼丹术了吗？
老黄的那个jetson Xavier nx 是学炼丹术用的吗？
谢谢
----发送自 Xiaomi POCO F2 Pro,Android 10 jetson是部署用的，并不能跑训练，2070够了，主要是笔记本装Linux的体验比较拉跨
—— 来自 Sony H8296, Android 10上的 S1Next-鹅版 v2.2.0.1 jetson是终端推理用的，跟学习炼丹没有联系
这笔记本完全够用，不过建议至少有个备用电脑，回头模型训练跑一两天，你急用电脑就没辙了 DeepFishing 发表于 2020-10-15 09:57:16
jetson是部署用的，并不能跑训练，2070够了，主要是笔记本装Linux的体验比较拉跨
—— 来自 Sony H8296, A ...的确，以前笔记本跑Linux都还可以，在这个蓝天上反而没跑起来
-- 来自 有消息提醒的 Stage1官方 iOS客户端 DENHJD 发表于 2020-10-15 10:10:41
jetson是终端推理用的，跟学习炼丹没有联系
这笔记本完全够用，不过建议至少有个备用电脑，回头模型训练跑 ...那没事，我主用的电脑是核显小电脑
-- 来自 能手机投票的 Stage1官方 iOS客户端 66666 发表于 2020-10-15 10:08:16
1060入门都够了，真正需要大规模炼丹的可以用租云端GPU，现在有点商用的仙丹炼制成本都是上百万的，比挖矿 ...商用炼丹都是做什么啊？视觉视频之类的吗？
我主要想做文本分析和数据分析，这个成本高吗？
-- 来自 能手机投票的 Stage1官方 iOS客户端 droople 发表于 2020-10-15 10:12
那没事，我主用的电脑是核显小电脑
-- 来自 能手机投票的 Stage1官方 iOS客户端 ...
那够了，装好ubuntu，部署好环境，跑大模型的时候做好散热就齐活了 DENHJD 发表于 2020-10-15 10:19:10
那够了，装好ubuntu，部署好环境，跑大模型的时候做好散热就齐活了那就太好了，p750的cpu散热不行，gpu还好，压得住
-- 来自 能看大图的 Stage1官方 iOS客户端
啊
本帖最后由 droople 于 2020-10-15 10:47 编辑66666 发表于 2020-10-15 10:36:35
目前国内商用的大部分都集中在CV（图像处理），文本分析和数据分析更需要RAM对计算要求不是很大，但是如 ...训练文本分析和数据分析需要多少内存啊？
我这边能用来训练的原始数据总量大概TB水平
-- 来自 能看大图的 Stage1官方 iOS客户端
----发送自 Xiaomi POCO F2 Pro,Android 10 不是很懂这个需求
如果只是学习的话随便一张GPU就够了
如果是是有什么项目需求的话，一般也不会在本地跑，笔记本就是个ssh客户端 kurararara 发表于 2020-10-15 11:12:19
不是很懂这个需求
如果只是学习的话随便一张GPU就够了
如果是是有什么项目需求的话，一般也不会在本地跑， ...都要用服务器跑吗？
-- 来自 能搜索的 Stage1官方 iOS客户端 服务器上也是装的GPU啊，自己本机装GPU当然是最方便的了hhh
我觉得有条件的话选个显存大的，遇到复杂的的模型也不用慌hhh droople 发表于 2020-10-15 11:20
都要用服务器跑吗？ -- 来自 能搜索的 Stage1官方 iOS客户端
看你需求吧，如果只是单纯的学习的话随便一张GPU就够了，当然显存越大跑得越快当然越好，但只是学习的话用些轻量化的模型也完全足够了......但是你又说有TB级的数据要跑......如果是做项目做工程的话我感觉至少至少都几个几十个GPU日起步了吧 反正都跑不了Transformer 现在pytorch的多
只有多服务器分布式GPU跑的时候可能要花点时间调试
GPU最好还是都装在一台服务器里 lvcha 发表于 2020-10-15 13:32:17
看你需求了。
普通人用用买个3080基本就够了。2070够吗？只做文本和数据
-- 来自 能看大图的 Stage1官方 iOS客户端 TB级别的文字处理要买服务器跑。你要是只是业余用用教科书上的算法MB级别的就够，不用这么大训练集的。主要看你需求。 Linjiangzhu 发表于 2020-10-15 15:55:27
TB级别的文字处理要买服务器跑。你要是只是业余用用教科书上的算法MB级别的就够，不用这么大训练集的。主要 ...明白了,谢谢啦，tb级别是最坏打，实际上可能是gb级别
-- 来自 能看大图的 Stage1官方 iOS客户端 lvcha 发表于 2020-10-15 14:35:51
看你模型多复杂的。
普通的模型基本都能装下的。
我一开始是1066，后来换成2080ti。
都能装下。
模型能 ...那就先把钱省下来了
-- 来自 能搜索的 Stage1官方 iOS客户端 先学，学着学着自然会写一些东西跑，实际跑起来就知道需要什么规模的算力资源了
关键还是要先有想跑的东西 租个云GPU是王道。 本帖最后由 御风八极 于 2020-10-15 17:26 编辑
租个云GPU是王道。好处是可以根据项目需求换套餐。前提是你有大块的时间。在租用期间尽量充分利用。
本质上跟买车/租车/出租车是一个道理。 2070？就跑个Bert的话batch size能有多少？要不租要不换更好的吧 引用第26楼bad_alloc于2020-10-15 20:24发表的:
先学，学着学着自然会写一些东西跑，实际跑起来就知道需要什么规模的算力资源了关键还是要先有想跑的东西
@bad_alloc
好，谢谢
----发送自 Xiaomi POCO F2 Pro,Android 10 1060/1070 ti
玩儿玩儿没啥 玩儿cv以上的够用
nlp的，我觉得还是暂时别想
我自己装过一个dual gpu的，那个风扇吵得我想死
还是租云计算平台的省心 本帖最后由 蓝泽玲 于 2020-10-15 23:19 编辑
NLP做点分析不打榜的话其实还好， word2vec就很够用，这年头打榜不用BERT系的Embedding就很难了。
商用NLP的分析的话内存需求也很大，很多时候瓶颈其实在I/O上。不过64GB应该够用了，反正个人电脑终归只能玩玩toy data，工业界实际的数据都是大到你内存肯定不能一口气都进去，总是要从分布式数据库读的。最后还是要用云。
蓝泽玲 发表于 2020-10-15 23:16:03
NLP做点分析不打榜的话其实还好， word2vec就很够用，这年头打榜不用BERT系的Embedding就很难了。
商用NLP ...好吧，只能到时候边做边看了
-- 来自 能看大图的 Stage1官方 Android客户端 入门你这配置够好了，我读完博士都没你配置好。
不要买新硬件，因为你随时可能弃坑。
页:
[1]