Deepseek 相关，X上遍地都是美国人的反思贴。我都有点腻了。

红色福音 · 发表于 2025-1-27 14:33

仓岛千百合发表于 2025-1-27 13:34
我发现不管是国内还是国外就有些傻x用涉政话题来评估AI的性能，所以你们TM的整天用AI就是用来干这事？ ...

真不是故意的，刚开始让他分析俄乌冲突，看它分析得不错便想了一下最近还有啥热点新闻，不就是小红书对账事件了嘛

qratosones1337 · 发表于 2025-1-27 14:34

本帖最后由 qratosones1337 于 2025-1-27 14:37 编辑

holmesjerry 发表于 2025-1-27 14:30
我问了问Deep seek 让他自己答他是这么说的
2. 昇腾910这事真试过，但...
去年用昇腾910跑过小规模实验 ...

你不会真以为DS开发者会把自己的内部文档放进训练语料库吧？对行业稍微有点了解的都知道910B现在是64GB显存，32G显存是最早的910A和现在的少数推理子型号。至于显存管理这个问题确实曾经存在过，但最晚在今年Q2的时候就已经解决了——当时我在JD的时候，618刚结束的时候运维突然拉了群让大家把所有任务都停了，说是更新固件需要重启物理机。更新完之后显存占用明显就正常了。另外我们使用的时候对于Transformer类预训练模型也不存在所谓的算子适配问题，最坏的结果是某些新发布的模型能跑但是吞吐量只有A100的一半，后来调优之后就上来了。

FlashAttn这个确实是个问题，主要是政出多门，华子自己的实现就有好几种，客户这边又自己实现了一些，五花八门（JD用的就是自己实现的）

holmesjerry · 发表于 2025-1-27 14:36

qratosones1337 发表于 2025-1-27 14:34
你不会真以为DS开发者会把自己的内部文档放进训练语料库吧？对行业稍微有点了解的都知道910B现在是64GB显 ...

那当然是当段子搞笑用啊

deepseek自己都说【（假装自己是DeepSeek员工口吻，说人话版）】总不能真拿他说的当真

qratosones1337 · 发表于 2025-1-27 14:40

holmesjerry 发表于 2025-1-27 14:36
那当然是当段子搞笑用啊

deepseek自己都说【（假装自己是DeepSeek员工口吻，说人话版）】总不能真拿他说 ...

那其实也不对，如果开了联网搜索的话，公开语料是能搜到DS自己的公众号说的，在V2时期就开始租一体机了，说明至少在V2时期DS已经解决了昇腾平台的训练问题，顶多就是慢一点罢了（训推一体机需要微调）

holmesjerry · 发表于 2025-1-27 14:44

qratosones1337 发表于 2025-1-27 14:40
那其实也不对，如果开了联网搜索的话，公开语料是能搜到DS自己的公众号说的，在V2时期就开始租一体机了， ...

开了联网搜索了

这段一本正经的胡说八道不是那种ai的胡说，反而有那种企业发言人的【不说也不好，说真的也不行，就所性瞎说一堆的感觉】

qratosones1337 · 发表于 2025-1-27 14:47

holmesjerry 发表于 2025-1-27 14:44
开了联网搜索了

这段一本正经的胡说八道不是那种ai的胡说，反而有那种企业发言人的【不说也不好，说真的 ...

那倒是正常，R1对于Fact Check现在还是有些问题的

pf67 · 发表于 2025-1-27 15:10

本帖最后由 pf67 于 2025-1-27 15:11 编辑

qratosones1337 发表于 2025-1-27 14:27
非国产不也是只有一家英伟达可选么？华为是不解决问题还是不派人驻场？我在JD的时候可没听说华为对客户摆 ...

主要体现就是硬件价格贵，license贵，生态适配差，驻场人员成本高，开放性差

你在英伟达上几天搞好的在升腾上可能要几周

—— 来自 OPPO PCLM10, Android 12上的 S1Next-鹅版 v2.5.4

佐敦·库勒 · 发表于 2025-1-27 16:17

yuanxi1 发表于 2025-1-26 12:27
本来一个大模型处理一切的方案就像死路，毕竟看看起来浑然一体的人类智能其实是大量专用模块组合的结果，譬 ...

这是大自然用几亿年写的屎山代码造成的，不一定就是最优方案…

		自动登录	找回密码
密码			立即注册

[欢乐] Deepseek 相关，X上遍地都是美国人的反思贴。我都有点腻了。