华为推出Deepseek本地部署一体机

qratosones1337

Realplayer 发表于 2025-2-18 17:14
那你说说菊花卖的单路什么配置什么价格
PS:而且我说的是单卡跑满血，直接ollama可能还不够
菊花这些1.5~70 ...

正经企业服务谁用ollama啊，起码vllm起步，菊花这边对标的是MindIE。卡和显存数量越多，能支持的并发batch和context长度就越大，vllm如果要支持长上下文的话显存有多少吃多少

yorktown

随机抽查 发表于 2025-2-18 16:45
能不能把显存做成ssd插拔可替换模式

amd之前不有个能插m.2 ssd当缓存的

—— 来自 鹅球 v3.3.96-alpha

小牛无大将

从来没想过fusion cube可以用来干这个…
对前部门大利好啊…

论坛助手,iPhone

lyzsuper

请教一下大家，这些卡/机互联的话是不是得用光模块？ 谢谢

tylunas

qratosones1337 发表于 2025-2-18 17:31
推理用的Atlas800I便宜多了，这里说的16卡机器指的是训练卡（好像是B2）

装下671B模型，用的应该是64G版本的910B3/B4，双机1TB。
看配置文件，好像B1是特挑体质的高频版，B2正常主频，B3是阉割1/6单元的版本，B4阉割加降频。

—— 来自 鹅球 v3.3.96-alpha

琉璃苑軒風

32B你哪怕其他都不改，atx板子插一张4060ti 16g 一张8g 20系往后的老卡，就够，根本不在意你的内存和cpu

以当下溢价，4060ti 16g算4000，2060s一张1000块，两者加一起5000块，完了

希德尼娅

太贵了吧，不是说30w就能部署一台全血r1吗

alixsander

qratosones1337 发表于 2025-2-18 17:31
推理用的Atlas800I便宜多了，这里说的16卡机器指的是训练卡（好像是B2）

这个我听说800T可不是这价啊，单卡80万？

jeokeo

洛拉斯 发表于 2025-2-18 16:38
个人部署的话真不如租云算力

云上限制太多了

大韩李明博

比8卡H100的机子还贵。

鸳鸳相抱

Realplayer 发表于 2025-2-18 16:49
家用不提，四卡双路线程的4U就能跑
甚至有新闻说单卡24G+480RAM能跑完整的模型
菊花这么搞怕不是在硬件名 ...

国内单位，为了免责，不连外网要跑local的不要太多

qratosones1337

alixsander 发表于 2025-2-18 18:10
这个我听说800T可不是这价啊，单卡80万？

你疯了吧，H20一台八卡整机没涨价之前也就100W，你单卡80W想卖给谁啊？


另外互联网大厂采购的是超聚变的服务器，单机16卡，Intel SPR底座