企业/地方政府有必要本地跑deepseek吗？

mchl123 · 发表于 2025-2-27 16:50

本帖最后由 mchl123 于 2025-2-27 16:54 编辑

就是为了信息安全，稍微带点密级或者商业秘密的业务都不可能放任让这些信息到别的公司服务器上转一圈
幸亏现在有deepseek可以本地部署了，要是还只有gpt一家独大的年代这些ai应用根本推不下去，数据直送美国谁能受得了

Steel.Haze · 发表于 2025-2-27 21:23

人畜无害沃特碧发表于 2025-2-27 11:53
今天又打听了一下好像真的有8卡H100还是A100，我突然又充满了信心。
之前一直担心史密斯专员搞个弱智版吃回 ...

实际上很多企业开始释放手上的旧100、80卡，开始更统一的换华为等国产架构，统一计算框架，然后安排人专门针对性写驱动。区块级AI运营则没这么大的架构阵列，也不用考虑这方面效率，正好可以利用起来。

Steel.Haze · 发表于 2025-2-27 21:25

都是好事发表于 2025-2-27 10:34
因为14 32都是蒸馏qwen，70是蒸馏llama的

是的，不过我倒是不觉得这个是主因。不过我回头找找这方面资料研究一下是否就是这个原因。

Narcissu14 · 发表于 2025-2-28 09:36

现在落地应用除了做RAG还有什么比较实际的吗

—— 来自鹅球 v3.3.96

		自动登录	找回密码
密码			立即注册

[职场] 企业/地方政府有必要本地跑deepseek吗？