华为云和硅基流动已经把deepseek V3和R1移植到昇腾平台

overflowal

以后训练可能都要移植到昇腾平台。

qqks

全国各地的计算中心这下可以发挥作用了...这才对嘛

jeokeo

什么时候可以把门槛降低到个人nas这个程度就好了

sellboy

jeokeo 发表于 2025-2-1 15:42
什么时候可以把门槛降低到个人nas这个程度就好了

可能一年后的蒸馏后的72b版本就能达到现在671b相当水平，这个就可以在STX halo的128GB一体机部署了，理论上这可以当NAS用。
但是那时的671b又继续提升了

qqks

jeokeo 发表于 2025-2-1 15:42
什么时候可以把门槛降低到个人nas这个程度就好了

按照过去的经验，1年时间就足以把同等性能蒸馏到32b的水平。今天一个7b的开源模型就能薄纱几年前130b的gpt3了

Dreki

用了下没有官方的好用

lilisipis

有APP版吗，本家卡的用不了

吴怀在

羡慕
这得给多少工资才能让几个组都春节临时加班

moeblack

这个硅基流动api的输出速度比老黄的NIM速度快好几倍

两边都是全量模型，而且还送14rmb的邀请（邀请和被邀请).

今天早上的时候还不能用推理代币，现在也可以用邀请代币了，估计是他们改的策略.

要么是华为承诺给了钱给资助，不然的话硅基流动这个小平台根本没这么多钱搞这个。之前v3都部署不了，当时问他们他们说不赚钱搞不了。

这次把昇腾的威名打出去了，能推就能炼，如果能再让老黄叠加一个利好把L20h800这种东西都干掉，那华为显卡就起来了.

生态也有了，应用也有了。

那么哪里可以获得这14元的邀请呢？啊，请大家点点我的邀请吧，我什么都会做的。

https://cloud.siliconflow.cn/i/GX312zX6




—— 来自 鹅球 v3.3.96

绝地潜兵

我今天下载豆包用了，自带和谐酒馆的，笑嘻了
等年后幻方防御好DDoS攻击就能继续用

王苍幻

Dreki 发表于 2025-2-1 15:49
用了下没有官方的好用

所以还是留了一手，开源放出来的不是最好的数据

—— 来自 鹅球 v3.3.96-alpha

吴怀在

王苍幻 发表于 2025-2-1 18:20
所以还是留了一手，开源放出来的不是最好的数据

—— 来自 鹅球 v3.3.96-alpha ...

模型本身也一直在进步。

Daya Guo
@Guodaya
AI researcher
@deepseek_ai
. Interested in reasoning ability of LLMs. The long-term research goal is to develop artificial general intelligence.

88316756

moeblack 发表于 2025-2-1 17:41
这个硅基流动api的输出速度比老黄的NIM速度快好几倍

两边都是全量模型，而且还送14rmb的邀请（邀请和被邀 ...

用你的注册了 总算能用api了

不知

顺便问下，手机有能用api接口的方案吗？deepseek的app卡的不得了，硅基流动的网页又经常闪退。酒馆的手机设置太麻烦了，我想找个比较好上手的。

—— 来自 鹅球 v3.3.96

王苍幻

moeblack 发表于 2025-2-1 17:41
这个硅基流动api的输出速度比老黄的NIM速度快好几倍

两边都是全量模型，而且还送14rmb的邀请（邀请和被邀 ...

我也来一个

行星减速器MK2

不知 发表于 2025-2-1 18:57
顺便问下，手机有能用api接口的方案吗？deepseek的app卡的不得了，硅基流动的网页又经常闪退。酒馆的手机设 ...

酒馆不是安卓手机用termux部署一下脚本就行吗

万恶淫猥手

群里面硅基流动的人已经在发红包了

88316756

不知 发表于 2025-2-1 18:57
顺便问下，手机有能用api接口的方案吗？deepseek的app卡的不得了，硅基流动的网页又经常闪退。酒馆的手机设 ...

试试Chatbox

不知

行星减速器MK2 发表于 2025-2-1 19:03
酒馆不是安卓手机用termux部署一下脚本就行吗

感谢，可能是我找错教程了，我来试下

—— 来自 鹅球 v3.3.96

第七日魔人

感觉没有本家的好，但是本家最近是不是被攻击太厉害了，老是抽风。顺便贴一下我的邀请链接：https://cloud.siliconflow.cn/i/tDfFhRhK

—— 来自 S1Fun

行星减速器MK2

不知 发表于 2025-2-1 19:06
感谢，可能是我找错教程了，我来试下

—— 来自 鹅球 v3.3.96

https://sqivg8d05rm.feishu.cn/wiki/EY5TwjuwliCwZpk7Gy7cPGH1nvb?from=from_parent_docs    唯一的问题是需要个稳定的魔法

王苍幻

moeblack 发表于 2025-2-1 17:41
这个硅基流动api的输出速度比老黄的NIM速度快好几倍

两边都是全量模型，而且还送14rmb的邀请（邀请和被邀 ...

那个16元是api费用还是啥？

拜拜

吴怀在 发表于 2025-2-1 17:05
羡慕
这得给多少工资才能让几个组都春节临时加班

集中力量办大事

—— 来自 Hisense HNR320T, Android 10上的 S1Next-鹅版 v2.5.4

有鱼

用了一下siliconflow的r1api，感觉还是比鲸鱼哥自家的api笨一点儿啊

流缨

有鱼 发表于 2025-2-1 19:22
用了一下siliconflow的r1api，感觉还是比鲸鱼哥自家的api笨一点儿啊

大多数直接拿来就用，最重要的Temperature参数都默认不带改的
官方的Temperature文档里都是1.0起，显得足够活泼

moeblack

流缨 发表于 2025-2-1 19:36
大多数直接拿来就用，最重要的Temperature参数都默认不带改的
官方的Temperature文档里都是1.0起，显得足 ...

0.6 Temp 在hugginface card里有些

行星减速器MK2

不知 发表于 2025-2-1 19:06
感谢，可能是我找错教程了，我来试下

—— 来自 鹅球 v3.3.96

https://sqivg8d05rm.feishu.cn/wiki/EY5TwjuwliCwZpk7Gy7cPGH1nvb?from=from_parent_docs    唯一的问题是需要个稳定的魔法

有鱼

流缨 发表于 2025-2-1 19:36
大多数直接拿来就用，最重要的Temperature参数都默认不带改的
官方的Temperature文档里都是1.0起，显得足 ...

我改成了1.3，主要是问一些理科问题感觉笨点，而且生成速度显然慢于官方的api。
不过至少能稳定用

希德尼娅

为什么没有大神给ds解限，说好的第一推动力呢

炽十二翼

今晚ds一直服务器繁忙，还没好吗？

断片集

希德尼娅 发表于 2025-2-1 22:24
为什么没有大神给ds解限，说好的第一推动力呢

多得是啊，类脑现在酒馆用的破限有5，6个了

bcxzzz

有鱼 发表于 2025-2-1 19:22
用了一下siliconflow的r1api，感觉还是比鲸鱼哥自家的api笨一点儿啊

感觉生成速度还是差点，没有ds网页的快。

real_zyf

流缨 发表于 2025-2-1 19:36
大多数直接拿来就用，最重要的Temperature参数都默认不带改的
官方的Temperature文档里都是1.0起，显得足 ...

官方说了
推理模型不支持的参数：temperature、top_p、presence_penalty、frequency_penalty、logprobs、top_logprobs。请注意，为了兼容已有软件，设置 temperature、top_p、presence_penalty、frequency_penalty 参数不会报错，但也不会生效。设置 logprobs、top_logprobs 会报错。

说明地址：https://api-docs.deepseek.com/zh-cn/guides/reasoning_model

afer

https://cloud.siliconflow.cn/i/dE7Rl30G

互助一下

讲真，这玩意我主要是网页翻译用，倒是有一些使用焦虑，别特么看个CNN把自己看进去

sellboy

有没有用使用API的聊天工具可以实现网页版的联网搜索功能？

青涩果实

这两天太卡了用不了
邀请互助
https://cloud.siliconflow.cn/i/kWKBu0YR

vava

断片集 发表于 2025-2-1 23:10
多得是啊，类脑现在酒馆用的破限有5，6个了

能搬些破限预设吗
不局限于ds

论坛助手,iPad

tianyagk

类脑的各类破限和角色卡一般都标注了不允许搬运的，主要是为了防止有倒卖的情况。

—— 来自 OnePlus PHK110, Android 14上的 S1Next-鹅版 v2.5.4

shaoniu1

在chatbox里用怎样实现联网搜索