找回密码
 立即注册
搜索
查看: 2731|回复: 11

[新闻] 内存/显存救星,一个新的线性内存开销AI架构正在流行

[复制链接]
头像被屏蔽
     
发表于 2024-4-1 22:19 | 显示全部楼层 |阅读模式
提示: 作者被禁止或删除 内容自动屏蔽
回复

使用道具 举报

     
发表于 2024-4-1 22:25 来自手机 | 显示全部楼层
RNN变种而已

有没有规模效益现在是未知的

—— 来自 Xiaomi Mi 10, Android 13上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-4-1 23:00 来自手机 | 显示全部楼层
什么时候20g显存能装下70b模型啊

—— 来自 HUAWEI HLK-AL00, Android 9上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-4-1 23:17 | 显示全部楼层
mem,what can i say
回复

使用道具 举报

     
发表于 2024-4-1 23:30 来自手机 | 显示全部楼层
mamba out of memory
回复

使用道具 举报

发表于 2024-4-1 23:50 | 显示全部楼层
用时间换空间,我觉得还是时间更值钱
回复

使用道具 举报

     
发表于 2024-4-2 00:32 | 显示全部楼层
tsubasa9 发表于 2024-4-1 23:50
用时间换空间,我觉得还是时间更值钱

但是A800现在这个价格
回复

使用道具 举报

     
发表于 2024-4-2 07:39 来自手机 | 显示全部楼层
曼巴精神
回复

使用道具 举报

     
发表于 2024-4-2 07:49 | 显示全部楼层
火星,而且我怀疑这玩意能不能竞争过RWKV

—— 来自 S1Fun
回复

使用道具 举报

     
发表于 2024-4-2 08:32 来自手机 | 显示全部楼层
tsubasa9 发表于 2024-4-1 23:50
用时间换空间,我觉得还是时间更值钱

是时间和空间都省了
回复

使用道具 举报

     
发表于 2024-4-2 08:46 | 显示全部楼层
mamba, what can i say? CUDA out of memory
回复

使用道具 举报

     
发表于 2024-4-2 08:50 | 显示全部楼层
mamba的结构图各种连线 对我这种弱智来说 理解结构并且记住 太复杂了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|上海互联网违法和不良信息举报中心|网上有害信息举报专区|962110 反电信诈骗|举报电话 021-62035905|Stage1st ( 沪ICP备13020230号-1|沪公网安备 31010702007642号 )

GMT+8, 2024-11-13 10:17 , Processed in 0.057869 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表