找回密码
 立即注册
搜索
查看: 6467|回复: 29

[生活] 看来百模大战都得阑尾了

[复制链接]
     
发表于 2024-5-23 00:03 来自手机 | 显示全部楼层 |阅读模式
这么降价api,整个大模型的市场规模全被打完了
百万token 1人民币,那么1亿token是100人民币,现在国内几家日处理量在1000亿-2000亿这个量级,也就是一天流水只有10万人民币,这还是个锤子商业模式呢
对应的年营收小于1亿人民币,隔壁openai年化收入都20亿美元了。
毫不客气的说,国内这些做大模型的才是拿着锤子找钉子,新时代的锤子科技,自己没有场景没有需求,fomo fear of missing out心态下狂上硬干,搞出百模大战,最后都得阑尾
回复

使用道具 举报

发表于 2024-5-23 00:05 | 显示全部楼层
不降价没人用,都去用openai了
回复

使用道具 举报

     
 楼主| 发表于 2024-5-23 00:07 来自手机 | 显示全部楼层
补图            

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

     
发表于 2024-5-23 00:08 | 显示全部楼层
比流水怎么感觉最 promising 的行业还得是免费游戏?
回复

使用道具 举报

     
发表于 2024-5-23 00:12 来自手机 | 显示全部楼层
高负荷应用如果搞成了,token 消耗速度飞快,就像短视频对 4G 流量的消耗一样
回复

使用道具 举报

     
发表于 2024-5-23 00:13 来自手机 | 显示全部楼层
不是很懂,这些大模型不是免费用么?还是商用付费,个人免费?
回复

使用道具 举报

     
发表于 2024-5-23 00:15 | 显示全部楼层
GPT-4也是从一百万token60美元慢慢降到现在的5美元,看来还有很大的下降空间
回复

使用道具 举报

     
发表于 2024-5-23 00:16 来自手机 | 显示全部楼层
确实不需要那么多综合模型嘛
回复

使用道具 举报

发表于 2024-5-23 00:28 | 显示全部楼层
主要还是没有盈利模式,大家都是拿来玩玩而已
回复

使用道具 举报

发表于 2024-5-23 00:30 来自手机 | 显示全部楼层
如果要求高,那么开OpenAI的api,要求不是很高,本地部署的llama3不香吗,中间的有啥必要?

—— 来自 Xiaomi 23049RAD8C, Android 14上的 S1Next-鹅版 v2.5.2-play
回复

使用道具 举报

     
发表于 2024-5-23 01:17 来自手机 | 显示全部楼层
现在本地高量化之后4090跑个32b轻轻松,图省事用openrouter 或者together ai价格也很低。
国内这些大部分无意义产能的“大模型”,端上桌跑一下的必要都欠奉。
回复

使用道具 举报

     
发表于 2024-5-23 01:21 来自手机 | 显示全部楼层
从chatgpt刚出就说这些追着别人已经做成的项目去吓追的肯定要成为笑话,现在瞎投资的特别是百度的亏损,真的挺有乐子。
虽然理解有个中文对话模型挺好的,科大讯飞用起来很好用。但是全部加码这个,得谈好防泄密方向的才可能有赚头,而大部分做这个的奔着利润堪比chatgpt去做。不知道在想啥。
ai是用于帮助人从重复性脑力劳动中解脱的,个个都想着创造性用途上面ai把其他行业的利润吃了,结果造出一堆威胁不了别人地位的垃圾。真正能帮助生产优化的东西少人做,大部分都在等大学的人做出理论,却有不肯投算力进去。唉。
回复

使用道具 举报

     
发表于 2024-5-23 05:20 | 显示全部楼层
openai好像也增长乏力了,感觉这波造富还不如币圈
回复

使用道具 举报

     
发表于 2024-5-23 05:43 来自手机 | 显示全部楼层
加密货币有各种犯罪组织做基本盘,比不了
回复

使用道具 举报

     
发表于 2024-5-23 06:51 来自手机 | 显示全部楼层
符合那啥曲线。10年后会成熟应用的

—— 来自 HUAWEI FGD-AL00, Android 10上的 S1Next-鹅版 v2.5.2
回复

使用道具 举报

     
发表于 2024-5-23 07:03 来自手机 | 显示全部楼层
奥尔加·伊兹卡 发表于 2024-5-23 00:03
这么降价api,整个大模型的市场规模全被打完了
百万token 1人民币,那么1亿token是100人民币,现在国内几家 ...

具体应用场景和openai不是都一样的么?营收低只是说没有垄断吧,如果只剩一两家头部的利润自然就高了。

—— 来自 Xiaomi 2304FPN6DC, Android 14上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-5-23 07:23 来自手机 | 显示全部楼层
本帖最后由 木谷高明 于 2024-5-23 07:24 编辑

外卖和网约车一开始不也是烧钱补贴,看看最后能活下来几家了

到时候涨价只需要停用老模型服务,上架一个贵点的新模型就行
回复

使用道具 举报

     
发表于 2024-5-23 07:25 | 显示全部楼层
本帖最后由 王怡人 于 2024-5-23 07:27 编辑

风怒......
回复

使用道具 举报

     
发表于 2024-5-23 07:27 | 显示全部楼层
看了下知乎讨论,  首先,  第一个发动价格战的Deepseek的员工亲口说就算降价之后他们利润率也很高,  超过50%,  处于暴利水平,  而他们的价格几乎是打1折的状态, 也就是之前的利润率甚至可能超过500%,  这就解释了为什么在Deepseek发动价格战后所有的国产大模型厂商全部极速跟进, 进行更激进的价格战,  说明之前的国产大模型厂商都维持着默契, 用默契将利润率维持在500%以上的水平,  而在Deepseek打破默契之后才回归正常竞争水平.


然后就是成本为什么能降到如此之低,  猜测原因有几个, 首先肯定是算法进步显著减少了推理成本,  在软件层面降低了相当多的成本,  然后就是硬件层面, 华为的910B肯定要比英伟达的卡便宜得多, 推理对性能的要求正好没那么高,  然后可能找到了廉价电力, 毕竟东数西算看中的不就是西部的廉价电么, 大模型正好因为其特征对时延的要求极低, 对流量的消耗也很低, 不需要把机房放到主干网的中心节点里.
回复

使用道具 举报

     
发表于 2024-5-23 07:44 | 显示全部楼层
王怡人 发表于 2024-5-23 07:27
看了下知乎讨论,  首先,  第一个发动价格战的Deepseek的员工亲口说就算降价之后他们利润率也很高,  超过50% ...

一个员工能知道的数据只能是毛利率,毛利50%哪能算暴利,餐饮行业毛利都有50%。看到这个数字,投资人怕不是已经开始对ai大模型公司开始重新估值了。
回复

使用道具 举报

     
发表于 2024-5-23 08:03 | 显示全部楼层
降价好呀,让模型先用起来,没人用才是死路一条。
回复

使用道具 举报

     
发表于 2024-5-23 08:07 | 显示全部楼层
敢解除道德限制么
回复

使用道具 举报

     
发表于 2024-5-23 10:56 | 显示全部楼层
沉浸式翻译插件啥时候能支持这些其他AI模型
回复

使用道具 举报

     
发表于 2024-5-23 11:25 | 显示全部楼层
王怡人 发表于 2024-5-23 07:27
看了下知乎讨论,  首先,  第一个发动价格战的Deepseek的员工亲口说就算降价之后他们利润率也很高,  超过50% ...

华为的910B肯定要比英伟达的卡便宜得多x
推理对性能的要求没那么高o

1. 大模型推理几乎只吃显卡带宽,只要显卡带宽保证,不需要那么高算力;
2. 朋友的公司为了支持大模型,推出了1T显存,等效3080算力的NPU;
3. 现在广泛使用MoE模型,每次推理的时候激活参数量显著减少,因此进一步节省了带宽资源;
4. 还可以前置判断用户需求,简单的直接用量化模型给出结果,那么算力消耗就更少了。
回复

使用道具 举报

     
发表于 2024-5-23 11:36 | 显示全部楼层
区块链、元宇宙、AI,下一个会是啥
回复

使用道具 举报

     
发表于 2024-5-23 12:07 | 显示全部楼层
Nanachi 发表于 2024-5-23 10:56
沉浸式翻译插件啥时候能支持这些其他AI模型

能兼容openai的api格式的国产模型都能用啊,  就跟买第三方跳转的openai一样设置
回复

使用道具 举报

     
发表于 2024-5-23 12:11 | 显示全部楼层
这是蓝海变成红海了吗,低价踹友商
回复

使用道具 举报

     
发表于 2024-5-23 12:36 | 显示全部楼层
王怡人 发表于 2024-5-23 12:07
能兼容openai的api格式的国产模型都能用啊,  就跟买第三方跳转的openai一样设置 ...

所以并不是适配其他AI模型API,而是在OPENAI的设置里面直接填其他AI模型的API
回复

使用道具 举报

     
发表于 2024-5-23 13:17 来自手机 | 显示全部楼层
害搁这儿百模呢,已经结束嘞!
年初投资圈就已经很看重应用了,基本能活下去的就几家自研模型和应用都合格的。目前看上去有希望的,大厂字节阿里百度,初创moonshot和minimax,还有一个论外的智谱,其他的都已经是期货死人了。
指望光靠模型可以称霸并且赚大钱是不现实的,Openai自己都做不到。模型的技术和成本优化一直在飞速发展,还有计算资源的变数(华为),老老实实做自己的应用才是真正的护城河。
回复

使用道具 举报

     
发表于 2024-5-23 13:18 | 显示全部楼层
ilylxt 发表于 2024-5-23 11:36
区块链、元宇宙、AI,下一个会是啥

人形机器人
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|上海互联网违法和不良信息举报中心|网上有害信息举报专区|962110 反电信诈骗|举报电话 021-62035905|Stage1st ( 沪ICP备13020230号-1|沪公网安备 31010702007642号 )

GMT+8, 2024-6-18 22:57 , Processed in 0.223939 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表