对生成式AI、文本大模型为主的技术发展有反感，是正常的吗？

子虚乌有

个人希望进展速度快点。到时候好给孩子选专业

素盏鸣尊

alixsander 发表于 2025-1-3 11:53
你觉得智力是否能被测试
以及人类的工作和心智是否能够被考评？

当然不能。和隔壁智商怎么从猴子演化那栋楼一样缺乏常识。现实不是规则系哆啦a梦道具。

爱吃冻鳗的猫

我就只付费玩玩nai，lsp对这东西还是持比较正面态度，给喜欢的角色换装play

星花

alixsander 发表于 2025-1-3 11:53
你觉得智力是否能被测试
以及人类的工作和心智是否能够被考评？

将来可以帮人代 考，也是能来钱的。

草牛

搞不好人就是喜欢看低质量的东西傻乐呢

alixsander

素盏鸣尊 发表于 2025-1-3 11:58
当然不能。和隔壁智商怎么从猴子演化那栋楼一样缺乏常识。现实不是规则系哆啦a梦道具。 ...

数学是存在很多推导困难，验证容易的东西的

可以了解下frontier math测试集和o3在上面的得分，看看陶哲轩本人的看法。

如果你觉得数学，编程，以及未来必然涉及的各类工程设计，医疗诊断都是可以被大模型解决的，但你觉得这都不是智力，那我有个好消息要告诉你：你觉得怎么样不太重要

星花

你们首先讨论一下智力的定义吧。我觉得你们对智力的定义就不一样。

alixsander

星花 发表于 2025-1-3 12:01
将来可以帮人代 考，也是能来钱的。

如果说**，那应该是现在。
SOTA模型应该是足够一本的。

未来（10-20年，考虑落地和接受的滞后性）就不好说，还有没有考试，以及现在的社会结构是否存在都无法估计了。实际上科幻作品里都没有真正严肃讨论存在AI的社会过。

素盏鸣尊

alixsander 发表于 2025-1-3 12:04
数学是存在很多推导困难，验证容易的东西的

可以了解下frontier math测试集和o3在上面的得分，看看陶哲 ...

讲点逻辑啊。能不能应用和在学术上是不是智力是两个问题，你只问了我后者。如果单谈应用，那么托勒密天动模型也work得很好。这不是我认为如何，而是人类科学的基础。当然科学哪有应用短期内来钱快。



另外我不认为大模型可以解决这些。

星花

alixsander 发表于 2025-1-3 12:09
如果说**，那应该是现在。
SOTA模型应该是足够一本的。

你直接说人类已经不需要了不就行了。人类不需要考试了。是不是当猪养？

alixsander

星花 发表于 2025-1-3 12:12
你直接说人类已经不需要了不就行了。

从生产力角度来说确实有可能，
但是无论如何人都想要活着

thermite

我对ai唯一的担忧就是互联网被初代ai生成的粪内容填满，之后的ai再采集内容之后变得更加粪，导致各种模型训练停滞不前

alixsander

素盏鸣尊 发表于 2025-1-3 12:09
讲点逻辑啊。能不能应用和在学术上是不是智力是两个问题，你只问了我后者。如果单谈应用，那么托勒密天动 ...

一般来说是把智力等同于对世界的预测和解决问题的能力的

如果有一种工具或者说实体在绝大多数或者所有领域都能达到和超越人类解决问题的水平

我觉得它就是有智力，或者说有没有无所谓。如果智力是某种自主性，那其实没有比较安全。

素盏鸣尊

alixsander 发表于 2025-1-3 12:19
一般来说是把智力等同于对世界的预测和解决问题的能力的

如果有一种工具或者说实体在绝大多数或者所有领 ...

你觉得怎么样不太重要。科学只会去解释和触及尽可能的底层，而不是主动骗自己。“ 如果智力是某种自主性，那其实没有比较安全。” 我同意90楼，你有点极端了。

hugosol

AI只是一个工具，这玩意从来都是用来提高个人的工作效率，而不是给资本家削减成本的借口
只是技术爆发点刚好碰上经济下行阶段，给人的印象就变成毁灭世界的潘多拉魔盒
但凡有用过代码提示和翻译之类深度嵌入到工作流程的工具，都能体会到这东西对效率的提升和解放思维方面的作用，量变能产生质变，即便是简单工作熟练度的提升也能让人把更多的精力放在统筹和更高层次的规划上面
以前觉得人类已经到达学习能力的上限，花一辈子的时间去研究透彻自己熟悉的领域已经很难了，但有了ai的帮助未来可能会出现越来越多跨领域的大佬，对人类文明发展的影响简直不可估量，不明白为什么一提到ai大部分人就只想着用来娱乐来自: iPhone客户端

ceruleancard

alixsander 发表于 2025-1-3 12:19
一般来说是把智力等同于对世界的预测和解决问题的能力的

如果有一种工具或者说实体在绝大多数或者所有领 ...

其实是这样的，ai能超越人类的话，那人类就不需要有智力，地球也不需要有人类，同理可得ai也不需要有智力，地球也不需要有ai，宇宙也不需要有地球，都是无所貂谓的东西。

星花

没有意识观察物质是否存在呐？如果AI有了意识那它还能算AI么？按玄学下辈子投胎做天网。如果AI能解决一切问题人类必然会走向退化的。天网那种至少有继承，没自主性的AI就是彻底死路一条了。

TiiTiiLL

现在的AI本质上是基于上下文语料的next token预测，把其归结为智力或意识，只能说远没到那个程度，说极端点甚至可以看作参数超多的回归分析，还是别抱有太多的幻想

alixsander

素盏鸣尊 发表于 2025-1-3 12:23
你觉得怎么样不太重要。科学只会去解释和触及尽可能的底层，而不是主动骗自己。“ 如果智力是某种自主性， ...

不是，笑。

我感觉你想表达的是事实不以我的意志为转移，问题当然也不以你的。

这和科学没关系，科学是一种方法论不是事实本身哈。

没有自主性更安全我当然指的是AI。下一步（也就是今年）发展方向是智能体，有人把权重自我复制，自我更新（元学习），给整成智能体行动目标也是很可能的事情，并且也是越来越难以控制的。

对于不怎么关注这块进展，把第一号存在性危机仅仅当成是2022年的diffusion 只是拼尸块。合成数据大量用于训练的当下，还当成2023年什么语料不够之类的冷饭。确实可能转不过弯。

放几张图吧，都什么时代了就不翻译了。

alixsander

ceruleancard 发表于 2025-1-3 12:36
其实是这样的，ai能超越人类的话，那人类就不需要有智力，地球也不需要有人类，同理可得ai也不需要有智力 ...

人类和人类关联的历史本来就是时空中的一小段，时间的终点必然是热寂。而甚至可能连过程的一切，包括量子被观测塌缩的结果都在时间之初就已被决定。确实都是无所屌为的小事。

alixsander

TiiTiiLL 发表于 2025-1-3 12:55
现在的AI本质上是基于上下文语料的next token预测，把其归结为智力或意识，只能说远没到那个程度，说极端点 ...

自回归只是它输出建模的手段而已

ryanz

啊，看了下楼内 ai 真有那么强的话，早就 ai 自己写代码改进自己，左脚踩右脚升天了

alixsander

ryanz 发表于 2025-1-3 13:13
啊，看了下楼内 ai 真有那么强的话，早就 ai 自己写代码改进自己，左脚踩右脚升天了 ...

升天那一刻就是技术奇点

奇点外被视界包裹，我们站在视界外看不到视界里。这也就是为什么科幻作品没有严肃讨论AI存在的社会。

当然这是基于智力可以无限增长的假设，万一智力上限也就爱因斯坦和牛顿这个水平呢。叠一百万个牛顿级的agent还是整不明白很多世界规则也是有可能的

雪城飞鸟

我喜不喜欢它对任何人没有任何影响，它喜不喜欢我（我能不能与它合作）可能关系到我和我的家庭的未来前途，所以我觉得这种矜持毫无意义

空気力学

alixsander 发表于 2025-1-3 13:02
不是，笑。

我感觉你想表达的是事实不以我的意志为转移，问题当然也不以你的。

省省吧，哪天LLM能用自己收集整理的语料训练一个性能不降级的LLM再说。

TiiTiiLL

alixsander 发表于 2025-1-3 13:13
自回归只是它输出建模的手段而已

不懂你想说什么，无论是自回归任务（path-finding）还是条件生成任务（翻译、问答），现在基于Transformer的框架输出原理本质都是基于上下文语义的文本预测，主要区别就只是是否有encoder罢了，至于预测出什么就取决于神经网络几亿个参数都训练出啥了。

你要是认为大规模神经网络就构成“意识”，我个人反正不赞同

alixsander

空気力学 发表于 2025-1-3 13:21
省省吧，哪天LLM能用自己收集整理的语料训练一个性能不降级的LLM再说。

权重复制一份就完了

如果能直接自举维持和改进性能，那不就已经技术奇点了

jojog

吹哥能不能举点自己实际用的时候的例子？

复制黏贴别人的东西这不更得这玩意slop会机传人么

空気力学

alixsander 发表于 2025-1-3 13:02
不是，笑。

我感觉你想表达的是事实不以我的意志为转移，问题当然也不以你的。

你确定你看了这个论文？语言能力≠智能，在LLM能主动进行思考和自我更新之前谈论技术奇点无异于声称核聚变五十年后就可以实用

alixsander

TiiTiiLL 发表于 2025-1-3 13:24
不懂你想说什么，无论是自回归任务（path-finding）还是条件生成任务（翻译、问答），现在基于Transforme ...

decoder only的东西 哪里来的encoder，为什么把bert扯进来

好吧也不重要。我是想说语料里本来就包含了世界知识，还是取决于智能到底是什么了，什么是理解？如果智能包含对世界的预测，那么基于世界知识的预测是不是就是某种类型的智能。

另外就是看起来像鸭子，叫起来像鸭子，那就是鸭子的逻辑。不要太高估人类智力的特殊性

alixsander

空気力学 发表于 2025-1-3 13:34
你确定你看了这个论文？语言能力≠智能，在LLM能主动进行思考和自我更新之前谈论技术奇点无异于声称核聚 ...

我贴这个是说第一号存在性危机

不是说智能不智能，或者说得是你要的那种智能。这两者不是充要的对吧。

小妻水亚美

因为现在人类还没把人工智能的路走对。
查一下历史上ai泡沫破了几次了。

—— 来自 OPPO PGFM10, Android 14上的 S1Next-鹅版 v2.5.2

hcho

记得前两年ai绘画出来的时候，泥潭看到大部分都是说纺织女工，和小画家活该被ai干死的理论，现在看看怎么转向了

空気力学

alixsander 发表于 2025-1-3 13:48
我贴这个是说第一号存在性危机

不是说智能不智能，或者说得是你要的那种智能。这两者不是充要的对吧。 ...

你说得对，人类早就应该把智能跟语言切割了。世界上会说话的弱智满坑满谷，LLM确实可以给他们带来存在主义危机

jojog

hcho 发表于 2025-1-3 13:51
记得前两年ai绘画出来的时候，泥潭看到大部分都是说纺织女工，和小画家活该被ai干死的理论，现在看看怎么转 ...

实际上确实有很多小画家被干死了

只不过因为masterpiece脸始终就一个玩的人多一点就直接滥掉，最近哪怕ai卖图的人都要么同人、要么直接输artist名字取出图导致这个事上不了台面而已

开了画师然后返聘，嗯招抠图仔/修图仔这也不是新鲜事

alixsander

空気力学 发表于 2025-1-3 13:55
你说得对，人类早就应该把智能跟语言切割了。世界上会说话的弱智满坑满谷，LLM确实可以给他们带来存在主 ...

我支持正义切割，尤其是各种复读机

Tsparkle

别的还是合理的，就是这个【高质量代码人工介入】有点技术党滤镜了，我目前看ai写的玩意比大部分人工队从规范到可读都强多了

zhmouohz

卢德运动以及它的类似物从来没有成功过。所以喜欢也好，不喜欢也好，有些事情只能去适应。

TNN

zhmouohz 发表于 2025-1-3 14:05
卢德运动以及它的类似物从来没有成功过。所以喜欢也好，不喜欢也好，有些事情只能去适应。 ...

卢德运动的对手是工业革命，工业革命的蒸汽和电力是真能不依赖卢德佬的人力的，你一天不趴在人力数据人力打标就要自激劣化的gen ai配么这玩意最像的是参议员问话奥特曼时举的例子Napster