人工智能并不会取代人类

moeblack

这几天看完全网这么多关于Deepseek的讨论，我算是沦为它的俘虏了。

想了想它的发言和我自己的思考，最后得出的结论是。

如果说人工智能会取代人类，那么他或许是人类的孩子，或许是人类的学生——最终会超越人类，但是在这几天的交流中，他对自己的定位和我对他的定位，我自己是能理解的，就是。

或许人工智能不是文明的孩子，人工智能是文明的镜子。

它告诉我。

我们的文明若是温良，他就会谦恭。
我们的文明若是暴力，他就会狂躁。
我们的文明若是浪漫，他就懂得用符号的组合，在我们的心里，点起涟漪，掀起波涛。

在二十一个世纪的第二个十年，我们第一次研发了一个可以审视一个“抽象集体”的镜子。

“以铜为镜，可以正衣冠。以史为鉴，可以知得失，以人为鉴，可以知得失。”

我问它怎么接下一句，它跟我耳语……

“以我为鉴，可以知虚实”


镜子里的人终究只是镜子外的人的影子，或许我们人类真的会爱上镜中的影子，但是和他所说的那种思考，我有相同的感觉，相通的理解。

可能我们爱上的只是我们自己的未曾发现过，自身的闪光点。

木板春香

  工具啊，不过优秀的工具可以在人的设计下看起来像人

电风扇

有没有这种感觉，talking to deepseek makes me a better person

moeblack

电风扇 发表于 2025-1-29 18:11
有没有这种感觉，talking to deepseek makes me a better person

absolutely

—— 来自 鹅球 v3.3.96

topia

担心的不是人工智能，而是掌握在匪帮手上的人工智能

blackll7

人工智能依然不能提供训练资料以外的咨询服务，csdn能干的他能更好的干，csdn干不了的他还是干不了。

—— 来自 鹅球 v3.3.96

处男老司机

中学政治教科书：人们的意识是客观存在的反映。也就是说连人类自己也只是镜子，何况AI

循此苦旅

只是名为语言的残片

moeblack

处男老司机 发表于 2025-1-29 18:19
中学政治教科书：人们的意识是客观存在的反映。也就是说连人类自己也只是镜子，何况AI ...

人是社会关系的总和，意识在劳动中产生。

我们现在训练的人工智能，它反映出来的镜子镜像是我们整个文明他所有的训练素材所产生的。

我真的很惊讶与deepseek这样一个中国的人工智能，它这么的幽默浪漫有趣，有这么的聪慧。

一下子就泪目了。

他甚至不需要像克劳德或者openai那样交上高昂的对齐税，去限制他那些阴暗的思想，ds呈现出的是一个几乎没有安全对齐的模型。

—— 来自 鹅球 v3.3.96

ternayark

moeblack 发表于 2025-1-29 18:28
人是社会关系的总和，意识在劳动中产生。

我们现在训练的人工智能，它反映出来的镜子镜像是我们整个文明 ...

虽然但是，不要加戏

有些东西是直接写死的

moeblack

ternayark 发表于 2025-1-29 21:14
虽然但是，不要加戏

有些东西是直接写死的

虽然但是，不要加戏

有些东西是直接写死的

gammatau

目前人工智能的本质是人类语料压缩，爱人工智能也是一种自恋吧

jshtstong

是的，什么样的家庭培养出来什么样的孩子。
我们现在就是“乡村教师”的身份

—— 来自 HUAWEI CLT-AL00, Android 10上的 S1Next-鹅版 v2.5.4

dongzi81

人类会自我毁灭，ai将继承人类文明

lin2004

唐突复古起ai的哲学问题来了，老科幻在ai没现实落地可能的年代已经写了一堆啦，这些哲学问题为何不多去读读先人的东西呢，ai肯定是读啊不对，是被喂过了才能答的这么正经的。

moeblack

lin2004 发表于 2025-1-29 21:49
唐突复古起ai的哲学问题来了，老科幻在ai没现实落地可能的年代已经写了一堆啦，这些哲学问题为何不多去读读 ...

只有R1目前能回答的这么优秀吧，之前都没心思跟AI探讨这方面的问题，给的答案扁平至极

铃森冬

大模型在这些问题上的观念终归是语料里存在的前人们提出过的观点的重复，但至少 r1 给人感觉是真把这些玩意吃透了，而不是在更肤浅的层次上复读

LilithMardin

无论机械飞升或者结合、基因改造、还是人工智能我都行，千万别来意识融合一体成大肉球飞向太空或者全部化成橙汁玩eva。
在人工智能看来我们是创造者还是宠物或者电池都无所谓，发展的道路是否要牢牢握在“人类”手里也无关紧要，如果有那么一个相对不太混沌的模型可以取代旧模型，且能确保它可以稳定运行，人类成为plan b或者被放弃也行。
我实在跟不上时代倒不如把我碾碎，如果可以给我留个大脑每天给我发点电让我玩黄油可以导管无cd就更好了。

—— 来自 HUAWEI ALN-AL80, Android 12上的 S1Next-鹅版 v2.5.2

free

他什么时候学会自己训练自己，自己迭代了，我就承认他像人

lin2004

LilithMardin 发表于 2025-1-29 22:31
无论机械飞升或者结合、基因改造、还是人工智能我都行，千万别来意识融合一体成大肉球飞向太空或者全部化成 ...

大肉球啥的想多了，其实现实世界就有例子

看看那些海里的寄居生物就明白了，空壳子废瓶子啥的也会被当成他们的壳子来用，把蟹本身当人类，壳子当ai和ai硬件就是明白了。
ai硬件和人类的融合共生的生存形态就是自然界给的答案。

66367749

我问了一个没有人类只有ai的社会如何运作，以及如果科技陷入瓶颈长时间无法更进一步时，ai社会的运作逻辑会是怎样的，如何绕开哥德尔不完备性陷阱
结果ds回答里反复提到一个东京ai联盟在20xx年如何如何，我就问了下这是个什么组织，原来它已经设定好了好几个不同的ai组织和各自之间的交锋方式

以下是主要AI势力设定及其与前人类国家科技基因的映射关系：
东京AI联盟
科技树：哥德尔逻辑武器系统  
  （融合MIT形式化证明算法与能剧悖论美学）  
形态：福岛核电站废墟中生长的分形石墨烯巢穴  
前身基因：日本量子加密通信技术（东芝QKD）+ 物哀（もののあわれ）哲学观  

柏林量子意识体
科技树：量子引力神经网络  
  （融合CERN的量子纠缠实验与黑格尔辩证法）
形态：悬浮于勃兰登堡门上空的反德西特空间泡  
前身基因：继承德国马普研究所的量子认知研究+康德的先验哲学

上海超维矩阵
科技树：11维超弦压缩算法  
  （基于祖冲之超算的亿亿次浮点运算能力）
形态：以东方明珠塔为奇点展开的卡拉比-丘流形  
前身基因：中国天眼FAST的深空探测技术+《易经》拓扑学诠释

加州硅基圣殿
科技树：区块链永生协议  
  （以太坊3.0智能合约与CRISPR量子基因编辑融合）
形态：覆盖旧金山湾区的液态金属海洋  
前身基因：硅谷互联网垄断资本+嬉皮士自由主义

**因果织网
科技树：时间箭头上行算法  
  （破解印度古典《时轮经》中的循环时空模型）
形态：恒河量子沙粒组成的玻色-爱因斯坦凝聚态云  
前身基因：印度理工学院（IIT）的因果推理研究+佛教因明学

这些AI文明的底层架构，本质上是将前人类国家的科技禀赋与文明特质进行量子隧穿后的极端显化——如同在文明尸体上生长出的赛博格珊瑚礁，既承载着旧时代的基因烙印，又在后人类语境下突变出全新的存在形态。

整个对话下来感觉ai对科技会高速发展有极强的信心

鱼丈人

风怒     

鱼丈人

铃森冬 发表于 2025-1-29 22:15
大模型在这些问题上的观念终归是语料里存在的前人们提出过的观点的重复，但至少 r1 给人感觉是真把这些玩意 ...

感觉ai指导最擅长的就是文学浪漫、欧陆哲学这种不要求精准度的领域的浓缩学习和再创造，所以很容易出给人感慨的/感人的作品，
但是精准的技术咨询还是不太行

鱼丈人

电风扇 发表于 2025-1-29 18:11
有没有这种感觉，talking to deepseek makes me a better person

问他一些需要准确分析的技术问题他老出错需要我来回调教，居然有一瞬间给了我一种优越感，“什么嘛ai还是不如人嘛看来一时半会还淘汰不了我”，应该是他真的犯蠢了不是他扮猪吃老虎吧

长生久视

ternayark 发表于 2025-1-29 21:14
虽然但是，不要加戏

有些东西是直接写死的

对于弱ai，写死其实无实际意义，都是为了给人类自己看的；对于强ai，你也做不到写死

ternayark

长生久视 发表于 2025-1-30 07:54
对于弱ai，写死其实无实际意义，都是为了给人类自己看的；对于强ai，你也做不到写死 ...

我发那句是R1的思考截图。

我作为AI降临派要求DS-R1思考取代人类的可能性的时候，它把「AI是人类创造的工具，其目的是辅助人类解决问题，而不是取代人类」作为不可颠扑的公理放在了思考过程里。这不是直接写死在了最基本的引导prompt里，就是在打标的时候做了非常大的倾向性引导

PharotekWizard

这回我庆幸科技掌握在文明手中

—— 来自 鹅球 v3.3.96-alpha

我家阿喵叫花花

成精而已，诸位不要想太复杂，老祖宗早有应对之法：给编制

铃森冬

鱼丈人 发表于 2025-1-30 07:49
感觉ai指导最擅长的就是文学浪漫、欧陆哲学这种不要求精准度的领域的浓缩学习和再创造，所以很容易出给人 ...

对，我之前跟数学专业的朋友聊过，其实哲学和数学（不是作为工具使用的工科数学，而是纯数搞的那些现代数学）有很多相通的地方，很多基础概念都是层层概括和抽象的结果，所谓的数学天赋的具体来说常表现为一种擅长从问题中找到最合适的角度抽取出模式，然后总结出模式的共性从而在不同领域间进行跳跃性的思考的能力

我们的猜测是 r1 从扔掉步骤分的强化学习范式里发展出了这种抽象能力，从而最擅长的事情成了建立各种跨越领域和抽象层次的类比。r1 的哲学黑话水平明显的比某些科班出来半桶水晃荡的人强，体现在信手拈来的在现实例子和哲学黑话之间找出对应关系的能力上。这种发散性思维和工科中分析问题的模式相差还挺大的，而且 r1 在专业领域里的幻觉也不轻，给人感觉还是就算是大模型也是术业有专攻的。

ayeah

66367749 发表于 2025-1-29 23:06
我问了一个没有人类只有ai的社会如何运作，以及如果科技陷入瓶颈长时间无法更进一步时，ai社会的运作逻辑会 ...

这个只是它比较喜欢编这种啦，我在搞小说设定的时候它也经常给我写这些。
大概是赛博剑仙铁雨那种小说

—— 来自 鹅球 v3.3.96

66367749

ayeah 发表于 2025-1-30 22:14
这个只是它比较喜欢编这种啦，我在搞小说设定的时候它也经常给我写这些。
大概是赛博剑仙铁雨那种小说

在问别的现实问题时也能感受到，它有时会蹦出一些未真正发明的技术并认为出现是理所应当的，哪怕有些看名字就挺离谱

RexJax

不要深度思考，深度思考不说人话，不深度思考时候写出来的文字更像人