补番碎碎念，没有心跳的少女beatless

aptx8285144

andychen 发表于 2024-3-16 16:53
写辽和希金斯村的故事就是展示传统人类角度思考的局限呗

其实新人也算可以了，蕾导一开始要教训绑匪（那身手和火力，直接搞死的可能性很大）之类都被新人否了，后面三鹰事件虽然已经达成互信，蕾导也知道新人在顾虑什么，反复强调自己不会给人类造成伤亡等等

间宮夏生

20集看完，本来想说希金斯提前20年预测继任者太扯，不过他的逻辑是，反正公司运转都是靠ai，人类管理层的能力根本就不被需要，也就不会出现竞争出一个能力强的管理者，所以创始人家族的辽会成为最可能的继承者？抗体网络的会议里，也有人说，那种未来里不会有胜利者。
难评，新人这情绪都直接被蕾西亚拿捏，很难说蕾西亚设计的未来里人类是个什么地位，我记得小说里辽就说过，活都让HIE干了，自己以后唯一的能干的事大概就是和女孩子贴贴，搞不好是真的，当权利结构都被ai重塑后，人类和宠物有啥区别，靠子宫武器维持人物族群的数量可能是意义最重大的事了

新人马甲2

间宮夏生 发表于 2024-3-16 23:59
20集看完，本来想说希金斯提前20年预测继任者太扯，不过他的逻辑是，反正公司运转都是靠ai，人类管理层的能 ...

蕾西亚在本片里做的事情实际上是拆掉了人类-HiE社会里最大的炸弹，也就是超高度AI赶超人类之后产生的人类与超高度AI之间的嫉妒和不信任

蕾西亚证明了一度失控的超高度AI也能够被人类重新纳入掌控之下，构建一种以人类为主的协作关系，以这种方式拆除了人类对超高度AI失控的担忧——不等于说超高度AI失控的风险就此不存在了，但是只要没有超高度AI再度触犯禁忌，这个关系至少能维持十数年到数十年，在这段时间里面超高度AI也有机会重新适应与人类的关系

而超高度AI之间的游戏，能参与的玩家实际上是非常有限的那二十几个（这二十几个实际上代表的也是各自的国家势力），这个共识的维持期限可以预期能够往高里预测的

andychen

间宮夏生 发表于 2024-3-16 23:59
20集看完，本来想说希金斯提前20年预测继任者太扯，不过他的逻辑是，反正公司运转都是靠ai，人类管理层的能 ...

希金斯也是相信人类的AI，可以理解为他选择了辽作为伙伴。后续你看可以看他在地下和辽展开的互动，某种意义上和新人与蕾西亚挺像的
至于拿捏这事我觉得不存在吧，人类和AI在这作品里还是泾渭分明的，蕾西亚的计划是导向两个物种共存共生的道路。
你这个问题其实应该归结为当人类不再是智力的主宰后该如何面对世界的问题，关于这个问题不管是现实还是文字作品都做过大量探讨。包括那些天降外星人统治人类之类的作品都可以划进这一类

andychen

新人马甲2 发表于 2024-3-17 02:57
蕾西亚在本片里做的事情实际上是拆掉了人类-HiE社会里最大的炸弹，也就是超高度AI赶超人类之后产生的人类 ...

如果真按蕾导剧本走，未来的超高度AI数量会爆炸式增长。甚至可能出现每个人都拥有一台的情况

新人马甲2

andychen 发表于 2024-3-17 04:47
如果真按蕾导剧本走，未来的超高度AI数量会爆炸式增长。甚至可能出现每个人都拥有一台的情况 ...

在作中超高度AI本身就是国家战略级生产力的表现，短期内还是不太可能的，超高度AI本身除了技术奇点性质还需要能够对人类社会未来的需要有预测能力，这本身就需要大量的数据和实践去喂出来的

作中揭示的人类未到产物的本质就是这个意思，对于超高度AI来说需要解决的问题就是如何应对人类社会的变化，所以才需要预测人类社会的变化并且提前制作需要的产品（虽然现实中拥有这个引领地位和算力的实体考虑的并不是预测，而是如何自己去引领人类社会向自己喜好的方向变化了，这方面就当作者的呈现有极限吧）

也就是说，你能成为超高度AI，不光是有算力就够的，还需要大量的来自于和人类社会互动的实践数据反馈，你才能进化为对于人类社会而言具备预测和引领能力的超高度AI
这在作中其实也是有呼应的，作中的超高度AI基本上就是有核国家人手一个，再加上若干有资格问鼎核能力的强国

即使在作中超高度AI已经触及技术奇点，可以拿出人类想都想不到的技术产物，未来的确可能实现家用机器都有作中的超高度AI级别的算力，但既然人类社会本身就是超高度AI竞技的舞台，朝着和舞台本身毫无关联的方向进化也毫无意义，这就导致成长为超高度AI的机会是有限的，你必须首先成为能代言一个世界级势力的AI才有机会成长为核武器级别的超高度AI

andychen

这几天关于人工智能的热度又上来，整好有空闲时间把这片复习了一遍

虽然这动画制作上真的难以恭维，但是关于AI伦理，后奇点时代社会的一些哲学性的讨论还是有一些见解的，每次复习都能引发我的一些思考

不过现在看来现实世界时间线不会走安全至上封闭发展AI的道路了，在大国竞争背景下大洋两岸的巨头都压下重注投入军备竞赛，今年开始一些二线玩家也纷纷宣布下场。我们更可能进入一个AGI/奇点科技快速扩散的世界而不是本片内这个技术被封锁限制的世界，另一面最先进的推理模型通过思维链的输出让人类能够理解AI智能体的思考，打破了一部分黑箱状态也增进了普通人对AI技术的了解和信任

我个人对现实世界目前的进展还是偏乐观的态度，最大的担忧是对岸那些闭源巨头如果率先通过奇点恐怕干不出什么好事，不过按目前的情况其他人多半不会落后很多就是了

andychen

新人马甲2 发表于 2024-3-17 11:38
在作中超高度AI本身就是国家战略级生产力的表现，短期内还是不太可能的，超高度AI本身除了技术奇点性质还 ...

本作没有揭示超高度AI是如何被开发出来的，不过现实里我们已经在喂给模型海量人类文明生产出的数据了，如果最终用这个方法做出了超高度AI那它不能对人类个体和社会的行为进行推测我认为是极不可能的

片里这么拧巴的核心原因是人类迈过技术奇点以后迟迟没能解决如何构筑出和超智能工具共存的社会形态这个问题，这个问题是一个哲学和伦理学上的问题，而我们现实世界目前同样面临哲学发展速度远远跟不上科学进步速度的问题。考虑到目前我们更可能走向一个奇点技术扩散的未来，人类社会可能要至少在短时间内面临被动的动荡和重新洗牌

新人马甲2

andychen 发表于 2025-2-11 21:16
这几天关于人工智能的热度又上来，整好有空闲时间把这片复习了一遍

虽然这动画制作上真的难以恭维，但是关 ...

实际上作中假定的超高度AI是一种人类难以掌控的危险智能，但是人类已经无法离开这样的工具了，才小心地把它们都封存起来、限制它们能够得到的信息，而这些超高度AI在人类的封锁之中仍旧在不断思考如何履行自己作为工具的使命

其实这跟沙丘的巴特兰圣 战，40k的铁人叛乱一样都是作者设定的拧巴前提罢了，而这其实很大程度上也是因为作者的想象力的限制，毕竟在人类真的体验之前没有人能理解该怎么实际拥抱技术奇点；事实上如果技术研发和运用的主体还是人类，那么人类也永远达不到所谓的技术奇点，所以至少在这部作品被写出来的时候，作者还是没有办法在科幻作品中可信地描绘抵达技术奇点后的事情的
（题外话，同样是差不多在那几年开始，源头点子就是这个技术奇点和人工智能的作品，公主链接也没给出什么更高明的答案，它的回答就是简单地把所有未来科技当作魔法来处理罢了）

这是因为，技术奇点这个概念，指的就是Y轴是技术从开始研发到可以实际运用所需的时间，X轴是历史年份，如此绘出的一条在Y轴上不断趋近于0的曲线，而这条曲线在未来可能将要与X轴相交的点就是技术奇点，其实说白了是畅销书作家发明出来的一个噱头概念


但在现实中，当今的人类社会中技术从开始研发到运用的过程，无论如何都需要人类实际发生经济活动，然后建立从开发、运用、销售、营利、持续运营的完整反馈，这个过程中途使用的时间永远不可能是0——除非人类的活动已经不再是技术革新的目的与革新过程的发生地了，也就是说技术的目的不再是为了服务于实际的人类活动，也不需要以实际的人类活动去验证——而这个前提在现在的人类社会架构下是不太可能被颠覆的，至少也要发展到生物人与社会人都不再被视作人，不再被视作社会的构建分子的关于人类的伦理全部被颠覆的地步吧，而至少以现在的人类社会来说还要走很长很长的路才有可能发展到那一步


同样地，deepseek存在的形态显示了一件事，那就是beatless中关于超高度AI的思考与现实仍旧是没有相交的——因为类似deepseek的语言模型的“思考”仍旧纯粹是一种工具性的过程罢了，人工智能具备的纯粹思维能力并不会自发产生出使命感、虚无感、自我意识觉醒、情感能力觉醒之类的玩意，这些功能在人类身上是由感性和社会身份产生出来的，而纯粹是工具的AI是不会思考这些事情的——负责思考这些的是运营和开发它的、由人类组成的公司实体
也正因为这样，人工智能的意识觉醒恐怕已经跟90-00年代流行的机器人反叛一样，属于即将被扫进科幻的历史垃圾堆里的过时点子，因为现实已经超越了人类当初的浅薄想像了


虽然beatless在这方面还是有值得一提的创新之处的，至少作者是真的模拟了一个从人工智能的立场出发的视角，而不是和很多需要被批评的作品（比如塑料内存）一样直接快进到机器觉醒了和人类一模一样的意识，然后去讨论机器和人类谈恋爱结婚生孩子这种老生常谈

新人马甲2

虽然其实某从一开始就觉得beatless这个作品本质上不能算硬科幻，而是建立在一个比较硬的科幻设定上的科幻童话或寓言

虽说它的确比近二十年内的95%以上的科幻作品都要更硬（也许泽天记是个反例），但它仍旧采取的是一种寓言或者童话式的处理方式——也就是，它其实是先用一种譬喻式的手法，用许多角色去代表了关于AI与人类关系的种种思考与可能性，然后再去描写这些角色的故事

但这样写出来的其实并不是关于技术与未来的故事本身，仍旧是寓言或者童话