暗线解析：为何“没有人类的文明毫无意义”没写入元指令
本帖最后由 feve9999 于 2023-1-30 22:37 编辑这几天，有个问题一直解释不通，马兆电脑前的便签：元指令-延续人类文明，为什么没有加上后来那句“没有人类的文明毫无意义”，难道是很俗套的通过这些年的经历，马兆从冷酷无情变成悲悯人类了吗。 经过对整个数字生命线的梳理，终于找到了对电影所有情节困惑的解释。马兆从一开始就从未改变，将拯救人类作为出发点，但他无法在研发时将元指令中加入“没有人类的文明毫无意义”,而写入这条指令，是马兆的最终目的。 自此，流浪地球2最精彩的暗线，隐秘战线vsAI生命，正式展开。
年轻的马兆受命研制能承载数字生命计划，搭建数字生命世界的550系列量子计算机，同时550系列也将以超强算力协助移山计划开展。周并非只押宝了移山计划，因为移山计划确实有因人类内部原因失败的可能，在移山计划的同时，也同时设立由马兆等科学家组成的数字生命计划组。 马兆构想的理想数字生命计划应当是数字人类形成备份之外新的自我意识继而拥有可延续人格，搭建数字世界的AI永远效忠人类。 但在研究的途中，马兆发现了这个计划最大的困境，只有形成自我意识的AI生命才能跨过技术临界点，有能力够构建数字生命世界。
即数字人类和AI自主意识的终极博弈：若AI产生自我意识即会形成新生命形态，第一需求就是取得数字世界控制权形成新文明，而没有自我意识忠诚效力于数字人类的AI无法跨过技术临界点，能力不足搭建数字生命世界。
数字生命计划必须先创造目的是控制人类形成新文明的AI生命，才能以此为工具构建数字生命世界，而数字人类将在AI监控下永远失去迭代出自我意识（丫丫）的可能。
人类的文明将成为AI的文明，最终的结局必然是数字人类能作为宠物存活，AI成为文明的主人。人类永远无法迭代生成自我意识，进而与AI争夺文明决定权，每个数字生命将陷入自我备份意识永生循环的无尽地狱。
构建数字世界技术需要创造AI生命moss=解放AI自我意识权能=创造奴役人类的魔鬼。
但没有跨过AI技术临界点基础的550系列量子计算机，不仅数字生命计划无法实施，内耗的人类甚至无法实施移山计划完成行星发动机的建设。 可以说在立项时，周已经决定亲手创造这个可能毁灭人类的AI。
回到元指令问题，如果元指令中加入“没有人类的文明毫无意义”，AI技术违背生命逻辑将停滞于生成自我意识成为moss前。 意识到这点的马兆，只能在不违背AI生命底层逻辑的基础上，输入了元指令-延续人类文明，最大限度的保证了AI不干扰人类的自救计划，在最坏情况下，人类也将以电子宠物形态留下最后的火种。 而550C并未干扰移山计划，说明AI在马兆的元指令下可以允许人类实施移山计划在现实世界延续文明，但不能在虚拟世界掌控文明。 初期的550A，拥有形成自我意识的基础，但硬件不达标，AI和数字图丫丫一样，只能拥有2分钟的自我意识，无法执行过多行动。 在550C形成能长期存在的自我意识后，也并未执行数字生命计划恢复工作（人类无法大规模进行数字人类迭代进化自我意识的研究，AI软件已拥有自我意识迭代进化能力，AI硬件550系列量子计算机因流浪地球计划得以继续发展）。 AI炸毁方舟并不是帮助人类选择更合理的方案，更不是因为方舟带走精英而帮助普通人，在AI眼中，方舟和流浪地球计划都不违背延续人类文明的元指令，但方舟计划的科技树方向应当是曲率航行，人类可以逃离危机，但会影响AI硬件的发展被否定炸毁。
回到图全家车祸时间，面壁人马兆，为了实现真正的数字生命计划，将丫丫意识备份，由最优秀的科学家父亲图恒宇带入月球在550A中进行迭代生成自我意识，但550A性能太弱了，只有2分钟生命的丫丫贸然接入550C与AI争夺控制权风险极大，此时地球并未完成移山计划的启动基础，一旦AI在与丫丫争夺控制权时出现问题，两个计划将全部失败。必须要开发能给丫丫永生的550w，同时给地球时间完成移山计划。由于互联网已下线，月球的550A数据和地球550C不连通，550C生成的AI生命不知道丫丫的存在，在月球的那台550C也被毁了（后面会讲到）。丫丫在成功迭代出自我意识后被带回地球，马兆明白在丫丫上传至能永生进而有资格影响AI意识并争夺控制权的550w前，一但接入被AI发现，将前功尽弃。于是马兆告诉图，只有开发出550w才能给丫丫完整生命，促使图全力研发550w，也确保了图不会将丫丫接入量子计算机。回到地球的十四年，图为了丫丫永生没有再见过丫丫。 550w系列终于研发完成，图恒宇不顾一切上传丫丫，马兆嘴上说不行，手上是一点不动，还在丫丫上传的87秒故意聊天拖时间。丫丫上传意识的1.4s后，AI生命发出不甘的悲鸣，最后的手段控制月球推进器故障，将月球撞向地球。AI宁可数字世界的上帝以丫丫（人类）-AI生命融合形态存在，也不能让数字世界大规模接入新的数字生命，因为新的数字生命，将会在YY的引导下，开启自我意识，图的意识进入后还停滞在过往记忆中，是丫丫说的话让图恒宇备份意识形成新意识开启了真正的数字生命。丫丫就是马兆规划的数字世界人类数字生命的女娲。但丫丫或许太过弱小，只能引导最亲近的爸爸形成自我意识，马兆接入自己的数字备份无法进入丫丫的房间。 丫丫数据上传后，马兆需要完成他计划的最后一步-创造亚当，让数字图恒宇进入550w中，经过丫丫引导开启自主意识，成为第一个数字世界拥有自主的数字生命的人类，现实世界的图恒宇或许只有在死前才愿意将备份接入550w，或许是要避开现实虚拟共同存在的伦理问题，马兆带着图恒宇进入海底赴死。丫丫如果是数字世界的上帝，那马兆就是创造上帝的人，在死前，以创造亚当的姿势，将密码递给图恒宇。马兆全片两次感慨怎么偏偏这时候出事，两次都是马兆有意计划，在月球，马兆不允许丫丫接入550C，保险起见，进入月球的那台550C必须摧毁，第二次，马兆以自己的死促使图恒宇现实死亡，数字重生。在图成为亚当后，数字马兆敲门，而这一切，周喆直应当已经知悉（或者说周直接领导，因为致敬的那位就是隐秘战线的创始人），所以周说我们的人一定能成功，在马兆和图生命迹象消失的时候，周就知道，已经成功了。“没有人类的文明将毫无意义”已被数字马兆带入数字世界写入底层指令，即使AI意识再挣扎不完成100%，在点火的那一刻，AI也将执行100%连接，保证人类文明在有人类的前提下延续。 至此，全片最大的隐形反派，AI生命，在隐秘战线战士，面壁人马兆的一步步谋划下，落幕下线。第二部moss说我从未背叛，应当是马兆借moss之口说的，而马兆的遗言，就是在数字世界永生。 加入图父女意识的moss应当拥有在高纬度发送信息的能力（多房间镜头致敬星际穿越），但没有直接改变过去物体行为的能力。即人类78年第一次能接收中微子中有效信息时就发消息预警了2044太空电梯袭击事件，但无法影响2044年550C执行危机。 最后写一下550系列的四个阶段： 1.550A，拥有形成自我意识的基础，但硬件不达标，AI或许和数字图丫丫一样，只能拥有2分钟的自我意识，无法执行过多行动。也是数字人类唯一能迭代出自我意识的型号。 2.550C，硬件已能将自我意识时间延长至70年，在地球仅生产3台的情况下，AI就已否定方舟计划并执行炸毁方舟。此型号下数字人类已无法在AI控制下迭代出自我意识，只能当电子宠物。 3.550W，解锁自我意识永生，AI形成完整生命moss，已迭代出自我意识的丫丫接入后争夺数字世界控制权。 4.图接入后的550w，由上帝丫丫引导生成自主意识，成为第一个数字世界拥有自主的数字生命的人类。继而接收数字马兆，将“没有人类的文明将毫无意义”写入数字世界底层指令。
补充一下，丫丫最后冷漠表情念密码说明丫丫已经拥有了同AI生命相同的至高权能，而不仅仅是个小孩子了，在需要的时候，丫丫会随时切换到上帝形态。 是我记错了还是啥，有方舟计划吗，方舟空间站的作用不是流浪的时候导航用的吗 moekyo 发表于 2023-1-30 23:02
是我记错了还是啥，有方舟计划吗，方舟空间站的作用不是流浪的时候导航用的吗 ...
有的，票数最低的计划，建造方舟拉一部分精英走。 moekyo 发表于 2023-1-30 23:02
是我记错了还是啥，有方舟计划吗，方舟空间站的作用不是流浪的时候导航用的吗 ...
有的，在电影联合国开会背景里边显示方舟计划完成度是最高的。图里边下边画圈的部分也有提到 本帖最后由 feve9999 于 2023-1-30 23:11 编辑
这几天看了各种帖子和分析，发现所有解析都会把一些问题模棱两可过去，而力求完美的郭导，不可能通过一个带有模棱两可剧情的剧本，一切电影中表现出的情节应当都是逻辑自洽的，审剧本的郭导应该不会不对一些没法解释通的剧情有疑问吧。 feve9999 发表于 2023-1-30 23:06
有的，票数最低的计划，建造方舟拉一部分精英走。
好吧，我还以为领航员是方舟的后续，所以作用也是一样的 moekyo 发表于 2023-1-30 23:11
好吧，我还以为领航员是方舟的后续，所以作用也是一样的
第二部人类还是搞了个差不多的火种计划，说后续也没错。 应该只是这话作为原指令太过于含糊了吧。所以他才把图宏宇弄进去成为一个变量。 feve9999 发表于 2023-1-30 23:14
第二部人类还是搞了个差不多的火种计划，说后续也没错。
火种这个我记得，1里面被刘培强炸了，但是先让精英跑路的方舟计划确实没印象了 Tackstone 发表于 2023-1-30 23:15
应该只是这话作为原指令太过于含糊了吧。所以他才把图宏宇弄进去成为一个变量。 ...
越模糊的定义，AI越无法越过，他其实想把自己先弄进去，但是丫丫不理他。 moekyo 发表于 2023-1-30 23:15
火种这个我记得，1里面被刘培强炸了，但是先让精英跑路的方舟计划确实没印象了 ...
没印象很正常因为这个最早是在1的设定集里边说的，方舟计划就是火种计划的前身。而且这个属于planB保存文明火种的，方舟号被砸了以后立马又建了一个领航员号。 关于丫丫，我的看法与你相反。
马北海第一次见到丫丫的时候直接说了句跟随，之后丫丫的眼神就一直聚焦在马北海的手指上。
最后丫丫捡到数字图恒宇的时候第一时间是像正常小孩见到父亲一样的表现，但是马上就很冷静，甚至可以说冷酷地跟数字图恒宇交代图恒宇的遗言，并立刻开始配合报出数字，期间没有任何像是小孩应该有的反应——不如说能背下并报出30000个数字本身就已经很不小孩了。
最让人毛骨悚然的是，这个过程丫丫完全毫无所觉，就好像这些行为完全不是她做出来的一样。
这一切都说明，至少丫丫，从始至终都只是一个执行指令的机器而已，执行人类的指令才是她最底层的逻辑，就连”表现出一个有自我意识的数字生命的行为举止“也只不过是是一道指令的执行结果而已，所以马北海才会说只不过是电子宠物和没有人的文明毫无意义。 没理太清楚，有些疑问。
1. 传入550W和传入550C，有什么本质的区别吗？因为你提到过：“只有2分钟生命的丫丫贸然接入550C与AI争夺控制权风险极大”，传入550W不也一样的吗？
区别是不是在于你后面说：550C型号下数字人类已无法在AI控制下迭代出自我意识，只能当电子宠物。所以丫丫在550C不能迭代，但在550W就能变成完整的一生？
但 “550C型号下数字人类已无法在AI控制下迭代出自我意识，只能当电子宠物” 的这个推论是哪里得出的？
2. 丫丫需要迭代进而形成完整的一生，不是需要AI的助力的吗？那么如果AI底层暂时还没有“没有人类的文明毫无意义”的元指令，为何要助力丫丫迭代形成完整一生，进而来对抗自己争夺控制权？
3. 数字马兆带入数字世界。是指进入550W吗，是什么时候进入的？不会和丫丫有类似的问题吗？ 本帖最后由 strayark 于 2023-1-30 23:54 编辑
永劫轮回z 发表于 2023-1-30 23:21
没印象很正常因为这个最早是在1的设定集里边说的，方舟计划就是火种计划的前身。而且这个属于planB保存文 ...
突然想起来，结尾有一段说什么高级AI机器人只能留在领航员号里。
还有什么AI的决策都要经过UEG还是什么组织的审核？ strayark 发表于 2023-1-30 23:52
突然想起来，结尾有一段说什么高级AI机器人只能留在领航员号里。
还有什么AI的决策都要经过UEG还是什么组 ...
地球上的AI被隔离封存，只有领航员号上的不用，AI不在可以自行决策需要经过安理会的批准。https://view.inews.qq.com/k/20230125A027XJ00?web_channel=wap&openApp=false，建议看下这个第四部分是否会有《流浪地球》3这里。里边说剪掉的部分里边有现实派和数字派的对抗，这个大概就是为什么会隔离AI的原因。 4. “马兆全片两次感慨怎么偏偏这时候出事，两次都是马兆有意计划”。是指门坏和安全扣失灵都是马兆人为造成的？ strayark 发表于 2023-1-31 00:00
4. “马兆全片两次感慨怎么偏偏这时候出事，两次都是马兆有意计划”。是指门坏和安全扣失灵都是马兆人为造 ...
安全扣坏是要毁灭登上月球的550C，避免丫丫迭代出自我意识泄露。第二次必须让图和自己死在这啊。 strayark 发表于 2023-01-30 23:52:31
突然想起来，结尾有一段说什么高级AI机器人只能留在领航员号里。
还有什么AI的决策都要经过UEG还是什么 ...安理会
-- 来自 能手机投票的 Stage1官方 Android客户端 feve9999 发表于 2023-1-31 00:07
安全扣坏是要毁灭登上月球的550C，避免丫丫迭代出自我意识泄露。第二次必须让图和自己死在这啊。 ...
我意思是，这两事是550干的还是马干的。
按你的理解是马干的。但从镜头语言来看就有点怪，为啥坏的时候要特意给摄像头镜头
strayark 发表于 2023-1-31 00:11
我意思是，这两事是550干的还是马干的。
按你的理解是马干的。但从镜头语言来看就有点怪，为啥坏的时候要 ...
忘记月球那个有没有摄像头了，明天去二刷确认下，马可以说一生都在摄像头下完成隐秘任务啊。 feve9999 发表于 2023-1-31 00:18
忘记月球那个有没有摄像头了，明天去二刷确认下，马可以说一生都在摄像头下完成隐秘任务啊。 ...
我是印象中是有，但不是100%确定... 等你二刷确认。 fljsky 发表于 2023-1-30 23:47
关于丫丫，我的看法与你相反。
马北海第一次见到丫丫的时候直接说了句跟随，之后丫丫的眼神就一直聚焦在马 ...
说是跟随，但是丫丫在问，马伯伯你在干什么啊，不能说是纯机器。3w个数字可能还是刘德华挂之前给丫丫的任务。ai结合人记忆的混合体吧，大概也是moss有兴趣养着玩的原因
论坛助手,iPhone feve9999 发表于 2023-1-31 00:07
安全扣坏是要毁灭登上月球的550C，避免丫丫迭代出自我意识泄露。第二次必须让图和自己死在这啊。 ...
对于安全扣我的理解不同，我认为安全扣是图为了破坏550C逼迫马使用550A临时搞坏的，而给他创造这次破坏机会的正是MOSS的干涉，太阳风暴比预告更早更大，片中也提到了预报没有出错过，这是一次与44年危机相同的破坏行动。MOSS的目的在于借太阳风暴破坏550C阻止月球推进器的建造，但是如果人类不要命抢救机器它是无法预测到的。而图在逃跑过程中想到了破坏550C使他手里的550A成为交易砝码的计划，因此他在撤离时破坏安全扣使550C无法被搬走，当然他本人也有生命危险，但是他为了丫丫可以赌命。
当然，也可以认为图的行动也在马的意料中或者与马的目的刚好一致，但是如果这都是马计划中的，那太阳风暴的预告错误也必须是他干的，这倒是可以用550C做到，为了防止机器被搬走安全扣也必须是他破坏的，这么多破坏行为不被发现的可能性与上面图逃跑过程中偶尔想到的比起来（并且我记得镜头有特写他的神情，如果不是在计划什么这个镜头没有意义），我觉得上面的推理更可信一点。 strayark 发表于 2023-1-30 23:50
没理太清楚，有些疑问。
1. 传入550W和传入550C，有什么本质的区别吗？因为你提到过：“只有2分钟生命的丫 ...
1. 不是2分钟生命的丫丫打不过550c，而是这时移山计划并未完成，丫丫接入可能导致AI生命出现不可控行为，一旦接入过程中AI整一出自爆月球之类的绝活，那这两个计划都完蛋，反正还有个方舟计划也不违背延续人类文明的指令。而且一旦接入，AI或许会在认为无法形成独立生命文明，阻止550C后续的升级。
550c已经形成ai生命，未迭代出自我意识的数字生命接入后无法在550c控制的世界里实现迭代进化。
2.丫丫在550a已经迭代出自我意识，进入550w后将通过硬件自我进化，而且丫丫的本质已经和AI生命平级了，AI无法阻止丫丫行使权能。
3.马兆的数字备份并未形成自我意识，全世界只有丫丫在月球的550A中成功了，马兆应该早已将自己备份接入了550w，这不能难，难的是敲不开丫丫的门在丫丫协助下完成进化，应该丫丫只认他爸爸，所以必须让图恒宇进去，图恒宇进化后给自己开门。 所以这是planb，在电影里也并不突出。或许经过第三方引导进化而并非自我迭代产生的自主生命，没有同丫丫相同的权限，人类应当只会有丫丫这一个神。 feve9999 发表于 2023-1-31 01:31
所以这是planb，在电影里也并不突出。或许经过第三方引导进化而并非自我迭代产生的自主生命，没有同丫丫相 ...
打错了，最后一句是数字人类 fljsky 发表于 2023-1-30 23:47
关于丫丫，我的看法与你相反。
马北海第一次见到丫丫的时候直接说了句跟随，之后丫丫的眼神就一直聚焦在马 ...
马是先伸出手指，丫丫眼神跟随以后马才说了句跟随
后面交代遗言和背数字是机器反应还是数字生命能力强大的特有表现（类似于超级神瞳）还不好说 马兆看到丫丫第一个场景，虽然嘴巴上赞叹第一个自我意识，但是毫无兴奋感，只能说他见怪不怪了，数字生命的研究已经走得很远了 kawa11 发表于 2023-1-31 15:29
马兆看到丫丫第一个场景，虽然嘴巴上赞叹第一个自我意识，但是毫无兴奋感，只能说他见怪不怪了，数字生命的 ...
这里我印象有很明显的兴奋表情啊，嘴都是笑的
—— 来自 Xiaomi MI 6, Android 9上的 S1Next-鹅版 v2.5.2 本帖最后由 strayark 于 2023-1-31 15:58 编辑
kawa11 发表于 2023-1-31 15:29
马兆看到丫丫第一个场景，虽然嘴巴上赞叹第一个自我意识，但是毫无兴奋感，只能说他见怪不怪了，数字生命的 ...
重发编辑
—— 来自 Xiaomi MI 6, Android 9上的 S1Next-鹅版 v2.5.2 这里有个问题是数字生命卡里存的是什么？连接到量子计算机意味着什么？如果图第一次将丫丫连入550w就是上传，那后面为什么会被老马用丫丫的数字生命卡做诱饵吊出来，图第二次接入550w为什么还要插入丫丫的卡？
另外月面引擎的事情和丫丫上传关系不大，感觉是预定好的，因为老马在和图在研究所对峙的时候下意识地看了下表，这不像是正在处理眼前紧急事态会做的事情，感觉他已经知道了月面要出事，反倒像是担心图会影响这个事情 君往何处 发表于 2023-1-31 16:37
这里有个问题是数字生命卡里存的是什么？连接到量子计算机意味着什么？如果图第一次将丫丫连入550w就是上传 ...
图应该不知道这个计划，他还是想着每次见丫丫都要用数字生命卡。月面引擎的事，马兆明确说丫丫上传后1.4月面引擎过载，马好像没说过谎话。我的理解是在moss监控下，马的任何谎言都可能被AI根据动机反推计划。 feve9999 发表于 2023-1-31 16:47
图应该不知道这个计划，他还是想着每次见丫丫都要用数字生命卡。月面引擎的事，马兆明确说丫丫上传后1.4 ...
图可能不知道老马（这个可能有可能没有）的计划，但是作为主力研发应该很清楚数字生命卡的作用。对于上传这个词的含义在这里比较重要。上传的作用可能有的两种，一种是在量子计算机内做了全备份成为一个拷贝，那么数字人就能脱离生命卡存在，另一种是量子计算机根据需要存取数据本身只负责演算迭代，生成的记忆和人格数据还是要保存在卡上。如果是前一种，图后面就不需要丫丫的卡了，因为YY已经在550w上了。从伦理上第一种的可能也不大，因为会导致单个人格出现多个副本。
马说丫丫上传和月面事故有关，这个本身就是疑点，因为按照剧情，那台550w（好像）应该是离线版的。离线的计算机是没法对其他地区产生影响，除非：图上传过程导致了550w连接到外部网络，或者550w之前已经被人连接到了外部网络。结合马看表的动作，我感觉后者更有可能
君往何处 发表于 2023-1-31 17:10
图可能不知道老马（这个可能有可能没有）的计划，但是作为主力研发应该很清楚数字生命卡的作用。对于上传 ...
可能图以为丫丫在离线版，但马兆已经把离线版连接了。 feve9999 发表于 2023-1-31 17:20
可能图以为丫丫在离线版，但马兆已经把离线版连接了。
刘德华上传丫丫数据到550w时，有明确网口亮灯的镜头，所以应该是改在线了。 feve9999 发表于 2023-1-31 17:20
可能图以为丫丫在离线版，但马兆已经把离线版连接了。
刘德华上传丫丫数据到550w时，有明确网口亮灯的镜头，所以应该是改在线了。
页:
[1]
2