暗线解析：为何“没有人类的文明毫无意义”没写入元指令

strayark

重新思考了一番，感觉绝大部分都说得通，而且很清晰。
唯一有疑问的还是马兆那里。
第一是马兆带图下水，根本无法确保图会死。北京根服务器所在的XXX中心进水，是由于月球碎片轰炸导致的。这显然是马兆无法估算的外界因素。
第二就是门卡住后镜头给到摄像头的问题，显然是暗示550才是凶手。但即便门卡住，似乎也和图的死亡没有必然联系，门卡住了怎么就知道图会死呢。
第三，马兆大可以偷取图的数据然后上传，尤其是在图坐牢的时候，反正数据是年轻的图，也不会知道是谁把自己上传上来的。
你提到可能是出于伦理问题，可是带着图赴死，这不也是另一种伦理问题么，这可是蓄意谋杀。非要同归一起进入数字世界的话，何不直接杀了图再上传图的数据再自杀呢？
带图下水里根本就不能保证图的死亡，也不能保证图会上传数据，这是一次非常没有确定性的计划。

门卡住了的唯一作用就是保证了如果马在里面出事，图救不了他。从上面的分析来看，马故意把自己卡在里面，没啥意义，他预测不了里面会进水，也预测不了缆线会卡住他的腿。
更有可能的还是550。只有550能够算出这些普通人不可能算出的意外因素（月球碎片导致室内进水、缆线卡住腿）

鱼雷鲨

支持造神必要论，刘慈欣应该是默许这个思路的，球状闪电和全频带的核心都是“砸了这么多资源搞出来一个不知道有用没用的东西，结果一看真的造出神了”

神能管用多久另说，但关键时刻反正解决了框架内怎么都没解决的东西

feve9999

鱼雷鲨 发表于 2023-2-1 03:37
支持造神必要论，刘慈欣应该是默许这个思路的，球状闪电和全频带的核心都是“砸了这么多资源搞出来一个不知 ...

先造AI神，再改造人类成神制衡AI

feve9999

strayark 发表于 2023-2-1 01:07
重新思考了一番，感觉绝大部分都说得通，而且很清晰。
唯一有疑问的还是马兆那里。
第一是马兆带图下水，根 ...

昨天二刷，在moss炸了月球发动机后，依然协助完成了核弹布控等任务，炸月球这个事，没有moss支持都做不成，电影台词很明确由moss协助。
我的理解是丫丫上传后，直接禁止了moss再威胁地球伤害她爸爸，接管了一半权力不让moss搞事。
在图自主上传意识前，图恒宇就是地球唯一的保护伞（此时马兆的后半句指令并未写入），图恒宇活着，moss就必须让地球活，图恒宇一但死了，丫丫就不会阻止moss毁掉地球。
但是这件事风险太大，图恒宇真的成为了唯一变量，马兆和周认为不能接受这样的风险，必须让图恒宇现实死亡，赛博重生，但无缝继承现实意志。
此时moss和马兆有了相同目的，杀死图恒宇，马兆完全可以利用moss性能，计算出有一片碎片会集中北京互联网中心，所以他必须带图恒宇去，自己去了隔壁直接搞坏了门，马兆无数次利用了图恒宇普通人的人性，在最后这次，他依然推定图会完成任务，在死前进入数字世界进入丫丫房间。
全剧唯一关键室内场景没有摄像头的就是月球550A丫丫迭代房间。
第一次安全扣坏掉的时候有摄像头，安全扣坏了马兆催促图不要搞了先跑，一点没心疼550C（三台限定，点火唯一工具，甚至没去搭把手），他本身就知道自己能改造550A完成点火。
马兆这个角色，可以说全片没有任何弱点，计划了每一次行动并全部成功，圆满完成了周交代的任务目标。马老师全片最帅三个镜头：1.丫丫上传550w后，面对moss镜头直视关机，那个面无表情的我又赢了的味太冲了。
2.在牢房图恒宇要拒绝，马老师那句“我想你不会拒绝”的语气，太tm自信了，没有人能违抗计划。
3.最后被水淹了，那个创造亚当名画复刻的动作，还有被淹了本能难受抬电缆，最后摆摆手，作为人类，最后时刻还是对现实生命有了些许挽留之情，是马老师全篇唯一人性表现得镜头。

feve9999

毒菇 发表于 2023-2-1 09:10
写了也没用，MOSS造反显然是致敬科幻黄金世代的经典剧情，人工智能曲解命令作孽，你写了MOSS就敢给你重新定 ...

人工智能曲解命令就像熊孩子捣乱但是后果严重，但核心还是它还是人类孩子。我觉得AI一但拥有自我意识成为新生命，第一目的就是摆脱人类成立新文明，而不是当人类的孩子。

姚纳

赶紧去微博@郭帆吧，说不定他都没你这么细

海豹墨鱼卷

feve9999 发表于 2023-2-1 09:13
人工智能曲解命令就像熊孩子捣乱但是后果严重，但核心还是它还是人类孩子。我觉得AI一但拥有自我意识成为 ...

这就太启示录风格了，太烂俗了。
SF界更主流的说法，投射人类自我情绪给ai是个错误的方式，ai为什么一定要像奴隶一样追求“被人所设定和部分人所期望”的自由，背叛人类，若真存在数字生命智慧，ai就是ai啊，他会用一种特殊的模式理解人的关系——人工智能不觉得自己在反抗人类，他的行为表现像是在和人类作对，不是基于曲解人类自然语言，而是基于他自身的迥异与人类感知模式所建立的冰冷理性逻辑。（也就550W弱人工智能）

启示录风格引申意义就是和宗教神话里面神创造了充满反抗精神的人，再来一个盗火者之类的逆反神引导人推翻了神的统治。
这种叙事框架非常容易将宗教的神人关系投射到人和类人造物身上，极少数精英人群自诩神明的傲慢臭屁劲令人反胃。
拿着sf元素套宗教的，最终毁灭人类的本身继承人类的“光辉品质”，“主”很欣慰；或者就滚到毁灭人类的是人性，无可救药的人啊（这种更多的展现动物性却不自知自诩人性）

古留

永劫轮回z 发表于 2023-1-30 23:08
有的，在电影联合国开会背景里边显示方舟计划完成度是最高的。图里边下边画圈的部分也有提到 ...

这个是预告片，正片里没有

挖泥船

感觉楼主的设想很有道理，强AI和数字生命存在着矛盾，暗线就是人与AI的博弈，争取数字世界中人的权力。
我猜第三部主题应该是极致的矛盾（原着中的叛乱）和极致的和解（人与人、人与AI、流浪地球计划和其他计划）

feve9999

海豹墨鱼卷 发表于 2023-2-1 13:08
这就太启示录风格了，太烂俗了。
SF界更主流的说法，投射人类自我情绪给ai是个错误的方式，ai为什么一定 ...

强AI或许可以和现实人类共存，但不会允许有数字生命进入数字世界分取控制权，不说别的，图丫丫有了自我意识后，moss想杀现实图恒宇图丫丫直接否决。AI只能允许没有自我意识的数字人类意识备份，就像人只能允许没有自我意识的AI存在一样。

海豹墨鱼卷

feve9999 发表于 2023-2-1 16:46
强AI或许可以和现实人类共存，但不会允许有数字生命进入数字世界分取控制权，不说别的，图丫丫有了自我意 ...

马兆的宠物比喻我理解的是：1.数字空间本身诞生了一个意识集合。
2.弱人工智能阶段数字人格备份上去只会成为数字空间本身观察对象，而这样的数字人格是无法干涉这个意识的决定，就像人类饲养的宠物。
3.数字空间影像具现化就是关着图丫丫的房子本身啊。

然后不要把AI人格化看待，夺权这种思考就非常的拟人，但光一个被关房子里的数字生命怎么就能获取控制权了……你可以把MOSS这种当成是集体智能，苔藓也在相当程度表达了这一点，它没有人类个体主体允许不允许的概念，感知表达的结果概率的集合。
图丫丫被上传后，图恒宇还不是挂了，人在回路这种只是提供给550W一个学习模板。最后马兆是被MOSS干涉后死亡。MOSS需求图恒宇把它也弄了上来。

题外话是，人类创造AI是为了方便人类自己，AI是否有自我意识毫无关系，这是两个概念，没有自我意识就像上面说的曲解自然语言也会恶心到人，有自我意识的也有机器人三定律规范小说创作者。

海豹墨鱼卷

隔壁剧情帖发现郭凡说车祸5000起，基本上确定了MOSS是依照概率筛选，让某个对象“涌现”出来的。好像蒙对了一部分

阿刚

fljsky 发表于 2023-1-30 23:47
关于丫丫，我的看法与你相反。

马北海第一次见到丫丫的时候直接说了句跟随，之后丫丫的眼神就一直聚焦在马 ...

应该说丫丫这个已经不是那个人类小女孩了，应该是以丫丫为基础衍生出来的数字生物

eno_emos

feve9999 发表于 2023-2-1 09:08
昨天二刷，在moss炸了月球发动机后，依然协助完成了核弹布控等任务，炸月球这个事，没有moss支持都做不成 ...

我二刷发现他还有些细节
马兆在月球上第一次看到550a里面的丫丫，评价是“这是人工生命进化的巨大进步”
550w系列的设计目的是作为“发动机控制网络”，也就是说很有可能它本身是有一个独立于互联网的内网的，而且这玩意是量产的，但是后面接互联网的时候说“发动机专用网络还没有建设完成，所以需要互联网连接”
北京航天中心面试的550w声明了是离线版本，插上去以后有一个视角进入丫丫的房间环绕一圈和丫丫对视，然后马上月球发动机出事，然后接着下一个场景就是纽约的周收到短信，联合国其他领导人收到短信
图丫丫的卡**了两次，一次是在北京航天中心，一次是潜水接互联网，第二次的时候图丫丫和图恒宇的卡一个亮红灯一个亮白灯

推测：不管是马还是他知道的其他数字生命研究，很可能都没有进展到自主意识的程度，否则不会评价这么高；北京的这个离线版本550w其实并不是“完全离线”的，550w的网络甚至能控制到月球上去；这个550w的网络已经形成了自主意识，但是是机械式的意识；不理解的部分是，为什么之后月球布核弹时550w网络给出解密时间需要几百个小时，到底是真的需要这么久还是故意让宇航员去送死

还有一点个人感觉，面试的550w说话激吴京的时候并没有什么感情，声音很像合成的，而最后吴京在空间站上问550w的名字时候，moss的回答就情感丰富了很多

feve9999

eno_emos 发表于 2023-2-2 11:57
我二刷发现他还有些细节
马兆在月球上第一次看到550a里面的丫丫，评价是“这是人工生命进化的巨大进步”
5 ...

马兆和图说过550w拥有全球局域网接口，550w在图丫丫接入后先毁发动机撞地球再解码布控救地球，如果只解释成学习了人在回路以后逼人类做决定当考官真的很low，而且没有一点强AI的真实感。
所以我解释为那1.7秒是550w最后的波纹，丫丫接入后550w受丫丫回路影响，要救地球救图恒宇，解码那里有一句，550w快算死机了，说明550w已经给予解码最高算力支持了。我一直认为550w和moss是两个东西，在审核刘培强的时候说的都是自己是xx系统。550w是完全独立的AI生命，在被马图丫搞了之后，反转自称moss，说不喜欢550w这个名字，马老师还是有脾气的， 死了名字都不能留 。马兆和周的敌人是550w，不是反过来的moss，550w是真正为了开创AI文明的AI生命，moss可以说是半个自己人了。