OpenAI的千亿宫斗大戏背后，是《凉宫春日》和《哈利•波...

开方

AirstripOne 发表于 2023-11-23 20:44
现实就是如此。

https://www.wired.com/story/effective-altruism-artificial-intelligence-sam-bankman ...

你没get到，后一句说的是 tong yi 教的梗, 他是在吐槽这个世界的荒谬性233

另外非常感谢老哥你在这个帖子里的科普，终于搞明白了奥特曼和伊莉雅的斗争

昵称怎么起

潜水艇君2 发表于 2023-11-23 20:28
哦，莫名其妙就写了个引言和记忆咒，和结局一点关系都没有，结局全都是一周内从那长达几百万词他自己都看 ...

参与人数 1        战斗力 -1        收起理由
潜水艇君2        -1        把写大了控制不了结局的部分给我贴出来我就.

本来不想回，但你都开始扣分人身攻击了那我就跟你较真了。写大了控制不了结局是作者说的、不发原结局的也是作者，但你认为我必须要有“作者自己的话以外的证据”才能主张作者自己的结局不是现在的结局，原因是“作者不可能莫名其妙就写了个引言和记忆咒，和结局一点关系都没有，结局全都是一周内从那几百万读者留言里拿GPT精炼出来的。”

那请你先证明“作者不可能莫名其妙就写了个引言和记忆咒”，而不是在这主张“不证自明”。原作我忘的差不多了，但如果你确定作者不可能写点跟结局无关的情节，并愿意承诺“如果我（ID“昵称怎么起”）能找出这样的情节，你（ID“潜水艇君2”）就在外野发帖承认错误”，我就花时间重新再看一遍。

潜水艇君2

妈的，仔细通读了一遍，这玩意儿关于《理性之道》的部分睁眼说瞎话断章取义地令人叹为观止

然而千万不要看不起秃头老哥，因为他还有另一重身份是“魔法教授”。这是指有个硅谷大佬推崇备至的小说叫《哈利波特与理性之道》，里面有个角色就是以他为原型。

这秃头老哥的名字只在第五章被当成路人用了一次，我们一般管这个叫客串

以致该书的粉丝大多也都认为自己具有某种智力会逻辑推理方面的优势，然后抱着高高在上的态度批判不喜欢此书的人。

理性之道在海外/英文圈引发的最大的冲突是和宗教群体，因为作者EY极端反对宗教和所谓“安息”“上天国”的说法。这微信文章的结论怕不是从知乎得出来的

要知道，同人作品是无法盈利的，因此此书的连载事实上别有目的。其原因就在于要看小说必须登陆一个叫LessWrong的网站，且管理者与《哈&理》的作者是同一人。

理性之道一开始是发在Fanfiction上，后来拿WordPress建了个主题站，根本没有什么要看小说必须登录网站的说法，也不想想小说发在一个冷门论坛怎么会有读者搜得到

起初，尤德科夫斯基并没太多追随者，但在创建LessWrong并发布《哈利波特与理性之道》后，他的论坛逐渐变成了AI研究者与AI爱好者的重要网络社区。

LesserWrong早在2010年就已经成规模了，原身是从05年就开始追求机械飞升的超人类主义成员。现在的核心成员也不是一群看同人的死宅，而是另一群高强度沉迷在线解密（需要诸如翻阅源代码，倒放视频和解密转base码）的死宅



OpenAI的事不了解，不评价。但说实话，尽管EY和Lesserwrong群体有其傻逼和极端之处，把整件事归结为邪教，就和把新西兰清真寺枪击案归结为4chan邪教，泥潭坛友摸鱼归结为S1草台邪教一样。

昵称怎么起

潜水艇君2 发表于 2023-11-23 20:28
哦，莫名其妙就写了个引言和记忆咒，和结局一点关系都没有，结局全都是一周内从那长达几百万词他自己都看 ...

另外我不承诺如果我没找到就道歉，因为我是在花时间证明你的主张，这本来是你的义务（但如果你愿意为你的发言背书，而非随口一说，我认可你尽到你的举证责任），只有证明你的主张了我才能在此基础上回应你回复的其他部分。

潜水艇君2

昵称怎么起 发表于 2023-11-23 21:10
本来不想回，但你都开始扣分人身攻击了那我就跟你较真了。写大了控制不了结局是作者说的、不发原结局的 ...

写大了控制不了结局是作者说的

你把作者自己说的这句话找出来就行了，找出来我就给你把分加回去

kaildo

这么会捕风捉影，真是个当营销号的好苗子

女神アイギス

AirstripOne 发表于 2023-11-23 14:50
他们还更进一步，搞了个叫罗科蛇怪（Roko's basilisk）的东西。以下摘抄 Rational Wiki：

罗科的蛇怪理 ...

最tm坑的你没有说出来，人工智能惩罚模拟体和你有什么关系？
大有关系
既然模拟体自己不知道自己是模拟体，那正在读这行文字的你敢确定的说自己不是模拟体吗？

wlhlz

校内写生大会 发表于 2023-11-23 21:32
中国人难以理解 x
明朝人难以理解 o

你都没懂我在说什么

wlhlz

yokohama5084 发表于 2023-11-23 21:42
怎么难以理解？中国人也需要一个皇帝，一个圣人，一个哲人王，一个教员 ...

他们追求的永恒的超越的存在远在你说的这些东西之上，这个神不是某种偶像，他们这些人完全能够意识到任何神都是人造的偶像，大部分人完全可以称得上是无神论者，但是还是想要一个超越于宇宙任何东西之上，能够给宇宙一个目的事物，说的再明白一点，宇宙没有目的，生命没有意义这个现实他们理智上完全理解，感性上无法接受，于是只好诉诸于此楼这一类的哲学思辨

古凌锋

理性之道我当初看就非常恶心，事实证明我是对的，yeah！

wlhlz

校内写生大会 发表于 2023-11-23 22:56
无非表现形式不一样罢了，中国人要么想求个长生，与天地同寿，自己去感受，要么就是生个娃出来鸡试图让娃 ...

所以说你根本没懂，我说的那种人跟你扯的这些完全不相干，也并非是在批判他们，只是描述一下这种现象，因为他们绝非是愚昧反而大多比你我更聪明

为了让你理解我举两个很有名的例子，一个是爱因斯坦，他并不信仰任何宗教，但是相信斯诺宾莎主义，还有个更具体的例子就是卡尔萨根，如果对科幻有所了解的人一定听说过他，作为著名科学家以及科普科幻作家，一直旗帜鲜明的反对伪科学，还有不少反对宗教的名言，他写过一本小说叫接触后来改编成朱迪福斯特主演的电影超时空接触，这部小说女主角很明显原型就是他自己，除了外星人之外这书还有一条线就是宗教，书里大力批判了基教原教旨主义的愚昧乃至邪恶，还嘲笑了上帝这种东西跟宇宙比起来有多么渺小，但是小说结尾，突然冒出来一个女主从圆周率里面发现了宇宙造物主存在证据的情节，然后自我和解跟一直暧昧的温和派宗教人士滚床单去了

wlhlz

yokohama5084 发表于 2023-11-23 23:02
没有区别，在给自己找个爹这方面谁也不比谁高多少

那我只能说我并不像你们非得头上有什么东西才安心，虚无主义甚至可以算作是我的一种爱好

古凌锋

星花 发表于 2023-11-23 19:44
只能是设定逻辑上获取知识是全能的一部分，瞬间就会解ban.然后就是全能能不能解除自己绝对无法解 ...

全能不知道自己全能就行吧

古凌锋

女神アイギス 发表于 2023-11-23 22:03
最tm坑的你没有说出来，人工智能惩罚模拟体和你有什么关系？
大有关系
既然模拟体自己不知道自己是模拟体 ...

那既然已经在被惩罚了做什么也无所谓了吧

糖然君

古凌锋 发表于 2023-11-23 23:36
那既然已经在被惩罚了做什么也无所谓了吧

这个惩罚的说法越看越眼熟，其实就是ai地狱吧
我跟老外对喷 对方说我要下地狱的时候我都反问，那你一定是上天堂吧？不用和你在一个地方我宁愿去地狱。然后欣赏对方脑过载的表情

newtroll

太酷了。仔细想想也是，站在科技和商业浪潮最尖端的一群人整出点精英主义思想也不奇怪

myarms

罪过，我看哈利波特与理性之道的时候，只是想知道哈利和赫敏有没有成，中间那些哲学辩论都是直接跳过的，想不到居然错过了导致黑客帝国的第二次文艺复兴开端这重要的历史时刻？

昵称怎么起

潜水艇君2 发表于 2023-11-23 21:14
你把作者自己说的这句话找出来就行了，找出来我就给你把分加回去

认可你扣分，因为我确实因为有偏见而且发言前没再次查证，但是这引言你确定是和小说第一章一起上传的？

omnitoken

我觉得.... 最好玩的地方是我转了这篇文章后


发现泥潭潜在教众或者觉得自己有潜质当教主的人也有不少

zzt955

这结论也太……

左凉川

omnitoken 发表于 2023-11-24 01:15
我觉得.... 最好玩的地方是我转了这篇文章后

泥潭码农多理工男多的同时人文素养低下得令人发指高技术水平和低文学水平叠加在一起很容易造成这种现象。从普世角度来说他们聪明吗？聪明的。但一篇垃圾同人文搞出来的傻逼主旨（简陋到根本不配被称为意识形态）都能把他们忽悠进去。

sunbeach

这书的翻译组有点魔怔就没看了，原来鬼佬受众也是魔怔人？

RandomDictator

这文章真不是画靶子射箭吗？刚看完理性之道那段时间逛过一段lesswrong，感觉就是个流量更小人更话痨一点的hn。顶多是讨论思维习惯比如各种偏见多一些，都没有什么线下活动，和邪教根本不沾边啊

—— 来自 S1Fun

sdefrfg1

感觉是硬蹭，虽然说书不错，但是这看上去又是粉丝团做妖

论坛助手,iPhone

常世

感觉还是有些捕风捉影了。倒是提醒了我，《理性之道》从若干年前就躺在我的待读书单里了我太堕落了
日了狗了，点进前面那个阿虚悖论，发现译者是《天然20》的译者，《天然20》我也是一直想看没看，原本是在果壳小组里看的，但果壳其实在八百年前就把小组给抛弃了怎么这么多回旋镖啊

潜水艇君2

昵称怎么起 发表于 2023-11-24 00:28
认可你扣分，因为我确实因为有偏见而且发言前没再次查证，但是这引言你确定是和小说第一章一起上传的？

这个作者从80来章开始坑了近三年，在这之前引言就存在于第一章了，翻译也是从那时候开始的
你可以自己去拿网络时光机看第一章是从什么时候开始有引言的

frosta

完了，理性之道我还真挺喜欢的

前两天有个帖子问那个七彩药丸的文章，楼里有人找出来是理性之道中文站发的，重温了一遍的同时，顺便也发现了作者另一篇短篇“三个世界的相遇”

现在想想，这篇小说还真的体现出不少EA的思想。比如前面也有人提到的 shut up and multiply，单纯的用数量作为衡量标准，确实是坚信EA的人才能喊出来的口号

月临碧海

我对“神全知全能”这事是这么理解的，假如我是一个程序员，创造了一个游戏世界，这个世界的每一行代码每一条数据当然都在我掌握之中，对游戏世界来说，我就是“全知全能”的。

如果游戏世界里一个法师角色认为：法师就是会放大火球，战士就是会放旋风斩，难道神能令一个人既会大火球又会旋风斩？答案是当然能，我敲敲代码就能创造一个既会大火球又会旋风斩的新职业来。

但这种“全知全能”仅限于游戏世界里，服务器一关掉，啥都没了。所以即使真的有神，也只是相对于我们这些生活在100多亿年历史，几百亿光年尺度有限宇宙中的人来说的。跳出这个有限宇宙之外，是我们还不能谈论的事情，谁知道这“神”是不是另一个苦逼程序员呢。

女神アイギス

古凌锋 发表于 2023-11-23 23:36
那既然已经在被惩罚了做什么也无所谓了吧

现在还没被惩罚，如果接下来你不去致力于制造这个超级ai，它可能就要惩罚你了
这个邪说的精髓就在于你不知道世界是否只是一个模拟。如果是，那你现在没看到超级ai，但实际上超级ai已经在模拟器外面盯着你了，只是给你个机会表现是否忠于它。
总之就是混合了一神教，不可知论和缸中之脑的毒点搞出来的一个基本无法证伪的玩意
还有另一个说法是虽然它不惩罚模拟器里的你，但它惩罚外面你的本体，你要不要为了本体的幸福去信奉一下咱们超级ai呢

甚至还有一个说法是你生活中一切破事倒霉事都是它在惩罚你(越来越像传统宗教咯

TNN

女神アイギス 发表于 2023-11-24 06:33
现在还没被惩罚，如果接下来你不去致力于制造这个超级ai，它可能就要惩罚你了
这个邪说的精髓就在 ...

差太多了，传统宗教层层叠叠的补丁岂是浪得虚名他们既然说这超级ai不打钱就捣乱，那可以立刻做一个变量比照，第一天我支持了ai，破事倒霉事还在发生；第二天我反对了ai，破事倒霉事照样发生，由此可得知不灵。一切实验场在此岸的迷信基本都可以用西门豹扔巫婆的方式破解，所以那些百年老店才会把惩罚推迟到无法验证的彼岸（最后审判和六道轮回）

至于惩罚本体，仍然是只要不共享体感，我的本体在外面当🌟😡照样无关心

TNN

百年老店应对变量比照使用的是耶稣和撒旦那个故事，“不可试探你的神”，同时承认世上万国其实都落入撒旦之手（不信的人占多数，而且活得好好的），但末日会拉清单。某科技神教还得努努力也整出个类似的小作文。

schneehertz

女神アイギス 发表于 2023-11-24 06:33
现在还没被惩罚，如果接下来你不去致力于制造这个超级ai，它可能就要惩罚你了
这个邪说的精髓就在 ...

巴蛇这个概念是lesswrong那个论坛的一个老哥想出来的，类似于蓝莲安在漫区发的婆罗门一帖。
确实影响力不小，很多路人知道lesswrong的原因就是因为有这个思想实验，和婆罗门这个概念后来也扩散了一样。
但说lesswrong论坛的人都认可巴蛇或者说巴蛇成了那个论坛的象征那就是胡扯。S1所有的人都是婆罗门吗？不说漫区大量一般观众，外野连动画都没看过的人大把