火球法师
精华
|
战斗力 鹅
|
回帖 0
注册时间 2019-3-21
|
本帖最后由 omnitoken 于 2023-11-23 14:02 编辑
OpenAI的千亿宫斗大戏背后，是《凉宫春日》和《哈利•波特》
美国时间11月7日，AI领域霸主OpenAI突发人事地震。OpenAI宣布解雇现任CEO，理由是他不坦诚，他阻碍董事会，他导致董事会失去信心。
堪比网飞剧集的宫斗大戏就此上演。被罢免的天才有个响亮的中文译名：萨姆奥特曼。
按理说，人奥特曼带得蛮好的，你说你换他干什么？
顶上来的还是乍看与技术风马牛不相及的Emmett Shear，之前掌管美国斗鱼Twich。换句话说，就是曾经经营女主播的外行老哥，现在却负责人工智能开发的管理。
然而千万不要看不起秃头老哥，因为他还有另一重身份是“魔法教授”。这是指有个硅谷大佬推崇备至的小说叫《哈利波特与理性之道》，里面有个角色就是以他为原型。
“人工智能，奥特曼，哈利波特”。乍一看这都什么风马牛不相及的二次元大混操？
却都是线索指向人工智能运动背后的最重要组织。诸位先别急，喝口水，请容我慢慢捋。
一
就像基督徒有《圣经》，安资信奉者有《阿特拉斯耸耸肩》，存在主义青年有《西西弗斯神话》，任何意识形态都有自己的入门读物，而你如果在硅谷想打进人工智能的精英圈子，最好的方法，就是先读读《哈利波特与理性之道》。
如名，《哈利波特与理性之道》表面上是同人小说，但这个世界哈利的姨妈嫁给了牛津大学的教授，于是小哈利没被虐待反而受到家庭氛围的熏陶，人物开局的加点，全都点到了数理化。
因此，当他11岁来到霍格沃兹时，他最大的感受是惊讶魔法世界生产力如此落后。因此抱着输出工业的志向，他去了有科研传统的拉文克劳，与马尔福成为了朋友，然后重新搭建魔法理论顺便揍伏地魔，推导咒语原理，总结三大定律。
直至第一学年，这个12岁的龙傲天就解决了霍格沃兹的一切问题。
“科学干爆魔杖，分析推理咒语。”
可以看到，就像两千年前的《几何原本》奠定了一切科学先假定，再推导，最后证明的科学思考范式，《哈&理》是把它继承并推广，并向现代读者安利，数学思维永远秒天秒地。
甚至原作中有着重要戏份的罗恩惨遭忽视，因为作者毫不掩饰地鄙夷“麻瓜”和“笨蛋”，以致该书的粉丝大多也都认为自己具有某种智力会逻辑推理方面的优势，然后抱着高高在上的态度批判不喜欢此书的人。
因此，这是一个私货远大于改编的作品，但它却因为狠捧理工精英的态度很受Nerd欢迎。
不少青年进硅谷就是为了Cos哈利波特。尤其在人工智能领域，尤其如此。
所以魔幻小说到底和人工智能怎么联系起来的？
要知道，同人作品是无法盈利的，因此此书的连载事实上别有目的。其原因就在于要看小说必须登陆一个叫LessWrong的网站，且管理者与《哈&理》的作者是同一人。
换句话说，就是小说负责招募门徒，网站负责布道。
布什么道我们等会再细讲。但你可以先知道其中一个关键内容就是人工智能。
比如你看下面截图是《哈利波特与理性之道》中国书迷网站的线下活动公告，注意公告时间还是疫情之前的2019年1月，他们聚会的主题，就已经提到人工智能的安全性。
二LessWrong的所有者，是人工智能领域很有影响力的尤德科夫斯基。
他1979年出生在一个犹太教家庭，但很早就成为了坚定的无神论者。直至十几岁时，他接触到了技术奇点的理论，开始撰写人工智能相关博客。博客中他反复强调研究人员必须确保AI的价值观与人类保持一致，几年后他得到资助，在加州建立了机器智能研究所（MIRI）。
起初，尤德科夫斯基并没太多追随者，但在创建LessWrong并发布《哈利波特与理性之道》后，他的论坛逐渐变成了AI研究者与AI爱好者的重要网络社区。
能把规模干起来，《哈&理》当然是首功，但多产的尤德科夫斯基其实也没盯着一只羊薅，比如有段时间他还试了试日本轻小说，《Trust in God, or, The Riddle of Kyon》就是《凉宫春日》的续写，模仿谷川流的笔触同时丝滑地塞满私货，就是另一个代表。
同类人天天高强度辩经，久而久之就会形成亚文化。而在LessWrong论坛占据主流的，被称为有效利他主义。
有效利他主义由哲学家彼得·辛格提出，粗浅介绍类似“授人以鱼不如授人以渔”，但框架更为具体更加复杂。于是基于尤德科夫斯基本人对AI的态度，对人工智能末日的焦虑，这种理论在LessWrong合流形成了一种以改善世界为理想，但基于理性，数学和功利主义的意识形态。
比如传统道德批判挣钱，有效利他主义提倡赚大钱然后把钱捐出去造福更多人。比如每个人生命是平等的，科技精英认为拯救未来五万人就比拯救现在一万人重要。
因此被认为可能引发世界末日的人工智能是他们的关注焦点。
不但诸如Open Philanthropy，班克曼弗里德等有效利他主义的组织或门徒，都对尤德科夫斯的机器智能研究所（MIRI）进行过500万到千万美金的捐赠。而且他们中的一些，在微软注资前，很早就成为了OpenAI的董事会成员。
至此，一切终于连起来了。谁有权力踢掉萨姆奥特曼？只有OpenAI的有效利他主义董事会。
三
通过半年前铺天盖地的介绍我们被告知，OpenAI是个致力于造福全人类的机构，它是非盈利性组织，有着强烈的反资本倾向。
乍看之下，它与金融资本世界格格不入。但有了有效利他主义者的活动做补充，一切似乎变得合理。
只是微软的注资，ChatGPT4.0的横空出世都为后面的故事埋下了伏笔。CEO萨姆奥特曼四处拉融资想要毕其功于一役。董事会却越来越警惕奥特曼的激进，甚至担心人工智能的过早出现，人类无法驾驭。
Open的董事会有六人。
最先跳反的是技术骨干llya Sutskever。从他过去的言论我们能知道他最担心的是AI安全问题，据报道他在OpenAI内部组建了一个目标限制和控制“超级智能”的子部门，于是被边缘化，这让他必须发起行动，来限制奥特曼的激进。
理所当然的，有效利他主义站到了他这边。
其中Helen Toner曾经一手创办“有效利他”慈善评估机构GiveWell，并负责对国会里有效利他倾向的议员游说，还是美国最大人工智能政策中心的投资部主任。而Tasha McCauley则与着名利他主义者Joseph Gordon结婚，她的导师也奉行同一主义。
原则上，资本不能干预OpenAI的董事会行为。政变到此，CEO奥特曼就被多数票踢了出去。
四从朴素情感来看，有效利他主义似乎是股我为人人的清流。然而落实到实际，往往伴随争议。
前面提到的，资助了MIRI与OpenAI的班克曼弗里德曾在各种场合宣扬有效利他主义是一种旨在尽可能多做好事的哲学，曾在有效利他中心CEA短暂担任开发总监。
可他更为人所知的是经营加密货币平台FTX，到后来平台破产整得数万投资者血本无归，他于今年因7项金融罪名最高可判110年有期徒刑。
此外，有效利他祖师爷彼得辛格还因一条推文被认为有恋兽倾向。
最近像彭博社，福布斯这样的权威媒体更是报道了这群科技亚文化社群里突破传统道德的两性关系实验，一边恐惧人工智能末日一边服用致幻剂，一面投身拯救世界的理想，一面又对因哈利波特同人小说而来的女研究员实施性侵。
当然，就像没有第一手资料的本文，不可避免的会有些阴谋论色彩。你同样大可认为这些突如其来的负面报道是资本买的有意抹黑，毕竟资本在OpenAI有利益，即使无法直接下场，也照样有的是其它办法干预。
所以你看，昨天738名员工联名以集体跳槽微软来威胁董事会辞职，直至今天发稿日的六小时前，萨姆奥特曼已回到OpenAI重新登基。
OpenAI到底姓主义还是姓生意？人工智能到底将把人类引向怎样的未来？上面那是真正意义上的神仙打架，我们凡人只有干看着的份，瓜吃完了明天该干嘛干嘛。
倒是写出《哈利波特与理性之道》的尤德科夫斯基老哥才真正是那搞运动的天才——
谁能想到同人小说，竟也是武装思想，意识形态斗争的重要阵地？
参考：1.硅谷痴迷人工智能的现实后果：https://www.moneycontrol.com/news/business/silicon-valleys-obsession-with-killer-rogue-ai-helps-bury-bad-behavior-10312261.html2.有效利他主义导致OpenAI的惨败https://www.forbes.com/sites/jamesbroughel/2023/11/20/effective-altruism-contributed-to-the-fiasco-at-openai/?sh=434abec36c2b
3.OpenAI首席执行官是最受欢迎哈利波特同人小说中的人物https://www.404media.co/new-openai-ceo-emmett-shear-was-minor-character-in-hpmor-harry-potter-ai-fanfic/
|
评分
-
查看全部评分
|
沪公网安备 31010702007642号 )
发表于 2023-11-23 14:00
啥玩意
啊？
我他妈上学时看的同人文还能这么叼？
倒也没什么奇怪的,
