针对AGI的发展，计算机科班或从业者是不是都比较支持

treexper

双月城 发表于 2023-11-21 00:16
那就是NLP那边的？不是听说都转LLM了吗？情感分析的研究估计很受益于LLM的发展吧？ ...

受冲击相当严重的方向。收益于llm但是如果没条件没设备玩llm，就很麻烦，被llm拉高了门槛。

绿色食品

发展ai的目的是什么,如果是为了解放人的生产力,目前很乐观

双月城

treexper 发表于 2023-11-21 00:23
受冲击相当严重的方向。收益于llm但是如果没条件没设备玩llm，就很麻烦，被llm拉高了门槛。 ...

好吧，那看样子确实是很焦虑的一个方向，毕竟llm评测之类我也听说非常烧钱，如果这个方向强依赖llm，那么估计非常烧钱。

格林达姆

反正我据我认识到的程序员生成的刻板印象就是，程序员几乎都是以政治历史水平不太行为前提的朴素理想主义者，与对进步疯狂崇拜的理性机器
什么个人情感儿女情长，都只是能引导人类和社会进化的技术的发展的垫脚石罢了
就算哪天人类发明的榨精AI机娘开始产生自我意识，开始圈养灭绝人类了，那也多少算是朝闻道夕可死矣

simonroam

nanonya2 发表于 2023-11-20 20:33
真正的AGI是人类未来的历史上至关重要的一步，为了人类和社会的进化，即使造成暂时的波折，那也只是阵痛。
...

都不用那时候了，现在不就被控制在少数人手里

只不过现在是早期测试版本，以后掌握大量社会资源的上层阶级和普通人怎么可能用同一个版本的AI和服务

以后成熟了这方面肯定是会细化的，怎么可能会少得了权限和身份安全这块的开发

普通人以后就是个大型样本养料池，维持社会运转才能更好地发展AGI，而不是让更多人被取代失业

绿色食品

格林达姆 发表于 2023-11-21 00:53
反正我据我认识到的程序员生成的刻板印象就是，程序员几乎都是以政治历史水平不太行为前提的朴素理 ...

那倒不是,互联网作为工业的重要组成部分 其成员基本与其他工业从事人员无异

長友彩海

CV民工，我觉得LLM不是AGI
   
或者说大家想象中的那个AI，跟大家正在使用的名为AI的东西，并不是同一个东西；在开展讨论之前，还得花上一大段精力来正名

ななひら

支持啊，希望能取代我这没有意义的工作

nekomimimode

那AGI会推动人类社会制度变革吗？为了公平还是为了最大化私人权益？——一旦形成了体系，一般人类再也没有能力与此抗衡

wewai

> 支持是指不加任何限制的、立刻、马上投入最大资源开发AGI。

支持不加任何限制，不支持投入最大资源
OpenAI 不是“投入最大资源”的产物，LLM 之前没人能确定全局层面 AGI 的路走到了哪一步，LLM 之后也不能，这时“投入最大资源”可能并不明智

> 不支持是指首先讨论一个国际共识切可行的安全框架，该框架会限制AGI发展，在LLM方面限制人类顶级智慧进入语料库，降低智能级别，在应用层面限缩“通用”的范围等。

作为一个程序员我的认知是人比机器更拉，所以这样的 effort 大概率是浪费资源。

TNN

格林达姆 发表于 2023-11-21 00:53
反正我据我认识到的程序员生成的刻板印象就是，程序员几乎都是以政治历史水平不太行为前提的朴素理 ...

一般是不但政治历史水平不太行，数学方面也不太行的半瓶子醋个人情感儿女情长的真面目是基于数学的博弈论和纳什均衡啊。不对知识创新和顶级智慧版权加以保护，注定未来整这方面的人会减少，然后回旋镖对依赖人类数据的llm造成损失。StackOverflow论坛都快被GPT薅羊毛薅死了，SOF倒了你GPT也没地方爬数据。如果llm派诚实的说自己只想吸血恰烂钱还可以理解，拿agi挡枪明显是小丑画大饼许你未来所以高抬贵手不要现在清算。

snailium

大概用高数相关的概念解释一下。

AGI和LLM是两回事。目前的AI发展路线不可能做出AGI。真正的AGI基本上不可能用显卡来计算

卷积算法是收敛算法，而AGI需要发散算法。

目前的LLM可以针对确切的需求，从已有的知识里找到最优的答案。其中的关键有两个，一个是“确切的需求”，一个是“已有的知识”。遇到LLM没见过的东西，他只能往已有的知识上靠。

举个例子，如果只用狗和猫的图片去训练LLM，然后给个狐狸的图片让LLM去认，它只能认成狗或者猫，而不会说这是一个新物种。想要让LLM认出狐狸，就要喂给它狐狸的图片。

如果说这种模型有“创造性”，其实所谓的“创造性”是随机组合的结果，本质上还是已有的知识。而现在的科学/工程/技术的发展，很多时候是真正需要新的发明。比如用新的编码方案去获得更高的无线通信速率。目前的LLM和卷积类AI都不可能创造出“新的编码方案”。

— from OnePlus CPH2451, Android 13 of S1 Next Goose v2.5.2-play

treexper

jpcl 发表于 2023-11-21 06:33
全球各地的IT公司召开大会，请来了各种专家教授院士，席间有个人忽然提了个问题，说是你们坐飞机来参会之前 ...

搞ee的人写的，大家都敢做了。

星花

不如投票，你支不支持全力研发刚大木

treexper

我对主贴提及的AGI做了一个解释，并更新到了主贴。当然欢迎广泛的AGI概念讨论。

我本意是想讨论openai事件语境内的AGI，而非“一般定义上的AGI”。这个语境下的AGI是指以chatgpt为backend，在GPT store中衍生出的大量定制GPT应用，这些应用的能力之智能和广度之深刻，具有对人类社会分工进行替代的可能性。如果把chatgpt与GPTs看做一个智能体，那么这个智能体有可能发展出一种类似“一般定义下的AGI”的东西。
作为整个事件的导火索，就是altman自己说的正在主导开发GPT5，而且它就是“一般定义上的AGI”。GPT5是什么altman自己当前都没法给出解释，但上面说到的智能体本质还是高级工具的集合，还是由人类指令驱动，GPT5应该有别于这个。

星花

我们把自行车重新定义为宇宙飞船，把周边小区定义为银河系，这下人类就能银河系漫游了，多棒啊。

董卓

做性能调优和复杂问题排查优化的表示，你们用ai写的烂代码越多越好恨不得给模型再塞点屎进去

huoguo32

因为对于码农来说更能意识到，ai是个好工具，但目前形态的ai及即使发展到顶了也不可能取代写代码的人

—— 来自 Xiaomi 2211133C, Android 14上的 S1Next-鹅版 v2.5.4

青色浅语

AGI的定义旧是通用人工智能，即便是openai事件语境内的AGI也是这玩意，本质就是让AI的能力范围进一步扩大化，并扩大AI的抽象思维能力和迁移学习能力，从而一个模型多平台多用途
那是在定义上具有自适应，拥有广泛知识库和迁移学习能力，具备抽象思维和因果认知能力的通用人工智能
只要是人类能做的事情理论上AGI都可以做

然后你说不进行任何限制和约束的完全不受限制的AGI？
拜托~
现在不管是从技术还是从伦理上，人在回路都是对于AGI的限制和唯一可行办法
通过让人类大脑参与进AGI的训练和日常使用中，在以此证明人类在AGI时代的存在意义的同时也是对于前景不明的AGI的限制和保护，都差不多是业界共识了吧
然后，你说要整不需要任何限制和约束的AGI……？？？

BotRondo

上一个改变世界不得不支持的潮流是不是5G来着？

枯风瘦雪

BotRondo 发表于 2023-11-21 09:05
上一个改变世界不得不支持的潮流是不是5G来着？

是常温超导

ada_ovo

要是真能取代那些个码农也是善事，别整天对搞硬件的*眼看人低

noneoneone

感觉明确下定义还挺有必要的。
我理解中AGI只要能担任起人和机器的桥梁就行，是个满足通用性的工具。
但我看不少人觉得AGI就是强人工智能了，要有自己的思考能力。
或者说分歧是强人工智能是不是AGI的必要条件。

—— 来自 Xiaomi 22081212C, Android 13上的 S1Next-鹅版 v2.5.4

星花

BotRondo 发表于 2023-11-21 09:05
上一个改变世界不得不支持的潮流是不是5G来着？

现实其实是 无人机

treexper

青色浅语 发表于 2023-11-21 08:46
AGI的定义旧是通用人工智能，即便是openai事件语境内的AGI也是这玩意，本质就是让AI的能力范围进一步扩大化 ...

你说的是AI对齐，这个不是这次冲突的原因。

BotRondo

BotRondo 发表于 2023-11-21 09:05
上一个改变世界不得不支持的潮流是不是5G来着？

想了想应该是元宇宙，连带Facebook都改名了，元宇宙啥时候改变世界啊

treexper

BotRondo 发表于 2023-11-21 09:50
想了想应该是元宇宙，连带Facebook都改名了，元宇宙啥时候改变世界啊 ...

元宇宙在数字孪生有应用。不是什么高大上的东西。我参与过相关项目。就是把现实中的东西按照物理性质建模出来，然后在里面解决一些模拟仿真规划的问题，最后在来个e交付。

起名困难症

重新定义agi是吧
又不是俺寻思科技树，agi哪有那么容易搞出来，不如说人类对大脑的了解还不够深入全面之前，我不看好agi出现

normalli

我也支持加速agi，倒不是自信，就是单纯觉得挡不住。

xu5891166

2根本没法完全实现吧，越是禁止越是有人想通过违法来获取相对优势，而且从技术上讲，偷偷在训练的数据里塞进去违禁的数据很简单，更别说国家体量的主体刻意违规

看我派tank

wanwanjun 发表于 2023-11-20 22:32
如果你告诉我智能的本质就是一坨概率黑箱，那我会建议你去看中医的

—— 来自 QUALCOMM OWW212,  ...

反正大脑咋运作的人类确实没有搞清楚

星花

西医很多情况下也是黑箱

treexper

osborn 发表于 2023-11-21 10:19
虽然我支持，但我不太看好它能出现。其实想想也知道，AI并不是人类，不受人类的物理限制，接收信息的传感器 ...

“人类没搞过的事情他也不会去搞”这个我不敢确定。毕竟训练过程中存在随机过程。

lucifer123

因为没那么快，就像之前的元宇宙概念。
很有可能只是刚出来可能连雏形都不算的东西，被资本炒起来圈钱而已。
结合美国经济下行的产物

浅叶秀明

星花 发表于 2023-11-21 10:20
西医很多情况下也是黑箱

但是按现代流程西医黑箱不经过严谨测试不让上市啊(某些特殊情况例外)