针对AGI的发展，计算机科班或从业者是不是都比较支持

treexper · 发表于 2023-11-20 20:29

本帖最后由 treexper 于 2023-11-21 07:58 编辑

本人计科系青椒，最近OPENAI的破事，感觉周围计科背景的人（科班出身或者非科班但现在从事计算机专业）都比较支持。

虽然code生成已经非常厉害了，但他们似乎都有坚信自己不会被替代的自负，或者因为是业内人士对计算机更加了解，或许也有funding的考量？

大家来暴投一下，看看计科人是否在这个问题上有“显著性差异”。

补充说明：
支持是指不加任何限制的、立刻、马上投入最大资源开发AGI。
不支持是指首先讨论一个国际共识切可行的安全框架，该框架会限制AGI发展，在LLM方面限制人类顶级智慧进入语料库，降低智能级别，在应用层面限缩“通用”的范围等。

补充说明2：
我对本帖的AGI做了一个解释。当然欢迎广泛的AGI概念讨论。

我本意是想讨论openai事件语境内的AGI，而非“一般定义上的AGI”。这个语境下的AGI是指以chatgpt为backend，在GPT store中衍生出的大量定制GPT应用，这些应用的能力之智能和广度之深刻，具有对人类社会分工进行替代的可能性。如果把chatgpt与GPTs看做一个智能体，那么这个智能体有可能发展出一种类似“一般定义下的AGI”的东西。
作为整个事件的导火索，就是altman自己说的正在主导开发GPT5，而且它就是“一般定义上的AGI”。GPT5是什么altman自己当前都没法给出解释，但上面说到的智能体本质还是高级工具的集合，还是由人类指令驱动，GPT5应该有别于这个。

nanonya2 · 发表于 2023-11-20 20:33

真正的AGI是人类未来的历史上至关重要的一步，为了人类和社会的进化，即使造成暂时的波折，那也只是阵痛。
只是希望到那时AGI不要被少数人控制在手中。

默读者 · 发表于 2023-11-20 20:37

提示: 作者被禁止或删除内容自动屏蔽

sqlist · 发表于 2023-11-20 20:38

是科班出身，不过支持ai不是因为自信

treexper · 发表于 2023-11-20 20:41

nanonya2 发表于 2023-11-20 20:33
真正的AGI是人类未来的历史上至关重要的一步，为了人类和社会的进化，即使造成暂时的波折，那也只是阵痛。
...

现在就是想先搞安全框架，在这个框架里面搞AGI。

lg19850717 · 发表于 2023-11-20 20:41

提示: 作者被禁止或删除内容自动屏蔽

dffgf · 发表于 2023-11-20 20:41

提示: 作者被禁止或删除内容自动屏蔽

mythgogo · 发表于 2023-11-20 20:51

是，特别支持。
干我们这个的就是人特别懒，需要重复3次以上的事都想交给计算机做。
CHATGPT就是未来。
如同李宏毅老师所说：你现在交作业前不给CHATGPT检查一遍就是对我的不尊重！

omnitoken · 发表于 2023-11-20 20:52

楼主的中文有点太差了, 首先openai的破事, 你的同事在支持什么, 你又支持什么完全没讲清楚.

jojog · 发表于 2023-11-20 20:53

只要阵痛不到我头上都支持

我比较胆小，怕白活二十来年，所以算了

ForeverTime · 发表于 2023-11-20 20:57

到底支持什么？AGI发展？OpenAI的破事？代码生成？

treexper · 发表于 2023-11-20 21:03

omnitoken 发表于 2023-11-20 20:52
楼主的中文有点太差了, 首先openai的破事, 你的同事在支持什么, 你又支持什么完全没讲清 ...

抱歉没说清楚。支持是对AGI不加限制，立即马上最大力度的发展。和在安全框架下受限发展。受限包括应用的范围，智能级别，顶级的人类知识不能成为训练语料等等。

whzfjd · 发表于 2023-11-20 21:08

同样是计算机，领域/业务之间也是不可同日而语的

septem123 · 发表于 2023-11-20 21:11

如果AI写代码好用，码农们会第一个用上，然后焊死车门！

—— 来自 HUAWEI OCE-AN10, Android 12上的 S1Next-鹅版 v2.5.4

treexper · 发表于 2023-11-20 21:12

之前没描述清楚，可能有所误导。只能说抱歉了。具体信息补充到主贴。

wanwanjun · 发表于 2023-11-20 21:15

llm和agi有什么关系吗

—— 来自 QUALCOMM OWW212, Android 11上的 S1Next-鹅版 v2.5.2

电波系腑海林 · 发表于 2023-11-20 21:16

这改完表述之后支持的力度是不是有点大，和普通人理解的支持的角度不太一样。

treexper · 发表于 2023-11-20 21:19

wanwanjun 发表于 2023-11-20 21:15
llm和agi有什么关系吗

—— 来自 QUALCOMM OWW212, Android 11上的 S1Next-鹅版 v2.5.2 ...

现在agi like的基础设施就是llm。（GPTs的基础设施是chatgpt）

Cyau · 发表于 2023-11-20 21:20

不支持，llm对我的工作没用，我支持其他路子的强ai

—— 来自 Sony XQ-CQ72, Android 13上的 S1Next-鹅版 v2.5.4

omnitoken · 发表于 2023-11-20 21:23

treexper 发表于 2023-11-20 21:03
抱歉没说清楚。支持是对AGI不加限制，立即马上最大力度的发展。和在安全框架下受限发展。受限包括应用的 ...

看完主楼的补充.. 觉得你要限制的话可行性很低, 比如顶级人类知识不能成为训练语料

INDIASH · 发表于 2023-11-20 21:24

2，两边的条件就不太可能实现，非要极端选还是不支持

treexper · 发表于 2023-11-20 21:25

omnitoken 发表于 2023-11-20 21:23
看完主楼的补充.. 觉得你要限制的话可行性很低, 比如顶级人类知识不能成为训练语料 ...

可能性很低，国际共识就很难达成，东大会答应么都是问题。而且这只是防御AGI对社会体系的攻击，还有更加严重的，对人类本身的攻击无法防御。

yokohama5084 · 发表于 2023-11-20 21:45

提示: 作者被禁止或删除内容自动屏蔽

星の继承者 · 发表于 2023-11-20 21:49

真要用三体那句了：失去人性失去很多、失去兽性失去一切
加速加速！
PS：非科班

fmeric · 发表于 2023-11-20 22:06

提示: 作者被禁止或删除内容自动屏蔽

某浩 · 发表于 2023-11-20 22:21

要回答这个问题太简单了，目前市面上除了chatgpt，最广泛使用的ai的C端产品就是github copilot

github copilot到底谁在用，就是全世界的码农啊

码农对AI的支持，直接加速好吧

无尽的牙刷 · 发表于 2023-11-20 22:24

万一AGI直接让人类科技直接发展到能永生呢

treexper · 发表于 2023-11-20 22:25

无尽的牙刷发表于 2023-11-20 22:24
万一AGI直接让人类科技直接发展到能永生呢

这就是altman的观点。

treexper · 发表于 2023-11-20 22:28

某浩发表于 2023-11-20 22:21
要回答这个问题太简单了，目前市面上除了chatgpt，最广泛使用的ai的C端产品就是github copilot

github cop ...

码农现在用copilot主要还是免去了反复耍小聪明扣细节的过程，但copliot还没法帮你实现大智慧。如果出现了end to end的it方案直接生成，而且匹敌人类做的方案，不知道码农会如何想。

wanwanjun · 发表于 2023-11-20 22:32

treexper 发表于 2023-11-20 21:19
现在agi like的基础设施就是llm。（GPTs的基础设施是chatgpt）

如果你告诉我智能的本质就是一坨概率黑箱，那我会建议你去看中医的

—— 来自 QUALCOMM OWW212, Android 11上的 S1Next-鹅版 v2.5.2

treexper · 发表于 2023-11-20 22:35

wanwanjun 发表于 2023-11-20 22:32
如果你告诉我智能的本质就是一坨概率黑箱，那我会建议你去看中医的

—— 来自 QUALCOMM OWW212, ...

我不知道智能是啥，没法和你讨论这个哲学问题。

某浩 · 发表于 2023-11-20 22:38

treexper 发表于 2023-11-20 22:28
码农现在用copilot主要还是免去了反复耍小聪明扣细节的过程，但copliot还没法帮你实现大智慧。如果出现了 ...

除非明天开始，这个星球没有人类，全部都是机器人，机器人搞出来的方案只给机器人自己

否则你这想法只存在在电影里，

我不是说AI搞不出方案，有一天AI肯定也能出方案，但方案是给人类的话，太多地方需要人类来参与打磨

而人类参与的地方正好就是码农的工作，或许那个时候不叫码农了，叫人机交互引导员吧，但本质是一样的

treexper · 发表于 2023-11-20 22:42

某浩发表于 2023-11-20 22:38
除非明天开始，这个星球没有人类，全部都是机器人，机器人搞出来的方案只给机器人自己

否则你这想法只存 ...

我知道你想说人类掌握领域知识，所以缺乏领域知识的AI出不了替代人类方案的方案。这个也是AI安全的关注之一。但也没有任何证据表明AI无法掌握比人类更加全面的领域知识。

最后的方案可能必然需要人类来拍版，但后果是这个行业规模萎缩，从业人员大规模缩减也是可能的。

某浩 · 发表于 2023-11-20 22:50

treexper 发表于 2023-11-20 22:42
我知道你想说人类掌握领域知识，所以缺乏领域知识的AI出不了替代人类方案的方案。这个也是AI安全的关注之 ...

听你这么描述，感觉你是不是从来没有在正式公司工作过

你的想法似乎只来自科幻小说

treexper · 发表于 2023-11-20 22:52

某浩发表于 2023-11-20 22:50
听你这么描述，感觉你是不是从来没有在正式公司工作过

你的想法似乎只来自科幻小说 ...

在国外it公司做了8年。我没看过科幻小说，我感觉我描述的都比较保守。

当然，现在的人工智能出不了end to end方案。

某浩 · 发表于 2023-11-20 23:02

treexper 发表于 2023-11-20 22:52
在国外it公司做了8年。我没看过科幻小说，我感觉我描述的都比较保守。

当然，现在的人工智能出不了end t ...

那我问你，要是明天AI就能出end to end方案了，首先掌握这个工具的人是谁

再问你，你拿到end to end方案了，马上去应用的难道不是现在市面上所有的行业吗

如果市面上所有的行业都消失了，你作为码农介意消失吗

treexper · 发表于 2023-11-20 23:05

本帖最后由 treexper 于 2023-11-20 23:09 编辑

某浩发表于 2023-11-20 23:02
那我问你，要是明天AI就能出end to end方案了，首先掌握这个工具的人是谁

再问你，你拿到end to end方案 ...

首先拿去应用的是服务那个领域的it服务公司。这个是最先萎缩的。
我懂了，你想说的是人类生产力的究极end to end方案。

双月城 · 发表于 2023-11-20 23:22

大佬，你是做什么方向的？还是传统的计算机那些的？

treexper · 发表于 2023-11-20 23:23

双月城发表于 2023-11-20 23:22
大佬，你是做什么方向的？还是传统的计算机那些的？

情感分析。

双月城 · 发表于 2023-11-21 00:16

treexper 发表于 2023-11-20 23:23
情感分析。

那就是NLP那边的？不是听说都转LLM了吗？情感分析的研究估计很受益于LLM的发展吧？

		自动登录	找回密码
密码			立即注册

[科技] 针对AGI的发展，计算机科班或从业者是不是都比较支持

评分

默读者默读者当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2020-2-7 头像被屏蔽	发表于 2023-11-20 20:37 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

lg19850717 lg19850717 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2020-2-8 头像被屏蔽	发表于 2023-11-20 20:41 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

dffgf dffgf 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2022-2-22 头像被屏蔽	发表于 2023-11-20 20:41 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

yokohama5084 yokohama5084 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2022-10-2 头像被屏蔽	发表于 2023-11-20 21:45 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

fmeric fmeric 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2006-10-2 头像被屏蔽	发表于 2023-11-20 22:06 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报