针对AGI的发展，计算机科班或从业者是不是都比较支持

起名困难症 · 发表于 2023-11-21 10:39

什么时候那些所谓的AI公司无法限制模型输出的内容了再来讨论智能吧，AI能自己想出来绕过屏蔽词的方法吗？

yseternal · 发表于 2023-11-21 10:40

浅叶秀明发表于 2023-11-21 10:33
但是按现代流程西医黑箱不经过严谨测试不让上市啊(某些特殊情况例外)

所谓的严谨测试也只是划定一个时间，一个范围内而已吧，和科学上的严谨还不是一个意思。
核心还是人体太过复杂，太多东西根本解释不清楚，只能根据有限的实验知道有个效果。

星花 · 发表于 2023-11-21 10:41

本帖最后由星花于 2023-11-21 10:43 编辑

浅叶秀明发表于 2023-11-21 10:33
但是按现代流程西医黑箱不经过严谨测试不让上市啊(某些特殊情况例外)

这和黑箱又不矛盾

而且因为腐败和草台

wwmmddqqbbpp · 发表于 2023-11-21 10:42

人类顶级智慧是指的有毒语料么？

Anarkia · 发表于 2023-11-21 10:59

我认为ai就算有突破，也一定不会发展成我们想象中的类人思维，因为人类思维是基于人类生理特征的
拿最简单的扫地机器人举例，人类打扫卫生是因为垃圾带来疾病，由人类生理特点决定了你需要将垃圾清理出你身边，你是为了“远离”而去打扫卫生；另一方面人类创造ai去进行打扫活动时却需要赋予它一个“寻求”垃圾的动机，这最终决定了打扫垃圾的ai永远无法在基础层面达成对于“打扫卫生”这一行为的理解，于是当超出初始赋予智能范围外的现象时，就无法做出人类原本希望它能做出的反应

oldttt · 发表于 2023-11-21 11:15

我同学用gpts花5分钟做了个小游戏之后就在朋友圈欢呼以后有想法不再缺一个程序员了

作为一个天天用copilot的ai业内程序员我希望被取代的那一天来的越早越好不然什么时候才能轮到ai提想法呢

smwsy · 发表于 2023-11-21 11:56

科班，不入流教师，单纯对智能本质感兴趣，希望一切向前发展的方向，希望能赛博永生

小野賢章 · 发表于 2023-11-21 12:13

如果无监管、无安全限制的 AGI 能获得更大的竞争优势，那么一定会有组织搞出来无限制的 AGI，这个不比核武器，就算搞个《AGI不扩散条约》也很难限制住

校内写生大会 · 发表于 2023-11-21 12:28

提示: 作者被禁止或删除内容自动屏蔽

osborn · 发表于 2023-11-21 13:05

提示: 作者被禁止或删除内容自动屏蔽

星花 · 发表于 2023-11-21 13:10

其实，欲望很重要，没欲望动机光有智力比最严重的抑郁症都糟。不过现在的技术谈这些没意义。

BotRondo · 发表于 2023-11-21 13:40

浅叶秀明发表于 2023-11-21 10:33
但是按现代流程西医黑箱不经过严谨测试不让上市啊(某些特殊情况例外)

医药既是一回事也是两回事

soliz · 发表于 2023-11-21 13:45

楼主如果是搞情感分类的话应该对近10年NLP领域的发展有一定了解吧。近10年来NLP领域里2013的word2vec，2018的BERT和现在2023的LLM性质都差不多，每5年就会出一个新技术把之前的东西全部扫进垃圾堆从头来过；BERT出来以后基本就没人研究老的RNN, LSTM, GRU了，这一代LLM只能说是历史的一种循环而已
只能说日子还是得过，就算真AGI出来了大概率也不是我们这一代人能看到的东西，现在的办法无非就是研究怎么在把LLM内部看作一个黑盒的前提下把它用得更好，搞点prompt tuning，human planning之类的工作，研究空间肯定没有以前调模型组成调结构大了，但研究的砖还是得搬的，日子总还是得过的

treexper · 发表于 2023-11-21 13:56

soliz 发表于 2023-11-21 13:45
楼主如果是搞情感分类的话应该对近10年NLP领域的发展有一定了解吧。近10年来NLP领域里2013的word2ve ...

我们之前老是嘲笑搞生物医学的没有冷冻电镜就发不了文章。这下好了，A100/H100集群变成冷冻电镜，高攀不起了。

区别是，即使在bert时代，我也可以水几篇用矩阵分解做情感分析的文章，因为llm效果太好，大多数nlp任务都被push到很成熟，到了只有牛组可以创新（而且还得有计算机界的冷冻电镜），其他人做prompt engineering应用的时代了。

当然了因为llm还是比较难以调优，也有一些新任务出现。

cfeng123 · 发表于 2023-11-21 14:11

AGI相当于未来给每个人类带上了一本随时可沟通可交流的十分全的百科全书，最终能让人类去干更有意义更有创造力的事情。为什么不拥抱他呢？

星花 · 发表于 2023-11-21 14:13

cfeng123 发表于 2023-11-21 14:11
AGI相当于未来给每个人类带上了一本随时可沟通可交流的十分全的百科全书，最终能让人类去干更有意义更有创 ...

有意义，有创造力-_-||那可是人类啊^O^

浅叶秀明 · 发表于 2023-11-21 14:18

星花发表于 2023-11-21 10:41
这和黑箱又不矛盾而且因为腐败和草台

我说的就是重要领域AI黑箱也得测试过才能上市啊

星花 · 发表于 2023-11-21 14:23

浅叶秀明发表于 2023-11-21 14:18
我说的就是重要领域AI黑箱也得测试过才能上市啊

我并没有说黑箱就不能用啊。只是有人认为思维，西医不是黑箱这种看法是不对的。

soliz · 发表于 2023-11-21 14:24

treexper 发表于 2023-11-21 13:56
我们之前老是嘲笑搞生物医学的没有冷冻电镜就发不了文章。这下好了，A100/H100集群变成冷冻电镜，高攀不 ...

所以我说客观上研究空间是小了嘛，现在基本就是集中在prompt engineering和human planning这两块上（毕竟LLM保证通用性的前提下很难对一些细分领域有很好效果），学术一点的用小号的开源llama研究模型内部机理或者搞点lora进行细分领域优化
我实验室老师组会的时候就说现在NLP越来越像生物学了，仔细想想确实是，有钱的公司玩自己的预训练模型/电镜，没钱的实验室花钱买API/小白鼠玩土作坊实验，实验内容不外乎加各种各样的外部刺激看LLM/小白鼠的反应，有学术追求就去研究模型neuron/小白鼠神经元的电位变化找规律
21世纪是生物学的世纪

星花 · 发表于 2023-11-21 14:24

另外后门是测试不出来的。

Nanolina · 发表于 2023-11-21 15:02

提示: 作者被禁止或删除内容自动屏蔽

蓝泽玲 · 发表于 2023-11-21 16:10

treexper 发表于 2023-11-21 13:56
我们之前老是嘲笑搞生物医学的没有冷冻电镜就发不了文章。这下好了，A100/H100集群变成冷冻电镜，高攀不 ...

说的对

垃圾单位准备改行了

a4ac7 · 发表于 2023-11-21 16:42

相信人类的可能性好伐，更强的ai只会把人从无聊的搬砖中解放出来

—— 来自 HUAWEI NOH-AN00, Android 12上的 S1Next-鹅版 v2.5.4

此用户不存在 · 发表于 2023-11-21 16:47

从业者，5年ml算法工程师，phd在读
对人类各种草台班子组织和各种既得利益群体的理解，以及对现有machine learning model里边自带的各种偏见的印象
让我对agi这种事情持有谨慎悲观态度
但也不好反对，选个骑墙吧

青色浅语 · 发表于 2023-11-21 16:47

本帖最后由青色浅语于 2023-11-21 16:49 编辑

cfeng123 发表于 2023-11-21 14:11
AGI相当于未来给每个人类带上了一本随时可沟通可交流的十分全的百科全书，最终能让人类去干更有意义更有创 ...

一个最大的问题——

现在的思路训练出来的AGI，一般人真的有资格去用吗
还是
普通人被和AGI物理隔离？

这也是我对现在的GPT和OPEANAI不满和悲观的根源
他们在整的是一套否定人类存在意义与价值的反人类研究——当然，在真的研究出来之前还不至于到这种程度
不过，没有人在回路的理念
人与AI最终注定会分道扬镳

abaan · 发表于 2023-11-21 16:58

科班从业者，确实有时候会想未来可能会失业的问题，我从十年前就一直在想了，主要是我学计算机前十年报纸上就总嚷嚷计算机要失业，我觉得这个概念可能植入我的内心了，我一直是按终有一天要失业来安排我的生活的，也就是就算挣了钱也不乱花，尽量节俭善良的生活。真失业生活水平也不会下降，因为我本来就是按照失业后利息可持续的原则规划的。
而技术进步轮不到我反对，不论怎么反对，技术进步终有一天会进化到那个程度。

古明地雷 · 发表于 2023-11-21 17:03

历史的进程没啥好反对的

校内写生大会 · 发表于 2023-11-21 20:46

提示: 作者被禁止或删除内容自动屏蔽

起名困难症 · 发表于 2023-11-21 20:58

现在的AI真的是随机的吗？

青色浅语 · 发表于 2023-11-21 21:34

校内写生大会发表于 2023-11-21 20:46
想啥分道扬镳呢

且不说「有没有人在回路」跟「要不要圈养有机体」是不是一回事，光是一个太阳风 ...

这就是你完全理解错我的意思了
有没有人在回路对AI不重要
但是有没有人在回路对人类很重要，我担心的仅仅只是这个

jojog · 发表于 2023-11-21 21:45

校内写生大会发表于 2023-11-21 20:46
想啥分道扬镳呢

且不说「有没有人在回路」跟「要不要圈养有机体」是不是一回事，光是一个太阳风 ...

问题是不需要那么多人啊

但全人类十九抽杀的时候怎么保证抽不到自己

校内写生大会 · 发表于 2023-11-21 21:53

提示: 作者被禁止或删除内容自动屏蔽

snailium · 发表于 2023-11-21 22:50

cfeng123 发表于 2023-11-21 14:11
AGI相当于未来给每个人类带上了一本随时可沟通可交流的十分全的百科全书，最终能让人类去干更有意义更有创 ...

AGI不是百科全书，目前的LLM是。

高科技行业从业者最烦的就是每次项目起头时候的基础准备工作，重复性高又无法脚本化，因为变量太多。用LLM辅助一下就省事多了。

所以，GPT作为辅助性工具，商用没啥不好。

— from OnePlus CPH2451, Android 13 of S1 Next Goose v2.5.2-play

maritimus · 发表于 2023-11-21 23:08

支持，先让我看看不依赖人类指令驱动的AGI是什么样子

校内写生大会 · 发表于 2023-11-22 02:07

提示: 作者被禁止或删除内容自动屏蔽

reagain · 发表于 2023-11-22 10:15

如果ai能伤害人类，那么既得利益的控制就不可能
如果ai不能伤害人类，那么对ai的担忧就是杞人忧天
最终结果对于底层都不差，而且底层也当不了，加速吧。

q8f13 · 发表于 2023-11-22 12:04

llm的所谓agi like永远只能是like
纯感觉，不一定对

— from Google Pixel 3, Android 12 of S1 Next Goose v2.5.2-play

Chw6951 · 发表于 2023-11-22 16:12

泥潭70%计算机科班出生？迫真超能力者论坛

-- 来自能看大图的 Stage1官方 Android客户端

liangyi345 · 发表于 2023-12-8 09:17

把这当一个更复杂的编译环境不就行了

flagwind33 · 发表于 2023-12-8 09:38

完全没有不被替代的自信，但时代的车轮滚滚向前是不以个人意志为转移的，不论是被带飞还是被碾碎都只有拥抱一途

		自动登录	找回密码
密码			立即注册

[科技] 针对AGI的发展，计算机科班或从业者是不是都比较支持

评分

校内写生大会校内写生大会当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2023-5-23 头像被屏蔽	发表于 2023-11-21 12:28 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

osborn osborn 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2009-9-17 头像被屏蔽	发表于 2023-11-21 13:05 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

Nanolina Nanolina 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2021-4-17 头像被屏蔽	发表于 2023-11-21 15:02 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

校内写生大会校内写生大会当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2023-5-23 头像被屏蔽	发表于 2023-11-21 20:46 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

校内写生大会校内写生大会当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2023-5-23 头像被屏蔽	发表于 2023-11-21 21:53 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

校内写生大会校内写生大会当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2023-5-23 头像被屏蔽	发表于 2023-11-22 02:07 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报