遭遇逆转诅咒，大模型可能根本不存在语言泛化能力

bl0ck · 发表于 2023-9-23 18:21

提示: 作者被禁止或删除内容自动屏蔽

与天争锋_LZ · 发表于 2023-9-23 18:39

原理还没玩透别急着定上限

诶呦我去这是哪 · 发表于 2023-9-23 19:07

因为A推B逻辑上只能反转成否B推否A
比如说张三是李四的妈妈只能推出来王五不是李四的妈妈，这个问题本身是不严谨的

重名的mufasa · 发表于 2023-9-23 19:09

提示: 作者被禁止或删除内容自动屏蔽

blueshift · 发表于 2023-9-23 19:10

下周就会冒出5篇论文证明使用XXX prompt的GPT可以回答这个问题

佳丽三千到 · 发表于 2023-9-23 19:10

请问，超人的妈妈叫玛莎。

那么，玛莎的孩子叫什么？

—— 来自 HONOR LSA-AN00, Android 12上的 S1Next-鹅版 v2.5.4

诶呦我去这是哪 · 发表于 2023-9-23 19:12

重名的mufasa 发表于 2023-9-23 19:09
你看清问题了吗?
张三是李四的妈妈推不出来李四是张三的孩子.

因为李四的孩子不一定是张三啊，说不定他还有个兄弟交张四，并不能完全反推
如果他输入的是李四有且只有张三一个孩子的话我相信AI还是判断得出来的

诚司 · 发表于 2023-9-23 19:13

提示: 作者被禁止或删除内容自动屏蔽

freedomkought · 发表于 2023-9-23 19:13

提示: 作者被禁止或删除内容自动屏蔽

重名的mufasa · 发表于 2023-9-23 19:14

提示: 作者被禁止或删除内容自动屏蔽

诶呦我去这是哪 · 发表于 2023-9-23 19:15

freedomkought 发表于 2023-9-23 19:13
A=B和B=A从理论上来说其实是不成立吧...
另外问一个我很好奇的问题,数学上0.99999无限循环等于1,那 ...

等于，你可以理解成0.999写多长也无法真正表达成无限循环，差的那一点点刚好就可以补足成1
0.333的循环等于1/3,0.999循环自然就是1

Falcomfans · 发表于 2023-9-23 19:16

提示: 作者被禁止或删除内容自动屏蔽

greenpea · 发表于 2023-9-23 19:16

freedomkought 发表于 2023-9-23 19:13
A=B和B=A从理论上来说其实是不成立吧...
另外问一个我很好奇的问题,数学上0.99999无限循环等于1,那 ...

等词就是满**换性啊，承认A=B就是承认B=A，不然=这个符号还有什么意义..

greenpea · 发表于 2023-9-23 19:17

greenpea 发表于 2023-9-23 19:16
等词就是满**换性啊，承认A=B就是承认B=A，不然=这个符号还有什么意义..

足x交

如将红莲 · 发表于 2023-9-23 19:17

重名的mufasa 发表于 2023-9-23 19:14
你究竟看清了吗?
是和只是你是**孩子,但你妈不是你妈?

狗叔是S1网友，请问，S1网友是不是就是狗叔？
集合大小可能不一样当然不能这么推，只能说
“他不是S1网友，他一定不是狗叔”

诶呦我去这是哪 · 发表于 2023-9-23 19:18

重名的mufasa 发表于 2023-9-23 19:14
你究竟看清了吗?
是和只是你是**孩子,但你妈不是你妈?

你妈一定是你妈，**孩子不一定是你

V宇宙的守夜人Z · 发表于 2023-9-23 19:20

本帖最后由 V宇宙的守夜人Z 于 2023-9-23 19:31 编辑

讨论前先分清楚自然语言下的 “是”到底在数学上是等于还是（集合）属于。。。。楼主贴的这个是按它的语境就是等于，现在的模型看似讲出的话像模像样，但它不是真的懂逻辑，这真的没啥好大惊小怪的

bl0ck · 发表于 2023-9-23 19:22

提示: 作者被禁止或删除内容自动屏蔽

重名的mufasa · 发表于 2023-9-23 19:23

提示: 作者被禁止或删除内容自动屏蔽

blueshift · 发表于 2023-9-23 19:24

freedomkought 发表于 2023-9-23 19:13
A=B和B=A从理论上来说其实是不成立吧...
另外问一个我很好奇的问题,数学上0.99999无限循环等于1,那 ...

如果使用柯西序列定义，0.9999是（属于）1，但是1是一个equivalence class，而不是某一个序列，1不是0.99999

重名的mufasa · 发表于 2023-9-23 19:24

提示: 作者被禁止或删除内容自动屏蔽

jojog · 发表于 2023-9-23 19:24

transformer不是矢量么这矢量肯定没法倒着走回去吧（不懂瞎扯淡）

Dreki · 发表于 2023-9-23 19:25

诶呦我去这是哪发表于 2023-9-23 19:07
因为A推B逻辑上只能反转成否B推否A
比如说张三是李四的妈妈只能推出来王五不是李四的妈妈，这个问题本身是 ...

你说的很对，但是对人脑来说“乔治·华盛顿是美国第一任总统”显然定义了一个双射

final007 · 发表于 2023-9-23 19:26

诶呦我去这是哪发表于 2023-9-23 19:18
你妈一定是你妈，**孩子不一定是你

美国第一任总统有一万个吗？

星花 · 发表于 2023-9-23 19:26

你们看人类都搞不明白ai怎么可能。

limbo.null · 发表于 2023-9-23 19:26

Dreki 发表于 2023-9-23 19:25
你说的很对，但是对人脑来说“乔治·华盛顿是美国第一任总统”显然定义了一个双射 ...

不是啊，这个需要额外信息的，比如总统唯一

aaabbbccc__ · 发表于 2023-9-23 19:27

本来就没逻辑。

SinoWarrior · 发表于 2023-9-23 19:27

提示: 作者被禁止或删除内容自动屏蔽

aaabbbccc__ · 发表于 2023-9-23 19:28

数学上美国第一任总统和华盛顿就是等价的

星花 · 发表于 2023-9-23 19:30

aaabbbccc__ 发表于 2023-9-23 19:28
数学上美国第一任总统和华盛顿就是等价的

叫华盛顿的明明很多，并没指定是哪一个。

Dreki · 发表于 2023-9-23 19:30

limbo.null 发表于 2023-9-23 19:26
不是啊，这个需要额外信息的，比如总统唯一

所以说明大语言模型用那么大的文本训练半天还是无法理解美国总统唯一这个事实

hugosol · 发表于 2023-9-23 19:30

本帖最后由 hugosol 于 2023-9-23 19:32 编辑

每次点进来这种帖子就想吐槽中国基础教育水平，三段论大概是高中数学内容吧

你们别被三楼那个例子带歪了啊，沿着这个思路正经地思考一下，假如说告诉AI华盛顿是第一任美国总统，那么他至少应该能说出：我不知道第一任美国总统是谁，但华盛顿是美国第一任总统
然而现在还没达到这种程度的智能

非建政专用号 · 发表于 2023-9-23 19:31

又到了我第356喜欢的从充分必要，逆命题，否命题，逆否命题起步讨论到哥德尔不完备定律环节了吗

星花 · 发表于 2023-9-23 19:31

我二叔也叫华盛顿他并不是美国总统。

诶呦我去这是哪 · 发表于 2023-9-23 19:33

aaabbbccc__ 发表于 2023-9-23 19:28
数学上美国第一任总统和华盛顿就是等价的

数学上也不一定，比如1789年前的华盛顿就不是美国总统
现实世界日常用语基本不存在用“是”描述两个恒相等的东西的场景，所以我感觉就是单纯的对语言模型的理解偏差而不是AI有逻辑问题

永远的访客 · 发表于 2023-9-23 19:34

A is B 本来就藏着多种可能性，比如A是一种B，A是B的成员之一，A是B的另一个名字，A就是B的象征，A是B演变前/后的结果... （这清单估计还能写更长）
人靠常识可以排除掉大部分选项，不会理解错【XX是中国人】这句话啥意思，但对于程序，你还得让他搞明白为啥XX和中国人的关系只能是【常识】里的那个。所以说他就是搞不懂a is b凭啥就能说b is a

毒菇 · 发表于 2023-9-23 19:35

提示: 作者被禁止或删除内容自动屏蔽

星花 · 发表于 2023-9-23 19:36

但大模型是统计不是逻辑讨论逻辑也不对。

yeo · 发表于 2023-9-23 19:37

本来就没有演绎推理的逻辑能力吧，数学算不好不就是一个证据了？

感觉我和这些研究者有代沟了...我的认知是，指望一个只会归纳法的统计学模型有演绎推理能力是不是搞错了什么...

V宇宙的守夜人Z · 发表于 2023-9-23 19:37

本帖最后由 V宇宙的守夜人Z 于 2023-9-23 19:42 编辑

自然语言本来就不可能像程序那样考虑重复定义，重载问题，句子里肯定要结合语境里的隐含假设，正常人先知道“华盛顿是美国第一任总统”，再问谁是美国第一任总统肯定会知道前面的华盛顿就是那个特定的人，纠结华盛顿的歧义这种程度的问题的话人类的交流都不可能进行，只能说目前现有的模型无法在这种模糊的语境下进行逻辑推理

		自动登录	找回密码
密码			立即注册

[欢乐] 遭遇逆转诅咒，大模型可能根本不存在语言泛化能力

评分

bl0ck bl0ck 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2019-5-30 头像被屏蔽	发表于 2023-9-23 18:21 来自手机 \| 显示全部楼层 \|阅读模式提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

重名的mufasa 重名的mufasa 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-11-26 头像被屏蔽	发表于 2023-9-23 19:09 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

诚司诚司当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2014-11-27 头像被屏蔽	发表于 2023-9-23 19:13 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

freedomkought freedomkought 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2016-7-12 头像被屏蔽	发表于 2023-9-23 19:13 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

重名的mufasa 重名的mufasa 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-11-26 头像被屏蔽	发表于 2023-9-23 19:14 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

Falcomfans Falcomfans 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2004-1-22 头像被屏蔽	发表于 2023-9-23 19:16 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

bl0ck bl0ck 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2019-5-30 头像被屏蔽	楼主\| 发表于 2023-9-23 19:22 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

重名的mufasa 重名的mufasa 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-11-26 头像被屏蔽	发表于 2023-9-23 19:23 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

重名的mufasa 重名的mufasa 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-11-26 头像被屏蔽	发表于 2023-9-23 19:24 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

SinoWarrior SinoWarrior 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2021-6-21 头像被屏蔽	发表于 2023-9-23 19:27 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

毒菇毒菇当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-11-21 头像被屏蔽	发表于 2023-9-23 19:35 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报