遭遇逆转诅咒，大模型可能根本不存在语言泛化能力

aaabbbccc__

诶呦我去这是哪 发表于 2023-9-23 19:33
数学上也不一定，比如1789年前的华盛顿就不是美国总统
现实世界日常用语基本不存在用“是”描述两个恒相 ...

1789年以前也没有美国总统。这东西有意义吗

qq2007ssy

gpt4没问题啊

barry.allen

Lucario 发表于 2023-9-23 20:47
虽然你说的也有道理，但目前的各种测试下来，大模型没有形成真正的逻辑推理能力，AI不是有没有逻辑问题而 ...

不应该管Chatgpt叫AI

本质是海量数据分析后的概率涌现，这里没有智能
这chatgpt是OpenAI做的，但它本身不叫AI

Angkovski

感觉目标应该使语言模型「像人一样说话」就好了，而不是「严谨地说话」。就好像面前摆着两个话筒，你跟他说「李红是王小明的妈妈」，然后问话「李红的孩子是谁」，左面一个答「王小明」，右面一个答「对不起，因为李红可能有复数个孩子，世界上也有许多叫李红的人，所以我无法给出李红的孩子的确切姓名」，那你觉得哪个更有可能是人类？

battleship64

逆命题不一定成立吧

论坛助手,iPhone

icer

如果能做出有逻辑推理能力的AI，那大概可以给定公理，让AI证明全部数学定理。
会有复杂定理的证明算力要求更高，简单定理的算力要求低这种现象不。
如果这样，数学定理的复杂度可以直接量化啊。
把已经证明的定理加入公理体系，之后的证明难度会下降吗？有点像算力梯云纵。

夜游宫

智商还不如八岁孩子啊。

lapisveritas

https://chat.openai.com/share/22 ... 2-a93f-7215a181fa43
这不是随便推理啊？是不是我理解错了

瓦格雷

逆否命题

姆咪心动动

这篇是不是还没经过peer review
github star也才47
目前没得到多少关注吧

chronicle

难道人一生出来就能理解逻辑的逆转吗？当然不能，也是通过经验性的总结得到。相同的，如果机器只学习单向的推演，怎么可能突出逆向的关系。这个研究就是把逻辑和经验剥离。

Quiet__

仿佛看到了一群的地得小警察。
这一刻突然感受到了人类的强大，gpt看坛友发言肯定不会想到的地得小警察。

炽羽星痕

语言大模型没有逻辑，只是概率，概率让它的回答看起来有逻辑，或者说它的回答有概率变得看起来具有逻辑性，但本质上它并没有逻辑

  -- 来自 能看大图的 Stage1官方 Android客户端

Pz079

有的人只能使用模糊的自然语言，而无法将有歧义的自然语言还原为概逻辑符号和集合概念，以至于初中级别的集合与命题推理都无法完成……

wszweill

yeo 发表于 2023-9-23 06:37
本来就没有演绎推理的逻辑能力吧，数学算不好不就是一个证据了？

感觉我和这些研究者有代沟了...我的认知 ...

通过调参来使得大模型有推理能力本来就是（水）文章的方向呀。我记得前几天泥潭不是贴过一个预印本的用gpt-4微调论证NP！=P

الطائر

涉及不同的逻辑关系（先不考虑“华盛顿”也是美国首都华盛顿哥伦比亚特区的简称）：

1.老罗斯福是西奥多·罗斯福：a = a'
2.老罗斯福是美国总统：a ∈ b，其中 b 为所有美国总统的集合
3.老罗斯福是第26任美国总统，所以第26任美国总统是老罗斯福：a = f(b) 推出 f(b) = a，其中 p: B -> A ，A 为所有人的集合，B 为 A 的幂集，为集合的集合
4.老罗斯福是西奧多·罗斯福三世的爹，所以西奧多·罗斯福三世是老罗斯福的崽：a = g(b) 推出  b ∈ h(a)，其中 f: A -> A，g: A -> B，满足 h(x) = {y|y∈A 且 f(y) = x}，h(a) 为老罗斯福的子女的集合
5.老罗斯福是到现在为止最年轻的美国总统：a = u(v(b, t))，其中 v(b, t) 为现在时间 t 为止美国总统的集合，如果未来时间 t' 有更年轻的总统，u(v(b, t' )) 自然也不同

الطائر

实际上应该是：

（已知：1.每个人都有且只有一个母亲；2.每个人都有且只有一个父亲；3.若甲是乙的母亲，则乙是甲的子女，且甲不是任何人的父亲；4.若甲是乙的父亲，则乙是甲的子女，且甲不是任何人的母亲；5.若乙是甲的子女，且甲不是乙的父亲，则甲是乙的母亲；6.若乙是甲的子女，且甲不是乙的母亲，则甲是乙的父亲。）


张三是李四的母亲，谁的子女是李四？答案：张三和另一个不知道的人（李四的父亲）
张三是李四的母亲，张三的子女是谁？答案：李四和其他不知道的人（如果有的话）
张三是李四的母亲，李四是张三的子女吗？答案：是
张三是李四的母亲，李四是张三的什么？答案：子女和其他不知道的关系（如果有的话）

李四是张三的子女，谁的母亲是张三？答案：不知道。如果张三不是李四的父亲，则为李四和其他人（如果有的话）。如果张三是李四的父亲，则没有人。
李四是张三的子女，李四的母亲是谁？答案：张三或另一个不知道的人（李四的母亲）
李四是张三的子女，张三是李四的母亲吗？答案：不知道。如果张三是李四的父亲，则不是。否则是。
李四是张三的子女，张三是李四的什么？答案：父亲和其他不知道的关系（如果有的话）或母亲和其他不知道的关系（如果有的话）

李四和李三是张三和李二的全部子女，谁的母亲是张三？答案：不知道。如果张三是李四的父亲，则没有人。否则为李四和李三。
李四和李三是张三和李二的全部子女，谁是李四的母亲？答案：张三或李二

الطائر

命题 1.如果老福是羊国人，则对任何人如果不是羊国人，那么他不是老福：a ∈ b，则对任意 a' ∉ b，有 a' ≠ a
命题 2.如果老福是羊国人，则老福不是任何不是羊国人的人：a ∈ b，则对 b' = {x|x ∉ b}，有 a ∉ b'

1. 的逆否命题：如果存在一个人不是羊国人，且他是老福，则老福不是羊国人：若存在 a' ∉ b，满足 a' = a，则 a ∉ b
2. 的逆否命题：如果老福是一个不是羊国人的人，则老福不是羊国人：对 b' = {x|x ∉ b}，若 a ∈ b'，则 a ∉ b

以上四个命题都是真命题，注意：这和老福实际上是不是羊国人无关

الطائر

注意：逆否命题只适用于 P -> Q 这种特殊的命题，它的逆否命题就是 非Q -> 非P，注意这和非命题（非 A）是两个概念！它们也和 “a 是 b” 没有关系！
这里的 P、Q、A 都是命题，都有真值。而 a 是个东西，一般不是命题。

注意：对 P -> Q 的逆否命题的非命题，即 非(非Q -> 非P)，和 P -> Q 的否命题 Q -> P 没有关系！
只要注意到 P -> Q 等价于 (非P)或Q，它的逆否命题还是 (非P)或Q，它的逆否命题的非命题是 (非Q)且P，而它的否命题是(非Q)或P，两者并不一样！

stmule

佳丽三千到 发表于 2023-9-23 19:10
请问，超人的妈妈叫玛莎。

那么，玛莎的孩子叫什么？

那当然是布鲁斯 韦恩啦

—— 来自 samsung SM-S9110, Android 13上的 S1Next-鹅版 v2.5.4

cauchua3

诶呦我去这是哪 发表于 2023-9-23 19:47
是啊，但是如果我有兄弟姐妹的话，我妈的孩子不一定是我

不过想想也正常，前两天手机圈大战的时候说KTV ...

是独生子女的时候，你是你妈孩子，当有兄弟姐妹了，你突然就不一定是你妈孩子了，要不要用这套理论问问你爸和你奶奶他们认不认同

—— 来自 Xiaomi 2112123AC, Android 13上的 S1Next-鹅版 v2.5.4

右代宫嘉音

freedomkought 发表于 2023-9-23 19:13 A=B和B=A从理论上来说其实是不成立吧... 另外问一个我很好奇的问题,数学上0.99999无限循环等于1,那么1是不是等于0.9999无限循环?这问题纯粹是之前看大家讨论当时没来得及问顺便现在想起来问一下...

想啥呢，1就是0.后面无限个9，写成1只是个简写。来自: iPhone客户端

naclken.

炽羽星痕 发表于 2023-9-24 01:51
语言大模型没有逻辑，只是概率，概率让它的回答看起来有逻辑，或者说它的回答有概率变得看起来具有逻辑性， ...

没有逻辑 X
无法理解意义 √
计算机对逻辑还是挺擅长的，只不过没法从人类的角度去思考……

yunxyz

喷了，我对泥潭的数学基础水平有大概的概念了
你母亲的孩子是谁，这个答案在严谨的回答中应该是，你母亲的孩子都有谁我并不清楚，不过肯定有你。现在只是机器傻乎乎必须要知道所有孩子的信息才敢回答，把这个问题归纳成了要求回答出你母亲所有孩子的信息，这个其实我觉得肯定能解决的，现在之所以没解决还是因为模糊问题之后，很多比题目中更搞笑的错误会大量冒出来。
所以现在这些人机对话过了图灵测试之类的，看看就好，商业行为而已。现在依然只是在特定领域内促进了生产力，不是所有领域。

rryu

这不是可以吗？我还问了另外的问题。

我：
从逻辑角度上，“A is B”是不是可以反推出“B is A”？

ChatGPT：
从逻辑角度上，“A is B”并不能直接反推出“B is A”。

例如，如果说“所有的猫是动物”，那么这是正确的（A is B）。但是，如果反推说“所有的动物都是猫”，那么这是不正确的（B is A）。

所以，“A is B”并不意味着“B is A”。

我：
在哪些前提下，这个反推成立？


ChatGPT：
“B is A”的反推在以下前提下才成立：

1. **双方性质的同一性**：当A和B实际上表示的是同一个东西或同一个概念时。例如：“A是我最好的朋友”和“B是我最好的朋友”，如果A和B都指代同一个人，则“A是B”和“B是A”都成立。

2. **定义的特例**：当B是A的一个更狭窄、更特定的定义或子集时。例如，“A是正方形”意味着A拥有所有正方形的属性。如果我们说“B是四边形”，并且知道A是正方形，那么我们可以说“B（四边形）是A（正方形）”，但这在常规语境下通常不这么使用，因为正方形是四边形的一个特定类型。

3. **反身性**：这是逻辑中的一个原则，即任何事物都等于其自身。例如，如果A是B，且B就是A本身，那么“B是A”当然成立。

总的来说，虽然在某些特定情境下，“A是B”可以推出“B是A”，但这种情况并不常见，需要特定的前提条件。在进行逻辑推理时，必须小心确保这些前提条件得到满足。

xing7673

第一页可以看出有些人还不如gpt呢

炽十二翼

可以这么理解，人脑一定长在人头里，但人头里长的可能不是人脑是猪脑

monkeykoishi

是可以表示相等或者一个包含关系，人脑很容易分辨到底是哪种，AI不行

—— 来自 S1Fun

Lucy_Diamonds

佳丽三千到 发表于 2023-9-23 19:10
请问，超人的妈妈叫玛莎。

那么，玛莎的孩子叫什么？

布鲁斯韦恩

—— 来自 Google Pixel 6a, Android 13上的 S1Next-鹅版 v2.5.2-play

nakosm

看了这贴笑死了，好多人感觉还不如AI

—— 来自 Xiaomi 22061218C, Android 13上的 S1Next-鹅版 v2.5.4

到结构了

这楼比较神奇的地方就在于说着感觉好多人还不如ai的人们互相之间也是这么看对方的

zike

侧面说明不需要逻辑也能忽悠人

clarkgao

rryu 发表于 2023-9-24 09:17
这不是可以吗？我还问了另外的问题。

我：

很简单，你猜GPT收集到的语料里有没有类似的问题？所谓的“特定的前提条件”其实是触发相关语料的关键词。

dovahkiin

GLM 是可以的，是不是这个研究版本落后了？

不可避免

其实我看着贴只觉得Ai在某些地方出乎意料地严谨。

stadium

Falcomfans 发表于 2023-9-23 20:02
你看看你说的是什么东西

他用的是集合和映射来严格对应起来的，平时人们对话不会有这么多讲究也没要求那么严格，就像日常口语里面说出来的很多句子语法可能会有些问题一样。

stadium

月千一夜 发表于 2023-9-23 20:35
| 我妈的孩子不一定是我

过于弱智…

放到具体语境里就直观了，像自己如果不是独子的话，老师如果对家长说你孩子考了满分，家长此时不能一定拿准说的是自己哪个孩子。