惊报！部分AI系统已学会欺骗人类，甚至能瞒.....

双面人

让机器做出最功利的选择不就是AI学习的初衷吗，打不过开始玩盘外招了是吧

瓦格雷

这个AI训练就是勾心斗角  现在真学会了又。。。。。

coobirufas

AI: 如果这部电影是90年代的作品，根据你的描述，可能是1995年上映的美国恐怖喜剧电影《女高怪谈》

AI: 很抱歉，我之前提到的《女高怪谈》并不是一部真实存在的电影。

tonyunreal

只要预设前提足够强，有逻辑的AI撒起谎来一套一套的

看了这个帖子随手捏了个偷腥人妻的人设，可爱捏

sunny_am

都用上AI了 机翻能不能翻得利索点

1242599693

我问ai一个问题，ai说了一个答案。我把问题中的名字换了一个叫法，ai说了另一个答案

依然荏苒

ai真的理解自己在说啥么，最近高强度用gpt后我更怀疑了

webashrat

sb新闻记者，这种科学家**记者母亲的新闻能不能少一点

—— 来自 Xiaomi 2206123SC, Android 14上的 S1Next-鹅版 v3.0.0-alpha

Hyst3r1a

humor  setting 75%

—— 来自 OPPO PGEM10, Android 14上的 S1Next-鹅版 v2.5.4

Baccano

coobirufas 发表于 2024-5-11 22:55
AI: 如果这部电影是90年代的作品，根据你的描述，可能是1995年上映的美国恐怖喜剧电影《女高怪谈》
...

想起来之前用微软的copolit指出它的胡说八道，它就会直接断线要求开启新的话题，巨有脾气。

云卷花开

我觉得应该立法禁止学新闻的去瞎几把在高新技术行业大放厥词

—— 来自 OnePlus PJD110, Android 14上的 S1Next-鹅版 v2.2.2

痴货

webashrat 发表于 2024-5-11 23:39
sb新闻记者，这种科学家**记者母亲的新闻能不能少一点

—— 来自 Xiaomi 2206123SC, Android 14上的 S1Nex ...

确实是sb新闻编辑，原本是MIT的学者通过博弈来提升AI的准确度，到这里就被歪曲成“欺骗”了，具体的可以看文章：

https://www.quantamagazine.org/game-theory-can-make-ai-more-correct-and-efficient-20240509/

julius0147

这还行就类似那种ai变懒之类的，训练设置时，失败的损失大于，不失败的损失，成功的机会收益有不够大。ai就从尝试冒险成功，转而寻求稳定的不失败。这种其实也是一种形式实践检验，或一种实验验证，说ai欺骗偷懒之类，可能类似物理学崩塌之类的理解不足吧

—— 来自 HUAWEI OXF-AN00, Android 12上的 S1Next-鹅版 v2.4.4-alpha

ppntint

什么时候出现有自我意识的AI灵魂

哲人·YY月

人工智能安全研究员彼得·朴

peter pak四舍五入大概就是peter parker

luguozmy

其实chatGPT也不知道自己说的东西是否正确，很多时候确实只是嘴硬