发现很多人不知道ai会瞎编

03e7

Nanachi 发表于 2025-2-28 11:48
很多人对AI的理解就是智能化的搜索引擎

当搜索引擎都是好的

有些人是当上帝天启的

wwjwwgzhp

就算是deepseek也是极其口胡的
最简单的例子就是让他说出我小区是处于什么街道的，结果他一开始口胡个错的，然后我纠正他，并且告诉他正确答案以后再问他，他终于不说之前那个错的答案了，而是说了另一个隔壁街道的名字出来，就是说不出正确答案

elflie

ai能看到思路就已经不错啦

天祚星

鸡腿不足 发表于 2025-2-28 11:41
主要好多人都以为ai是人工生命，觉得他是像电脑一样聪明的人类，尤其我的一些年长亲朋好友。不过也有营销号 ...

生命的特点不就是瞎编，幼儿园创可贴视频没看过？

—— 来自 S1Fun

精钢魔像

刚才就遭遇了一次deepseek口胡，它说某个超任rom是木马病毒，编了个朝鲜组织制作，从暗网流入模拟器网站的过程，利用模拟器漏洞扫描浏览器cache，盗取steam账号

鸡腿不足

天祚星 发表于 2025-2-28 19:24
生命的特点不就是瞎编，幼儿园创可贴视频没看过？

—— 来自 S1Fun

听话的生命嘛，具体到部分人误解ai能力这个问题上，有些人是把ai当有电脑聪明的秘书助理了

futamn

个人理解的话，ai所做的并非是思考与阐释，而是依据训练材料与既有信息进行的以符合人们对于思考，阐释与逻辑性的外在表现为标准的拟合，当它所依据的既有材料不足以支撑其话语整体结构的合理性时，他仍旧会试图去使自己输出的话语符合这一标准，故而会通过虚构材料与语境来完成这种拟合。

wbtsy

ai有个好处。包括泥潭在内，很多弱智粘贴ai答案的时候连星号都不删。可以帮我迅速筛选出人群。不然如果他粘百度的东西过来，我都分辨不出他是单纯地犯错还是弱智。

我是大鲨鱼1453

鵝 发表于 2025-2-28 13:53
今天和人聊到女排首冠，突然想搜下对面阵容

小爱回答如下

这些名字一看就不可能是80年代的日本女孩姓名啊……

他要是写个小鹿纯子上去我没准真信了

Misono_Mayu

wbtsy 发表于 2025-2-28 20:39
ai有个好处。包括泥潭在内，很多弱智粘贴ai答案的时候连星号都不删。可以帮我迅速筛选出人群。不然如果他粘 ...

我记得星号只是 md 格式吧

—— 来自 S1Fun

icewolf01

同事让AI帮着选型，结果选出来的型根本不存在233

我家阿喵叫花花

它会从网络搜索提取内容，网络搜索早就被各种内容农场给污染得乱七八糟了……

轮太

反正翻译的时候会给我瞎编。。。不仔细看会中招

秦南心

看两眼来源链接就好，那种百家号网易新闻啥的都要打个问号

gammatau

单一构成权重还是不太行吧，现在说以后架构要搞什么长效记忆之类的

瓦拉几亚之夜

前几天DS跟我说老挝因为首都万象离泰国太近，所以迁去内比都了…………

临界点

瞎编就是目前AI的特点 也是它智能的地方  只是它自己不会承认而已   而且网上信息也很容易误导它  所以用的时候如果不是要最新的数据建议别开联网  网上的资料质量可信度肯定没有训练它的语料质量高

我是蓝石头

暴力s 发表于 2025-2-28 11:53
举个例子

—— 来自 S1Fun

你去问澳洲签证acs政策，问他有没有提交期限，他答了之后继续追问，你确定吗，我搜了跟你说的不一样？

你去问他苹果开发者签名完应用是不是可以直接给别人mac用，他答了以后追问，你确定吗？

你去问他aws kms不使用spark自带分布式怎么写并发，他写完之后你问他，你确定吗？我跑了报错了？

上坂莲华

是这样的，腾讯元宝就是瞎编大户
我问他一万战斗力、100捕获等级、特级咒术师、总队长、六道、一万匹磁场转动以及化神巅峰，哪个更具实用性，他给我说

知乎原问题https://www.zhihu.com/question/7353811158/answer/65107806459，特技咒术师狗都不选（

Vneeto

老冒病了，从chatgpt开始，这些ai早就成了路人眼中全知全能的神了。

loveconankid

随便写了一句诗，问chatgpt诗句的理解，chatgpt上来就说诗句出自白居易

—— 来自 OnePlus LE2120, Android 14上的 S1Next-鹅版 v2.5.4

FeteFete

今天让他给我分析代码
在里面嵌套了一张架构图片
然后图是空的带广告
还好不是那种奇怪的广告,不让让我消息了

然后就在这个时刻我在写一个比较蛮大的代码里面的额外功能(涉及到ai infra里面 一个显存换入换出问题)
然后代码开始给我一样胡编了(这个时刻还在跑 所以我要等待他decode结束)

看了一眼最后的结果其实编的成分没那么夸张 ,能参考

这下很厉害了

神必迷你龙

大部分人的第一个ai是deepseek，然后有人发现了它会瞎编，于是有人推理出国产ai都是吹牛批产物。。

炽十二翼

比ai瞎编回答更麻烦的是网上资料会被瞎编的资料污染

Feena

车轱辘话老多了

JC_AR

我第一次用deepseek就给我乱编，而且是错的没边的那种

—— 来自 鹅球 v3.3.96

PharotekWizard

我不需要他生成正确的东西，对于帮我写设定这件事，只要他能生成看起来正确的东西就行了

—— 来自 鹅球 v3.3.96-alpha

翼宿一

Misono_Mayu 发表于 2025-2-28 20:54
我记得星号只是 md 格式吧

—— 来自 S1Fun

是 markdown，但泥潭又不支持，所以有这个的必然是复制粘贴改都不改（甚至可能看都不看）的啊…

科本学士

之前问过几个ai骑砍2游戏里有多少城镇和城堡，结果没有一个回答正确的，有意思的是这些ai虽然回答的数量都不一样，但共同点是都比实际数值要高一些

2659646573

今天用文心一言，果然不能对百度的东西有所期待，以前百度搜加减乘除都会给你算错


—— 来自 S1Fun