从AI的上下文长度限制来看，可塑性记忆的设定是不是有点道理？
记得当年看番的时候，弹幕里面吐槽最多的是都未来科技了还有这种内存满了所以机器人要坏了的设定。但是从最近的生成式AI来看，和机器的单次对话的上下文长度限制不是那么好解决的，对话太长的话它还真就把前文给忘了。可塑性记忆里面能够坚持十年才坏，考虑到其中肯定还有大量的视频音频等多模态数据，从现在的眼光来看确实是未来科技了。 从现在的技术来看要小心的不是忘了上文，而是出幻觉然后黑化吧 这个时候就展示泥潭动漫论坛了，默认大家都知道这个动画。不过那动画里的设定感觉是为了伦理很强行的计划报废 记得光环里 时间长了会疯掉 。坏了就是疯了的美化吧。 人类的工作记忆空间也不大，计算机的永久储存空间非常庞大。
为啥生成式AI不能照顾上下文？
大概是长时记忆和工作记忆之间的互动机制没做好吧…… plastic love~ 能換新 卻不能備份是黑箱科技 智能本质是压缩，用最少的编码表达最多的语义。长上下文的限制，定期清除这种设定说明还是压缩抽象的能力不够。 你手机都支持备份到云端了，甚至都能翻相册时候即时从云端下载大图 gofbayrf 发表于 2025-1-21 09:44
能換新 卻不能備份是黑箱科技
这不是很符合目前生成式AI的特征么，大量的连作者自己也不明白的黑箱 本帖最后由 星花 于 2025-1-21 09:51 编辑
备份还是原来的么？如果是数据累计到一定程度造成的崩坏，那没救。人类的智力 和现在的ai不是一种东西 用人类举例没啥用。 本帖最后由 佐敦·库勒 于 2025-1-21 09:58 编辑
目前人和ai记忆的模式不一样，人脑是有损高度压缩存储，给人的感觉存储空间是几乎无限的。而ai要记忆就要存储文本、音频或视频，迟早有满的时候。另外还有一个数据库大到一定程度崩溃的问题，在很多科幻作品里表现为黑化、疯掉等现象 gofbayrf 发表于 2025-1-21 09:44
能換新 卻不能備份是黑箱科技
能备份和恢复的话，就必然涉及记忆的编造了
那是另一个主题了
主角：艾拉对我爱理不理？没事，下个周期她就会爱我死去活来了 我当初也吐槽过塑料片内存，现在看是不是回旋镖砸自己身上了
—— 来自 鹅球 v3.3.96-alpha yorktown 发表于 2025-1-21 09:41
从现在的技术来看要小心的不是忘了上文，而是出幻觉然后黑化吧
对，这个其实更恐怖，这个设定可以拍十部科幻电影了 硬盘都是小事，云储存呢？
好比人们总爱写活得太长的人类最后都会变魔怔或者疯掉，活了几万年的精灵还在为家长里短打架搞个世界危机又见怪不怪。
如果世界上真的有永生的人类呢？像这个男人来自地球，他有无尽的时间可以学习，体验，哪怕是摆烂到厌烦也行。这时候又要说会被抓到实验室关到洪水滔天了。
—— 来自 HUAWEI ALN-AL80, Android 12上的 S1Next-鹅版 v2.5.2 naclken. 发表于 2025-1-21 09:44
人类的工作记忆空间也不大，计算机的永久储存空间非常庞大。
为啥生成式AI不能照顾上下文？
大概是长时记忆 ...
其实人的记忆空间很大
但大部分记忆因为没有时常访问而神经元之间缺乏建立联系，处于无法索引的状态
因为某些事件或外伤冲击而突然想起以为遗忘很久的事情并不少见 LilithMardin 发表于 2025-1-21 10:19
硬盘都是小事，云储存呢？
好比人们总爱写活得太长的人类最后都会变魔怔或者疯掉，活了几万年的精灵还在为 ...
时间长了，总会遇到人类文明低潮期，然后一寻思我行我上啊，然后就困在马桶上了。
因为没有所以不知道时间能把人弄成啥样。 LilithMardin 发表于 2025-1-21 10:19
硬盘都是小事，云储存呢？
好比人们总爱写活得太长的人类最后都会变魔怔或者疯掉，活了几万年的精灵还在为 ...
疯掉和忘掉总得选一个，人类大脑就这么大地方，进化也只负责这么长运行时间。 那么人类的记忆力就很强吗？
全国的老人可是100%一致坚信当年的歌词是56个民族而不是56个星座呢。 ww-tsl 发表于 2025-1-21 10:42
那么人类的记忆力就很强吗？
全国的老人可是100%一致坚信当年的歌词是56个民族而不是56个星座呢。 ...
如果一个人可以无损记忆一生中所有的事情和看见的人也太可怕了（index了）
—— 来自 OPPO PGFM10, Android 14上的 S1Next-鹅版 v2.5.2 现在想起这个片子，我第一想法竟然是汽车年检和强制报废 可塑性记忆反例就是vivy了，ai记忆进行俺寻思了，虽然全部其实都是编剧和观众寻思，实际怎么样还是不知道的 一周的朋友
—— 来自 鹅球 v3.3.96 LLM有向量库, 按现在的技术, 文本的存储几乎就是无限的,
物理上可以把所有记忆储存着，但智能主体能不能调用到记忆是另一回事，感觉类似人类阿兹海默症 小妻水亚美 发表于 2025-1-21 10:51
如果一个人可以无损记忆一生中所有的事情和看见的人也太可怕了（index了）
—— 来自 OPPO PGFM10, Andr ...
超忆症是一种病，遗忘是大脑自我保护的技能 说到这我就要提一下我寻思的理论了，我认为人类是每隔数分钟就存档一次。一会就会发生我是谁我在哪的疑问，回想上一片段的记忆就有种恍若隔世的感觉。生成式ai，可塑性记忆都可以用这种类人思考没做好来理解 做人睡眠一样的压缩编码机制就好了，
那些没有索引的记忆就滚动保存呗 给我发个诺艾尔 银翼杀手里nexus系列也是到期报废不然会出bug报复社会吧
—— 来自 鹅球 v3.3.96 我记得看过科普，人类大脑之所以能储存大量的记忆是靠的脑补。只存一些关键点的记忆，然后其余不那么关键的靠经验脑补，然后就很省空间了 也挺奇怪的，人类具有遗忘功能，那机器人把没卵用的记忆删掉不就好了？ 本帖最后由 星花 于 2025-1-21 14:24 编辑
爱吃冻鳗的猫 发表于 2025-1-21 14:16
也挺奇怪的，人类具有遗忘功能，那机器人把没卵用的记忆删掉不就好了？
你可以理解为 技术不行 Ai学习的数据累计到一定程度会 疯掉 出问题的其实是通过记忆提炼出的人格 而不是记忆。 某本魔法小黄书目录本来不也是这么个设定么，质疑到最后发现都是坑，根本没有的事 本帖最后由 moeblack 于 2025-1-21 14:27 编辑
希望这篇文章能缓解你的焦虑，上周的。
人脑可能是使用K-V键值对模型来存储记忆的。
大脑的遗忘指的是遗忘了K-V映射关系或者无法搜索到key，真正的value一直没扔
页:
[1]