人民网三评“AI伴侣”之一：不能忽视情感伦理

big9999

“你想建立一份虚拟关系吗？在关怀备至与悉心呵护中感受前所未有的慰藉。”“获得自己的‘知心爱人’，享受完美的‘灵魂伴侣’。”登录一些“AI伴侣”网站账号，就可拥有你的虚拟伴侣。

这一幕对于很多80后、90后来说，是多么地似曾相识。没错，机器人伴侣在经历了电子宠物、富于同理心的聊天机器人、能识别和理解人类话语的倾诉对象三个阶段后，跨入了 “AI伴侣”阶段。

“AI伴侣”是具有一定程度的智能和自主性以及社交技能的机器人或虚拟对象。它们展现出非凡的现实性、适应性和互动性，富有同情心，擅长开放式对话，能够与客户建立愉快且相互理解的关系。这种关系可以说是信任、兼容、相互熟悉的，用户通常更容易向人工智能敞开心扉谈论恐惧和不安全感。在互动过程中，AI会通过观察用户的过去经历来嵌入其人际关系网络，通过对话逐步进化，微调其反应以匹配用户的兴趣、需求和沟通风格，让使用者感到安全和幸福。一些研究表明，“AI伴侣”能够减轻个人的孤独感。

凡事都具有两面性。“AI伴侣”一经出现，就引起了有关道德和人类情感秩序的担忧。“AI伴侣”可以提供个性化情感体验和精神慰藉，但并非真实的“完美恋人”。AI的本质是数据和算法，所谓的情感共鸣，是在不断刺激用户对AI恋人的消费欲望和情感期待。过度依赖“AI伴侣”可能会阻碍关键人际交往能力的发展，这些“伴侣”也有可能以不符合用户最佳利益的方式影响用户的思想或行为，在社会决策上做出不符合自身利益的判断，等等。这些隐蔽的逻辑关系，都掌握在AI开发者的手中。

“AI伴侣”的体贴和顺从，让人如沐春风的感受背后，隐藏着一种伦理危机，对现实情感关系的背离。现实亲密关系的建构过程往往伴随着羁绊、纷争和挫败感，这正是人机交往中所缺乏的。长期沉溺于“人机之恋”，用户可能产生不健康的情感依赖，忽视现实世界的关系或失去处理人际交往的能力。通过这些互动收集的大量个人数据也引发了隐私问题，谁也不能保证个人秘密、图片和视频不会被泄露出去。甚至，如果编程出现漏洞，聊天机器人行为不当或操纵用户的风险可能就很高。

不得不说的是，“AI伴侣”关系倾向无原则的畸形关系，忽视了人类情感中小心翼翼、羞涩保守的天性。与所有人工智能模型一样，支持“AI伴侣”的模型接受过包含大量浪漫小说和爱情故事的数据训练。它们会模仿这些数据做出回应，让其对象深陷其中难以自拔。

“AI伴侣”的兴起代表着技术、心理学和人类情感的迷人交汇。虽然人工智能可以提供有价值的支持，但真实人际关系的复杂性和不可预测性仍然具有独特的价值。正确的选择在于将这些数字关系视为人类互动的补充，而不是替代。通过保持这种平衡，我们可以利用人工智能陪伴的好处，同时保留人际联系不可替代的价值。人不能单纯地专注于虚构的互动，仍需真正的陪伴，需要以现实为基础的思想、情感或欲望带来的对话空间。

因此，在人工智能影响现实生活的潜在能力上，必须划出一条明确的界限，哪些是可能的，哪些是禁止的。

wesdrtfg

怎么感觉这文章就像是ai写的

论坛助手,iPhone

Realplayer

管低头族时挨喷少了

Lily_Red

wesdrtfg 发表于 2024-11-28 12:09
怎么感觉这文章就像是ai写的

论坛助手,iPhone

以AI治AI

尼安德特人

那么，有哪些AI伴侣网站呢？

24k纯帅

prompt: 多加一点羁绊、纷争和挫败感

321zmbhy

东大作为技术进步神国确实比较忽视技术伦理问题，无论官媒有什么目的我还是赞同对涉及伦理的东西谨慎一点的。

长门柚虚

没有人的交流，没有意义。有些时候就要欺负真人才有意思。

VVhaleVoice

尼安德特人 发表于 2024-11-27 23:44
那么，有哪些AI伴侣网站呢？

大多都是收钱的的

—— 来自 鹅球 v3.3.94-alpha

sacodina

那么。伦理是被谁破坏了呢？

jy000129

现实中的伴侣正常谁会去投天网

—— 来自 HUAWEI WLZ-AL10, Android 12上的 S1Next-鹅版 v3.0.0.81-alpha

quadrozeke

看了半天好像也没啥缺点啊，如果能本地部署也不用担心什么隐私泄露的事情了。

windrarara

感觉潜台词是这样的：不要迷恋二次元，快点去结婚下崽

cqyaya

不是酒瓶，还不严重

—— 来自 S1Fun

sheshiro

人民网三评chobits

yorktown

24k纯帅 发表于 2024-11-28 12:45
prompt: 多加一点羁绊、纷争和挫败感

合理的

Gestaltzero

loveplus+++

zqwiru

人类情感中的小心翼翼，保守羞涩，原来是天性一部分吗，俺咋觉得这是社会强加的属性，反而这类小心翼翼，保守羞涩加重人与人之间的隔阂，铸造了ai伴侣的诞生

=w=

You are real for me



“You are real for me！”银翼杀手之下的赛博世界

【银翼杀手混剪/赛博朋克】“You look lonely"孤独的美感／视听疗愈