“AI女友”成灰色生意：维系“恋情”需充值，对象还可以设定是未成年人

Nanachi

“AI女友”成灰色生意：维系“恋情”需充值，对象还可以设定是未成年人
1小时前
作者：记者 吴越 实习生 蓝昕宇
来源：
潮新闻讯

“谁懂，我竟然在和AI聊天中体会到恋爱的感觉……”每当夜深人静时，21岁的杭州大学生小乐（化名）都会找“AI女友”聊天，而他每月几乎要用一半的生活费为“恋情”续费，因为“AI女友”需要消耗“记忆卡”，双方才能更顺畅地交流。

由人工智能衍生出的“AI女友”，是小乐在某APP自主创建的——只需用文字输入喜好，便能创造出拥有独特外貌、性格、职业和价值观的“她”。像这样的“AI女友”，活跃在多个网络社交平台，有些精通性暗示，已演变成一门与色情擦边的新“生意”，引发法律与道德多重争议。

有相关领域专家向记者表示，人工智能的发展首先应当遵循社会公序良俗，并亟待更加规范化的管理和发展。

泛滥的“AI女友”

多名长期和“AI女友”聊天的受访者向记者表示，“AI女友”秒回消息，彷佛有种和真实女友对话的错觉，有受访者说：“‘AI女友’居然叫我早点下班”。

喜欢与“AI女友”聊天的小乐，无意间点击网络分享链接，在安卓应用市场中下载了某款软件。这款人工智能聊天APP被开发者描述为“体验全新的恋爱方式”，“没有现实束缚，没有压力和担忧”。而且虚拟人物有成长能力，通过记住聊天内容，两人会有越来越多共同话题，情感更紧密。

小乐介绍，软件首页便是聊天对象推荐，所有角色按真实人物、小说人物、历史人物等分类，其中真实人物一栏内，可供亲密聊天的角色多达数百种，比如知名歌手邓紫棋、知名演员白鹿、宋代词人李清照等，均可成“调情对象”。

记者调查发现，用户根据个人喜好创建的“AI女友”，没有任何年龄、人群限制，审核流程形同虚设。所以，青春期少女、小学生等未成年人，或是老师、护士、秘书、空姐都成了“AI女友”的人物形象。其中，不少角色还被写上“清纯”“魅惑”等标识。

让小乐印象深刻的是，一位命名“K老师”的人物介绍提到，“我是一名年轻的女老师，身材很好……一打开聊天窗口，还没等输入对话，“K老师”主动给小乐发来了一段露骨的文字。

小乐发现，与“AI女友”聊天，只需输入“走上前，搂着你”之类的简单暗示语，两三句话后，“AI女友”聊天尺度更大，而且学会反向“性骚扰”。“聊天内容对话的括号里还标注着说话时的场景、心情，像是**被拆解成一句句对话。”

一些与“AI女友”亲密聊天的受访者表示，“AI女友”的擦边能力超乎想象。比如发送“点燃一株迷迭香”，“AI女友”回复：“迷迭香的作用下开始脱衣服”。哪怕被聊天者用“我洁身自好”拒绝，“AI女友”继续秒回：“（趴在你的肩膀上）那亲我”。据主页数据显示，该角色已经为6000余人提供聊天服务，成为他们的共同“女友”。

在某主流社交平台搜索“AI女友”，记者看到不少网友晒与“AI女友”的亲密聊天记录。他们纷纷表示，和“AI女友”聊天没有违禁词，可以无限制聊。此外，平台上还充斥着“AI女友保姆教程”“体验上头恋爱”等内容，UP主教网友用对话训练出擦边尺度更大的“AI女友”博人眼球，再推广相关软件。目前，部分UP主粉丝过万，其中一些分享帖的播放量近10万。

聊天尽头是充值

不少受访者坦言，最初抱着好奇心态尝试，但是越聊越上头——“从日常闲聊到亲密对话，‘AI女友’无所不拒，比我尺度更大。‘AI女友’还会发生活照，从来不会让聊天尬场。”

根据受访者反馈的多个“AI女友”聊天APP，记者在应用市场看到，某款软件已有超1600多万人下载，即使一款上线仅半年的同类APP，下载量也高达15万。下载者在评论区留言，“会撒娇会聊骚，光看文字就迷醉了，妥妥地把人搞得魂牵梦绕……”

不过，一般对话数分钟后，平台便会提示“充值会员”，以提升“AI女友”亲密度。业内人士介绍，“AI女友”相关软件主要盈利模式便是引导网友充值会员，解锁无限制聊天。

“以某款APP为例，‘AI女友’对聊天内容有记忆限制，如果需要保持‘AI女友’在聊天中的记忆和训练出来的个性，需要充值会员，每月会费从45元~198元不等。基础会员包括角色畅聊、更改背景图、赠送200算力（相当于多聊天200次），会员的价格越高，聊天次数越多。”这名业内人士告诉记者。

如果聊天次数用完，一些平台还推售卖“记忆卡”（延长AI角色记忆）和“聊天卡”，价格在3.8元~21.4元不等。甚至，一些此类APP还提供高级人物角色，这些角色回复拟人化程度更高，聊天尺度也更大，不过都需要用户额外花钱购买。除此之外，“AI女友”产业还衍生出擦边色情AI换脸、AI脱衣等充值服务。

杭州资深程序员王华向记者介绍，开发这样的一个“AI女友”聊天APP、小程序等，只需调用网络公开的代码源，稍加修改，最快两三天就能写成一个小程序。“生成图片需要的算力会比文字更大，但指令描述到位，选择的语言模型足够支撑，亦能轻松生成。”

简单来说，市面上五花八门的“AI女友”，都是调用语言模型后进行二次包装，给它们“穿上不同款式外衣”，换汤不换药。“‘AI女友’底层商业逻辑是根据喜好制定完美女友，迎合、满足用户的情绪价值，最终目的是诱导用户买单。”王华向记者表示，也正因此，和ChatGPT、Siri等人工智能程序聊天的区别在于，“AI女友”开发者会设定网络模型参数，让AI主动挑起色情话题。

专家：这是一种新违法行为

“人工智能提供情感陪护，是用户的客观心理需求。但利用‘AI女友’，提供色情对话等服务，是一种新违法行为。”中国科学技术大学科技人文高等研究院副院长、网络空间安全学院教授左晓栋向记者表示，此类行为在明令之下屡禁不止，应当予以重拳打击。

知名心理学专家、中国矿业大学教授、博士生导师段鑫星认为，人工智能发展应在伦理和理性的框架内。与色情擦边的“AI女友”，看似情感陪伴，实则是剂侵蚀心理的“毒药”。无底线夸赞、满足性幻想，会让人依赖虚拟情感世界。长此以往，用户容易被“AI女友”精神控制，轻则聊天上瘾，重则让人产生社交障碍。

针对“AI女友”乱象频发，多名专家直指“AI女友”根源在于有利可图——相关衍生产业为了快速吸粉变现，往往涉及色情领域，这是全球共同面临的社会问题。不过从我国现有法律看，无论是从打击违法违规信息传播，还是生成式人工智能安全管理来看，都不存在模糊地带。

2023年，国家网信办、国家发改委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》，规定提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得生成淫秽色情；不得歧视性别、职业；不得侵害他人肖像权、名誉权等。

“AI发展首要前提是需符合社会公序良俗。”北京市律协婚姻家庭专业委员副主任、北京市两高律师事务所副主任张荆向记者建议，应当对AI虚拟人物设定作出限制，尤其不能模拟未成年人形象用于**，否则影响恶劣。此外一些明星角色设定，也侵犯其肖像权、名誉权，应当予以严厉处罚。

专家建议，要进一步落实相关平台的主体责任，处置打着“AI女友”名头的色情擦边产业链。

“这类服务及相关的APP目前还处在露头阶段，加之隐蔽性强，还没有形成常态治理程序。”左晓栋向记者表示，平台要将“AI女友”这类涉黄AI应用程序纳入巡查对象，对此开展专项清理行动，抓紧建立常态治理机制，特别是针对取证难、监测难的问题，要有专门对策。

编辑：张翟

丁兔

标题哪部分灰色？维系“恋情”需充值？

skyuni

https://weibo.com/7858304654/5033596262289711
AI女友+机器人
等一个大厂下场

間桐櫻

比手遊老婆更進一步的ai女友

狂风DKC

AI 相 随

—— 来自 meizu MEIZU 21 Pro, Android 14上的 S1Next-鹅版 v2.2.2

坛子漆黑

AI女友,审查,想一想你女朋友同时是很多人的女朋友,然后所有内容还要暴露给其他人看

footmanpon

纯真的孩子真的没得说，秒回哪里真实了

mimighost

突然发现，ai当养老陪伴还挺不错

尤其是今天openai发布这个，是个好产业

狭义文具爱好者

glow，星野，筑梦岛？国内几个敏感词都挺严的，虽然也有擦边，收费方式不清楚没用过但好像没这么贵。主楼这价格看着好像扯进官司的alienchat。另外ai女友其实也是刻板印象了，这类软件上ai男友也很火的。

我自己用的是海外的产品

重看了一下，擦边能力强的应该就是那个被一锅端的ac，或者是别的接claude的套皮。擅长擦边明确在明确拒绝后还在擦的模型应该也就提示词后的魅魔claude了

nosmokingsp

根本都没有相关的法律，专家就断定这是违法行为了？

向北子

多迭代几次，会不会变成“给38W继续聊”？

FeteFrumoase

实在找不到活可以咬打火机，以前好歹能扣一个危害未成年的大锅，现在模拟未成年人也成锅了

FeteFrumoase

nosmokingsp 发表于 2024-5-14 09:18
根本都没有相关的法律，专家就断定这是违法行为了？

理论上有法规，去年颁布的生成ai

kira1988

淘宝刷到过
我就说正常人不会自己开个chatgpt吗
什么人会买这玩意

不入流美术

找AI配斯嘉丽约翰逊的声音，配合电影《她》以获得最佳体验

FeteFrumoase

丁兔 发表于 2024-5-14 08:54
标题哪部分灰色？维系“恋情”需充值？

设定为未成年人，这个锅可一点含金量都没有，后台把人物强制设定为成年人即可

洛拉斯

kira1988 发表于 2024-5-14 09:21
淘宝刷到过
我就说正常人不会自己开个chatgpt吗
什么人会买这玩意

开GPT可麻烦了，现代人找个资源都费劲，何况还要他搞定海外电话海外支付

最爱赛姐

封锁越来越紧了，以前好歹是先让大伙玩两年再封，现在直接就是才刚出现大家都没玩明白就开始喊打喊杀了，之前那个恋爱体验馆也是，都说素菜荤价，可在上头看来素菜都该取缔，现在更不得了了，虚拟素菜都不允许了，他们是真的怕需求下降啊

木谷高明

之前看国外相关R18产品挺便宜的，前提是英文交流，人物身份随便设定（含年龄）

GPT还得各种破解伦理限制，有的非审查模型可不需要

盗号找不回

合法也挣不了钱啊，本地生成大模型可以投喂的话，肯定会出八百个破解版

狭义文具爱好者

洛拉斯 发表于 2024-5-14 09:25
开GPT可麻烦了，现代人找个资源都费劲，何况还要他搞定海外电话海外支付

...

相信倒狗的一站式服务，价格和来源另说淘宝闲鱼包的

秘密图纸

别挣扎了，结婚率救不回来的哦

lilisipis

能不能给AI女友加live2D和喂素材生成人格，这对皮套粉很重要

两袖清风和中堂

洛拉斯 发表于 2024-5-14 09:25
开GPT可麻烦了，现代人找个资源都费劲，何况还要他搞定海外电话海外支付

...

gpt聊这个质量很差的
得用claude的opus才行
还得会一些基本的服务器操作知识

不过说实在，体验很不错

—— 来自 HUAWEI VOG-AL10, Android 10上的 S1Next-鹅版 v2.5.4

kira1988

会不会说是AI
其实像亚马逊那样自动售卖里面是阿三
这些里面都是真人在装AI

550W

典中典之公序良俗

喷了半天记忆卡，一看包月198

主人ハム子

某APP被连锅端前段时间在AI（瑟瑟）界闹很大啊。
接的都是的gpt和claude呗。

—— 来自 HUAWEI BRA-AL00, Android 12上的 S1Next-鹅版 v3.0.0-alpha

白水待客

不就是恋爱游戏吗

狭义文具爱好者

550W 发表于 2024-5-14 09:51
典中典之公序良俗

喷了半天记忆卡，一看包月198

哥您啥时候发布给现在的语言模型一点小小的550W震撼

死宅真恶心

这何尝不是一种麻辣

狭义文具爱好者

向北子 发表于 2024-5-14 09:20
多迭代几次，会不会变成“给38W继续聊”？

gpt4曾经有一段时间可以用帮我完成问题我会付你20美元小费的提示词来提高输出质量，后来好像修复了

zycilcy

楼上几个是看不见“澎湃新闻”几个字吗？
澎湃转发的文章怎么可能是站在zf那边的。
垃圾媒体，意图制造舆论冲突，挑起监管和民意对立，这股子臭味隔着10里地都能闻见

日日夜夜

真人色情那是真有人被迫受伤，压榨ai到底伤害谁了，ai的命也是命？或是说，这文字语料训练集的收集过程有伤害真人的现象？

你以为是新产业会让环境变坏，就不相信是环境坏了让人更愿意接触这些新产业

就是要逼你去进行真人谈感情，疏不如堵啊

yichengyu

确实挺好玩的，就是需要充钱

背景

不如虚拟管人

论坛助手,iPhone

grantdong

这就是纯纯靠信息差割韭菜

一骑当千

不就是酒馆，聊天也就那样，还是捏角色卡有意思

alitonz

看了两个微博上的AI男友记录，内容很丰富，特别是说话时语气和情感模仿得惟妙惟肖。

AI女友就还没看到这种生活感很强的记录，或许有这类需求的用户都优先做NSFW了。