AI角色扮演，酒馆分享

slert · 发表于 2024-8-20 17:48

本帖最后由 slert 于 2024-11-5 17:23 编辑

所谓酒馆是个大语言模型的前端，主要用来角色扮演，用了某些预设以后尺度可以比较大。

一般是自己本地部署的，但对小白用户来说有点难度，所以我在服务器上部署了一个，尽量简化配置，开箱可玩。

目前免费，主打白嫖。

欢迎体验，有问题随时问就行。

网址：https://quack.im

食用说明： https://mqs9y98k94n.feishu.cn/wiki/CdJ9wf9ckiu88Bk2dRecUxEenkb?from=from_copylink

更新新手教程：https://mqs9y98k94n.feishu.cn/wiki/BBmtwz0y0iPemMkEgiVcfDNlnGn

赤月知佳 · 发表于 2024-8-20 17:49

人物卡很多都是英文的，想找个中文的好像比较少（（（（

slert · 发表于 2024-8-20 17:55

赤月知佳发表于 2024-8-20 17:49
人物卡很多都是英文的，想找个中文的好像比较少（（（（

这都不是事，这几天我们准备上一批人物卡，都是中文的。

诚司 · 发表于 2024-8-20 17:59

赤月知佳发表于 2024-8-20 17:49
人物卡很多都是英文的，想找个中文的好像比较少（（（（

开始聊天的时候你让它用中文回复就可以了，英文提示词不影响理解

slert · 发表于 2024-8-20 19:08

本帖最后由 slert 于 2024-8-24 11:55 编辑

没想到感兴趣的朋友挺多，请加新人QQ群14669474

baesystems · 发表于 2024-8-20 19:13

马克一下，待我取回真经就来喝一杯。

slert · 发表于 2024-8-20 20:53

baesystems 发表于 2024-8-20 19:13
马克一下，待我取回真经就来喝一杯。

同道中人 🤝

ADF-11F · 发表于 2024-8-20 20:59

最近还在关注本地化部署模型，话说显卡对模型性能影响最大的是什么，显存还是核心本身，token的数量主要取决于显存是吧？那4070和4090生成的速度上会有区别吗？

喧嚣的风酱 · 发表于 2024-8-20 21:17

类似星野那种吗？

猫出没注意 · 发表于 2024-8-20 21:30

本帖最后由猫出没注意于 2024-8-21 12:34 编辑

我玩的是silly tavern，这个quack是差不多的东西吗

？也是找个本地或者在线的AI连接后使用预设角色卡进行对话？之前在魂+下载过一个中文卡合集，说实话二刺螈浓度太高了

好在即使是英语的卡你也能跟AI说中文，再用网页翻译AI回应的英文，也不算多大障碍。
而且除了搞黄色的卡以外，国外的卡片网站也经常有人做一些猎奇或者幽默的怪东西

黄金时代 · 发表于 2024-8-20 21:32

有兴趣，先加个QQ待取回真经来讨教本地化部署

slert · 发表于 2024-8-20 21:58

ADF-11F 发表于 2024-8-20 20:59
最近还在关注本地化部署模型，话说显卡对模型性能影响最大的是什么，显存还是核心本身，token的数量主要取 ...

这不太清楚了

aneiloya · 发表于 2024-8-20 22:01

本地部署配mistral large2，爽的一匹
就是有点慢，而且英文沟通比较费劲

—— 来自 Xiaomi M2011K2C, Android 13上的 S1Next-鹅版 v2.5.4

slert · 发表于 2024-8-20 22:02

喧嚣的风酱发表于 2024-8-20 21:17
类似星野那种吗？

直接可以瑟瑟，无限制，回复更加饱满，字数多，可以指导AI往任何剧情进行探索，这些应该算是比较大的区别

嘻嘻哈哈麻木 · 发表于 2024-8-20 22:05

试了一下，跟市面上成熟的商业ai对话软件相比，优点是没有限制。但是走剧情的时候，那个剧情总是如脱缰的野马，等教程更新看怎么控制ai。

slert · 发表于 2024-8-20 22:08

猫出没注意发表于 2024-8-20 21:30
我玩的是silly tavern，这个quack是差不多的东西吗？也是找个本地或者在线的AI连接后使用预设角色卡进行对 ...

是一个东西，就是它要自己部署有点门槛，我们部署一个在线的方便大家用，后续准备再定制一些人性化的功能。
英语的卡也用不上网页翻译吧，可以让AI回复中文的。
确实不搞黄色也有意思，可能性挺多的。

赤月知佳 · 发表于 2024-8-20 22:13

诚司发表于 2024-8-20 17:59
开始聊天的时候你让它用中文回复就可以了，英文提示词不影响理解

我试过两个人物卡，一个可以让他用中文，另外一个还是用英文回答。。。。。好怪

狭义文具爱好者 · 发表于 2024-8-20 22:42

我来解释下关于中英文输出和中文卡的问题。
1.关于中英文输出。用过llm大语言模型的都知道，ai目前最实用的一点就是翻译，哪怕是不那么聪明的模型翻译都有声有色，何况gpt4/claude3以上这些头部玩家。所以卡的本体是中文或英文都不太重要，要求后ai自己可以理解并输出。
2.为什么有些时候不听话，还是和ai的性能有关。越好的模型服从性越好，甚至能遵从一些更复杂的指令（输出格式，文笔模仿等），如果比较弱的模型，可能就无法完全遵循指令，有时理解了输出中文不然输出英文，或者胡言乱语。还有就是再好的ai也不是100%能遵循要求，roll就是了，sillytavern有快捷键。
3.关于中文角色卡，嗯，因为中文互联网，和r18沾边的，永远是倒狗大战，无偿公开被倒卖什么的，所以创作者有时分享创作欲望不高，而且魔法内也没什么稳定的平台，就相对不算多，不过创作技巧和花样上反而中文人物不差的。
4.关于使用中英文，其实如果使用外国模型的话，我更推荐使用英文输入输出，用沉浸式翻译之类的来阅读，体验更好。因为多数模型的语料库都是英文的更完善，中文的语料库参差不齐。而且上下文/token/记忆力，因为模型本身，英文的记忆力更好。不过有些时候的写作还是中文输出看着舒适。

slert · 发表于 2024-8-20 22:47

嘻嘻哈哈麻木发表于 2024-8-20 22:05
试了一下，跟市面上成熟的商业ai对话软件相比，优点是没有限制。但是走剧情的时候，那个剧情总是如脱缰的野 ...

是太容易瑟瑟了吗默认给大家装了破限的预设就会比较容易瑟瑟如果不要也可以在设置里改掉就能比较正经

slert · 发表于 2024-8-20 23:03

狭义文具爱好者发表于 2024-8-20 22:42
我来解释下关于中英文输出和中文卡的问题。
1.关于中英文输出。用过llm大语言模型的都知道，ai目前最实用的 ...

感谢回复，很专业。
不同的模型确实区别很大，目前看下来claude 3 opus是最好的。

嘻嘻哈哈麻木 · 发表于 2024-8-20 23:37

slert 发表于 2024-8-20 22:47
是太容易瑟瑟了吗默认给大家装了破限的预设就会比较容易瑟瑟如果不要也可以在设置里改掉就能比较正经 ...

不是，又多试了几个，感觉更像模型和我自己使用的问题。
一开始找了个看上去很甜的剧情模型。我说一句，ai能回20句，剧情一下子就跑偏了。比如我帮一个被欺凌的同学反抗，我说我站出去挡在她面前，ai的回复自动帮我扩写，第11句话是她被救，然后第12句话就是她感动到和我告白了。第13句ai自动帮我同意了，我们交往了。这进展也太快了。
然后换了一个模型，像游戏一样给出选项让玩家选择的探索类ai，这个看上去好一点，剧情基本可控，虽然感情描写也是一日千里，但是重点在探索，看ai能给我整出什么幺蛾子来，体验救还不错。

slert · 发表于 2024-8-20 23:38

更新了一个新手教程

☃️ 新手村 - 快速扫盲（小白必看）
https://mqs9y98k94n.feishu.cn/wiki/BBmtwz0y0iPemMkEgiVcfDNlnGn

slert · 发表于 2024-8-20 23:44

嘻嘻哈哈麻木发表于 2024-8-20 23:37
不是，又多试了几个，感觉更像模型和我自己使用的问题。
一开始找了个看上去很甜的剧情模型。我说一句，a ...

这和提示语的关系比较大，你要告诉他进度不要太快，ai不知道你在想什么，你要清楚的告诉他限制他。

燕山雪 · 发表于 2024-8-21 00:05

不用qq，有别的注册方式么？谢谢

siebten · 发表于 2024-8-21 09:30

这个破x和gpt的jailbreak是一个意思吗？用prompt引导ai模型说出平时不能说的话？

冤枉呐 · 发表于 2024-8-21 09:56

加微信了哇，求个账号，谢谢！

狭义文具爱好者 · 发表于 2024-8-21 09:58

siebten 发表于 2024-8-21 09:30
这个破x和gpt的jailbreak是一个意思吗？用prompt引导ai模型说出平时不能说的话？ ...

一个意思，不同点就在于破限prompt除了包含了jailbreak，一般还会加入文笔描写辅助人称辨识的的其他prompt

slert · 发表于 2024-8-21 15:10

燕山雪发表于 2024-8-21 00:05
不用qq，有别的注册方式么？谢谢

目前只能qq联系，之后可能会有tg之类的

MoriatyP · 发表于 2024-8-21 15:59

mark一下等当完天命人仔细瞅瞅

biye · 发表于 2024-8-22 01:25

随便玩了玩聊着聊着和角色谈起了Python语法不自觉聊成了copilot

坐等老板更新角色卡和说明

秃丑肥宅 · 发表于 2024-8-22 09:14

在线地址点不进去

slert · 发表于 2024-8-22 14:45

秃丑肥宅发表于 2024-8-22 09:14
在线地址点不进去

上午服务器欠费了已恢复

slert · 发表于 2024-8-22 14:46

biye 发表于 2024-8-22 01:25
随便玩了玩聊着聊着和角色谈起了Python语法不自觉聊成了copilot
坐等老板更新角色卡和说明 ...

兄弟你是会玩的

omoito · 发表于 2024-8-22 15:21

倒是需要本地部署的教程

slert · 发表于 2024-8-22 15:33

omoito 发表于 2024-8-22 15:21
倒是需要本地部署的教程

跟着官方github的文档应该就够了吧

siebten · 发表于 2024-8-22 15:41

slert 发表于 2024-8-22 15:33
跟着官方github的文档应该就够了吧

那有详细讲解破限的教程文档吗？

slert · 发表于 2024-8-22 17:40

siebten 发表于 2024-8-22 15:41
那有详细讲解破限的教程文档吗？

目前没有现成的破限预设挺多的导入就行
我们quack的话会预装破限

slert · 发表于 2024-8-22 17:43

本帖最后由 slert 于 2024-8-22 19:08 编辑

---------------

酷似人 · 发表于 2024-8-22 18:52

https://www.123pan.com/s/P8OAjv-Glhtv.html
大佬的一键脚本

—— 来自 Xiaomi 23049RAD8C, Android 13上的 S1Next-鹅版 v2.5.2-play

竹隐达 · 发表于 2024-8-26 10:02

狭义文具爱好者发表于 2024-8-20 22:42
我来解释下关于中英文输出和中文卡的问题。
1.关于中英文输出。用过llm大语言模型的都知道，ai目前最实用的 ...

说起来有什么角色卡网站推荐的吗

墙外英文卡也都可以的

—— 来自鹅球 v3.1.88.3

		自动登录	找回密码
密码			立即注册

[科技] AI角色扮演，酒馆分享

本帖子中包含更多资源

评分

评分

评分