找回密码
 立即注册
搜索
楼主: slert

[科技] AI角色扮演,酒馆分享【已开3群】

[复制链接]
     
发表于 2024-8-26 16:27 | 显示全部楼层
借宝地问句,有可以讨论偏重口大语言模型的地方么?S1上聊这个怕封号
回复

使用道具 举报

     
 楼主| 发表于 2024-8-26 21:10 | 显示全部楼层
xxl83 发表于 2024-8-26 16:27
借宝地问句,有可以讨论偏重口大语言模型的地方么?S1上聊这个怕封号

我们后续准备开tg群。
回复

使用道具 举报

     
发表于 2024-8-26 22:39 | 显示全部楼层
好的,十分期待。
回复

使用道具 举报

     
发表于 2024-8-26 23:21 | 显示全部楼层
加不进去群啊
回复

使用道具 举报

     
发表于 2024-8-26 23:53 来自手机 | 显示全部楼层
以前部署过网站玩玩,但聊下来就不知道该怎么聊了

文爱聊的不太尽兴,cau14b回答的不太符合预期,总是几轮对话就结束瑟瑟细节,想玩玩35b,但要求的显存无法满足…

用的开源本地模型

—— 来自 鹅球 v3.0.86-alpha
回复

使用道具 举报

发表于 2024-8-27 07:20 来自手机 | 显示全部楼层
不错不错,等会试试

—— 来自 Xiaomi 23116PN5BC, Android 14上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-8-27 10:54 | 显示全部楼层
xxl83 发表于 2024-8-26 16:27
借宝地问句,有可以讨论偏重口大语言模型的地方么?S1上聊这个怕封号

我觉得claude已经什么都会了吧,可惜现在不能免费。难道不能满足你的要求,那你平时在用什么啊?

看了下楼主的网站,哇,这可帮了大忙了,我正是不会搭酒馆又想玩的。以前我在slack上面玩claude很开心很涩。
楼主免费给大家用的是gemini pro啊,不知道涩涩表现和不抢话的聪明程度怎么样,有用过的说说吗?
回复

使用道具 举报

     
发表于 2024-8-27 11:01 | 显示全部楼层
之前claude2免费的时候重度玩了一下这个东西,后来claude门槛越来越高,破限越来越烦,就没玩了

这次不知道用的是哪个模型。说实话claude2的100k其实也不大够用。
回复

使用道具 举报

     
发表于 2024-8-27 11:07 来自手机 | 显示全部楼层
去年试过用狗头人,下了个13b的模型在本地跑,用的3080ti,半分钟蹦一句话。现在这个在在本地的话能达到novleai的流畅度吗
回复

使用道具 举报

     
发表于 2024-8-27 11:50 | 显示全部楼层
小修 发表于 2024-8-27 11:01
之前claude2免费的时候重度玩了一下这个东西,后来claude门槛越来越高,破限越来越烦,就没玩了

这次不知 ...

你看说明文档会讲用的是免费的gemini pro。话说很多人都说claude3 opus用起来非常销魂
回复

使用道具 举报

     
发表于 2024-8-27 15:34 | 显示全部楼层
Q群审核一直没人批,进不去啊?
回复

使用道具 举报

     
 楼主| 发表于 2024-8-27 18:06 | 显示全部楼层
zhao25 发表于 2024-8-27 15:34
Q群审核一直没人批,进不去啊?

下午都在忙
回复

使用道具 举报

     
 楼主| 发表于 2024-8-27 18:14 | 显示全部楼层
无事忙 发表于 2024-8-27 10:54
我觉得claude已经什么都会了吧,可惜现在不能免费。难道不能满足你的要求,那你平时在用什么啊?

看了下 ...

比较下来gemini pro还是不错的,尤其以免费的来说。
可能和claude还有点差距,我们也在研究低成本用claude的方法。
回复

使用道具 举报

     
发表于 2024-8-28 09:13 来自手机 | 显示全部楼层
兄弟有盈利吗?
我看现在tg上一堆这种ai文本了

—— 来自 鹅球 v3.0.87-alpha
回复

使用道具 举报

     
发表于 2024-8-28 10:02 | 显示全部楼层
qqq2142 发表于 2024-8-28 09:13
兄弟有盈利吗?
我看现在tg上一堆这种ai文本了

这个工程相当于免费给大家搭个车,又没有广告,自然是没有盈利的
ai文本是什么,已经写完的成品文吗,还是可以互动对话的tg机器人呀
回复

使用道具 举报

     
发表于 2024-8-28 10:04 | 显示全部楼层
slert 发表于 2024-8-20 17:55
这都不是事,这几天我们准备上一批人物卡,都是中文的。

那好耶,目前在网站上自带的能看到一个森林守护者。上了以后就可以默认看到吗?
试了下网站能接受玩家提供的png人物卡,不能接受json人物卡,能接入某些网站的外链。
回复

使用道具 举报

     
发表于 2024-8-28 10:35 | 显示全部楼层
本帖最后由 无事忙 于 2024-8-28 10:51 编辑
slert 发表于 2024-8-27 18:14
比较下来gemini pro还是不错的,尤其以免费的来说。
可能和claude还有点差距,我们也在研究低成本用claud ...

对的,说明文档已读过,昨天用了半夜毫无睡意,很尽兴,没想到能达到接近claude的聪明程度。可惜抢话和陷入自己复读循环的现象偶尔还是会发生……
我可以在预设文本里加入自己想要的指令,比如“描写避免和上文重复”吗,改了以后还能一键恢复成你们预设的吗?这些预设文本在切换AI版本的时候也会自动切的吗?
另外,有时候1.5pro会暂时怎么刷新都一直报错用不了,只能切到ex用一下,这情况是我用的词太H导致被ban了之类的原因吗

而且我看了一下,已有的某些很刺激的指令,比如nsfw时候的词汇,平时并没有在使用中生效。会不会是导入的人物卡太长了导致AI变笨了,很快忘了设定的现象也会有。
回复

使用道具 举报

     
 楼主| 发表于 2024-8-28 22:06 | 显示全部楼层
qqq2142 发表于 2024-8-28 09:13
兄弟有盈利吗?
我看现在tg上一堆这种ai文本了

目前没有盈利,以后对需要大量使用的用户收取点费用,免费额度一直会有。
回复

使用道具 举报

     
 楼主| 发表于 2024-8-28 22:23 | 显示全部楼层
无事忙 发表于 2024-8-28 10:35
对的,说明文档已读过,昨天用了半夜毫无睡意,很尽兴,没想到能达到接近claude的聪明程度。可惜抢话和陷 ...

你可能用的是1.5 flash那个确实容易重复,你可以试试指令有没有用,我也不确定。但是改了的话目前没办法一键恢复。
1.5pro昨天是有问题,不是你的问题,现在好了。
回复

使用道具 举报

     
发表于 2024-8-29 18:00 | 显示全部楼层
竹隐达 发表于 2024-8-26 10:02
说起来有什么角色卡网站推荐的吗墙外英文卡也都可以的

—— 来自 鹅球 v3.1.88.3 ...

Chub.ai
中文卡的话Discord频道里有很多很不错的。
回复

使用道具 举报

     
发表于 2024-8-30 08:18 | 显示全部楼层
hwjfish 发表于 2024-8-29 18:00
Chub.ai
中文卡的话Discord频道里有很多很不错的。

频道是指出名的那个类脑嘛?
回复

使用道具 举报

     
发表于 2024-8-30 08:20 | 显示全部楼层
slert 发表于 2024-8-28 22:23
你可能用的是1.5 flash那个确实容易重复,你可以试试指令有没有用,我也不确定。但是改了的话目前没办法 ...

不会的,都是用你们推荐的1.5pro和ex换着用。
无奈,我在好几个地方增加了不要重复的指令,但它还是那样,感觉是没话说了或者H的时候梅开二度了就开始复读了,不知道在座各位有没有解决这问题的经验。
回复

使用道具 举报

     
发表于 2024-8-30 12:55 来自手机 | 显示全部楼层
无事忙 发表于 2024-8-30 08:20
不会的,都是用你们推荐的1.5pro和ex换着用。
无奈,我在好几个地方增加了不要重复的指令,但它还是那样 ...

gemini的api支持采样器吗?DRY重复惩罚比传统的重复惩罚效果好很多,同作者还有个XTC采样器 目前还没上狗头人的更新 据说能有效打破重复故事套路

—— 来自 Xiaomi M2011K2C, Android 13上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-8-30 13:43 来自手机 | 显示全部楼层
无事忙 发表于 2024-8-30 08:20
不会的,都是用你们推荐的1.5pro和ex换着用。
无奈,我在好几个地方增加了不要重复的指令,但它还是那样 ...

claude可以淘宝买短时间api接在酒馆里用,试了一下opus确实比gemini智能很多,但是多聊几次还是能看出一些刻板对话
回复

使用道具 举报

     
发表于 2024-8-30 16:31 | 显示全部楼层
无事忙 发表于 2024-8-30 08:18
频道是指出名的那个类脑嘛?

是的。就是那儿
回复

使用道具 举报

     
发表于 2024-8-31 00:53 | 显示全部楼层
aneiloya 发表于 2024-8-30 12:55
gemini的api支持采样器吗?DRY重复惩罚比传统的重复惩罚效果好很多,同作者还有个XTC采样器 目前还没上狗 ...

没了解过,采样器是一种插件吗,酒馆能用吗,我看了下能导入GitHub的插件
回复

使用道具 举报

     
发表于 2024-8-31 01:17 | 显示全部楼层
本帖最后由 biye 于 2024-8-31 01:40 编辑

玩了一周感觉入了个门 调试后角色扮演和回复模式效果出乎意料的好 离自嗨跑团近在咫尺
目前受困于话题容易兜圈子 希望故事能定向展开 似乎应当用带矢量化关键词的世界书解决 各位有没有见过比较好的样本想学习看看
回复

使用道具 举报

     
发表于 2024-8-31 09:08 来自手机 | 显示全部楼层
这玩意应该不能喂模组吧
另外这年头有很多专门搞solo冒险的模组,只是缺人的话应该还是有替代品的
回复

使用道具 举报

     
发表于 2024-8-31 09:22 来自手机 | 显示全部楼层
飞书上这教程很简单详细,也没逼人买他们家的cookie(我的cookie是自己买的claude Pro会员),按照教程搭好了酒馆,打开了新世界大门(要冲爆了)https://sqivg8d05rm.feishu.cn/wiki/BBocw85QTiA8EXkNcUZcT2pCnIe?chunked=false

—— 来自 鹅球 v3.1.88.3-alpha
回复

使用道具 举报

     
发表于 2024-8-31 10:48 来自手机 | 显示全部楼层
申请加群了

顺便问问,本地部署用本地llm没问题
想体验一下novel的api的时候,连不上咋处理
clash tue的话也过不了tls

本地感觉跑到18b是极限了
回复

使用道具 举报

     
发表于 2024-8-31 11:15 | 显示全部楼层
claude之前的瑟瑟太牛了,现在被杀光了。也没啥意思了
回复

使用道具 举报

     
发表于 2024-8-31 12:25 | 显示全部楼层
本地跑LLM也很nb的,不一定比claude差, 就是一个要好的显卡,目前看来8b的模型是不行的。
第二个生态是英语比较好。
回复

使用道具 举报

     
 楼主| 发表于 2024-8-31 14:34 | 显示全部楼层
malisa 发表于 2024-8-31 10:48
申请加群了

顺便问问,本地部署用本地llm没问题

我的经验是要连接翻墙的api需要在代码层面设置代理,不会自己走系统代理。
回复

使用道具 举报

     
发表于 2024-8-31 17:51 | 显示全部楼层
slert 发表于 2024-8-31 14:34
我的经验是要连接翻墙的api需要在代码层面设置代理,不会自己走系统代理。 ...

看来还是要研究调node
谢谢
回复

使用道具 举报

     
发表于 2024-8-31 19:21 | 显示全部楼层
biye 发表于 2024-8-31 01:17
玩了一周感觉入了个门 调试后角色扮演和回复模式效果出乎意料的好 离自嗨跑团近在咫尺
目前受困于话题容易 ...

你用的还是默认的各种提示词吗,兜圈子是和我类似的问题,AI经常复读自己吗
回复

使用道具 举报

     
发表于 2024-8-31 19:53 来自手机 | 显示全部楼层
无事忙 发表于 2024-8-31 00:53
没了解过,采样器是一种插件吗,酒馆能用吗,我看了下能导入GitHub的插件 ...

就是酒馆上面选项中的左数第一个,里面能调整采样器参数
采样器的温度和min p这两项比较有用 DRY和XTC这些新式采样器需要调设置调出来 如果没显示应该就是后端不支持

—— 来自 Xiaomi M2011K2C, Android 13上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-9-1 18:21 | 显示全部楼层
无事忙 发表于 2024-8-31 19:21
你用的还是默认的各种提示词吗,兜圈子是和我类似的问题,AI经常复读自己吗 ...

复读自己应该是惩罚参数太小 可以试着调整预设的上下文长度和惩罚长度
我兜圈子的问题是无论怎么引导关键词 char谈论的话题总是很局限 虽然角色模仿得很优秀 但没有有效信息很快就腻味了
我想循序渐进挑战一下 看char能不能谈话间把一段预设的短文念完
回复

使用道具 举报

发表于 2024-9-1 20:11 | 显示全部楼层
ADF-11F 发表于 2024-8-20 20:59
最近还在关注本地化部署模型,话说显卡对模型性能影响最大的是什么,显存还是核心本身,token的数量主要取 ...

显存、显存、显存,重要的事情说三遍。
回复

使用道具 举报

     
发表于 2024-9-2 08:16 | 显示全部楼层
aneiloya 发表于 2024-8-31 19:53
就是酒馆上面选项中的左数第一个,里面能调整采样器参数
采样器的温度和min p这两项比较有用 DRY和XTC这 ...

确实楼主这只有温度和K和P这三项可以调整。其他暂时还没支持。为了减少复读,我把温度调高,现在是1。K按照默认是0。P可能差不多吧,默认0.92
回复

使用道具 举报

     
发表于 2024-9-2 08:20 | 显示全部楼层
biye 发表于 2024-9-1 18:21
复读自己应该是惩罚参数太小 可以试着调整预设的上下文长度和惩罚长度
我兜圈子的问题是无论怎么引导关键 ...

楼主这里只能调整上下文长度,没有找到和惩罚有关的设置
上下文长度也能影响复读率吗,那应该长点还是短点?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|上海互联网违法和不良信息举报中心|网上有害信息举报专区|962110 反电信诈骗|举报电话 021-62035905|Stage1st ( 沪ICP备13020230号-1|沪公网安备 31010702007642号 )

GMT+8, 2024-9-21 18:58 , Processed in 0.204704 second(s), 4 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表