想搭一个本地知识库联动chatgpt的问答系统

gx19860411 · 发表于 2023-7-24 22:30

需求是连的是chatgpt，不是chatglm啥的。使用api2d这个国内中转连接(langchain没写支持）。知识库必须本地，而且可能很大很大。问答能内网访问。不知道有啥现成的repo或者详细教程，求推荐。

chgzzl · 发表于 2023-7-26 09:29

你这需求只能走迁移学习吧...
要用chatgpt就上交数据用openai fine-tuning api
要本地就自己搭开源LLM放弃chatgpt

拉屎 · 发表于 2023-7-26 10:41

chgzzl 发表于 2023-7-26 09:29
你这需求只能走迁移学习吧...
要用chatgpt就上交数据用openai fine-tuning api
要本地就自己搭开源LLM放弃c ...

有本地的教程么？

—— 来自 realme RMX3366, Android 13上的 S1Next-鹅版 v2.5.2

夜游宫 · 发表于 2023-7-26 10:45

我也期待能用AI管理硬盘里的资源，不用辛辛苦苦分类，想看啥直接喊一声就让AI挑出来。

gx19860411 · 发表于 2023-7-26 10:49

本帖最后由 gx19860411 于 2023-7-26 13:55 编辑

回错

—— 来自 Xiaomi M2011K2C, Android 13上的 S1Next-鹅版 v2.5.4

david5515 · 发表于 2023-7-26 10:51

看一看闻达？https://github.com/wenda-LLM/wenda 我看里面说支持openai api调用

lvcha · 发表于 2023-7-26 10:51

提示: 作者被禁止或删除内容自动屏蔽

schneehertz · 发表于 2023-7-26 11:31

本帖最后由 schneehertz 于 2023-7-26 11:39 编辑

chatgpt的api建议用官方的，加个proxy参数就行
prompt自己写，比langchain自带的灵活性更高
向量数据库的选择有很多，轻量级的有chroma，redis也行，流行的基本都是SaaS的不合你要求，或者你让chatgpt自己写一个，功能简单的不用几十行
拿到user prompt之后去向量数据库找相似的向量对应文本，加到prompt里面调用chatgpt的api就行，或者你也可以用最新最in的function calling

如果你想实现的功能仅限顶楼的描述，能找到的类似功能的repo都有些庞大，并不合适做参考

gx19860411 · 发表于 2023-7-26 13:55

schneehertz 发表于 2023-7-26 11:31
chatgpt的api建议用官方的，加个proxy参数就行
prompt自己写，比langchain自带的灵活性更高
向量数据库的选 ...

额，我以为路子都是用langchain从向量库提数据组成prompt发给各种gpt啥的，没想到还不一样？

—— 来自 Xiaomi M2011K2C, Android 13上的 S1Next-鹅版 v2.5.4

		自动登录	找回密码
密码			立即注册

lvcha lvcha 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2011-6-22 头像被屏蔽	发表于 2023-7-26 10:51 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

[软件] 想搭一个本地知识库联动chatgpt的问答系统