“与知识库对话”所使用的模型可能是阿里千问模型。在相关的配置中,包括 AI 模型、提示词和知识库等部分。例如在一些设定中,明确使用了阿里千问模型作为 AI 模型来实现与知识库的交互和回答问题。
知识库,相当于你给这个“聪明”员工的发放了一本工作手册。即使是看过再多的书、浏览过再多的文字,也不会准确的知道见到老板娘过来吃饭要打三折,张梦飞过去吃饭要打骨折。而知识库,就是把这些内容写在了工作手册上。让这个聪明的员工,见到有人来的时候,就翻一翻手册,然后再做出反应。那我这里的设定:AI模型:这里使用的是阿里千问模型。提示词:这里设定的角色是“美嘉”,是按照美嘉的人设、背景和对话风格做的设定。知识库:这里放的是《爱情公寓》全季的剧情,让“美嘉”拥有了自己过往的“记忆”,知道自己做过什么、好朋友是谁等等。右侧是一个十分简单的问答,我问:“你是谁?你和子乔在台球厅吵架那次是为了什么吵架?”她的回复是:“我是陈美嘉,那次在台球厅和吕子乔吵架是因为他约会被人撞见,我讽刺他脸大影响信号,他还反击我。后来谈到过去的事情,我指责他忘恩负义,他就说我平。最后,我伤心地说要分手,因为他之前甩过我。”其中,她是陈美嘉,这里是人设中的设定。吵架的经过是知识库中的内容。
1.首先修改docker-compose.yml中的OPENAI_BASE_URL(API地址:改为云服务的,http://内网IP:3001,需要加/v1,格式见图中)和CHAT_API_KEY(API凭证,改为刚刚让你在OneApi复制的令牌,也是sk开头的)。其他都不用改,然后保存关闭。内网IP在云服务上能查询到,如图。1.然后就是修改config.json中的"llmModels"(添加阿里大模型qwen-max)和"vectorModels"(阿里向量模型text-embedding-v1,使用知识库功能时要用到的),然后保存关闭。如下代码。1.修改好了内容,就要重新启动下,让他生效。直接在【文件】菜单下的fastgpt目录,打开终端,执行启动命令docker-compose up -d,如图1.到这里,我们的知识库就装上AI的大脑了,剩下的就是去接入微信了。但这之前我们体验下知识库的功能,跟AI对对话,看看是否Ok。打开公网ip:3000进入fastgpt。新建个应用,这里不多说了根据界面来就行。看图示例,OK成功了,用的就是阿里的通义千问AI模型。那我想根据我自己的知识库内容来回答问题,要怎么操作?
上方页面左侧画红框的地方,是这个“问答机器人”的配置,右侧是与“机器人”的一轮对话。左侧有三处配置:AI模型提示词知识库。模型、提示词、知识库三者可以想象成:大语言模型:是一个学习过无数本书、拥有无穷智慧的人。他读过无数的书、看过无数的段子,因此对公共知识、学识技能、日常聊天十分擅长。然而,在工作场景下,只会聊天侃大山可不行,你想让他帮你干活。这个时候,就需要“提示词”出场了,提示词:是你告诉这个全知全能的人,他是一个什么样的角色、他要专注于哪些技能,让他能够按照你的想法,变成一个你需要的“员工”。知识库:相当于你给这个“聪明”员工的发放了一本工作手册。即使是看过再多的书、浏览过再多的文字,也不会准确的知道见到老板娘过来吃饭要打三折,张梦飞过去吃饭要打骨折。而知识库,就是把这些内容写在了工作手册上。让这个聪明的员工,见到有人来的时候,就翻一翻手册,然后再做出反应。我的设定:AI模型:这里使用的是阿里千问模型。