Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

我建了一个智能体,需要智能体根据知识库的内容来回答客户问题,但是智能体在回答问题的时候经常忽略知识库,请问这个问题要如何解决

Answer

要解决智能体在回答问题时经常忽略知识库的问题,可以从以下几个方面入手:

  1. 优化工作流设计:确保工作流的流程清晰,从输入到对接知识库,再到调用大模型和输出,各个环节紧密衔接,减少出现疏漏的可能性。
  2. 精心收集和整理知识库资料:对知识库的内容进行准确、全面的收集,并根据清洗结果进行手动二次校对,确保知识库的质量和准确性。
  3. 明确提示词约定:在提示词中明确规定回答只能来自于知识库,避免智能体从其他不可靠的来源获取信息。
  4. 加强对智能体的训练和调试:通过不断的训练和调试,让智能体更好地理解和运用知识库中的内容。
  5. 深入理解 RAG 技术:掌握优化 AI 更准确回答专有问题的专业术语和方法,如 RAG,逐步探索如何优化回答。

在实际应用中,不同的场景可能需要不同的解决策略,需要根据具体情况进行调整和优化。

Content generated by AI large model, please carefully verify (powered by aily)

References

张梦飞 :AI商用级问答场景,怎么让AI+知识库回答的更准确?一篇专门为小白讲透RAG而作的教程(上篇)

在我提问了之后,大模型去知识库里找到了这个内容,然后回复了我们。这就是一个简单的正确回复的demo。然而,我们会发现,有时候她的回答会十分不准确。比如:明显回答的牛头不对马嘴。而且,图二中是知识库截图,其中是有“一菲为美嘉找了一份助教工作”的内容的。但是回答这个问题时,并没有根据正确的知识库内容回答。这个,就是基于知识库问答中的一个非常常见的错误场景。在其他情况下,甚至有可能出现报价错误、胡编乱造等等。这在严肃场景中,是不能接受的出错。现在应该能够直观的理解,为什么需要让大模型根据知识库回答的更加准确、更符合我们的要求。在AI领域中,优化AI更准确的回答一些专有问题的过程,有一个更加专业的术语,叫做RAG。接下来,咱们进入正题,一步一步探索,如何优化回答。

我用扣子做一个简单的智能体——竖起耳朵听

工作流一开始和结束都有特别的小块块。开始的那个小块块就像是工作的起点,它可以包含你输入的信息。结束的那个小块块就像是工作的终点,它会告诉你工作流运行的结果是什么。不同的小块块可能需要不同的信息才能工作,这些信息有两种:一种是引用前面小块块给出的信息,另一种是你可以自己设定的信息。在竖起耳朵听的智能体里,我也用到了5个小块块,可以回答带有图片口语的结果,使回答更好。??知识库扣子的知识库功能很强大,它可以帮你上传和存储外面的知识内容,并且提供了很多种查找知识的方法。如果你的大模型有时候会出现幻觉,或者在某些专业领域知识不够,扣子的知识能力就能帮你解决这个问题,让你的大模型回复得更准确。在我的智能体里面,我用到了自己的知识库,我收集了很多关于地道口语表达的短句,知识库可以包含很多格式的文件,我只用了文本格式,有了自己的知识库,当智能体回答用户的时候会首先检索自己的知识库内容。?开场白为了体验更好,我们还可以添加一段开场白,告诉用户我们是这个智能体是干什么的?我的开场白:

生物医药小助手的诞生之旅~如果你有公众号,你也应该做一个扣子智能体

这个智能体是由1个工作流+6个数据库实现的。工作流的设计比较简单,一个input,对接知识库,然后搭载豆包function call大模型,最后是一个output。6个数据库分别是我的公众号发表过的文章+执业药师教材(做第一个知识库的时候没经验,其实应该分开成两个数据库)、执业医师讲义、药监局新药审评报告、中国医药企业融资动态、药物对外授权(BD)动态、全球药物销售额。工作流是非常简单的,相对有难度的是收集知识库的资料并根据清洗结果进行手动二次校对(需要一定专业知识)。也许有人要问,医药知识我直接问大模型不好吗?大模型的语料来源庞杂,广度一定是比智能体好很多的,但是在医疗这个严肃领域,对回答准确性的要求非常高。为了避免出现误导性的回答,我在提示词中约定了回答只能来自于知识库。也许有问题超出知识库范畴的情况,但还没发现智能体回答是医学上不严谨的现象。广or精准,在医疗领域一定是精准优先的。

Others are asking
coze搭建智能体,用上传的文件和知识库的文件做对比,分析差异点。
以下是关于在 Coze 中搭建智能体的相关信息: 1. 证件照相关操作: 展示原图上传结果,基本脸型已换,生成效果与上传照片特征有关。 改背景可利用改图功能,一键改图效果更好,输出数据类型为图片。 豆包节点生成的是 URL 地址,与前者不同,在工作流使用有差异,可参考简单提示词。 介绍证件照工作流相关操作,包括通过提示词改背景颜色,设置输出方式为返回变量;讲解消耗 token 及保存结果相关问题;对按钮、表单添加事件并设置参数,限制上传文件数量;还涉及给表单和图片绑定数据,以及每次操作后刷新界面确保设置生效。 围绕操作讲解与优化展开,介绍 for meet 的设置,如表单事件操作、图片上传数量修改等,提及编程基础知识。还讲述成果图连接、绑定数据方法及注意事项。展示基本功能实现情况,分析换性别等问题成因,指出需在工作流优化提示词,也可尝试用视频模型解决,最后进入问答环节。 2. 多维表格的高速数据分析: 创建智能体,使用单 Agent 对话流模式。 编排对话流,创建新的对话流并关联智能体。 使用代码节点对两个插件获取的结果进行数据处理,注意代码节点输出的配置格式。 测试,找到一篇小红书笔记,试运行对话流,在对话窗口输入地址查看数据。 发布,选择多维表格,配置输出类型为文本,输入类型选择字段选择器,完善上架信息,可选择仅自己可用以加快审核。 3. 智能体与微信和微信群的连接: 创建知识库,可选择手动清洗数据提高准确性,包括在线知识库和本地文档。 在线知识库创建时,飞书在线文档中每个问题和答案以分割,可编辑修改和删除。 本地文档中注意拆分内容提高训练数据准确度,如将课程章节按固定方式人工标注和处理。 发布应用,确保在 Bot 商店中能够搜到。
2025-04-18
coze搭建知识库和上传文件做对比分析
以下是关于 Coze 搭建知识库和上传文件的对比分析: 创建文本型知识库: 自动分段与清洗:扣子可对上传的内容进行自动解析,支持复杂布局的文件处理,如识别段落、页眉/页脚/脚注等非重点内容,支持跨页跨栏的段落合并,支持解析表格中的图片和文档中的表格内容(目前仅支持带线框的表格)。操作步骤为在分段设置页面选择自动分段与清洗,然后依次单击下一步、确认,可查看分段效果,不满意可重新分段并使用自定义分段。 自定义:支持自定义分段规则、分段长度及预处理规则。操作时在分段设置页面选择自定义,然后依次设置分段规则和预处理规则,包括选择分段标识符、设置分段最大长度和文本预处理规则,最后单击下一步完成内容分段。 创建表格型知识库: 目前支持 4 种导入类型:本地文档、API、飞书、自定义。 本地文档:选择本地文档从本地文件中导入表格数据,目前支持上传 Excel 和 CSV 格式的文件,文件不得大于 20M,一次最多可上传 10 个文件,且表格内需要有列名和对应的数据。 API:参考特定操作从 API 返回数据中上传表格内容,包括选择 API、单击新增 API、输入 API URL 并选择数据更新频率,然后单击下一步。 飞书:参考特定操作从飞书表格中导入内容,包括选择飞书、在新增知识库页面单击授权并选择要导入数据的飞书账号、单击安装扣子应用(仅首次导入需授权和安装),然后选择要导入的表格并单击下一步。目前仅支持导入“我的空间”下的飞书文档,云文档的创建者必须是自己,暂不支持导入知识库和共享空间下的云文档。 上传文本内容: 在线数据:扣子支持自动抓取指定 URL 的内容,也支持手动采集指定页面上的内容,上传到数据库。 自动采集方式:适用于内容量大、需批量快速导入的场景。操作步骤为在文本格式页签下选择在线数据,然后依次单击下一步、自动采集、新增 URL,输入网站地址、选择是否定期同步及周期,最后单击确认,上传完成后单击下一步,系统会自动分片。 手动采集:适用于精准采集网页指定内容的场景。操作步骤为安装扩展程序,在文本格式页签下选择在线数据,然后依次单击下一步、手动采集、授予权限,输入采集内容的网址,标注提取内容,查看数据确认无误后完成并采集。
2025-04-18
知识库怎么构建
构建知识库的方法主要有以下几种: 1. 使用 Flowith 构建: 选择“Manage Your Knowledge Base”,进入知识库管理页面。 点击左上角的加号添加新的知识库,为其起一个便于分辨的名字。 点击添加文件,建议使用 Markdown 格式的文件。 等待 Flowith 对文件进行抽取等处理,处理完毕后可在知识库管理页面测试检索。 2. 使用 Dify 构建: 准备数据:收集文本数据,进行清洗、分段等预处理。 创建数据集:在 Dify 中创建新数据集,上传准备好的文档并编写描述。 配置索引方式:根据需求选择高质量模式、经济模式或 Q&A 分段模式。 集成至应用:将数据集集成到对话型应用中,配置数据集的使用方式。 持续优化:收集用户反馈,更新知识库内容和优化索引方式。 3. 本地部署大模型并搭建个人知识库(涉及 RAG 技术): 了解 RAG 技术:大模型训练数据有截止日期,RAG 可通过检索外部数据并在生成步骤中传递给 LLM 来解决依赖新数据的问题。 RAG 应用的 5 个过程: 文档加载:从多种来源加载文档,如 PDF、SQL 等。 文本分割:把文档切分为指定大小的块。 存储:包括将文档块嵌入转换成向量形式,并将向量数据存储到向量数据库。 检索:通过检索算法找到与输入问题相似的嵌入片。 输出:将问题和检索出的嵌入片提交给 LLM 生成答案。 文本加载器:将用户提供的文本加载到内存中以便后续处理。
2025-04-15
如何搭建知识库
搭建知识库的方法如下: 使用 flowith 搭建: 选择“Manage Your Knowledge Base”,进入知识库管理页面。 点击左上角的加号添加新的知识库,给知识库起一个便于分辨的名字。 点击添加文件,建议使用 Markdown 格式的文件。 Flowith 会对文件进行抽取等处理,处理完毕后可在知识库管理页面测试检索。 使用 Dify 搭建: 准备数据:收集文本数据,进行清洗、分段等预处理。 创建数据集:在 Dify 中创建新数据集,上传准备好的文档并编写描述。 配置索引方式:提供三种索引方式,根据需求选择,如高质量模式、经济模式和 Q&A 分段模式。 集成至应用:将数据集集成到对话型应用中,配置数据集的使用方式。 持续优化:收集用户反馈,更新知识库内容和优化索引方式。 使用 Coze 智能体搭建: 手动清洗数据: 在线知识库:点击创建知识库,创建 FAQ 知识库,选择飞书文档,输入区分问题和答案,可编辑修改和删除,添加 Bot 并在调试区测试效果。 本地文档:注意拆分内容,提高训练数据准确度,按章节进行人工标注和处理,然后创建自定义清洗数据。 发布应用:点击发布,确保在 Bot 商店中能搜到。
2025-04-14
如何搭建自己的知识库
以下是搭建自己知识库的方法: 1. 选择“Manage Your Knowledge Base”,进入知识库管理页面。 2. 在页面左上角点击加号,添加新的知识库,并为其起一个易于分辨的名字。 3. 点击添加文件,建议使用 Markdown 格式的文件。 4. 等待 Flowith 对文件进行抽取等处理。 5. 处理完毕后,可在知识库管理页面测试检索,输入关键词过滤相关内容。 此外,搭建本地知识库还需了解 RAG 技术: 1. RAG 是一种当需要依靠不包含在大模型训练集中的数据时所采用的主要方法,即先检索外部数据,然后在生成步骤中将这些数据传递给 LLM。 2. 一个 RAG 的应用包括文档加载、文本分割、存储、检索和输出 5 个过程。 文档加载:从多种不同来源加载文档,LangChain 提供了 100 多种不同的文档加载器。 文本分割:把 Documents 切分为指定大小的块。 存储:将切分好的文档块进行嵌入转换成向量的形式,并将 Embedding 后的向量数据存储到向量数据库。 检索:通过某种检索算法找到与输入问题相似的嵌入片。 输出:把问题以及检索出来的嵌入片一起提交给 LLM,生成更合理的答案。 对于基于 GPT API 搭建定制化知识库,涉及给 GPT 输入定制化的知识。由于 GPT3.5 一次交互支持的 Token 有限,OpenAI 提供了 embedding API 解决方案。Embeddings 是一个浮点数字的向量,两个向量之间的距离衡量它们的关联性,小距离表示高关联度。在 OpenAI 词嵌入中,靠近向量的词语在语义上相似。文档上有创建 embeddings 的示例。
2025-04-14
我想做一个,基于我个人知识库的chatbot,以供我随时搜索和提问,且优先搜索知识库内的内容而非联网搜索,你有什么建议吗?
以下是为您提供的关于创建基于个人知识库的 chatbot 的建议: 1. 选择合适的平台和工具:例如可以考虑使用飞书智能伙伴创建平台(Aily)或扣子(https://www.coze.cn/home)等。 2. 数据分段储存:由于大模型的上下文长度有限制,需要将上传的资料根据特定符号或字符长度进行分段,如将 8000 字文档按每 800 字分成一个片段储存。 3. 增强检索:当用户输入问题,大模型会根据相似度检索出若干最相关的数据片段,再据此生成答案,这一技术称为 RAG(检索增强生成)。 4. 配置知识库: 在 Bot 内使用知识库: 登录相关平台。 在左侧导航栏的工作区区域,选择进入指定团队。 在 Bots 页面,选择指定 Bot 并进入 Bot 详情页。 在 Bot 编排页面的知识库区域,单击加号图标,添加指定的知识库。 (可选)添加知识库后,可以在自动调用下拉界面内,调整知识库的配置项,如最大召回数量、最小匹配度、调用方式等。 在工作流内使用 Knowledge 节点: 登录相关平台。 在左侧导航栏的工作区区域,选择进入指定团队。 在页面顶部进入工作流页面,并打开指定的工作流。 在左侧基础节点列表内,选择添加 Knowledge 节点。 5. 注意使用限制:单用户最多创建 1000 个知识库,文本类型知识库下最多支持添加 100 个文档,单用户每月最多新增 2GB 数据,累计上限是 10GB。 此外,知识库可以解决大模型幻觉、专业领域知识不足的问题,提升大模型回复的准确率。您可以将知识库直接与 Bot 进行关联用于响应用户回复,也可以在工作流中添加知识库节点,成为工作流中的一环。
2025-04-14
想要做一节讲如何用智能体做企业数字化转型的课程,如何设计
以下是关于如何设计用智能体做企业数字化转型课程的建议: 一、参考案例 1. 李国宝的相关经验 具有丰富的从业经验,包括通信工程、数据通信网络培训、创业、网络安全解决方案及培训、AI 课程开发与培训等。 开发过面向不同群体的 AI 课程,如《数字化转型实践》面向传统企业数字化、AI 赋能转型。 2. 90 分钟从 0 开始打造你的第一个 Coze 应用课程 从零开始教学做应用界面,先基础教学,再涉及特定应用。 介绍当前承接业务,包括辅导、培训、定制及企业 AI 落地等。 挖掘用户对 AI 应用的功能需求,如对交互界面的需求。 二、课程设计要点 1. 对于企业管理者 AI 辅助决策:在小规模决策中使用 AI 分析工具,以其分析结果作为决策参考。 员工培训计划:制定 AI 工具使用的培训计划,帮助团队成员了解日常工作中如何有效利用 AI。 流程优化:识别公司中可能受益于 AI 自动化的重复性任务,从小流程开始测试 AI 解决方案的效果。 AI 伦理和政策:制定公司的 AI 使用政策,确保 AI 应用符合伦理标准和法律要求。 2. 对于教育工作者 AI 辅助教案设计:尝试使用 AI 帮助设计课程大纲或生成教学材料 ideas,为课程带来新视角。 个性化学习路径:探索使用 AI 分析学生学习数据,为不同学生制定个性化学习计划。 创新教学方法:考虑将 AI 工具整合到课堂活动中,如使用 AI 生成的案例研究或模拟场景。 AI 素养教育:开发简单的课程模块,教导学生了解 AI 基础知识、应用领域及其对社会的影响。 三、注意事项 无论面向哪个群体,都应记住:与 AI 协作是一个学习过程。从小处着手,保持好奇心和开放态度,会发现 AI 不仅能提高工作效率,还能激发创造力,开拓新的可能性。最重要的是,始终保持批判性思维,将 AI 视为强大的工具,而不是完全依赖的解决方案。
2025-04-18
你是福州市政府工作人员,中国移动拟邀请福州市委书记参加中国移动人工智能生态大会并致辞,该大会是第八届数字峰会的组成部分,需要撰写市委书记的致辞稿,需要中国移动准备哪些素材,请告诉我提示词
以下是为您整理的相关内容: 《促进创新的人工智能监管方法》:包含了关于通用人工智能价值链、相关案例研究以及对人工智能监管框架的探讨等内容。 陶力文律师关于律师写好提示词用好 AI 的方法:包括初始化的欢迎语、遵循的规则、获取案例洞察报告和目标群体、输出纲要和写作方案、根据用户反馈调整等流程。 开幕式主持稿:涉及基地代表发言的时间、主题、物料配合和人员配合等信息。 但这些素材似乎与为中国移动准备市委书记致辞稿所需的素材关联不大。一般来说,为撰写市委书记在中国移动人工智能生态大会上的致辞稿,中国移动可能需要准备以下素材: 1. 本次大会的详细介绍,包括主题、目标、议程安排等。 2. 中国移动在人工智能领域的发展成果、战略规划和未来愿景。 3. 中国移动人工智能生态的构建情况,如合作伙伴、合作项目等。 4. 本次大会在第八届数字峰会中的地位和作用。 5. 相关行业的人工智能发展现状和趋势。 6. 福州市在人工智能领域的发展情况和与中国移动合作的展望。
2025-04-18
AI Agents(智能体)
AI 智能体(Agents)是人工智能领域中一个重要的概念: 1. 从 AGI 的发展等级来看,智能体不仅具备推理能力,还能执行全自动化业务,但目前许多 AI Agent 产品在执行任务后仍需人类参与,尚未达到完全智能体的水平。 2. 作为大模型的主要发展方向之一,智能体中间的“智能体”其实就是大模型(LLM)。通过为 LLM 增加工具、记忆、行动、规划这四个能力来实现。目前行业里主要用到的是 langchain 框架,它把 LLM 与 LLM 之间以及 LLM 与工具之间通过代码或 prompt 的形式进行串接。 3. 从智能体的起源探究来看,心灵社会理论认为智能是由许多简单的 Agent(分等级、分功能的计算单元)共同工作和相互作用的结果。这些 Agent 在不同层次上执行不同的功能,通过协作实现复杂的智能行为。心灵社会将智能划分为多个层次,每个层次由多个 Agent 负责,每个 Agent 类似于功能模块,专门处理特定类型的信息或执行特定任务。同时存在专家 Agent、管理 Agent、学习 Agent 等不同类型的 Agent 及其相应功能。从达特茅斯会议开始讨论人工智能,到马文·明斯基引入“Agent”概念,“AI”和“Agent”就彻底聚齐,往后被称之为 AI Agent。
2025-04-15
人工智能软件现在有哪些
以下是一些常见的人工智能软件: 1. 在自然语言处理和神经科学应用方面,大型语言模型取得了进展,拥有更先进的工具用于解码大脑状态和分析复杂脑部活动。 2. 在艺术创作领域,有涉及知识产权保护的相关软件,如软件工程师在设计时应确保生成内容合法合规、注重用户知识产权保护等。创作者使用此类软件时,应了解自身权利并做好保护。 3. 在线 TTS 工具方面,如 Eleven Labs(https://elevenlabs.io/)、Speechify(https://speechify.com/)、Azure AI Speech Studio(https://speech.microsoft.com/portal)、Voicemaker(https://voicemaker.in/)等。这些工具可将文本转换为语音,具有不同的特点和适用场景。但请注意,相关内容由 AI 大模型生成,请仔细甄别。
2025-04-15
什么是通用人工智能
通用人工智能(AGI)是指具有人类水平的智能和理解能力的 AI 系统。它有能力完成任何人类可以完成的智力任务,适用于不同的领域,同时拥有某种形式的意识或自我意识。 目前 AGI 还只是一个理论概念,没有任何 AI 系统能达到这种通用智能水平。 OpenAI 在其内部会议上分享了 AGI 的五个发展等级: 1. 聊天机器人(Chatbots):具备基本对话能力的 AI,主要依赖预设脚本和关键词匹配,用于客户服务和简单查询响应。 2. 推理者(Reasoners):具备人类推理水平的 AI,能够解决复杂问题,如 ChatGPT,能够根据上下文和文件提供详细分析和意见。 3. 智能体(Agents):不仅具备推理能力,还能执行全自动化业务的 AI。目前许多 AI Agent 产品在执行任务后仍需人类参与,尚未达到完全智能体的水平。 4. 创新者(Innovators):能够协助人类完成新发明的 AI,如谷歌 DeepMind 的 AlphaFold 模型,可以预测蛋白质结构,加速科学研究和新药发现。 5. 组织(Organizations):最高级别的 AI,能够自动执行组织的全部业务流程,如规划、执行、反馈、迭代、资源分配和管理等。 常见名词解释: AGI:通用人工智能(Artificial General Intelligence)能够像人类一样思考、学习和执行多种任务的人工智能系统。 NLP:自然语言处理(Natural Language Processing),就是说人话。 LLM:大型语言模型(Large Language Model),数据规模很大,没钱搞不出来,大烧钱模型。
2025-04-15
如果你是一个AI领域的专家,我有个问题关于应用AI来学习的:假设我有一个网上的课程,然后我把这个网上的课程全部视频都下载下来,然后输入给AI,让AI来学习,如果以后我问AI关于这方面的问题的话,AI能像课程老师一样思考,来回答我的问题吗
以下是关于您提问的相关内容: AI 的学习方式与人类有相似之处,也有不同之处。在医疗保健领域,为产生真正的改变,AI 应像人类一样学习。成为某个领域顶尖人才通常从多年密集信息输入开始,如正规学校教育和学徒实践,通过面对面学习获取书本外的信息。对于 AI 来说,当前学习方式及技术人员对待方式存在问题,应通过堆叠模型训练,而非仅依靠大量数据和生成模型。例如先训练生物学、化学模型,再添加特定数据点。开发具有潜在空间层次结构的堆叠 AI 模型,能反映对基本元素的理解和预测能力,可能会平行于人类教育范例发展,也可能专门发展出新型专业知识。创建特定领域的专家 AI 可能比全能 AI 更容易,且需要多个专家 AI 提供多样意见。同时,应让 AI 接触现实世界互动,避免复制危险偏见。但不能因恐惧传播人类偏见而限制探索 AI 帮助民主化人类专家知识的意愿。 然而,您所提到的将网上课程视频全部下载输入给 AI 让其学习,然后期望它像课程老师一样回答问题,目前的技术和情况还不能完全保证实现。AI 的学习和回答能力取决于其训练数据、模型结构和算法等多种因素。
2025-04-13
问题定义优化助手
以下是关于问题定义优化助手的相关内容: 市面上有很多 Prompt 框架,框架可理解为从不同角度为思考问题提供解决方案的路径。一个问题的解决通常包括问题背景(所需角色、具备的能力和资源)、问题目标(期望的输出结果和验收标准,如提供商务谈判的完整过程)、提供的资料信息、限制条件(如预算限制等)、角色技能(为目标服务所需调动的技能,如熟悉某个领域的商业案例)和工作流(解决问题时需完成的任务步骤,如信息收集、谈判策略设定等)。细致的内容可能得到更好的结果,但也可能限制可能性,这是一个平衡和折中的结果。 效果呈现方面,体验地址为 。 3 月 5 日作业要求大家看完小七姐的 5 篇入门指南并动手实践,写出自己的一条 prompt 及对话分享出来,提交格式为创作思路和目标|prompt 展示|输出结果。例如无上的目标是让大模型对自己的提问内容进行优化,其思路包括询问大模型“更好的提问”方法论、让 kimi 分析并优化等步骤。 在从 AI 助教到智慧学伴的应用探索中,提到了在不同学段和学科的应用场景,以及向 AI 大模型提问的问题设计,还涉及教育提示词优化助手。
2025-04-11
LLM模型响应时间较长,如何处理超时时间问题
处理 LLM 模型响应时间过长导致的超时问题,可以考虑以下方法: 1. 参数有效调整:这是一种新颖的微调方法,通过仅训练一部分参数来减轻微调 LLM 的挑战。这些参数可能是现有模型参数的子集,或者是一组全新的参数,例如向模型添加一些额外的层或额外的嵌入到提示中。 2. 优化提示设计:采用合适的提示方法,如零样本提示、一次性提示、Fewshot prompting 等。零样本提示是只给出描述任务的提示;一次性提示是让 LLM 执行任务的单个示例;Fewshot prompting 是让 LLM 执行任务的少量示例。同时,可以使用结构化模式设计提示,包含上下文、问题示例及相应答案等组件,以指示模型应如何响应。 3. 避免频繁调整某些参数:尤其是 Top K 和 Top P,不需要经常对其进行调整。 4. 关注模型响应质量:即使有良好的提示设计,模型输出仍可能不稳定,需要持续关注和优化。 5. 考虑成本和时间:微调大型模型可能耗时且成本高,为大模型提供服务也可能涉及额外麻烦和成本,需要综合评估和优化。
2025-04-11
有没有AI客服呢帮我解决天猫店铺的客服问题
天猫店铺有可用的 AI 客服,例如阿里的“小蜜”。在去年双 11 购物节,小蜜累计服务 4.1 亿次咨询,占比 85%,仅复杂纠纷转人工,用户满意度并未因是 AI 而下降,反而因回复快提升。此外,电商领域还有其他类似的 AI 客服应用,如京东推出的智能客服“JIMI”,每天处理数百万咨询,问题解决率超过 90%,使得京东客服团队规模缩小,有效分流了工作量。亚马逊的“智能客服代理”能通过对话 API 访问客户订单等数据,帮助顾客查询物流、办理退货,在上季度独立处理了超过 50%的客户请求。抖音小店客服也引入了 AI 回复,提升了商家客服响应速度。
2025-04-09
有哪些解决问题的提示词
以下是一些关于解决问题的提示词相关内容: 在使用 Claude 时,需遵循“Human:”/“Assistant:”的标准格式。对于 API 里的提示词,固定开头为“n\nHuman:”,固定结尾是“\n\nAssistant:”。 提示词要清晰明确,Claude 对清晰明确的提示词反馈最好。如有疑问,可向朋友展示提示词,询问其能否遵循指令做到要求的事。例如“Human:写一首关于机器人的俳句”“Human:写一首关于机器人的俳句。直接输出俳句不要跟我说话”。 可以使用结构化的提示词模板,如长文档示例中的“Human:<doc>{{文档}]</doc> 请用一个五年级学生能理解的语言来总结这篇文档的主要内容。”同时,对于长文档,建议把要问的问题放在提示词的最后面。 让 Claude 更好地接龙时,可以给它开个头儿。 角色扮演(又称角色性提示词)方面,Claude 有时需要了解它应该扮演的角色。
2025-04-08
我们是搜索团队的产品经理,团队定位倾向于“对于插件的建设与调用”定位,现在要做AI相关的产品规划,请以通俗易懂的方式对以下问题做出回答 1、请通过流程图的方式,介绍【插件/工具】能力在大模型生态架构中的环节、定位、实现流程是什么 2、调研下对于我们搜索团队而言,插件应该做什么,可以做什么 3、思考对于大模型来说,有哪些(通用或垂类)的模块/功能/插件是无法绕开的,或高频使用的,作为我们团队后续争取的发力点(如搜索推荐对于传统综合搜索结果页)
以下是为您提供的关于 AI 相关产品规划的回答: 一、插件/工具能力在大模型生态架构中的环节、定位、实现流程 从 2023 年 3 月份 OpenAI 宣布插件计划开始,到 5 月份上线,其中包括联网、代码、画图三个插件。其实现流程大致为: 1. 经过对模型的微调,检测何时需要调用函数(取决于用户的输入)。 2. 使用符合函数签名的 JSON 进行响应。 3. 在接口层面声明可调用的工具。 4. 使用函数和用户输入调用模型。 5. 使用模型响应调用 API。 6. 将响应发送回模型进行汇总。 二、对于搜索团队,插件可以做和应该做的事 目前没有直接针对搜索团队插件具体可做和应做事项的明确内容,但可以参考 OpenAI 的插件计划,例如开发与搜索相关的特定功能插件,或者探索如何将现有的搜索推荐功能与大模型更好地结合。 三、对于大模型无法绕开或高频使用的模块/功能/插件 目前没有直接指出对于大模型无法绕开或高频使用的具体模块、功能或插件。但从相关信息中可以推测,例如与数据获取和处理相关的插件(如联网)、与技术开发相关的插件(如代码)以及与内容生成相关的插件(如画图)可能是较为重要和高频使用的。对于搜索团队来说,可以考虑在这些方向上寻找发力点,结合搜索推荐等传统功能,开发出更具竞争力的插件。
2025-04-08
AI智能体在企业应用案例
以下是一些 AI 智能体在企业中的应用案例: 决策智能体: 以 Anterior 为例,它是一家健康计划自动化公司,开发了用于自动化理赔提交审核的临床决策引擎。将付款方规则转换为有向无环图,智能体遍历决策树,利用 LLM 评估相关临床文件是否符合规则,在复杂任务中选择最佳方法并更新状态,直至最终确定。 Norm AI 正在为监管合规打造 AI 智能体,Parcha 正在为 KYC 建立智能体。 检索增强生成(RAG): 以 Sana 的企业搜索用例为例,应用程序加载和转换无结构文件,将其分块并作为向量嵌入存储在数据库中。当用户提问时,系统检索相关上下文块,折叠到“元提示”中与检索信息一起喂给 LLM,合成答复返回给用户。 Eve 法律研究的共同驾驭员会将研究查询分解为独立提示链,运行每个提示链生成中间输出,并综合编写最终备忘录。 生成式 AI 应用: 具有搜索、合成和生成三个核心用例,Menlo Ventures 投资组合公司如 Sana(企业搜索)、Eve(法律研究副驾驶)和 Typeface(内容生成 AI)是早期突破性的代表。 领先的应用程序构建商如 Anterior、Sema4 和 Cognition 正在建立解决方案,处理之前只能由大量人力解决的工作流程。借助多步逻辑、外部内存以及访问第三方工具和 API 等新型构建块,拓展 AI 能力边界,实现端到端流程自动化。
2025-02-16
AI 智能体在企业落地
以下是关于 AI 智能体在企业落地的相关内容: 决策智能体方面: 决策智能体使用智能体决策制定在复杂、多步骤的推理流程中导航并做出业务决策。 以 Anterior 为例,其将付款方规则转换为有向无环图(DAG),智能体遍历决策树,在每个节点利用 LLMs 评估相关临床文件是否符合特定规则,遇到复杂任务时选择最佳方法并更新自身状态。 其他领域如 Norm AI 为监管合规打造 AI 智能体,Parcha 为 KYC 建立智能体。 相关人物与业务方面: 韦恩是智能体创业者、WayToAGI 共建者、微软提示词工程师、多平台 Agent 开发者、企业级 AI Agent 定制专家,荣获多家 AI 开发平台比赛奖项,有 12 年程序开发背景,是多家企业的 AI 落地顾问,承接 1v1 辅导、智能体培训、智能体定制开发、企业 AI 项目落地等业务。 生成式 AI 应用方面: 生成式 AI 应用当前有搜索、合成和生成三个核心用例与强大的产品市场契合度。 领先的应用程序构建商如 Anterior、Sema4 和 Cognition 正在建立解决方案,处理之前只能由大量人力解决的工作流程。 借助多步逻辑、外部内存以及访问第三方工具和 API 等新型构建块,下一波智能体正在拓展 AI 能力的边界,实现端到端流程自动化。
2025-02-16
flowith 2.0与refly的区别具体在哪里?
Flowith 2.0 与 Refly 的区别主要体现在以下方面: 功能定位:Refly 是一款国产应用,是全站式的文本创作工具,集成了“知识库+自由画布+AI 搜索+内容编辑”等功能,覆盖主题搜索、思维拓展、在线文档、文本优化等完整创作链条的每一个环节。Flowith 2.0 是一款出海应用,有成为订阅制 AI 知识社区的野心。 知识库:Flowith 2.0 的知识库允许自行上传制作并发布,还可以自由添加(或购买)他人已经发布的知识库,这是其作为 AI 付费订阅知识社区的基本雏形,而 Refly 没有此功能。 内容编辑器:Flowith 2.0 的内容编辑器有 Markdown、图片编辑器、代码编辑器、实时语音聊天等几种不同的模式,Refly 未提及有此多样的模式。 交互设计:Flowith 2.0 继承并优化了 1.0 版本的交互设计,尤其是 Agent 功能设计(包括 Project 功能、Oracle 模式、Agent Community 等)得到了强化,以及依旧流畅酷炫的对话模式(包括插件模式、比较模式、图片/视频生成模式等),Refly 未提及相关内容。 团队协作:Flowith 2.0 支持团队协作,允许邀请外部协作者评论、共同编辑当前 Flow,Refly 未提及此功能。
2025-02-13
智能体在电商领域的应用
智能体在电商领域有以下应用: 1. 电商导购:以“什么值得买”智能体为例,当用户输入“我想买个笔记本电脑”,智能体会先提取关键词“笔记本电脑”,通过相关 API 检索商品信息,与内置提示词组装成上下文,请求大模型回答,提供更好的商品推荐效果。 2. 工作流协作:工作流也可理解为多智能体协作,通过多个智能体的组装解决复杂场景的搜索问题。例如给新产品取名,涉及多个步骤和检测,人工操作费时,而 AI 搜索与 Workflow 模式可有效解决,通过定义多个智能体完成各项功能,并由调度中枢协调工作和决策。 在品牌卖点提炼方面: 1. 构建中对结构的理解和控制最为重要,旨在提供结构化思路,单点可通过不断迭代完善。品牌卖点提炼助手本质是办公助手,能为有营销思维的团队提供思路,提高团队效率。 2. 实际搭建需根据公司业态调整,给智能体更多提示词提升分析合理性。不同行业的线上、线下和人员触点不同,遵循营销管理流程保证输出,调整提示词提升准确度。营销管理结构化提示词中避免依赖举例,决策和洞察力仍依赖人员,智能体作为灵感助手辅助决策。 3. 最终提炼的品牌卖点应用于与用户交互的所有场景,即触点,包括线上(如微信、抖音等平台)、线下(产品到达消费者手上的场景或线下实体门店场景)和人员(线上直播间、人工客服或线下销售人员等)触点。在最终步骤,需找到所有传达品牌卖点的场景,结合需求制作落地页或沟通话术,建立品牌价值。
2024-12-20
AI智能体在电商领域可落地的应用
AI 智能体在电商领域有以下可落地的应用: 1. 电商导购:以“什么值得买”智能体为例,当用户输入“我想买个笔记本电脑”,智能体会先提取关键词“笔记本电脑”,通过相关 API 检索商品信息,与内置提示词组装成上下文,请求大模型回答,从而提供更好的商品推荐效果。 2. 工作流优化:工作流也可理解为多智能体协作,通过多个智能体的组装解决复杂场景的搜索问题。例如给新产品取名,涉及多个步骤和检测,人工操作费时,而 AI 搜索与 Workflow 模式可有效解决,通过定义多个完成不同功能的智能体,并由调度中枢协调工作和决策。 3. 品牌卖点提炼:AI 在逻辑推理、数据分析、内容理解和输出上有独特优势,可搭建品牌卖点提炼助手。但在搭建前需明确 AI 的能力边界,如对公司产品、独特之处、核心渠道等了解有限。AI 更适合做引导型助手,在寻找卖点陷入停滞时提供更多思考维度。实际搭建时,除遵循营销管理流程保证输出合理,还需根据公司业态调整智能体提示词以提升信息准确度。对于电商产品,需考虑线上线下不同触点和人员等因素。
2024-12-19
AI智能体在电商领域营销助手应用
AI 智能体在电商领域营销助手方面有以下应用: 1. 品牌卖点提炼: 智能体的构建中,理解和控制结构最为重要,其本质是办公助手,能为有营销思维的团队提供思路,提高效率。 实际搭建要根据公司业态调整,给智能体更多提示词提升分析合理性。例如电商产品,线上触点有淘系、京东系等电商平台和抖音、小红书等兴趣电商内容平台,线下触点包括产品包装、包裹等,人员触点有销售人员等;线下实体服务行业,线上触点有大众点评/美团等,线下触点有门店展示等。 遵循营销管理流程构建智能体可保证输出准确,调整提示词能提升某部分助手信息准确度,但注意营销管理结构化提示词中不要依赖举例,以免限制 AI 创造性思维。 2. 电商导购: 以“什么值得买”智能体为例,用户输入“我想买个笔记本电脑”,智能体会提取关键词,通过 API 检索商品信息,与提示词组装后请求大模型回答,成为电商导购类垂直搜索应用,提升商品推荐效果。 工作流 Workflow 可理解为多智能体协作,通过多个智能体组装解决复杂场景搜索问题,如新产品取名,涉及多个步骤和智能体,还需调度中枢协调工作和决策。 3. 搭建智能体提炼品牌卖点: AI 在逻辑推理、数据分析等方面有强项,可用于品牌卖点提炼,搭建品牌卖点提炼助手。 搭建前要明确 AI 能力边界,如 AI 不了解公司产品、独特之处等。 AI 真正的能力是逻辑推理、处理分析数据等,确定的智能体更适合做引导型助手,在寻找卖点陷入停滞时提供思考维度。
2024-12-19