Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

RAG与Agent如何结合应用

Answer

RAG 与 Agent 的结合应用主要通过以下步骤实现：

  1. 数据加载：根据数据源类型选择合适的数据加载器，如对于网页数据源可使用 WebBaseLoader 加载和解析网页，获取文档对象。
  2. 文本分割：依据文本特点选用合适的文本分割器，将文档对象分割成较小的文档对象。例如，对于博客文章可用 RecursiveCharacterTextSplitter 递归分割。
  3. 嵌入与存储：使用文本嵌入器将文档对象转换为嵌入，并存储到向量存储器中。可根据嵌入质量和速度选择，如 OpenAI 的嵌入模型和 Chroma 的向量存储器。
  4. 创建检索器：通过向量存储器检索器，传递向量存储器对象和文本嵌入器对象作为参数，创建用于根据用户输入检索相关文档对象的检索器。
  5. 创建聊天模型：根据模型性能和成本选择合适的聊天模型，如 OpenAI 的 GPT-3 模型，用于根据用户输入和检索到的文档对象生成输出消息。

以餐饮生活助手为例，展示基于结构化数据的 RAG 实战：

  1. 定义餐饮数据源：将餐饮数据集转化为 Langchain 可识别和操作的数据源，如数据库、文件、API 等，并注册到 Langchain 中，提供统一接口和方法供 LLM 代理访问和查询。
  2. 定义 LLM 的代理：通过 Langchain 的代理（Agent）实现，提取用户问题的核心信息和条件，形成标准查询语句，检索餐饮数据源并生成合适答案输出给用户。代理管理器可定义不同的 LLM 代理及其功能逻辑，提供统一接口和方法方便用户交互。

以下是使用 LangChain 构建 RAG 应用的示例代码。

Content generated by AI large model, please carefully verify (powered by aily)

References

开发：LangChain应用开发指南-大模型的知识外挂RAG

首先，我们需要加载我们的数据。我们可以使用数据加载器来实现这一步，根据数据源的类型选择合适的数据加载器。例如，如果我们的数据源是一个网页，我们可以使用WebBaseLoader，它可以使用urllib和BeautifulSoup()来加载和解析网页，返回一个文档对象。然后，我们需要将我们的文档对象分割成较小的文档对象。我们可以使用文本分割器来实现这一步，根据文本的特点选择合适的文本分割器。例如，如果我们的文本是一个博客文章，我们可以使用RecursiveCharacterTextSplitter，它可以递归地使用常见的分隔符（如换行符）来分割文本，直到每个文档对象的大小符合要求。接下来，我们需要将我们的文档对象转换为嵌入，并存储到向量存储器中。我们可以使用文本嵌入器和向量存储器来实现这一步，根据嵌入的质量和速度选择合适的文本嵌入器和向量存储器。例如，如果我们想要使用OpenAI的嵌入模型和Chroma的向量存储器，我们可以使用OpenAIEmbeddings()和ChromaVectorStore。然后，我们需要创建一个检索器，用于根据用户的输入检索相关的文档对象。我们可以使用向量存储器检索器来实现这一步，-传递一个向量存储器对象和一个文本嵌入器对象作为参数，创建一个向量存储器检索器对象。最后，我们需要创建一个聊天模型，用于根据用户的输入和检索到的文档对象生成一个输出消息。我们可以使用LangChain提供的聊天模型来实现这一步，根据模型的性能和成本选择合适的聊天模型。例如，如果我们想要使用OpenAI的GPT-3模型，我们可以使用OpenAIChatModel。下面是一个使用LangChain构建RAG应用的示例代码：

开发：LangChain应用开发指南-不用向量也可以RAG

为了更好地展示结构化数据来RAG的方法的实际效果，我们以餐饮生活助手为例，给出用户提问和回复的示例，以及餐饮生活助手RAG的代码实战。餐饮生活助手是一个基于结构化数据RAG的方法的应用，它的目的是根据用户的需求，从一个大规模的餐饮数据集中检索出最合适的餐厅，并提供相关的信息和服务。餐饮数据集是一个结构化的数据集，它包含了各种各样的餐厅的信息，例如名称、类型、地址、电话、价格、评分、评论等。餐饮生活助手的核心是一个LLM，它能够根据用户的问题，提取出核心的信息和条件，并形成标准的查询语句，然后用这个查询语句去检索餐饮数据集，得到相关的数据记录，再根据这些数据记录，生成最合适的答案，输出给用户。为了实现餐饮生活助手RAG的Langchain代码实战，我们需要完成以下几个步骤：定义餐饮数据源。我们需要将餐饮数据集转化为Langchain可以识别和操作的数据源，例如数据库、文件、API等，注册到Langchain中，并提供统一的接口和方法，让LLM的代理可以方便地访问和查询数据源。例如，我们可以将餐饮数据封装为一个API后，并结构化描述该接口的调用方式，并通过以下的代码，将其注册到Langchain中：定义LLM的代理。我们需要定义一个LLM的代理，它可以根据用户的问题，提取出核心的信息和条件，并形成标准的查询语句，然后用这个查询语句去检索餐饮数据源，得到相关的数据记录，再根据这些数据记录，生成最合适的答案，输出给用户。这可以通过Langchain的代理（Agent）来实现。代理管理器可以让开发者通过简单的编程，定义不同的LLM的代理，以及它们的功能和逻辑，并提供统一的接口和方法，让用户可以方便地与LLM的代理进行交互。

开发：LangChain应用开发指南-大模型的知识外挂RAG

首先，我们需要加载我们的数据。我们可以使用数据加载器来实现这一步，根据数据源的类型选择合适的数据加载器。例如，如果我们的数据源是一个网页，我们可以使用WebBaseLoader，它可以使用urllib和BeautifulSoup来加载和解析网页，返回一个文档对象。然后，我们需要将我们的文档对象分割成较小的文档对象。我们可以使用文本分割器来实现这一步，根据文本的特点选择合适的文本分割器。例如，如果我们的文本是一个博客文章，我们可以使用RecursiveCharacterTextSplitter，它可以递归地使用常见的分隔符（如换行符）来分割文本，直到每个文档对象的大小符合要求。接下来，我们需要将我们的文档对象转换为嵌入，并存储到向量存储器中。我们可以使用文本嵌入器和向量存储器来实现这一步，根据嵌入的质量和速度选择合适的文本嵌入器和向量存储器。例如，如果我们想要使用OpenAI的嵌入模型和Chroma的向量存储器，我们可以使用OpenAIEmbeddings和ChromaVectorStore。然后，我们需要创建一个检索器，用于根据用户的输入检索相关的文档对象。我们可以使用向量存储器检索器来实现这一步，-传递一个向量存储器对象和一个文本嵌入器对象作为参数，创建一个向量存储器检索器对象。最后，我们需要创建一个聊天模型，用于根据用户的输入和检索到的文档对象生成一个输出消息。我们可以使用LangChain提供的聊天模型来实现这一步，根据模型的性能和成本选择合适的聊天模型。例如，如果我们想要使用OpenAI的GPT-3模型，我们可以使用OpenAIChatModel。下面是一个使用LangChain构建RAG应用的示例代码：

Others are asking
AI Agents（智能体）
AI 智能体（Agents）是人工智能领域中一个重要的概念： 1. 从 AGI 的发展等级来看，智能体不仅具备推理能力，还能执行全自动化业务，但目前许多 AI Agent 产品在执行任务后仍需人类参与，尚未达到完全智能体的水平。 2. 作为大模型的主要发展方向之一，智能体中间的“智能体”其实就是大模型（LLM）。通过为 LLM 增加工具、记忆、行动、规划这四个能力来实现。目前行业里主要用到的是 langchain 框架，它把 LLM 与 LLM 之间以及 LLM 与工具之间通过代码或 prompt 的形式进行串接。 3. 从智能体的起源探究来看，心灵社会理论认为智能是由许多简单的 Agent（分等级、分功能的计算单元）共同工作和相互作用的结果。这些 Agent 在不同层次上执行不同的功能，通过协作实现复杂的智能行为。心灵社会将智能划分为多个层次，每个层次由多个 Agent 负责，每个 Agent 类似于功能模块，专门处理特定类型的信息或执行特定任务。同时存在专家 Agent、管理 Agent、学习 Agent 等不同类型的 Agent 及其相应功能。从达特茅斯会议开始讨论人工智能，到马文·明斯基引入“Agent”概念，“AI”和“Agent”就彻底聚齐，往后被称之为 AI Agent。
2025-04-15
B端AI Agent
以下是关于 B 端 AI Agent 的相关知识： 一、概念定义 1. 智能体（Agent）简单理解就是 AI 机器人小助手，参照移动互联网，类似 APP 应用的概念。随着 ChatGPT 与 AI 概念的爆火，出现了很多相关新名词，如 bot 和 GPTs 等。AI 大模型是技术，面向用户提供服务的是产品，因此很多公司关注 AI 应用层的产品机会。 C 端案例：如社交方向，用户注册后先捏一个自己的 Agent，然后让其与他人的 Agent 聊天，两个 Agent 聊到一起后真人再介入；还有借 Onlyfans 入局打造个性化聊天的创业公司。 B 端案例：字节扣子和腾讯元器若为面向普通人的低代码平台，类似 APP 时代的个人开发者，那么帮助 B 端商家搭建 Agent 就类似 APP 时代专业做 APP 的。 2. 智能体开发平台：最早接触到的扣子 Coze 是通过一篇科技报道，如 2 月 1 日，字节正式推出 AI 聊天机器人构建平台 Coze 的国内版“扣子”，主要用于开发下一代 AI 聊天机器人。国内还有很多智能体开发平台，如 Dify.AI，但个人较常用的是扣子，所以常对比字节扣子和腾讯元器。 3. 关注智能体的原因：目前 AI Agent 的概念在市场上未达成共识，存在被滥用现象。AI Agent 指的是一种智能代理系统，接近人类大脑，可形成记忆、达成行动规划、自动交互、主动预测。其应用具有个性化、自主完成任务、多 Agent 协作等特点。目前 AI Agent 应用大多集中在 2B 场景，面向个人消费者的产品少，一方面是高度智能化的 Agent 能力需打磨，概念落地有距离；另一方面是 AI 和娱乐消费诉求结合少，主要带来生产方式和效率变革，个人消费者方向目前只看到“私人助理”场景。
2025-04-15
AI workflow在企业中是否比Agent应用价值和场景更多
AI workflow 和 Agent 在企业中的应用价值和场景各有特点。 Agentic Workflows 具有以下优势： 1. 灵活性、适应性和可定制性：能够根据任务难度进行调整和演变，通过组合不同模式实现定制，在需求和复杂性增长时进行迭代升级。 2. 在复杂任务上的性能提升：将复杂任务分解为更小、可管理的步骤，显著优于确定性的零样本方法。 3. 自我纠正和持续学习：能够评估自身行为，完善策略，从过去经验中学习，在每次迭代中变得更有效和个性化。 4. 操作效率和可扩展性：可以高精度自动化重复任务，减少人工操作和运营成本，还能轻松扩展。 Agentic Workflow 的应用场景包括原子设计模式的组合、与人类反馈循环集成等。例如，Agentic RAG 在检索增强生成流程中引入了一个或多个 AI Agents，在规划阶段可进行查询分解等操作，还能评估数据和响应的相关性和准确性。 一般来说，Workflow 是一系列旨在完成特定任务或目标的相互连接的步骤。最简单的工作流是确定性的，遵循预定义步骤序列。有些工作流利用大模型或其他 AI 技术，分为 Agentic 和非 Agentic 两类。非 Agentic 工作流中，大模型根据指令生成输出。Agentic Workflow 是由单个或几个 AI Agents 动态执行的一系列连接步骤，被授予权限收集数据、执行任务并做出决策，利用 Agents 的核心组件将传统工作流转变为响应式、自适应和自我进化的过程。 综上所述，不能简单地说 AI workflow 在企业中比 Agent 应用价值和场景更多，这取决于企业的具体需求和任务特点。
2025-04-09
常见的工作流与 Agent 开发平台
常见的工作流与 Agent 开发平台如下： AI Workflow 开发平台： Coze：新一代 AI Bot 开发平台，集成了丰富的插件工具，有国际版和国内版。 Dify：开源平台，支持自定义和插件。 腾讯元器。 FastGPT：国内知名，支持自定义流程。 影刀&zapier。 Leap。 Betteryeah：立足 RPA 场景，用 AI 将用户需求生成工作流，并通过 RPA 自动化，产品形态与 Coze 相似，是企业级的 AI 应用开发平台。 Flowise：快速实现智能体搭建。 BISHENG：主攻 tob 场景的开源 LLM 搭建平台，与 fastgpt 功能类似，但面向的客户不同，整体功能和部署成本更重。 Agent 构建平台： Coze：具有拓展强、好上手、不用出国等优点。 Mircosoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及将 Copilot 部署到各种渠道。 文心智能体：百度推出的基于文心大模型的智能体平台。 MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行设计良好的工作流。 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等多种场景。 钉钉 AI 超级助理：依托于钉钉强大的场景和数据优势，提供更深入的环境感知和记忆功能，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 此外，Inhai 的 Agentic Workflow 将一整套工作流组合起来，每个工具在每一个节点执行一个任务。LangGPT 提示词框架应用了 CoT 完成从输入到思维链再到输出的映射。
2025-04-09
多模态Agent最新动态
以下是关于多模态 Agent 的最新动态： 《质朴发言：视觉语言理解模型的当前技术边界与未来应用想象｜Z 研究第 2 期》 近期，生成式 AI 领域的浪潮催化了多模态模型的探索，研究人员不断尝试使用更多模态数据的编码，以训练出能够理解和处理多种类型数据的模型。本份研究报告集中讨论了基于 Transformer 架构的视觉语言模型，报告范围专注于视觉和语言之间的交互，不考虑单纯的视觉到视觉的计算机视觉任务。 从 2022 年 11 月 18 日到 2023 年 7 月 26 日，多模态 Agents 迅速增长。 LLM 多模态 agent 是将现有技术融合的新尝试，是一种集成了多种模态数据处理能力的 AI 技术。 优点：高度的灵活性和扩展性，可根据不同任务需求调用最合适的模型处理任务，适应多样化任务和数据类型，优化资源使用，提升效率；无需训练，系统开发周期快，成本低。 局限性：调试和工程化难度较高，维护和升级成本高；多个组件紧密耦合，单点故障可能导致整个系统风险增加；没有涌现出新的能力。 适用场景：需要综合处理视频、语音和文本等多种信息的复杂环境，如自动驾驶汽车；高度交互和灵活的用户界面，如客户服务机器人或交互式娱乐应用。 《2024 年度 AI 十大趋势报告》 随着大模型对图像和视频信息的处理能力快速提升，预计 2025 年将开始出现更为综合性的多模态交互，AI 能够通过物联网、特定信息等多种感知通道进行协同。 多模态输入和输出使 AI 交互性更强、交互频次更高，适用场景也更加丰富，AI 产品整体水平显著提升。 Agent 作为融合感知、分析、决策和执行能力的智能体，能够根据用户历史行为和偏好，主动提供建议、提醒并个性化执行能力，为用户提供高度个性化的任务。从 2025 年开始，AI Agent 即将广泛投入使用。 从个性化推荐到直接生成个性化内容，AIGC 能够使用户体验的个性化程度有明显提升，这将帮助产品进一步完善用户体验，并通过提高用户忠诚度和迁移成本，实现差异化定价和进一步的服务增值，对产品的差异化竞争有重大意义。目前，基于 AIGC 的高度个性化已经在 AI 教育、AI 陪伴、AI 营销领域有明显进展。在硬件端搭载的多款 AI 智能助手也已开始以高度个性的个人助理作为宣传重点。
2025-03-31
目前最好的AI Agent是哪一款
目前，在 AI Agent 领域，没有绝对意义上的“最好”的一款。以下为您介绍一些受到关注的 AI Agent： 1. AutoGPT 和 BabyAGI 是最早实现让 LLM 自己做自动化多步骤推理的开源智能代理，在去年 GPT4 刚发布时风靡全球科技圈。 2. Devin 是来自纽约华人创业团队 Cognition AI 的一款可以像人类程序员一样自动写代码的 Agent，但因演示视频过于科幻而被揭露造假。 3. Google 在今年的 Next 与 I/O 大会上发布了自己的 Agent 战略，如 Google Plan Search 能自动化多步骤执行搜索任务。 4. Cursor 中的 Agent 功能，只要给它一个模糊指令，它会自动规划和解决问题。Cline 作为一个 AI 助手，也有一定的能力，其新版本还推出了检查点功能。 需要注意的是，AI Agent 领域在不断发展，不同的 Agent 在不同的应用场景和任务中可能表现出不同的优势。
2025-03-30
什么是RAG
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。 大模型存在一些缺点，如无法记住所有知识（尤其是长尾知识）、知识容易过时且不好更新、输出难以解释和验证、容易泄露隐私训练数据、规模大导致训练和运行成本高。而 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，增删改查可解释，且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型本身的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本。 RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。其最常见应用场景是知识问答系统。 一个 RAG 的应用可抽象为 5 个过程： 1. 文档加载：从多种不同来源加载文档。 2. 文本分割：把 Documents 切分为指定大小的块。 3. 存储：包括将切分好的文档块进行嵌入转换成向量的形式，以及将 Embedding 后的向量数据存储到向量数据库。 4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。
2025-04-14
RAG对话 摘要总结 功能实现
LangChain 和 RAG 的结合具有以下优势： 1. 灵活性：可根据需求和数据源选择不同组件和参数定制 RAG 应用，也能使用自定义组件（需遵循接口规范）。 2. 可扩展性：能利用 LangChain 的云服务部署和运行，无需担忧资源和性能限制，还可借助分布式计算功能加速应用，发挥多个节点并行处理能力。 3. 可视化：通过 LangSmith 可视化工作流程，查看各步骤输入输出及组件性能状态，用于调试和优化，发现并解决潜在问题和瓶颈。 其应用场景多样，包括： 1. 专业问答：构建医疗、法律、金融等专业领域的问答应用，从专业数据源检索信息辅助大模型回答问题，如从医学文献中检索疾病诊治方案回答医疗问题。 2. 文本摘要：构建新闻或论文摘要应用，从多个数据源检索相关文本帮助大模型生成综合摘要，如从多个新闻网站检索同一事件报道生成全面摘要。 3. 文本生成：构建诗歌、故事生成等应用，从不同数据源检索灵感协助大模型生成更有趣和创意的文本，如从诗歌、歌词或小说中检索相关文本生成作品。 此外，还介绍了本地部署资讯问答机器人的实现方式，即基于用户问题从向量数据库检索相关段落并按阈值过滤，让模型参考上下文信息回答，还创建了网页 UI 并进行评测，对不同模型的测试表现进行了对比，得出 GPT4 表现最佳等结论，并总结了使用 Langchain 和 Ollama 技术栈在本地部署资讯问答机器人及相关要点，即上下文数据质量和大模型性能决定 RAG 系统性能上限。
2025-04-11
飞书智能伙伴创建平台 RAG实现
飞书智能伙伴创建平台（英文名：Aily）是飞书团队旗下的企业级 AI 应用开发平台，能提供简单、安全且高效的环境，帮助企业构建和发布 AI 应用，推动业务创新和效率提升，为企业探索大语言模型应用新篇章、迎接智能化未来提供理想选择。 在飞书智能伙伴创建平台上实现 RAG 相关应用有多种方式： 1. 利用飞书的知识库智能问答技术，引入 RAG 技术，通过机器人帮助用户快速检索内容。 2. 可以使用飞书的智能伙伴功能搭建 FAQ 机器人，了解智能助理的原理和使用方法。 3. 本地部署资讯问答机器人，如通过 Langchain + Ollama + RSSHub 实现 RAG，包括导入依赖库、从订阅源获取内容、为文档内容生成向量等步骤。例如使用 feedparse 解析 RSS 订阅源，ollama 跑大模型（使用前需确保服务开启并下载好模型），使用文本向量模型 bgem3（如从 https://huggingface.co/BAAI/bgem3 下载，假设放置在某个路径 /path/to/bgem3，通过函数利用 FAISS 创建高效向量存储）。 使用飞书智能伙伴创建平台的方式： 1. 在 WaytoAGI 飞书知识库首页找到加入飞书群的链接（二维码会定期更新，需在找到最新二维码），点击加入，直接@机器人。 2. 在 WaytoAGI.com 的网站首页，直接输入问题即可得到回答。 创建问答机器人的原因： 1. 知识库内容庞大，新用户难以快速找到所需内容。 2. 传统搜索基于关键词及相关性，存在局限性。 3. 需要用更先进的 RAG 技术解决问题。 4. 在群中提供快速检索信息的方式，使用更便捷。 2024 年 2 月 22 日的会议介绍了 WaytoAGI 社区的成立愿景和目标，以及其在飞书平台上的知识库和社区情况，讨论了相关技术和应用场景，并介绍了企业级 agent 方面的实践。
2025-04-08
RAG是什么
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。 大模型需要 RAG 进行检索优化的原因在于其存在一些缺点： 1. LLM 无法记住所有知识，尤其是长尾知识，受限于训练数据和学习方式，对长尾知识的接受能力不高。 2. LLM 的知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。 3. LLM 的输出难以解释和验证，存在内容黑盒、不可控及受幻觉干扰等问题。 4. LLM 容易泄露隐私训练数据。 5. LLM 的规模大，训练和运行成本高。 而 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，可解释且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。 RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。其最常见应用场景如知识问答系统，用户提出问题，RAG 模型从大规模的文档集合中检索相关的文档，然后生成回答。 一个 RAG 的应用可抽象为 5 个过程： 1. 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器。 2. 文本分割：文本分割器把 Documents 切分为指定大小的块。 3. 存储：包括将切分好的文档块进行嵌入转换成向量的形式，以及将 Embedding 后的向量数据存储到向量数据库。 4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。
2025-04-03
RAG实战教程推荐
以下为您推荐一些 RAG 实战教程： 1. 【AI+知识库】商业化问答场景，让 AI 回复更准确，一篇专为所有“小白”讲透 RAG 的实例教程（上篇）： 介绍了常见的错误场景，如回答不准确、报价错误、胡编乱造等，强调了优化 AI 准确回答的重要性，并引出 RAG 概念。 讲解了基础概念，包括优化幻觉问题和提高准确性需要了解从“问题输入”到“得到回复”的过程，并针对每个环节逐个调优。 阐述了检索原理，包括问题解析阶段通过嵌入模型将问题文本转化为向量，知识库检索阶段比较向量选择相关信息片段，信息整合阶段构建融合全面的信息文本，大模型生成回答阶段将整合后的信息转化为向量输入大语言模型生成回答。还通过实例进行了详细说明，如知识库检索部分的向量化、优化问题、向量检索、抽取内容块等，以及大模型对话部分。 2. 开发：LangChain 应用开发指南 不用向量也可以 RAG： 以餐饮生活助手为例展示了基于结构化数据来 RAG 的实战方法，包括给出用户提问和回复的示例，以及餐饮生活助手 RAG 的代码实战。 介绍了实现餐饮生活助手 RAG 的 Langchain 代码实战需要完成的步骤，如定义餐饮数据源，将餐饮数据集转化为 Langchain 可识别和操作的数据源并注册到 Langchain 中；定义 LLM 的代理，通过 Langchain 的代理根据用户问题提取信息、形成查询语句、检索数据源、生成答案并输出给用户。
2025-04-01
如何学习RAG
以下是关于学习 RAG 的方法和相关内容： 1. 从 AI 搜索切入：RAG 流程复杂，可先从熟悉的 AI 搜索入手。AI 大模型擅长语义理解和文本总结，但不擅长获取实时信息；搜索引擎擅长获取实时信息但信息分散，需人为总结。AI 与搜索引擎结合，给 AI 配备活字典，搜索引擎充当知识库。 2. 用 Coze 学习 RAG 的方法： 推荐使用 Claude + Coze 的方法。Claude 是强大的 AI 大模型，Coze 是 AI Agent 的衍生产品。 首先通过 Claude 了解细节概念，然后通过 Coze 搭建 Demo，在动手实践中学习。 学习过程中创建了 4 个 Bot： 产品资料问答机器人，利用 Coze 的知识库能力演示知识库在企业中的应用。 Query 改写助手学习 Bot，专门用于学习 Query 的改写。 Query 改写效果对比 Bot，对比 Query 改写和未改写的区别。 RAG 全流程学习 Bot，结合对 RAG 全流程的了解，使用 Coze 的工作流模拟 RAG 的离线存储和在线检索全流程。 3. 相关视频演示： 还不知道 Coze 是什么的同学可以看公开分享： 。
2025-04-01
ai可以和哪些领域结合，让普通的人的生活得到帮助
AI 可以与以下领域结合，为普通人的生活提供帮助： 1. 教育培训： 借助大型语言模型，人工智能生成的角色可以作为数字教师，如让牛顿亲自授课《牛顿运动定律》，让白居易为您讲述《长恨歌》背后的故事。 数字教师可以实现一对一辅导，根据学生的学习情况、兴趣和偏好提供定制化的学习计划和资源，缓解教育资源不平等的问题。 人工智能生成的虚拟角色也可以是数字陪伴，促进儿童成长。 2. 娱乐和休闲： 在影视行业，AGI 时代每个人都可以让 AI 根据自己喜好“量身定制”电影或剧集，甚至互动式地发展剧情。 在游戏领域，AGI 可以创造出高度逼真的虚拟角色，与玩家互动，使游戏世界更加生动。 在音乐、美术创作方面，AGI 能与人类艺术家协作或作为创作者助理，普通人也可以通过简短描述让 AGI 生成作品。 3. 日常生活： AGI 可以读取用户日程和邮件，自动为用户安排最优路线、预订餐厅、购买日用品等。 在购物时，AI 可以根据用户的尺寸和喜好筛选商品清单，甚至替用户做决定。 但在享受这些便利的同时，也需要警惕过度依赖带来的问题，如人类判断力和独立思考能力的退化。
2025-04-14
请问DeepSeek如何与生产型企业进行结合创造效益 ？
DeepSeek 与生产型企业的结合可以从以下几个方面创造效益： 1. 模型优化与性能提升：英伟达基于 FP4 优化的 DeepSeekR1 检查点现已在 Hugging Face 上开源。这种优化将模型Transformer 模块内的线性算子的权重和激活量化到了 FP4，适用于 TensorRTLLM 推理。每个参数从 8 位减少到 4 位，使磁盘空间和 GPU 显存的需求减少约 1.6 倍。使用 TensorRTLLM 部署时，需要支持 TensorRTLLM 的英伟达 GPU（如 B200），并且需要 8 个 GPU 来实现 tensor_parallel_size=8 的张量并行。代码利用 FP4 量化、TensorRT 引擎和并行计算，实现高效、低成本的推理，适合生产环境或高吞吐量应用。 2. 部署指南：社区伙伴 Hua 投稿的《在 Azure AI Foundry 部署 DeepSeek 大模型全指南》，手把手指导在微软 Azure AI Foundry 平台上完成 DeepSeek R1（671B）模型的完整部署流程，包含环境准备、资源管理、模型测试及 API 调用说明。 3. 为企业带来实质提升：DeepSeek 的强化学习和联网搜索能力改变了信息获取方式，从“检索—阅读—摘要”转变为“提问—获得答案”，大幅提升工作效率。其开源策略打破了技术垄断，让国内大模型能力迅速提升。在企业级部署方面，通过行业知识蒸馏和领域自适应训练，实现对企业非结构化数据的深度解析能力。特别是在实时决策支持、多模态交互及复杂知识图谱构建方面，为企业打造具备持续进化能力的数字神经中枢。这种“AI 即服务”的部署模式，重构了传统工作流效率，并通过预测性分析和认知自动化开启企业智能化的第二增长曲线。同时，还可以考虑垂直场景强化学习机制的增加，如在智能制造场景中嵌入设备故障模式自发现的奖惩机制；以及可信计算架构的升级，针对金融、医疗等高合规需求场景。
2025-04-10
CRM那些功能适合和ai结合
AIGC 在 CRM 中的应用主要包括以下几个方面： 1. 个性化营销内容创作：根据客户个人信息、购买历史、偏好等数据生成个性化且富有创意的营销文案、视觉内容等，提高营销效率和转化率。 2. 客户服务对话系统：基于 AIGC 的对话模型开发智能客服系统，通过自然语言交互解答客户咨询、投诉等，缓解人工客服压力。 3. 产品推荐引擎：借助 AIGC 生成丰富的产品描述、视觉展示等内容，结合推荐算法为客户推荐更贴合需求的产品，提升销售业绩。 4. CRM 数据分析报告生成：AIGC 可以自动生成数据分析报告，包括文字、图表、视频演示等形式，加快报告生产流程。 5. 智能翻译和本地化：提供高质量的多语种翻译及本地化服务，帮助企业打造全球化营销内容。 6. 虚拟数字人和营销视频内容生成：快速生成虚拟数字人形象、场景背景和营销视频内容，降低视频制作成本。 7. 客户反馈分析：高效分析海量客户反馈文本和多媒体信息，挖掘客户需求和潜在痛点。 以下是一些与 AI 结合的 CRM 相关产品推荐： 1. Clay：一款 AI 驱动的联系人应用软件，自动整理联系人信息，帮助管理个人和职业人脉。 2. Promptden：提示词交流和交易社区，可探索、发现和分享从 ChatGPT 和 Bard 文本提示到 MidJourney、Stable Diffusion 等 AI 生成的图像。 3. Parthean AI：财务教练，将 AI 工具与个人财务信息集成，提供定制答案，帮助用户制定预算并规划财务目标。 4. TinyStudio：免费的 Mac 应用程序，利用 M1/M2 芯片为视频和音频文件生成字幕。 5. Pagegpt：提供个性化网页设计，生成文案和图片，帮助吸引和转化顾客。 此外，工具使用或函数调用通常被视为从 RAG 到主动行为的第一个半步，为现代人工智能栈增加新的层。一些流行的原语如网页浏览（Browserbase、Tiny Fish）、代码解释（E2B）和授权+认证（Anon）已经出现，它们使 LLMs 能够导航网络、与外部软件（如 CRM、ERP）交互并运行自定义代码。例如，Omni 的计算 AI 功能利用 LLM 直接输出适当的 Excel 函数到电子表格中，然后执行计算并自动生成复杂查询供用户使用。
2025-04-09
扣子AI在中小学数学教学中可以怎么结合使用
扣子 AI 在中小学数学教学中的结合使用可以参考以下方面： 1. 自适应学习系统：例如使用像 Khan Academy 这样的平台，结合 AI 技术为学生提供个性化的数学学习路径和练习题，根据学生的能力和需求进行精准推荐。 2. 智能题库和作业辅助：利用像 Photomath 这样的工具，通过图像识别和数学推理技术为学生提供数学问题的解答和解题步骤。 3. 虚拟教学助手：使用如 Socratic 这样的应用，借助 AI 技术为学生解答数学问题、提供教学视频和答疑服务，帮助学生理解和掌握数学知识。 4. 交互式学习平台：参与像 Wolfram Alpha 这样的交互式学习平台的数学学习课程和实践项目，利用 AI 技术进行数学建模和问题求解。 此外，为小学数学课设计教育游戏时，可以考虑以下几个方面： 1. 游戏机制：选择适合小学生的游戏机制，如跳跃、追逐、搜寻等，增加游戏趣味性和参与度。 2. 游戏元素：选择数学相关的元素，如数字、运算符号、图形等，将它们融入游戏中，使学生通过游戏了解或巩固相应的数学知识。
2025-04-01
ai和office软件结合的插件有哪些
以下是一些 AI 和 Office 软件结合的插件： 1. Excel Labs：这是一个 Excel 插件，新增了基于 OpenAI 技术的生成式 AI 功能，可用于数据分析和决策支持。 2. Microsoft 365 Copilot：微软推出的 AI 工具，整合了 Word、Excel、PowerPoint、Outlook、Teams 等办公软件，能通过聊天形式完成用户需求，如数据分析和格式创建。 3. Formula Bot：提供数据分析聊天机器人和公式生成器两大功能，用户可通过自然语言交互式地进行数据分析和生成 Excel 公式。 4. Numerous AI：支持 Excel 和 Google Sheets 的 AI 插件，能进行公式生成、生成相关文本内容、执行情感分析、语言翻译等任务。 随着技术发展，未来可能会有更多 AI 功能集成到 Office 软件中，进一步提高工作效率和智能化水平。内容由 AI 大模型生成，请仔细甄别。
2025-04-01
AI与autocad ，blender结合应用
以下是关于 AI 与 AutoCAD、Blender 结合应用的相关信息： 与 Blender 结合应用： 通过联网搜索向 AI 提供最新信息，常见的 AI 助手采用此方式获取实时信息。 可通过 API 向 AI 提供自有系统数据，解决行业内部或自有系统信息接入问题。 MCP 协议为 AI 大模型与数据源集成提供统一标准，实现更可持续的架构。 可以通过一句话提示，让 Claude 自动化打开 Blender 将 2D 图片转为 3D 建模，还能基于此搭建互动网页。 有网友展示“Rodin AI”在 Blender 中通过 Blender MCP 进行自动 3D 建模的过程。 幻之境开发小组联合开发了基于 STABLE DIFFUSION ComfyUI 核心的 Blender AI 插件“无限圣杯”。 Blender 是免费开源的三维制作软件，与 ComfyUI 在工作流程上天然适配。 目前提供的内容中未涉及 AI 与 AutoCAD 结合应用的相关信息。
2025-04-01
多模态应用
以下是一些多模态应用的案例： 1. 电商领域： 拍立淘：由淘宝推出，用户拍照即可识别商品并直接进入购物页面，简化购物搜索步骤。 探一下：支付宝推出的图像搜索引擎，拍照后 AI 能识别并搜索相关商品或信息。 2. 创意领域： 诗歌相机：拍照能生成一首诗，还能打印，将诗意与现代技术结合，并做成硬件形式。 3. 技术平台： 阿里云百炼大模型平台为企业侧提供各种原子级别能力，包括多模态能力。 4. 其他应用场景： 融图：如把图二中的机器人合成到图一的环境中，保持比例、细节、光影和氛围感统一。 小红书风格卡片：使用特定风格生成关于特定内容的卡片。 Logo 转 3D 效果：将图标改成 3D 立体、毛玻璃、毛绒等效果。 示意图转卡通漫画：把示意图转成幼儿园小朋友能看懂的漫画并配中文说明。 遥感理解（图像数据）：识别图中的建筑物并用色块标注。 包装图直出效果：生成图片对应的包装侧面效果图。 参考生成海报图：参考小红书封面生成 PPT 设计相关封面图。 三维建模模拟：将图片转化为 3D max 建模渲染界面并加入 UI 界面。 手办三视图：保留人物样貌、神态，制作成特定要求的 3D 手办三视图。
2025-04-18
金融业相关AI应用场景或AI技术介绍
在金融业中，AI 有以下应用场景和技术： 1. 风控和反欺诈：用于识别和阻止欺诈行为，降低金融机构的风险。 2. 信用评估：评估借款人的信用风险，帮助金融机构做出更好的贷款决策。 3. 投资分析：分析市场数据，辅助投资者做出更明智的投资决策。 4. 客户服务：提供 24/7 的客户服务，回答客户常见问题。 例如，Hebbia 获得近 1 亿美元 B 轮融资，其 AI 技术能够一次处理多达数百万份文档，在短时间内浏览数十亿份包括 PDF、PowerPoint、电子表格和转录内容等，并返回具体答案，主要面向金融服务公司，如对冲基金和投资银行，同时也适用于律师事务所等其他专业领域。
2025-04-15
结构化思维在AI办公里的应用
结构化思维在 AI 办公中有以下应用： 在 Model Context Protocol 托管平台中： 特色功能方面，Sequential Thinking 提供动态和反思性问题解决的结构化思维过程，适用于复杂问题分析和决策。 核心功能分类包括笔记管理工具（如 Simple Notes MCP Server、Bear MCP Server、Notion 集成）、AI 对话工具（如 Autonomous Coder Agent、OpenAI 兼容 API 集成）、Google Workspace 集成（如 Gmail 和 Google Calendar 集成、多账户管理、邮件搜索和撰写、日历事件管理）、学术研究工具（如 Semantic Scholar 集成、PubMed 搜索、arXiv 论文访问、IACR 密码学文献库访问）、AI 数据库管理（如 MySQL Server 集成、知识图谱记忆服务、DuckDB 集成、Airtable 集成）。 面对 AI 幻觉问题时，可使用结构化思考工具辅助判断，如决策矩阵用于面对多个选择时做出更理性的决策，检查清单用于执行复杂任务时确保每个步骤按计划完成，风险评估模型用于做重要决策时分析不同方案的风险并制定应对措施。 在让 AI 像人类一样思考方面，构建逻辑体感轮子，包括逻辑推理功能和内容抽象功能。内容抽象功能能够高效地组织内容，体现结构化思维，通过心智单元的抽象思维高效地组织复杂任务。
2025-04-14
公共议题:AI如何助力HR业务? 研讨目标： 深入理解:深入探讨 AI在人力资源管理领域的应用、薪酬管理、员工关系、公司文化、包括人才获取与配置、学习与发展、组织与人才培、HR共享与HRIS等各模块的可应用场景 机会识别与场景落地:基于组织现状，识别出业务价值高、可落地的 A 应用场景; 研讨成果(输出物)： 请输出10个业务价值高、具备可行性的AI应用场景介绍，并说明what(场景是什么)、why(为什么值得做)、How(如何落地);
以下是为您生成的 10 个业务价值高、具备可行性的 AI 应用场景介绍： 1. 人才招聘与筛选 What：利用 AI 技术对求职者的简历进行自动筛选和分析，评估其与岗位的匹配度。 Why：节省 HR 大量的时间和精力，提高招聘效率和准确性。 How：通过自然语言处理和机器学习算法，训练模型识别关键信息和技能。 2. 员工培训与发展 What：根据员工的技能水平和职业发展目标，定制个性化的培训计划。 Why：提升员工的能力和绩效，增强员工对企业的忠诚度。 How：利用大数据分析员工的工作表现和学习需求，推荐相关课程和学习资源。 3. 薪酬福利管理 What：运用 AI 预测市场薪酬趋势，为企业制定合理的薪酬策略。 Why：保持企业薪酬的竞争力，吸引和留住优秀人才。 How：收集和分析行业薪酬数据，结合企业的财务状况和战略目标进行优化。 4. 员工绩效评估 What：借助 AI 实时监测员工的工作表现，提供客观的绩效评估。 Why：减少人为偏差，确保评估的公正性和准确性。 How：利用工作流程数据和行为分析模型进行评估。 5. 员工关系管理 What：通过 AI 分析员工的情绪和满意度，及时发现问题并解决。 Why：营造良好的工作氛围，提高员工的工作积极性和创造力。 How：使用情感分析技术处理员工的反馈和交流信息。 6. 组织架构优化 What：利用 AI 分析企业的业务流程和人员配置，提供组织架构调整建议。 Why：提高企业的运营效率和灵活性，适应市场变化。 How：基于数据分析和模拟优化算法进行评估和推荐。 7. 人力资源规划 What：根据企业的战略目标和业务发展预测人力资源需求。 Why：提前做好人才储备和招聘计划，保障企业的正常运营。 How：运用数据分析和预测模型进行规划。 8. 企业文化传播 What：使用 AI 生成个性化的企业文化宣传内容，提高传播效果。 Why：增强员工对企业文化的认同感和归属感。 How：利用自然语言生成技术和个性化推荐算法。 9. 智能客服 What：在 HR 服务中引入 AI 客服，解答员工常见问题。 Why：快速响应员工需求，提高服务质量。 How：训练智能客服模型，涵盖常见的 HR 问题和解决方案。 10. 人才库管理 What：利用 AI 对人才库进行分类和更新，提高人才库的利用效率。 Why：方便快速找到合适的人才，降低招聘成本。 How：运用数据挖掘和分类算法进行管理。
2025-04-14
公共议题:AI如何助力HR业务? 研讨目标： 深入理解:深入探讨 AI在人力资源管理领域的应用、薪酬管理、员工关系、公司文化、包括人才获取与配置、学习与发展、组织与人才培、HR共享与HRIS等各模块的可应用场景 机会识别与场景落地:基于组织现状，识别出业务价值高、可落地的 A 应用场景; 研讨成果(输出物)： 请输出3-5个业务价值高、具备可行性的AI应用场景介绍，并说明what(场景是什么)、why(为什么值得做)、How(如何落地);
以下是为您提供的 3 个业务价值高、具备可行性的 AI 应用场景介绍： 场景一：AI 在企业招聘中的应用 What：利用 AI 技术进行简历筛选、人才匹配和面试评估。 Why：能够快速处理大量简历，提高招聘效率和准确性，节省人力和时间成本，同时更精准地找到符合岗位需求的人才。 How：通过引入相关的 AI 招聘软件，与企业现有的招聘系统集成，对简历进行关键词提取和分析，利用机器学习算法进行人才匹配，并通过视频面试中的语音和表情分析辅助评估候选人。 场景二：AI 助力个性化人力资源管理 What：根据员工的个人特点和工作表现，提供个性化的培训计划、职业发展建议和绩效评估。 Why：能够充分发挥员工的潜力，提高员工满意度和忠诚度，促进企业的长期发展。 How：收集员工的工作数据、学习记录和绩效表现等信息，运用 AI 算法进行分析和预测，为员工制定专属的发展方案，并通过移动应用或内部系统向员工推送相关建议和培训课程。 场景三：AI 打造无人值守的 HR 平台 What：实现 HR 业务的自动化处理，如员工请假审批、薪酬计算和福利发放等。 Why：减少人工操作的错误和繁琐流程，提高 HR 工作的效率和准确性，使 HR 人员能够专注于更有价值的战略工作。 How：整合企业内部的各种 HR 系统和数据，利用 RPA 和 AI 技术实现流程的自动化，同时建立监控和预警机制，确保平台的稳定运行。
2025-04-14
飞书+AI的应用案例
以下是飞书+AI的应用案例： 在企业运营方面，包括日常办公文档材料撰写整理、营销对话机器人、市场分析、销售策略咨询，以及法律文书起草、案例分析、法律条文梳理和人力资源简历筛选、预招聘、员工培训等。 在教育领域，协助评估学生学习情况，为职业规划提供建议，针对学生情况以及兴趣定制化学习内容，论文初稿搭建及论文审核，帮助低收入国家/家庭通过 GPT 获得平等的教育资源。 在游戏/媒体行业，有定制化游戏、动态生成 NPC 互动、自定义剧情、开放式结局，出海文案内容生成、语言翻译及辅助广告投放和运营，数字虚拟人直播，游戏平台代码重构，AI 自动生成副本。 在零售/电商领域，包括舆情、投诉、突发事件监测及分析，品牌营销内容撰写及投放，自动化库存管理，自动生成或完成 SKU 类别选择、数量和价格分配，以及客户购物趋势分析及洞察。 在金融/保险行业，有个人金融理财顾问、贷款信息摘要及初始批复、识别并检测欺诈活动风险、客服中心分析及内容洞。 线下活动方面： 活动宣传：用飞书文档制作活动宣传页面，用 AI 快速制作海报，用 GPTs 写人员分配和主持人台词，活动从策划到开始仅用 2 天时间。 活动报名：使用飞书的多维表格完成报名表及数据统计。 活动过程：大家在线协同，一起编辑文档，演示时共同展示一个文档。 活动记录：有相关的记录页面。 办活动的初衷是宣扬 AI 不只是降本增效的工具，还有很多乐趣等待挖掘，例如大理户外圆桌讨论、清迈的 AI 逛古城、杭州的 AI 玄学小组。
2025-04-13