Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

对于大语言模型使用的未来趋势，是闭源云端还是开源本地部署，作为普通用户是否有必要了解本地部署知识，并且是否有必要自己搭建agent以及rag？

Answer

大语言模型的未来趋势在闭源云端和开源本地部署方面存在多种可能性。

对于开源本地部署，以下是一些相关信息：

  • Ollama 是一个方便用户在本地运行和管理大型语言模型的框架，具有以下特点：
    • 支持多种大型语言模型，如通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。
    • 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。
    • 提供模型库，用户可从中下载不同模型，以满足不同需求和硬件条件，模型库可通过 https://ollama.com/library 查找。
    • 支持用户自定义模型，例如修改温度参数调整创造性和连贯性，或设置特定系统消息。
    • 提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。
    • 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。
    • 安装可访问 https://ollama.com/download/ 。
  • 可以通过一些教程学习如何本地部署大模型以及搭建个人知识库，例如了解如何使用 Ollama 一键部署本地大模型、通过搭建本地聊天工具了解 ChatGPT 信息流转、RAG 的概念及核心技术、通过 AnythingLLM 搭建完全本地化的数据库等。

同时，采用开源或国内企业提供的 13B 级模型本地部署在内部系统中，虽需投入算力，但有其价值。智能客服的大量优质大客户可能会选择自己搭建智能客服平台，并结合大模型企业提供的技术服务，基于大模型搭建 LangChain、RAG 框架，实现 RPA 自动流程。

对于普通用户是否有必要了解本地部署知识以及是否有必要自己搭建 agent 以及 rag，这取决于个人需求和兴趣。如果您希望更深入了解大模型的工作原理和运行机制，或者有特定的个性化需求，那么了解和尝试本地部署可能是有意义的。但如果只是一般的使用需求，可能无需深入了解和自行搭建。

Content generated by AI large model, please carefully verify (powered by aily)

References

本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现 RAG

1.支持多种大型语言模型：Ollama支持包括通义千问、Llama 2、Mistral和Gemma等在内的多种大型语言模型，这些模型可用于不同的应用场景。2.易于使用：Ollama旨在使用户能够轻松地在本地环境中启动和运行大模型，适用于macOS、Windows和Linux系统，同时支持cpu和gpu。3.模型库：Ollama提供了一个模型库，用户可以从中下载不同的模型。这些模型有不同的参数和大小，以满足不同的需求和硬件条件。Ollama支持的模型库可以通过https://ollama.com/library进行查找。4.自定义模型：用户可以通过简单的步骤自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。5.API和集成：Ollama还提供了REST API，用于运行和管理模型，以及与其他应用程序的集成选项。6.社区贡献：Ollama社区贡献丰富，包括多种集成插件和界面，如Web和桌面应用、Telegram机器人、Obsidian插件等。7.总的来说，Ollama是一个为了方便用户在本地运行和管理大型语言模型而设计的框架，具有良好的可扩展性和多样的使用场景。后面在捏Bot的过程中需要使用Ollama，我们需要先安装，访问以下链接进行下载安装。https://ollama.com/download/

手把手教你本地部署大模型以及搭建个人知识库

大家好，我是大圣，一个致力使用AI工具将自己打造为超级个体的程序员。目前沉浸于AI Agent研究中无法自拔今天给大家分享的是手把手教你如何部署本地大模型以及搭建个人知识库读完本文，你会学习到如何使用Ollama一键部署本地大模型通过搭建本地的聊天工具，了解ChatGPT的信息是如何流转的RAG的概念以及所用到的一些核心技术如何通过AnythingLLM这款软件搭建完全本地化的数据库虽然我们大多数人不需要在自己部署大模型，但是我期望在本文的帮助下，能够带你手把手折腾一遍。这样在使用任何软件的时候，可以做到知其然，知其所以然。

观点：LLM落地思考

同时，采用开源或者国内智谱、文心、百川等企业提供的13B级模型，本地部署在自己的内部系统中，虽然需要投入算力，但是算力的价值已经是世界共识了，而大模型的故事可以给企业带来很多资本届的好处，因此，智能客服的大量优质大客户，会纷纷选择自己搭建智能客服平台。再结合大模型企业提供的技术服务，基于大模型搭建LangChain、RAG框架，在智能客服上还可以继续实现RPA自动流程。可以大胆的这样讲，智能客服的企业外部需求，终究是要被证伪了。4、智能客服的结局我个人的看法，痛定思痛，转化为LLM技术支持方，专注发力LLM的工程化应用方向，去为企业提供更好的LLM本地部署和工程化，走IBM的企业服务道路，可能是最好的选择了。毕竟各行各业+LLM的转型还是有很大的市场的，大厂也难以全部吃掉，甚至可以作为大厂大模型的工程分包商。（类似于华为卖企业网关、路由器等网络设备，需要在各个城市找一些工程承包商来根据每个企业办公室的具体格局布网施工一个逻辑）或者就是转变赛道了，向智齿客服，他们借助这两年国内出海的兴起，以及中东、东南亚需求的旺盛，提供在这个方向的智能客服国内服务，这可能还是有一些需求的。

Others are asking
如何本地部署大模型，如何选择是否使用云服务商
以下是关于本地部署大模型以及选择是否使用云服务商的相关内容： 本地部署大模型的主要步骤： 1. 选择合适的部署方式，包括本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身的资源、安全和性能需求进行选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，可以使用开源的预训练模型如 BERT、GPT 等，也可以自行训练一个基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调训练，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，大模型涉及大量数据和隐私信息，需要重视安全性和合规性。 以 SDXL 为例的本地部署步骤： 1. SDXL 的大模型分为两个部分，base+refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对生成的模型进行细化，生成细节更丰富的图片。还有一个配套的 VAE 模型，用于调节图片的画面效果和色彩。 2. 想要在 webUI 中使用 SDXL 的大模型，首先要在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 将模型放入对应的文件夹中，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。完成之后，启动 webUI，就可以在模型中看到 SDXL 的模型。 以 LLM 大语言模型为例的本地部署步骤： 1. 下载并安装 Ollama，点击进入根据电脑系统下载 Ollama：https://ollama.com/download ，下载完成后，双击打开，点击“Install”，安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 。 2. 下载 qwen2:0.5b 模型（0.5b 是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型）。如果是 windows 电脑，点击 win+R，输入 cmd，点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。复制相关命令行，粘贴进入，点击回车，等待下载完成。 总的来说，部署大模型需要综合考虑多方面因素，包括部署方式、数据准备、模型训练、部署调试以及安全性等。需要根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。
2025-04-14
本地部署
SDXL 的本地部署步骤如下： 1. 模型下载：SDXL 的大模型分为两个部分，第一部分 base + refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对文生图生成的模型进行细化以生成细节更丰富的图片。此外，还有一个配套的 VAE 模型用于调节图片的画面效果和色彩。这三个模型可通过关注公众号【白马与少年】，回复【SDXL】获取云盘下载链接。 2. 版本升级：要在 webUI 中使用 SDXL 的大模型，需在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 放置模型：将 base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。 4. 启动使用：完成上述步骤后启动 webUI，即可在模型中看到 SDXL 的模型。正常使用时，先在文生图中使用 base 模型，填写提示词和常规参数（如尺寸设置为 10241024）进行生成。然后将图片发送到图生图当中，大模型切换为“refiner”，重绘幅度开小一点再次点击生成。 5. 插件辅助：若觉得操作麻烦，可在扩展列表中搜索 refine 安装插件并重启，启用插件后可在文生图界面直接使用 refine 模型进行绘画。 另外，关于本地部署资讯问答机器人：Langchain + Ollama + RSSHub 实现 RAG，步骤包括导入依赖库（如 feedparse 用于解析 RSS 订阅源，ollama 用于在 python 程序中跑大模型，使用前需确保 ollama 服务已开启并下载好模型）、从订阅源获取内容（通过指定函数从 RSS 订阅 url 提取内容，并将长文本拆分成较小的块附带相关元数据）、为文档内容生成向量（使用文本向量模型 bgem3，从 hf 下载好模型后放置在指定路径，通过函数利用 FAISS 创建高效的向量存储），最终实现 RAG。
2025-04-13
我有秋叶整合包，然后需要怎么搭建本地部署？
以下是使用秋叶整合包搭建本地部署的步骤： 1. 下载整合包：可以从。 2. 复制启动器到下载仓库的目录下。 3. 打开启动器，可一键启动。如果有其他需求，可以在高级选项中调整配置。 显存优化根据显卡实际显存选择，不要超过当前显卡显存。xFormers 能极大地改善内存消耗和速度，建议开启。 4. 准备工作完毕后，点击一键启动即可。等待浏览器自动跳出，或是控制台弹出本地 URL 后说明启动成功。 如果报错提示缺少 Pytorch，则需要在启动器中点击配置。 5. Stable Diffusion webui 的更新比较频繁，请根据需求在“版本管理”目录下更新，同时注意插件的更新。 在 webui 的“扩展”选项卡下，可以安装插件。点击“加载自”后，目录会刷新，选择需要的插件点击右侧的 install 即可安装。安装完毕后，需要重新启动用户界面。 具体安装方法： 1. 打开整合包链接（https://pan.baidu.com/s/1hY8CKbYRAj9RrFGmswdNiA?pwd=caru ，提取码：caru），下载《1.整合包安装》，存放到电脑本地。 2. 打开保存到电脑里的文件夹。 3. 打开文件夹《1.秋叶整合包主包》，鼠标右击文件，点击“解压文件”。 4. 选择解压到 D 盘或者 E 盘（避免 C 盘被占满），点击确定。 5. 解压完成后，来到第二个文件夹，双击里面的文件，点击安装。 6. 打开刚刚解压保存的 SD 的根目录，找到启动器，鼠标右击启动器，点击“发送到”，选择桌面快捷方式，方便下次进入。 7. 双击启动器，等待更新，接着点击左边第二个“高级选项”，在显存优化里，根据自己电脑的显存选择。 8. 回到第一个一键启动，点击右下角的一键启动。出现代码页面不用管，等待 SD 的主界面在网页上自动弹出。如果出现报错，可以回到最开始的界面，在左边点击“疑难解答”，再点击右边的“开始扫描”，最后点击“修复”按钮。
2025-04-12
如何部署自己私人AI
部署自己私人 AI 可以参考以下几种方式： 通过云服务器、dify、智能微秘书来免费搭建微信机器人： 1. 在宝塔面板的终端安装相关命令，这些命令位于/root/dify/docker 目录下。 2. 检查运行的容器数量，若 nginx 容器无法运行，可能是 80 端口被占用，可将终端输出的代码粘贴给 AI 以解决。 3. 在浏览器地址栏输入公网 IP（去掉后面的:8888），进入后邮箱密码随便填，建立知识库并进行设置。 4. 选择模型，国内模型有免费额度可选，如智谱 ai，获取钥匙并复制保存，创建应用进行测试和发布。 基于 Hook 机制的微信 AI 机器人： 1. 将 Administrators 改成“wxid_dna83ykqawl222”。 2. 若有 FastGPT 或者 OpenAI 的 key，将 Ai_Lock 修改成“1”，并在 OpenAI 处添加模型 key；若没有，保持 Ai_Lock 为 0。 3. 修改后点击保存。 4. 返回 NGCbot 文件夹下，找到 main.py 文件双击运行。 5. 运行后会弹出微信登录框，正常登录微信，等待系统自动初始化必备文件。 6. 运行成功后，用“大号”给机器人发消息，拿到 wxid 并返回替换。 7. 添加完后，用小号登录，大号可对小号发号施令。 部署和训练自己的 AI 开源模型： 1. 选择合适的部署方式，如本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身资源、安全和性能需求选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，如开源的 BERT、GPT 等，也可自行训练基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，重视大模型涉及的大量数据和隐私信息的安全性和合规性。 总的来说，部署和训练自己的大模型需要综合考虑多方面因素，包括部署方式、数据准备、模型训练、部署调试以及安全性等，根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。
2025-04-11
DEEP SEEK 本地部署(Olama + ChatBox)+私有知识库(cherrystudio)
以下是关于 Deep Seek 本地部署（Olama + ChatBox）+私有知识库（cherrystudio）的相关内容： 一、使用 Docker + RAGFlow + Ollama 搭建个人/企业知识库 1. 将 Ollama 部署的模型接入 GARFlow 返回 RAGFlow 中，打开右上角设置，进入模型提供商，配置 Ollama 相关信息，基础 URL 按要求设置，设置完成后点击确定。 导入一个 embedding 模型用于文本向量化，导入成功后设置系统模型设置，然后返回知识库创建知识库。 进入数据集，导入文件（可设置文件夹当作知识库），导入完毕后解析文件，解析速度取决于本机 GPU 性能，解析好后进行检索测试，测试没问题即可进入聊天界面，助理设置可自行设置。 2. 使用 Ollama 本地部署 DeepSeek 模型 先下载 Ollama 程序，官方网址：https://ollama.com/ 。 下载默认到 C 盘（一般为固态盘，运行速度快），若想修改安装目录到 D 盘，后续会有说明。 下载完右下角会出现 Ollama 图标，打开命令行输入相关命令回车。 若显卡是英伟达 2060Super，可选择 Deepseekr1:14b 的模型，根据自身独立显卡性能下载。 下载速度慢可按 Ctrl+C 强制退出重新下载。 下载完毕后再下载一个嵌入模型，Ollama 的 bge 模型官方网址：https://ollama.com/library/bgem3 ，输入相关命令，下载好后直接退出终端。 二、Flowith 相关报道、采访、使用指南 |标题|发布账号|社媒来源|日期|链接| |||||| |ChatGPT 的对话框过时了？这款 AI 产品提供了一种很新的聊天方式|爱范儿|公众号|2024/04/29|| |Flowith：革新你的工作方式，体验节点式 AI 的超流畅生产力|程序那些事儿|公众号|2024/05/03|| |体验 Flowith：探索人机交互从传统聊天对话到画布式知识管理的转变|AI 兔子洞|公众号|2024/04/22|| |deepseek 服务器繁忙？硅基流不动？看看这篇，内含 18 个平台，可能是最全的 deepseek 方案。|佐佐的 AI 笔记|公众号|2025/02/06|| |满血版自部署 DeepSeekR1+知识库+联网搜索,体验下来可能就只剩下这家了!|字节笔记本|公众号|2025/02/12|| |DeepSeek 让 AI 圈卷出了新高度：Flowith 宣布 DeepSeek R1 现在免费提供!|字节笔记本|公众号|2025/01/27|| |ShowMeAI 周刊 No.15|上周最有讨论度的 6 个 AI 话题：自由画布类产品密集更新、多主体一致成发展趋势、AGI、开源…|ShowMeAI 研究中心|公众号|2025/01/21||
2025-04-10
本地部署大模型，如何微调建立本地知识库
以下是关于本地部署大模型并微调建立本地知识库的详细步骤： 一、使用 AnythingLLM 进行本地知识库搭建 1. 安装 AnythingLLM 安装地址：https://useanything.com/download 安装完成后进入配置页面，主要分为三步： 第一步：选择大模型 第二步：选择文本嵌入模型 第三步：选择向量数据库 2. 构建本地知识库 在 AnythingLLM 中创建自己独有的 Workspace 与其他项目数据隔离。 上传文档并在工作空间中进行文本嵌入。 选择对话模式，提供了 Chat 模式（大模型根据训练数据和上传文档数据综合给出答案）和 Query 模式（大模型仅依靠文档中的数据给出答案）。 二、张梦飞的全本地部署教程 1. 部署大语言模型 下载并安装 Ollama 点击进入，根据电脑系统，下载 Ollama：https://ollama.com/download 下载完成后，双击打开，点击“Install” 安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 下载 qwen2:0.5b 模型 如果是 Windows 电脑，点击 win+R，输入 cmd，点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。 复制相关命令行，粘贴进入，点击回车。 三、智能纪要中的相关内容 在智能纪要中，许键介绍了模型 API 调用方法与知识库创建，包括获取 API key 位置及调用设置，详细讲解了创建 Rag 应用（知识库）流程，如上传非结构化文件、数据解析、切分段落等操作，并回答了诸多问题。同时还涉及工作流创建、模型能力及相关问题的探讨，以及通义千问相关应用及明天课程安排交流等内容。 总之，本地部署大模型并建立本地知识库需要按照上述步骤进行操作和配置，同时不断实践和探索，以达到理想的效果。
2025-04-10
学习AI怎么在工作中使用，提高工作效率，有必要从技术原理开始学习吗
学习 AI 在工作中使用以提高工作效率，不一定需要从技术原理开始学习。以下是一些相关的案例和建议： 案例一：GPT4VAct 是一个多模态 AI 助手，能够模拟人类通过鼠标和键盘进行网页浏览。其应用场景在于以后互联网项目产品的原型设计自动化生成，能使生成效果更符合用户使用习惯，同时优化广告位的出现位置、时机和频率。它基于 AI 学习模型，通过视觉理解技术识别网页元素，能执行点击和输入字符操作等，但目前存在一些功能尚未支持，如处理视觉信息程度有限、不支持输入特殊键码等。 案例二：对于教师来说，有专门的 AI 减负指南。例如“AI 基础工作坊用 AI 刷新你的工作流”，从理解以 GPT 为代表的 AI 工作原理开始，了解其优势短板，学习写好提示词以获得高质量内容，并基于一线教师工作场景分享优秀提示词与 AI 工具，帮助解决日常工作中的常见问题，提高工作效率。 建议：您可以根据自身工作的具体需求和特点，有针对性地选择学习方向。如果您只是想快速应用 AI 提高工作效率，可以先从了解常见的 AI 工具和应用场景入手，掌握基本的操作和提示词编写技巧。但如果您希望更深入地理解和优化 AI 在工作中的应用，了解技术原理会有一定帮助。
2025-04-15
修改以下内容，降低论文查重率：  首先需要高层管理者的重视和支持，为社交媒体营销提供必要的资源和政策支持。其次，要加强员工培训，提高全员的社交媒体素养和营销能力。再次，要建立完善的社交媒体管理制度，规范员工行为，防范潜在风险。最后，要注重技术创新，积极应用人工智能、大数据等新技术，提高社交媒体营销的智能化水平
以下是为您修改后的内容，以降低论文查重率： 首先，高层管理者的重视与支持不可或缺，应为社交媒体营销给予必需的资源及政策支撑。其次，强化员工培训工作，提升全体员工的社交媒体素养与营销能力。再次，构建完备的社交媒体管理体制，对员工行为加以规范，预防潜在风险。最后，注重技术的创新，积极运用人工智能、大数据等新型技术，增强社交媒体营销的智能化程度。
2025-03-07
个人有没有必要本地部署deepseek模型
个人是否有必要本地部署 DeepSeek 模型取决于多种因素。 DeepSeek 模型的权重文件开源，可本地部署。其公司名为“深度求索”，网页和手机应用目前免费，但 API 调用收费。 在云端模型部署方面，有实操演示和使用方法讲解，包括登录 Pad 控制台、选择框架、资源、出价等，还介绍了查看部署状态和日志的方法，以及用 Postman 在线调试模型获取名称及后续使用方式。 在模型部署相关内容中，部署时使用 V1 chat completion s 接口，要注意模型名称、大小写等。同时布置了作业为成功部署大语言模型并调试，提交带钉钉昵称的截图。还讲解了 API 调用方法、费用、停止服务方式等，提醒注意保密 API key，若竞不到价可加价尝试进行本地蒸馏模型部署。 模型蒸馏方面，先介绍云平台部署情况，接着讲解模型蒸馏概念、方式，阐述其应用场景及修复模型幻觉的作用，并进行了实操演示。 综合来看，如果您对数据隐私有较高要求、需要定制化的模型服务、有足够的技术能力和资源来进行本地部署和维护，或者在网络不稳定的情况下使用，那么本地部署可能是有必要的。但如果您的需求相对简单，且不具备相关技术条件和资源，使用云端服务可能更为便捷。
2025-02-27
有必要考取有关AI的证书吗
考取有关 AI 的证书是否有必要，取决于个人的具体情况和目标。以下为您提供一些参考： 从经验来看，像 MQ 老师这样的知乎 AI 讲师，考取了国家工信部、微软、讯飞三个初级人工智能工程师证书。如果您在教育行业工作，拥有相关证书可能会有一定的帮助。 对于新手学习 AI，如果您希望通过在线教育平台（如 Coursera、edX、Udacity）上的课程系统学习，这些课程可能会提供获得证书的机会，这有助于证明您的学习成果。 然而，证书并不是衡量您在 AI 领域能力的唯一标准。更重要的是您对 AI 知识的掌握和实践能力。建议您： 了解 AI 基本概念，熟悉术语和基础概念，包括主要分支（如机器学习、深度学习、自然语言处理等）以及它们之间的联系。 浏览入门文章，了解 AI 的历史、当前的应用和未来的发展趋势。 选择感兴趣的模块深入学习，比如图像、音乐、视频等，并掌握提示词的技巧。 进行实践和尝试，使用各种产品做出作品。 体验 AI 产品，如 ChatGPT、Kimi Chat、智谱、文心一言等 AI 聊天机器人，了解它们的工作原理和交互方式。 总之，是否考取证书要综合考虑您的职业规划、学习需求和个人兴趣等因素。
2025-02-18
有必要报学习AI的课程吗
学习 AI 是否有必要报课程取决于您的具体情况和需求。 如果您想深入学习 AI 中的美学概念和操作，可以考虑报野菩萨课程。对于入门学习，有多种途径可供选择。比如，可以先从国内模型工具入手，因为其不花钱。学习过程可以从提示词开始，国内的大语言模型工具好用，并且在与各类模型对话中提示词具有重要性，结构化提示词还有优势。您还可以参考温达、李弘毅老师的课程等。 另外，若想进阶学习，可能需要考虑高阶方向。在学习过程中，对于账户投资，初期可先从国内模型工具入手。同时，若想深入学习某些内容，可查看官方 cookbook，创作者将内容做成可视化形式也会发到群里。入门经典必读和面向开发者的文章也值得阅读，欢迎上传相关 PPT 用作参考。 总之，是否报课程要综合考虑您的学习目标、预算和现有基础等因素。
2024-12-23
AI绘画这么厉害了，那儿童还有必要学习素描课吗
即便 AI 绘画很厉害，儿童仍有必要学习素描课。手绘素描笔记有助于建立突触连接，将信息从短期记忆转化为长期记忆，让人成为更好的概念思考者。例如，在科学观察中，学生通过手绘能更好地学会观察，这个过程不可被替代。就学习而言，掌握新技能时应先进行动手、动脑、技术最小化的学习，不应一开始就依赖 AI。比如在记笔记时，手写比打字能让学生记住更多信息。此外，在一些课程设计中，如离谱村的 AI 课，通过巧妙的环节设置和老师的引导，能让孩子更好地学习和发挥想象。
2024-12-20
rag
RAG（RetrievalAugmented Generation，检索增强生成）是一种结合检索和生成能力的自然语言处理架构。 通用语言模型通过微调可完成常见任务，而更复杂和知识密集型任务可基于语言模型构建系统，访问外部知识源来完成，如 Meta AI 引入的 RAG 方法。RAG 把信息检索组件和文本生成模型结合，可微调，内部知识修改高效，无需重新训练整个模型。它会接受输入并检索相关支撑文档，给出来源，与原始提示词组合后送给文本生成器得到输出，能适应事实变化，让语言模型获取最新信息并生成可靠输出。 大语言模型（LLM）存在一些缺点，如无法记住所有知识尤其是长尾知识、知识易过时且不好更新、输出难以解释和验证、易泄露隐私训练数据、规模大导致训练和运行成本高。而 RAG 具有诸多优点，如数据库存储和更新稳定且无学习风险、数据更新敏捷且不影响原有知识、降低大模型输出出错可能、便于管控用户隐私数据、降低大模型训练成本。 在 RAG 系统开发中存在 12 个主要难题，并已有相应的解决策略。
2025-04-15
rag介绍
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。 大模型需要 RAG 进行检索优化的原因在于其存在一些缺点： 1. LLM 无法记住所有知识，尤其是长尾知识，受限于训练数据和学习方式，对长尾知识的接受能力不高。 2. LLM 的知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。 3. LLM 的输出难以解释和验证，存在内容黑盒、不可控以及受幻觉等问题干扰的情况。 4. LLM 容易泄露隐私训练数据。 5. LLM 的规模大，训练和运行成本高。 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，可解释且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。 RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。其最常见应用场景是知识问答系统。 一个 RAG 的应用可抽象为 5 个过程： 1. 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器，包括 PDF 在内的非结构化数据、SQL 在内的结构化数据，以及 Python、Java 之类的代码等。 2. 文本分割：文本分割器把 Documents 切分为指定大小的块，称为“文档块”或者“文档片”。 3. 存储：涉及将切分好的文档块进行嵌入转换成向量的形式，并将 Embedding 后的向量数据存储到向量数据库。 4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。
2025-04-14
详细讲解一下ragflow框架，同时对比一下ragflow与常规知识库有什么优势，在graphrag的实现方面ragflow又是怎么做的？
RAG（检索增强生成）是一种有效的解决方案，下面为您详细讲解： RAG 工作流程： 1. 检索（Retrieval）：如同在图书馆中，系统会从知识库或文档集合中找出与用户问题相关的内容。 2. 增强（Augmented）：对检索到的信息进行筛选和优化，挑出最相关和有用的部分。 3. 生成（Generation）：将整合的信息生成自然流畅、易于理解的回答。 RAG 类似于一个超级智能的图书馆员，综合起来： 1. 检索：从庞大知识库中找到相关信息。 2. 增强：筛选优化确保找到最相关部分。 3. 生成：整合信息给出连贯回答。 RAG 的优势： 1. 成本效益：相比训练和维护大型专有模型，实现成本更低。 2. 灵活性：能利用多种数据源，包括结构化和非结构化数据，迅速适应不同领域和变化的数据。 3. 可扩展性：随时增加或更新知识库内容，无需重新训练模型。 RAG 与常规知识库的对比优势： 常规知识库可能存在知识更新不及时、数据来源单一等问题。而 RAG 能够从多种数据源获取信息，并且可以根据用户的实时需求进行检索和优化，生成更贴合需求的回答。 在 GraphRAG 的实现方面，目前提供的内容中未明确提及相关具体实现方式。 同时需要注意的是，RAG 也存在一些缺点，比如相比于专有模型的方案，回答准确性可能不够。
2025-03-28
我想搭建个人rag知识库，实现本地化部署，可以调用本地大模型去分析知识库的内容进行解答
以下是搭建个人 rag 知识库并实现本地化部署，调用本地大模型分析知识库内容进行解答的详细步骤： 一、通过 Open WebUI 使用大模型 1. 访问相关网址，使用邮箱注册账号。 2. 登陆成功后，Open WebUI 一般有两种使用方式，包括聊天对话和 RAG 能力（让模型根据文档内容回答问题，这是构建知识库的基础之一）。 3. 如果要求不高，此时已搭建本地大模型，并通过 Web UI 实现与大模型对话。ChatGPT 访问速度快且回答效果好的原因在于其服务器配置高、训练参数多、数据更优及训练算法更好。 二、本地知识库进阶 1. 若要更灵活掌控知识库，需使用额外软件 AnythingLLM，其包含 Open WebUI 的所有能力，并额外支持选择文本嵌入模型和向量数据库。 2. 安装地址：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步：选择大模型、选择文本嵌入模型、选择向量数据库。 3. 在 AnythingLLM 中有 Workspace 的概念，可创建独有 Workspace 与其他项目数据隔离。首先创建工作空间，然后上传文档并在工作空间中进行文本嵌入，选择对话模式（包括 Chat 模式和 Query 模式），最后进行测试对话。 三、RAG 是什么 利用大模型搭建知识库是 RAG 技术的应用。在进行本地知识库搭建实操前，需对 RAG 有大概了解。RAG 应用可抽象为 5 个过程： 1. 文档加载：从多种来源加载文档，LangChain 提供 100 多种不同的文档加载器，包括非结构化、结构化数据及代码等。 2. 文本分割：文本分割器把 Documents 切分为指定大小的块，称为“文档块”或“文档片”。 3. 存储：涉及将切分好的文档块嵌入转换成向量形式，并将向量数据存储到向量数据库。 4. 检索：通过检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示生成更合理的答案。 文本加载器是将用户提供的文本加载到内存中，便于后续处理。
2025-03-25
请推荐一份学习rag的资料
以下是为您推荐的学习 RAG（RetrievalAugmented Generation，检索增强生成）的资料： 1. 《RetrievalAugmented Generation for Large Language Models:A Survey》（https://arxiv.org/pdf/2312.10997.pdf），该资料对 RAG 进行了较为全面的介绍和分析。 2. 关于新知识的学习，您可以参考“胎教级教程：万字长文带你理解 RAG 全流程”。其中提到可以通过 Claude 帮助了解细节概念，然后再通过 Coze 搭建 Demo 来实践学习。还不知道 Coze 是什么的同学可以看公开分享： 。 3. 了解“RAG 是什么？”：RAG 是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型提供额外的、来自外部知识源的信息。通过检索模式为大语言模型的生成提供帮助，使生成的答案更符合要求。同时，还介绍了大模型存在的缺点以及 RAG 的优点，如数据库对数据存储和更新稳定、敏捷、可解释等。 希望这些资料对您学习 RAG 有所帮助。
2025-03-25
ragflow
RAGflow 能力拆解： 文档拆分方式： 通用模式：主要参考每个块的 token 数量，同时考虑语意完整性，切分段落点通常在句号或叹号等完整句子结束处。拆分结果和 langchain 的拆分大同小异。 Q&A 问答对：将左边内容加上“问题:”，右边内容加上“回答:”，数据清洗工作量大。 简历：解析容易失败，需要匹配关键词才能解析，建议官方给出简历模板。 手册：一整段文字提取，分割处在页面分页、段落分段处，块大小通常较大。 表格：拆分后每一行被当成一个块，第一行表头插入到每一块头部。对没有特殊字符的表格信息处理较好，对图片内的公式做了 OCR 检测。 数据清洗：RAGflow 提供分段后的数据处理，可自行添加、修改数据或添加标签。测试发现，RAGflow 召回会同时使用向量相似度和关键词相似度并加权得到混合相似度，关键词相似度不仅匹配文本段内容还匹配关键词标签内容，单个实体在关键词中出现即为 100%。但需注意，检索获得的内容块需同时包含“问题信息”和“答案信息”，大模型才能解答。此外，RAGflow 没提供对外接口，做聊天或其他应用时不方便。 大模型 RAG 问答行业最佳案例及微调、推理双阶段实现模式：基于模块化RAG 的相关工作，本文将从典型的 RAG Flow 模式、特定的 RAG 流实现以及最佳的行业案例三个方面深入探讨 RAG Flow 的设计思路，在典型的 RAG Flow 模式方面，将介绍 3 种微调阶段模式和 4 种推理阶段模式。
2025-03-19
有关 ai agent 的科普文章
以下是为您提供的关于 AI Agent 的科普内容： AI Agent 是一个融合了多学科精髓的综合实体，包括语言学、心理学、神经学、逻辑学、社会科学和计算机科学等。它不仅有实体形态，还有丰富的概念形态，并具备许多人类特有的属性。 目前，关于 AI Agent 存在一些情况。例如，网络上对其的介绍往往晦涩难懂，让人感觉神秘莫测，其自主性、学习能力、推理能力等核心概念，以及如何规划和执行任务、理解并处理信息等方面，都像是笼罩在一层神秘面纱之下。 另外，以国与国之间的外交为例来解释相关协议。假设每个 AI 智能体（Agent）就是一个小国家，它们各自有自己的语言和规矩。各国大使馆试图互相沟通、做生意、交换情报，但现实中存在诸多问题，如协议各异、要求不同等。 如果您想了解更多关于 AI Agent 的详细内容，可访问： 。
2025-04-15
，AI agent 发展趋势，技术状态，商业模式
以下是关于 AI Agent 的发展趋势、技术状态和商业模式的相关信息： 发展趋势： 2024 年内，办公场景“AI 助手”开始有良好使用体验，实时生成的内容开始在社交媒体内容、广告中出现。 2025 2027 年，接近 AGI 的技术出现，人与 AI 配合的工作方式成为常态，很多日常决策开始由 AI 来执行。 技术状态： 目标实现基于 ReAct、SFT、RAG、强化学习等实现自主规划能力的 AI Agent，构建具备认知、决策智能的 Agent 智能体框架。 专注文本/多模态大模型、AI Agent 技术创新与应用。 商业模式： 依据不同类型销售市场的特点，结合一站式 AI 搭建平台将销售部署的产品化和模版化，让企业更容易落地和应用 AI 能力。 销售智能体 Blurr.AI 占位交易环节，解决 2B 销售获客的痛点，且具有向前后端环节延展的势能。
2025-04-13
ai agent有哪些技术
AI Agent 涉及的技术包括以下方面： 1. 长期任务执行技术：能够将复杂、跨度长的任务分解为小步骤，并在执行中保持目标导向和适时调整策略。 2. 多模态理解技术：能同时理解文字、图像、声音等多种交流方式，通过多种感官理解世界和任务上下文。 3. 记忆与行动技术：通过先进的记忆机制积累经验，记住对话、操作步骤和效果，使行动更精准高效。 4. 自适应学习技术：从每次交互中吸取经验，不断完善策略，实现“智慧成长”。 在技术层面，AI Agent 的发展有两条技术路线： 1. 以自主决策为核心的 LLM 控制流，代表了 AGI 的探索方向。 2. 以工作流（Workflow）编排为重点的工具集成系统，加速了 AI 落地应用。 特别值得关注的是 Anthropic 提出的 MCP（Model Context Protocol），其本质是一个通用接口协议，能解决让 AI 模型以标准化、可扩展方式与外部世界交互的问题。 此外，强化学习（RL）也是 AI Agent 的重要技术，起初主要依托策略搜索和价值函数优化等算法，如 Qlearning 和 SARSA。随着深度学习技术兴起，深度神经网络与强化学习结合形成深度强化学习，赋予 Agent 从高维输入中学习复杂策略的能力，如 AlphaGo 和 DQN 等。但强化学习面临训练周期长、采样效率低和稳定性等问题。其特点是通过试错学习最优行为策略以最大化累积奖励，时间始于 20 世纪 90 年代至今，技术包括 Qlearning、SARSA、深度强化学习（结合 DNN 和 RL），优点是能够处理高维状态空间和连续动作空间，缺点是样本效率低、训练时间长。
2025-04-09
AI chatbot、agent、copilot区别
AI chatbot、agent、copilot 主要有以下区别： 1. 定义和角色： Copilot：翻译成副驾驶、助手，在帮助用户解决问题时起辅助作用。 Agent：更像主驾驶、智能体，可根据任务目标自主思考和行动，具有更强的独立性和执行复杂任务的能力。 Chatbot：具备基本对话能力，主要依赖预设脚本和关键词匹配，用于客户服务和简单查询响应。 2. 核心功能： Copilot：更多地依赖于人类的指导和提示来完成任务，功能很大程度上局限于在给定框架内工作。 Agent：具有更高的自主性和决策能力，能够根据目标自主规划整个处理流程，并根据外部反馈进行自我迭代和调整。 3. 流程决策： Copilot：处理流程往往依赖于人类确定的静态流程，参与更多是在局部环节。 Agent：解决问题的流程由 AI 自主确定，是动态的，不仅可以自行规划任务步骤，还能根据执行过程中的反馈动态调整流程。 4. 应用范围： Copilot：主要用于处理简单、特定的任务，更多是作为工具或助手存在，需要人类引导和监督。 Agent：能够处理复杂、大型的任务，并在 LLM 薄弱的阶段使用工具或 API 等进行增强。 5. 开发重点： Copilot：主要依赖于 LLM 的性能，开发重点在于 Prompt Engineering。 Agent：同样依赖于 LLM 的性能，但开发重点在于 Flow Engineering，即在假定 LLM 足够强大的基础上，把外围的流程和框架系统化。 以下是一些 Agent 构建平台： 1. Coze：新一代一站式 AI Bot 开发平台，适用于构建基于 AI 模型的各类问答 Bot，集成丰富插件工具。 2. Mircosoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及部署 Copilot 到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体平台，支持开发者根据需求打造产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于多种场景，提供多种成熟模板。 6. 钉钉 AI 超级助理：依托钉钉强大的场景和数据优势，在处理高频工作场景方面表现出色。 以上信息由 AI 大模型生成，请仔细甄别。
2025-04-07
有没有可以抓取公众号文章的 agent
以下是一些可以抓取公众号文章的方法和相关信息： 1. 可以通过读 SQLiteDB 或者获取 RSS XML 页面（http://127.0.0.1:4000/feeds/all.atom）来获取更新的公众号。个人选择在公众号订阅不太多时，建议使用分析 XML 页面，比较简单。可以写个程序获得公众号的更新文章，由于本地部署，无法直接将文章同步到 Coze，所以选择使用多维表格（当在线数据库，事实飞书多维表格后台也是使用类似 redis 或 TiDB 这样的数据库实现的）及飞书机器人 API 的方式来实现中间数据的传递。只要在多维表格中设置一个状态转换，就可以知道文章是否已经被解读和推送。 2. 可以通过文章链接订阅公众号，定时推送情报消息，并实现情报 CoT 问答。例如使用 Docker 浏览器打开：http://127.0.0.1:4000 也可以 http://wewerss 服务的 IP:端口为上面设置的外部端口。先点帐号管理，然后点“添加读书帐号”（即使用微信读书来实现公众号订阅），扫码添加帐号。然后在公众号源上，点添加。然后将想订阅的公众号的一篇文章链接粘贴并点确定即可订阅公众号文章。但建议不要短时间订阅太多公众号（经测试最好不要超 40 个）。 3. 瓦斯阅读平台可以抓取公众号的内容，但平台上公众号不太全。 4. GitHub 上的 WeWe RSS 工具可以通过微信读书的方式订阅公众号。
2025-04-05
dify工作流中agent节点怎么使用
在 Dify 工作流中使用 Agent 节点的步骤如下： 1. 搭建工作流框架： 进入 Coze，点击「个人空间工作流创建工作流」，打开创建工作流的弹窗。 根据弹窗要求自定义工作流信息，点击确认完成新建。 左侧「选择节点」模块中，根据子任务需要，实际用上的有插件（提供能力工具拓展 Agent 能力边界）、大模型（调用 LLM 实现文本内容生成）、代码（支持编写简单脚本处理数据）。 按照流程图在编辑面板中拖入对应的 LLM 大模型、插件、代码节点完成框架搭建。 2. 测试 Agent 节点功能： 完成任何一个节点的配置后，都需要进行试运行测试以验证节点的运行效果。 步骤一：点击「测试该节点」。 步骤二：按格式要求输入待测试的输入内容，如果是 array 等其他格式，请自行对话 AI 或搜索网络确认格式要求。 步骤三：点击「展开运行结果」，检查输入、输出项是否有误。如果有误，请依次检查“测试输入内容”、“节点配置”是否有误，以及优化“提示词”以提升对生成内容的约束力。当多次测试时输入与输出都符合预期，就可以进入下一个子任务的配置。
2025-04-05