「AGIへの道」飛書ナレッジベースへ直行 →
ホーム/質問リスト/質問詳細

你好，什么事comfyui LLM party

回答

ComfyUI LLM Party 相关内容如下：

  • 作为 ComfyUI 插件的开发者，主要目的是讲解 LLM（大语言模型）与 ComfyUI 结合的基础、进阶和高阶用法，个人将 ComfyUI 中 LLM 应用粗略分为四大类：文本方面（提示词扩写、润色、对话）、图像视觉方面（图像提示词反推、OCR、LoRA 训练集图像打标）、LLM Agent（工具调用、长期/短期记忆、本地/API 大语言模型调用、封装 ComfyUI 工作流等）、其他独立于这些之外的 LLM 节点或功能。
  • 对于 ComfyUI 和 ComfyUI LLM Party 的下载：
    • 如果是 AI 绘图工作者，对 ComfyUI 不陌生。若未接触过，可在 GitHub 上拉取项目，或在 B 站下载整合包，如秋叶大佬的绘世整合包或者只剩一瓶辣椒酱的铁锅炖整合包。
    • ComfyUI LLM Party 是以 ComfyUI 作为前端的节点库，用于 LLM 智能体以及 LLM 工作流的无代码开发，功能类似于 coze、dify、flowise 等，与 ComfyUI 生态下的绝大部分节点相辅相成，有着无缝接入 SD 图像流的特色。可通过以下方法安装：
      • 方法一：在comfyui 管理器中搜索 comfyui_LLM_party，一键安装，然后重启 comfyui。
      • 方法二：导航到 ComfyUI 根文件夹中的 custom_nodes 子文件夹，使用克隆此存储库 git clone https://github.com/heshengtao/comfyui_LLM_party.git 。
AIモデルによって生成されたコンテンツであり、慎重に確認してください（提供元: aily）

参照

ComfyUI & LLM：如何在ComfyUI中高效使用LLM

Hello！大家好。我是科林，是comfyui LLM party插件的开发者。这个栏目的主要目的是讲解LLM（大语言模型）与ComfyUI结合的基础、进阶和高阶用法，主要围绕GitHub中已有中的LLM节点以及comfyui_LLM_party（说明：根植于ComfyUI的大语言模型智能体节点）的应用场景。个人目前将ComfyUI中LLM应用粗略分为四大类：第一类：文本方面；第二类：图像视觉方面——VLM（带视觉的LLM）；第三类：LLM Agent（大语言模型智能体）；最后一类：其他，这一部分是独立于这些之外的LLM节点或功能。1.文本：提示词扩写、提示词润色、与LLM对话；2.图像：图像提示词反推（Joy Caption、Florence）、OCR、LoRA训练集图像打标；3.LLM Agent：除上述所拥有的功能外，还有海量功能：如工具调用、长期/短期记忆（RAG、GraphRAG等）、本地/API大语言模型调用、封装ComfyUI工作流等。

AI 女友麦洛薇（0 代码 comfyui 搭建，知识图谱稳定人设，无限上下文，永久记忆，可接入飞书）

如果你是一个AI绘图工作者，你一定对Comfyui并不陌生。如果你从来没有接触过Comfyui，你需要先到GitHub上拉取Comfyui这个项目，或者你可以在B站下载整合包，例如：秋叶大佬的绘世整合包或者只剩一瓶辣椒酱的铁锅炖整合包。[heading2]2、Comfyui LLM party下载[content]Comfyui LLM party是一个以Comfyui作为前端的节点库，用于LLM智能体以及LLM工作流的无代码开发。功能类似于coze、dify、flowise等。但由于可以在Comfyui中直接使用，与Comfyui生态下的绝大部分节点都相辅相成，有着无缝接入SD图像流的特色。今天所介绍的麦洛薇，就是用这套节点库开发完成的。项目地址如下：使用以下方法之一安装：方法一：1.在[comfyui管理器](https://github.com/ltdrdata/ComfyUI-Manager)中搜索comfyui_LLM_party，一键安装2.重启comfyui方法二：1.导航到ComfyUI根文件夹中下的custom_nodes子文件夹2.使用克隆此存储库。git clone https://github.com/heshengtao/comfyui_LLM_party.git

无需微调，仅用提示词工程就能让 LLM 获得 tool calling 的功能

如果你是一个AI绘图工作者，你一定对Comfyui并不陌生。如果你从来没有接触过Comfyui，你需要先到GitHub上拉取Comfyui这个项目，或者你可以在B站下载整合包，例如：秋叶大佬的绘世整合包或者只剩一瓶辣椒酱的铁锅炖整合包。[heading2]2、Comfyui LLM party下载[content]Comfyui LLM party是一个以Comfyui作为前端的节点库，用于LLM智能体以及LLM工作流的无代码开发。功能类似于coze、dify、flowise等。但由于可以在Comfyui中直接使用，与Comfyui生态下的绝大部分节点都相辅相成，有着无缝接入SD图像流的特色。今天所介绍的麦洛薇，就是用这套节点库开发完成的。项目地址如下：使用以下方法之一安装：方法一：1.在[comfyui管理器](https://github.com/ltdrdata/ComfyUI-Manager)中搜索comfyui_LLM_party，一键安装2.重启comfyui方法二：1.导航到ComfyUI根文件夹中下的custom_nodes子文件夹2.使用克隆此存储库。git clone https://github.com/heshengtao/comfyui_LLM_party.git

他の質問
LLM应用可观测性
LLM 应用的可观测性主要体现在以下方面： LangChain：借助 LangSmith 提供更好的日志、可视化、播放和跟踪功能，以便监控和调试 LLM 应用。LangSmith 是基于 Web 的工具，能查看和分析细化到 class 的输入和输出，还提供跟踪功能，用于记录和展示 LLM 应用的执行过程和状态，以及 LLM 的内部信息和统计数据。 Langfuse：为大模型应用提供开源可观测性和分析功能，在可视化界面中可探索和调试复杂的日志和追踪，并使用直观的仪表板改善成本、降低成本、减少延迟，提高响应质量。 此外，微软（中国）的《面向大模型的新编程范式》报告中也强调了在线监控和可观测性的重要性。
2025-04-11
LLM模型响应时间较长，如何处理超时时间问题
处理 LLM 模型响应时间过长导致的超时问题，可以考虑以下方法： 1. 参数有效调整：这是一种新颖的微调方法，通过仅训练一部分参数来减轻微调 LLM 的挑战。这些参数可能是现有模型参数的子集，或者是一组全新的参数，例如向模型添加一些额外的层或额外的嵌入到提示中。 2. 优化提示设计：采用合适的提示方法，如零样本提示、一次性提示、Fewshot prompting 等。零样本提示是只给出描述任务的提示；一次性提示是让 LLM 执行任务的单个示例；Fewshot prompting 是让 LLM 执行任务的少量示例。同时，可以使用结构化模式设计提示，包含上下文、问题示例及相应答案等组件，以指示模型应如何响应。 3. 避免频繁调整某些参数：尤其是 Top K 和 Top P，不需要经常对其进行调整。 4. 关注模型响应质量：即使有良好的提示设计，模型输出仍可能不稳定，需要持续关注和优化。 5. 考虑成本和时间：微调大型模型可能耗时且成本高，为大模型提供服务也可能涉及额外麻烦和成本，需要综合评估和优化。
2025-04-11
除了LLM，就没有AI模型了吗？
除了 LLM ，还有很多其他类型的 AI 模型。以下为您详细介绍： 1. 生成式 AI：可以生成文本、图片、音频、视频等内容形式。其中生成图像的扩散模型就不是大语言模型。 2. 机器学习：电脑找规律学习，包括监督学习、无监督学习、强化学习。 监督学习：有标签的训练数据，算法的目标是学习输入和输出之间的映射关系，包括分类和回归。 无监督学习：学习的数据没有标签，算法自主发现规律。经典任务包括聚类，比如拿一堆新闻文章，让模型根据主题或内容特征分成具有相似特征的组。 强化学习：从反馈里学习，最大化奖励或最小化损失，类似训小狗。 3. 深度学习：一种参照人脑有神经网络和神经元的方法（因为有很多层所以叫深度）。神经网络可以用于监督学习、无监督学习、强化学习。 4. 谷歌的 BERT 模型：可用于语义理解（不擅长文本生成），如上下文理解、情感分析、文本分类。 2017 年 6 月，谷歌团队发表论文《Attention is All You Need》，首次提出了 Transformer 模型，它完全基于自注意力机制（SelfAttention）来处理序列数据，而不需要依赖于循环神经网络（RNN）或卷积神经网络（CNN）。生成式 AI 生成的内容，叫做 AIGC 。
2025-04-11
linux下安装 anythingLLM
以下是在 Linux 下安装 AnythingLLM 的相关指导： 1. 安装地址：https://useanything.com/download 。 2. 安装完成后会进入配置页面，主要分为三步： 第一步：选择大模型。 第二步：选择文本嵌入模型。 第三步：选择向量数据库。 3. AnythingLLM 中有 Workspace 的概念，可以创建自己独有的 Workspace 与其他项目数据进行隔离。 首先创建一个工作空间。 上传文档并且在工作空间中进行文本嵌入。 选择对话模式，提供了 Chat 模式（大模型会根据自己的训练数据和上传的文档数据综合给出答案）和 Query 模式（大模型仅仅会依靠文档中的数据给出答案）。 4. 完成上述配置后，即可与大模型进行对话。 此外，在 GitHubDaily 开源项目列表 2023 年复盘的 AIGC 部分中，也有关于 AnythingLLM 的介绍： 是一个可打造成企业内部知识库的私人专属 GPT！可以将任何文档、资源或内容转换为大语言模型（LLM）知识库，使得在对话过程中可引用到里面的内容。 本文的思路来源于视频号博主黄益贺，作者按照他的视频进行了实操，并附加了一些关于 RAG 的额外知识。
2025-03-27
anythingLLM本地部署
以下是关于本地部署大模型以及搭建个人知识库的相关内容： 一、引言 作者是大圣，一个致力于使用 AI 工具将自己打造为超级个体的程序员，目前沉浸于 AI Agent 研究。本文将分享如何部署本地大模型及搭建个人知识库，读完可学习到如何使用 Ollama 一键部署本地大模型、了解 ChatGPT 信息流转、RAG 概念及核心技术、通过 AnythingLLM 搭建本地化数据库等。 五、本地知识库进阶 如果想要对知识库进行更灵活掌控，需要额外软件 AnythingLLM，它包含所有 Open WebUI 能力，并额外支持选择文本嵌入模型和向量数据库。 安装地址：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步： 1. 第一步：选择大模型。 2. 第二步：选择文本嵌入模型。 3. 第三步：选择向量数据库。 构建本地知识库： AnythingLLM 中有 Workspace 概念，可创建独有 Workspace 与其他项目数据隔离。 1. 首先创建一个工作空间。 2. 上传文档并在工作空间中进行文本嵌入。 3. 选择对话模式，提供 Chat 模式（大模型根据训练数据和上传文档综合给出答案）和 Query 模式（大模型仅依靠文档数据给出答案）。 配置完成后可进行测试对话。 六、写在最后 作者推崇“看十遍不如实操一遍，实操十遍不如分享一遍”。如果对 AI Agent 技术感兴趣，可联系作者或加其免费知识星球（备注 AGI 知识库）。 本文思路来源于视频号博主黄益贺，作者按照其视频进行实操并附加了一些关于 RAG 的额外知识。
2025-03-26
LLM的原理
LLM（大语言模型）的工作原理如下： 以“我今天吃了狮子头和蔬菜”这句话为例，在 Transformer 中，会由 Attention 层对其加入更多信息补充，如“狮子头是一道菜”“今天是星期六”等，这些补充信息作为输入给到下一个 Attention 层，层与层之间，哪些信息补充、保留、传递，由模型自主学习，最终模型把海量数据以关系网形式“消化”并保留重要相关性。 形象地说，就像人阅读文章时的连贯性注意力过程，在阅读理解时，脑子里会消化吸收记忆，记忆的不是点状知识，而是网状经验。 大模型以词向量和 Transformer 模型学习海量知识，把知识作为向量空间中的关系网存储，接受输入时通过向量空间中的匹配进行输出。 观察大模型回复，是一个字一个字流式输出的，因为大模型确实在一个字一个字地推理生成内容。比如输入法输入联想，根据输入的单个字推测下一个字，加入上下文能帮助模型理解下一个字。但存在两个问题：一是全量数据计算算力吃不消，二是仅算字的概率易被不相干信息干扰，此时词向量机制和 Transformer 模型中的 Attention 自注意力机制解决了难题。 另外，RAG 对大语言模型的作用就像开卷考试对学生，事实性知识与 LLM 的推理能力相分离，被存储在容易访问和及时更新的外部知识源中，分为参数化知识（模型训练中学习得到，隐式储存在神经网络权重中）和非参数化知识（存储在外部知识源，如向量数据库中）。
2025-03-25
comfyui工作流
ComfyUI 工作流主要包括以下内容： FLUX 低显存运行工作流：目的是让 FLUX 模型能在较低的显存情况下运行。分阶段处理思路为：先在较低分辨率下使用 Flux 模型进行初始生成，然后采用两阶段处理，即先用 Flux 生成，后用 SDXL 放大，有效控制显存的使用，最后使用 SD 放大提升图片质量。工作流的流程包括初始图像生成（Flux）的一系列操作，如加载相关模型、处理输入提示词、生成初始噪声和引导等，以及初始图像预览；图像放大和细化（SDXL）的一系列操作，如加载 SDXL 模型、对初始图像进行锐化处理等，还有最终图像预览。 工作流网站： “老牌”workflow 网站 Openart.ai：https://openart.ai/workflows/ 。流量比较高，支持上传、下载、在线生成，免费账户总共有 50 个积分，加入 Discord 可以再加 100 积分，开通最低的每个月 6 美元的套餐后，每个月会有 5000 积分。 ComfyWorkflows 网站：https://comfyworkflows.com/cloud 。支持在线运行工作流，从 workflow 的实际下载量和访问量来看，略少于 openart。 Flowt.ai：https://flowt.ai/community 。 绿幕工作流：包含两个组，即生成绿幕素材和绿幕素材抠图。因为 SD 无法直接生成透明背景的 png 图片，所以要先生成一张素材图，前景是重要的主体素材，背景是纯色（方便识别），选择绿幕是为了方便抠图。工作流文件可通过链接 https://pan.quark.cn/s/01eae57419ce 提取（提取码：KxgB），下载拖入 ComfyUI 中自动加载工作流进行学习。
2025-04-14
ComfyUI
ComfyUI 是一个基于节点流程式的 stable diffusion AI 绘图工具 WebUI，类似于集成了 stable diffusion 功能的 substance designer，通过将 stable diffusion 的流程拆分成节点，实现了更精准的工作流定制和完善的可复现性。 其优势包括： 1. 对显存要求相对较低，启动速度快，出图速度快。 2. 具有更高的生成自由度。 3. 可以和 webui 共享环境和模型。 4. 可以搭建自己的工作流程，可以导出流程并分享给别人，报错时能清晰发现错误所在步骤。 5. 生成的图片拖进后会还原整个工作流程，模型也会选择好。 劣势有： 1. 操作门槛高，需要有清晰的逻辑。 2. 生态没有 webui 多（常用的都有），也有一些针对 Comfyui 开发的有趣插件。 官方链接：从 github 上下载作者部署好环境和依赖的整合包，按照官方文档按照即可：https://github.com/comfyanonymous/ComfyUI 。 安装部署方面： 1. 地址：https://github.com/comfyanonymous/ComfyUI ，可以下载安装包也可以直接 Git clone https://github.com/comfyanonymous/ComfyUI.git ，或者下载安装包 file:ComfyUI.zip ，下载安装包或者点击链接下载并解压至本地除 C 盘外的任意盘。然后找到文件名称为 run_nvidia_gpu 的文件双击并启动。启动完成即进入基础界面。 2. 节点存放目录：comfyUI 的节点包括后面安装的拓展节点都存放在本目录下 D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\custom_nodes 。 3. 模型存放目录： 大模型：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\checkpoints 。 Lora：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\loras 。 Vae：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\vae 。 4. 模型共用：已经安装了 SDWebUI 的同学可以通过修改文件路径和 WebUI 共用一套模型即可，这样就不用重复下载模型了。找到已安装好的 ComfyUI 目录文件下的 extra_model_paths.yaml.example 文件，将后缀.example 删除，然后右键用记事本打开。 此外，还可以直接在 Comfy UI 中训练 LoRA 模型。
2025-04-14
comfyui
ComfyUI 是一个基于节点流程式的 stable diffusion AI 绘图工具 WebUI，可想象成集成了 stable diffusion 功能的 substance designer，将 stable diffusion 流程拆分成节点，实现更精准工作流定制和完善的可复现性。 其优势包括： 1. 对显存要求相对较低，启动和出图速度快。 2. 生成自由度更高。 3. 可以和 webui 共享环境和模型。 4. 能搭建自己的工作流程，可导出流程并分享，报错时能清晰发现错误所在。 5. 生成的图片拖进后会还原整个工作流程，模型也会选择好。 劣势有： 1. 操作门槛高，需要有清晰逻辑。 2. 生态没有 webui 多（但常用的都有），也有一些针对 Comfyui 开发的有趣插件。 官方链接：https://github.com/comfyanonymous/ComfyUI 。 安装部署方面： 1. 地址：https://github.com/comfyanonymous/ComfyUI ，可以下载安装包也可以直接 Git clone https://github.com/comfyanonymous/ComfyUI.git ，或者下载安装包 file:ComfyUI.zip ，下载安装包或者点击链接下载并解压至本地除 C 盘外的任意盘。然后找到文件名称为 run_nvidia_gpu 的文件双击并启动，启动完成即进入基础界面。 2. 节点存放目录：comfyUI 的节点包括后面安装的拓展节点都存放在 D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\custom_nodes 。 3. 模型存放目录： 大模型：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\checkpoints 。 Lora：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\loras 。 Vae：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\vae 。 4. 模型共用：已经安装了 SDWebUI 的同学可以通过修改文件路径和 WebUI 共用一套模型，找到已安装好的 ComfyUI 目录文件下的 extra_model_paths.yaml.example 文件，将后缀.example 删除，然后右键用记事本打开。 此外，还可以直接在 Comfy UI 中训练 LoRA 模型。默认情况下，训练结果直接保存在 ComfyUI lora 文件夹中，训练后只需刷新并选择 LoRA 就可以测试。
2025-04-13
comfyui漫画工作流
ComfyUI 漫画工作流包含以下内容： 1. 绿幕工作流：包含两个组，即生成绿幕素材和绿幕素材抠图。因为 SD 无法直接生成透明背景的 png 图片，所以要先生成一张素材图，前景是重要的主体素材，背景为纯色（方便识别），选择绿幕是为了便于抠图。工作流文件链接：https://pan.quark.cn/s/01eae57419ce 提取码：KxgB 2. 动画工作流： 啊朔提供的动画工作流文件，如：
2025-04-13
comfyui动画片工作流怎么构建
构建 ComfyUI 动画片工作流的步骤如下： 1. 打开 Comfyui 界面后，右键点击界面，找到 Comfyui LLM party 的目录。您可以学习手动连接节点来实现最简单的 AI 女友工作流，也可以将工作流文件拖拽到 Comfyui 界面中一键复刻提示词工程实验。 2. 从 ollama 的 github 仓库找到对应版本并下载。启动 ollama 后，在 cmd 中输入 ollama run gemma2 将自动下载 gemma2 模型到本地并启动。将 ollama 的默认 base URL=http://127.0.0.1:11434/v1/以及 api_key=ollama 填入 LLM 加载器节点即可调用 ollama 中的模型进行实验。 3. 若 ollama 连接不上，很可能是代理服务器的问题，请将 127.0.0.1:11434 添加到不使用代理服务器的列表中。 此外，还有以下相关工作流搭建的信息供您参考： 1. 搭建艺术二维码工作流：打开 ComfyUI 导入相应工作流。工作流所用到的节点包括大模型节点（可选择如 AWPainting、primemixanything、xxmix9realistic v40 等，并提供了相应链接）、关键词节点、Lora 节点、ControlNet 节点（选用 qrcode_monster V2 版本，下载链接：https://huggingface.co/monsterlabs/control_v1p_sd15_qrcode_monster/tree/main/v2 ）、采样器节点（Step 选择高步数，35 50 即可，采样器默认的 euler a/dpmpp 2m sde ）。 2. 搭建 ComfyUI 基础工作流：从零开始搭建时，首先准备加载大模型的节点，在工作区鼠标右键点击，选择 Add Node > 选择 loaders > 选择 Load Checkpoint，并选择对应的模型。然后加载 Conditioning（条件），在工作区鼠标右键点击，选择 Add Node > 选择 Conditioning > 选择 CLIP TEXT Encode，输入正反向提示词。添加采样器时，部分参数设置与 WEB_UI 有所不同，如 seed 值只有固定、随机、每次增加、每次减少这四个选项，采样器和调度器是分开的。
2025-04-13
comfyui如何本地安装
以下是在本地安装 ComfyUI 的详细步骤： 安装方式有两种，分别是安装到本地和安装到云端。本部分主要介绍本地安装方法。 本地安装方法： 1. 命令行安装： 这是普适性最强的方法，安装后二次遇到问题的概率相对较低，但对于不熟悉命令行以及代码的用户来说，可能会有一定的门槛。 ComfyUI 的源码地址在：https://github.com/comfyanonymous/ComfyUI ，安装方法写在了 Readme 中。您也可以按照 Readme 文档进行操作。 如果会 Git 请在 Terminal 运行以下代码： 如果不会用 Git，推荐使用 Github 的客户端（https://desktop.github.com/）拉代码。 下载并安装好 Github Desktop 后，打开该应用。 然后打开 ComfyUI 的 Github 页面（https://github.com/comfyanonymous/ComfyUI），点击右上角的绿色按钮，并点击菜单里的「Open with GitHub Desktop」，此时浏览器会弹出是否要打开 GitHub Desktop，点击「是」。 GitHub Desktop 会让您选择一个保存位置，按需调整，然后点击确定。看到下方特定界面，意味着完成了代码同步。 2. 安装包安装： 这种方法安装比较简单，下载就能用。 ComfyUI 的官方安装包：目前仅支持 Windows 系统，且显卡必须是 Nivida。下载地址是：https://github.com/comfyanonymous/ComfyUI/releases ，只需下载最新的版本，解压就能使用。 安装完成后： 1. 节点存放目录：comfyUI 的节点包括后面安装的拓展节点都存放在本目录下：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\custom_nodes 2. 模型存放目录： 大模型：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\checkpoints Lora：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\loras Vae：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\vae 3. 模型共用：已经安装了 SDWebUI 的同学可以通过修改文件路径和 WebUI 共用一套模型即可，这样就不用重复下载模型了。找到您已经安装好的 ComfyUI 目录文件下的 extra_model_paths.yaml.example 文件，将后缀.example 删除，然后右键用记事本打开。 希望以上内容对您有所帮助。
2025-04-10
你好，你是基于哪个大语言模型的人工智能？
我并非基于某个特定的大语言模型。AI 领域中的语言模型众多，例如 GPT3 等。大语言模型通常是使用深度学习和神经网络创建的，基于人类训练数据来理解单词、代码语法等。像生成式 AI 可以生成文本、图片、音频、视频等内容形式，其中包括大语言模型。2017 年 6 月，谷歌团队发表的论文《Attention is All You Need》首次提出了 Transformer 模型，它基于自注意力机制处理序列数据，不依赖于循环神经网络或卷积神经网络。
2025-04-08
你好，你是什么大模型
大模型通俗来讲，是输入大量语料，让计算机获得类似人类的“思考”能力，从而能够理解自然语言，并进行文本生成、推理问答、对话、文档摘要等工作。 大模型的训练和使用过程可以用“上学参加工作”来类比： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练自己的大模型。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型更好理解 Token 之间的关系。 4. 就业指导：为了让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，正式干活，比如进行翻译、问答等，在大模型里称之为推导（infer）。 在 LLM 中，Token 被视为模型处理和生成的文本单位，可以代表单个字符、单词、子单词，甚至更大的语言单位，具体取决于所使用的分词方法（Tokenization）。Token 是原始文本数据与 LLM 可以使用的数字表示之间的桥梁。在将输入进行分词时，会对其进行数字化，形成一个词汇表。 生成式 AI 生成的内容叫做 AIGC。相关技术名词包括： 1. AI 即人工智能。 2. 机器学习是电脑找规律学习，包括监督学习、无监督学习、强化学习。 监督学习是有标签的训练数据，算法目标是学习输入和输出之间的映射关系，包括分类和回归。 无监督学习是学习的数据没有标签，算法自主发现规律，经典任务包括聚类。 强化学习是从反馈里学习，最大化奖励或最小化损失，类似训小狗。 3. 深度学习是一种参照人脑有神经网络和神经元的方法（因有很多层所以叫深度），神经网络可用于监督学习、无监督学习、强化学习。 4. 生成式 AI 可以生成文本、图片、音频、视频等内容形式。 5. LLM 是大语言模型，对于生成式 AI，生成图像的扩散模型不是大语言模型；对于大语言模型，生成只是其中一个处理任务，比如谷歌的 BERT 模型，可用于语义理解（不擅长文本生成），如上下文理解、情感分析、文本分类。 技术里程碑：2017 年 6 月，谷歌团队发表论文《Attention is All You Need》，首次提出了 Transformer 模型，它完全基于自注意力机制（SelfAttention）来处理序列数据，而不需要依赖于循环神经网络（RNN）或卷积神经网络（CNN）。
2025-04-01
你好，我想做一个英语入场情景对话的Ai图文视频小红书账号，请给我写个机场值机的对话
以下是为您生成的一个机场值机的英语情景对话，您可以根据这个对话来制作相关的 Ai 图文视频小红书内容： A: Good morning. Can I help you? B: Yes, I'd like to check in for my flight. A: May I see your passport and ticket, please? B: Here you are. A: Thank you. Are you checking any luggage? B: Yes, I have two suitcases. A: OK. Please put them on the scale. B: All right. A: Your luggage is within the weight limit. Here's your boarding pass. Your seat is 15A. B: Thank you. What time does boarding start? A: Boarding will begin at 10:30. B: Great. Thank you very much. A: Have a nice flight!
2025-03-27
你好，我想训练一个自己的专属模型，比如说基于网页里面的问卷调查，我有答题的逻辑，网页的问卷调查项目每天都有非常多的不同的地方，但是又有相通的地方，我想让AI在我的逻辑之上能自我迭代自动答题，我该怎么办
如果您想基于网页问卷调查训练一个能在您的逻辑之上自我迭代自动答题的专属模型，有以下两种常见的技术方案： 1. 训练专有大模型： 优点：效果最好。 缺点：成本高，训练和维护需要大量计算资源和专业知识；更新模型知识难度大，需要重新训练或微调，过程复杂耗时。 2. 利用 RAG（检索增强生成）技术： 例如选择 Baichuan27BChat 模型作为底模，配置模型本地路径和提示模板。在 Train 页面里选择 sft 训练方式，加载定义好的数据集，根据数据集大小和收敛情况设置学习率和训练轮次。使用 FlashAttention2 可减少显存需求、加速训练速度；显存小的朋友可减少 batch size 并开启量化训练，内置的 QLora 训练方式好用。但需要用到 xformers 的依赖。根据聊天记录规模大小，训练时间少则几小时，多则几天。 此外，还有学生训练专属植物分类 AI 模型的案例供您参考。在北京市新英才学校的跨学科选修课“生化 E 家”中，老师和学生共同收集校园内不同树叶的照片，在 OpenInnoLab里找到图像分类训练工具，建立植物分类模型，加入大量数据集进行训练，再用图像化编程将其套在程序里，形成简单的识别工具。在这个过程中，老师通过生活体验与学生讨论图像分类原理，学生从体验到实践操作，在不进行大量代码编程的情况下能够训练 AI 模型，并了解模型训练准确度与数据的关系。
2025-03-14
你好
以下是为您整合的相关内容： 《PROMPTS FOR AI DANCE MUSIC》： 感谢您打开这本关于用文字创造音乐未来的电子书。通过它和您的创造力，能让想象力随艺术和具体提示策略活跃起来，它是您进入未来音乐派对的后台通行证，文字能勾勒新歌曲、启发新音乐风格、呈现永恒声音魔法作品。把它看作与 AI 合作的邀请，共同创作更多音乐，包括充满生命力的节拍、让灵魂想跳舞的节奏和萦绕心中的旋律。这本书是为音乐创作者、卧室 DJ、歌手和所有热爱音乐的人准备的，因为音乐不仅是音符，更是氛围、感觉和旅程。 大圣技术开发/Agent： 大圣是 1993 年出生的男性，主业是程序员，目前在杭州，老家河北，有个 2 岁的女儿。他是 AI 超级个体打造者，专注于 AI Agent、AI 编程以及 AI 写作领域，热爱写作和分享，擅长将复杂的 AI 知识通俗易懂地讲解。他身上有“大圣好真诚啊”“大圣讲东西讲得真好”两个标签，不喜欢将失败归结于信息差和碎片化知识，奉行少就是多的原则。当下他专注于一年内将自己的工作流全部 AI 化实现十倍提效，工作流包括阅读与写作、自媒体个人 IP、做公开课程和付费课程、女儿日常陪伴。 ChatGPT 是在做什么，为什么它有效？ 对于将 token 值和 token 位置嵌入向量相加，没有特别的科学依据，只是尝试后发现有效的方法之一。神经网络只要设置“大致正确”，通常能通过足够训练调整细节，不必真正“理解神经网络如何配置自己”的工程细节。嵌入模块操作字符串“hello hello hello hello hello hello hello hello hello hello bye bye bye bye bye bye bye bye bye bye”，每个 token 的嵌入向量元素有相应显示。在嵌入模块之后是一系列所谓的“注意块”，如 GPT2 有 12 个，ChatGPT 的 GPT3 有 96 个，每个注意力块中有一组“注意力头”，每个头独立在嵌入向量的不同值块上运行。
2025-03-07
你好，我想用ai将一张图片形式的数字表格转换成excel，应该使用哪款模型？
很抱歉，上述提供的内容中没有直接提及将图片形式的数字表格转换成 Excel 可用的具体模型。但您可以尝试以下几种常见的方法和工具： 1. 一些 OCR（光学字符识别）软件，如 ABBYY FineReader、Adobe Acrobat Pro 等，它们通常具有将图片中的表格转换为可编辑文本的功能，然后您可以将其粘贴到 Excel 中进行整理。 2. 在线 OCR 服务，例如百度 OCR、腾讯 OCR 等，操作相对便捷。 3. 某些专门用于表格处理的 AI 工具，您可以通过在相关的技术论坛、社区或专业的软件评价网站上进一步搜索和了解。
2025-02-26