本地用Ollama部署模型，使用哪个ChatBox客户端好？

以下是关于 Deep Seek 本地部署（Olama + ChatBox）+私有知识库（cherrystudio）的相关内容： 一、使用 Docker + RAGFlow + Ollama 搭建个人/企业知识库 1. 将 Ollama 部署的模型接入 GARFlow 返回 RAGFlow 中，打开右上角设置，进入模型提供商，配置 Ollama 相关信息，基础 URL 按要求设置，设置完成后点击确定。 导入一个 embedding 模型用于文本向量化，导入成功后设置系统模型设置，然后返回知识库创建知识库。 进入数据集，导入文件（可设置文件夹当作知识库），导入完毕后解析文件，解析速度取决于本机 GPU 性能，解析好后进行检索测试，测试没问题即可进入聊天界面，助理设置可自行设置。 2. 使用 Ollama 本地部署 DeepSeek 模型 先下载 Ollama 程序，官方网址：https://ollama.com/ 。 下载默认到 C 盘（一般为固态盘，运行速度快），若想修改安装目录到 D 盘，后续会有说明。 下载完右下角会出现 Ollama 图标，打开命令行输入相关命令回车。 若显卡是英伟达 2060Super，可选择 Deepseekr1:14b 的模型，根据自身独立显卡性能下载。 下载速度慢可按 Ctrl+C 强制退出重新下载。 下载完毕后再下载一个嵌入模型，Ollama 的 bge 模型官方网址：https://ollama.com/library/bgem3 ，输入相关命令，下载好后直接退出终端。 二、Flowith 相关报道、采访、使用指南 |标题|发布账号|社媒来源|日期|链接| |||||| |ChatGPT 的对话框过时了？这款 AI 产品提供了一种很新的聊天方式|爱范儿|公众号|2024/04/29|| |Flowith：革新你的工作方式，体验节点式 AI 的超流畅生产力|程序那些事儿|公众号|2024/05/03|| |体验 Flowith：探索人机交互从传统聊天对话到画布式知识管理的转变|AI 兔子洞|公众号|2024/04/22|| |deepseek 服务器繁忙？硅基流不动？看看这篇，内含 18 个平台，可能是最全的 deepseek 方案。|佐佐的 AI 笔记|公众号|2025/02/06|| |满血版自部署 DeepSeekR1+知识库+联网搜索,体验下来可能就只剩下这家了!|字节笔记本|公众号|2025/02/12|| |DeepSeek 让 AI 圈卷出了新高度：Flowith 宣布 DeepSeek R1 现在免费提供!|字节笔记本|公众号|2025/01/27|| |ShowMeAI 周刊 No.15|上周最有讨论度的 6 个 AI 话题：自由画布类产品密集更新、多主体一致成发展趋势、AGI、开源…|ShowMeAI 研究中心|公众号|2025/01/21||

以下是关于 Ollama 的相关信息： 在电脑上运行本地大模型的相对简化模式： 步骤： 1. 打开 Ollama 官网 https://ollama.com，下载应用并安装。 2. 在 Mac 系统搜索 terminal 或终端，点击回车，弹出的简洁框框就是。输入想要运行的大模型（例如：ollama run llama2），并回车。等待下载完成，即可输入内容，和 llama2 愉快交流。 TagTool With Ollama 打标工具： 先去下载并安装 Ollama，然后打开 Powershell 运行相关命令。 Win 编辑 run_win.ps1 文件，Mac 编辑 run_mac.sh 文件，将目录中的图片路径和触发词填写，运行即可。 从 LLM 大语言模型、知识库到微信机器人的全本地部署教程中的 Ollama 部署： 步骤： 1. 点击进入，根据电脑系统，在 https://ollama.com/download 下载 Ollama。 2. 下载完成后，双击打开，点击“Install”。 3. 安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 。 4. 下载 qwen2:0.5b 模型（0.5b 是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型）。 5. 对于 Windows 电脑，点击 win+R，输入 cmd，点击回车；对于 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。复制相关命令行，粘贴进入，点击回车。等待下载完成即可。

以下是关于 Ollama 配置的详细步骤： 1. 进入 ollama.com 下载程序并安装，该程序支持 Windows、Linux 和 MacOS 系统。 2. 查找 cmd 进入命令提示符（Windows 系统）或通过相应方式进入终端（Mac 系统），输入“ollama v”检查版本，安装完成后版本应显示 0.1.26。 3. 输入“cls”清空屏幕，然后直接输入“ollama run gemma”运行模型（默认是 2b 版本），首次需要下载，需等待一段时间。若想用 7b 版本，运行“ollama run gemma:7b”。 4. 完成以上操作后就可以直接对话。2b 版本的反应速度快，但能互动的话题有限。7b 版本能运行，但可能会有卡顿，输出内容质量相对较高，但无论 2b 还是 7b，对非英文语种的反馈都不是很稳定。 5. 模型里一些常用的内部指令：“/set”显示设置界面可调整的设置项，“/show”显示模型信息。 另外，还有一种部署 Ollama 的方式： 1. 点击进入 ollama.com 根据电脑系统下载 Ollama。 2. 下载完成后，双击打开，点击“Install”。 3. 安装完成后，将“http://127.0.0.1:11434/”复制进浏览器中，若出现相应字样，表示安装完成。 4. 下载 qwen2:0.5b 模型（可根据自身设备情况选择更大的模型）。 对于 Windows 电脑，点击 win+R，输入 cmd 点击回车。 对于 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。 5. 复制相关命令行，粘贴进入并回车，等待下载完成。下载完成后，大模型已在本地运行，输入文本即可进行对话。

以下是关于 Ollama 的相关信息： 打标工具安装： 先去下载并安装 Ollama，然后打开 Powershell 运行相关命令。 Win 编辑 run_win.ps1 文件，Mac 编辑 run_mac.sh 文件，将目录中的图片路径和触发词填写，运行即可。 对于 Windows 版，打开 WebUI，找到 Tagger 选项卡，如果没有则参考教程安装插件。 前往 https://github.com/starik222/BooruDatasetTagManager/releases 下载软件包，解压缩后双击运行即可。 本地部署资讯问答机器人： 支持多种大型语言模型，包括通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 cpu 和 gpu。 提供模型库，可通过 https://ollama.com/library 查找并下载不同模型，以满足不同需求和硬件条件。 支持自定义模型，可修改模型的温度参数等设置特定的系统消息。 提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。 社区贡献丰富，包括多种集成插件和界面。 安装时访问 https://ollama.com/download/ ，安装完后确保 ollama 后台服务已启动（在 mac 上启动 ollama 应用程序，在 linux 上通过 ollama serve 启动），可通过 ollama list 确认。 应用实例本地部署 Google Gemma： 环境准备：进入 ollama.com 下载程序并安装（支持 windows、linux 和 macos），在命令提示符中输入 ollama v 检查版本，安装完成后版本应为 0.1.26，cls 清空屏幕，输入 ollama run gemma 运行模型（默认 2b），首次需下载，想用 7b 则运行 ollama run gemma:7b 。 常用内部指令：/set 显示设置界面可调整的设置项，/show 显示模型信息，/load<model> 加载已有模型，/bye 退出。 2b 反应速度快但互动话题有限，7b 输出内容质量相对较高但有卡顿，对非英文语种反馈不稳定。

Ollama 是一个开源框架，具有以下特点和功能： 1. 专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计，简化了部署过程，方便非专业用户管理和运行复杂模型。 2. 是一个轻量级、可扩展的框架，提供简单的 API 来创建、运行和管理模型，还有预构建模型库，降低了使用门槛，适合自然语言处理研究、产品开发以及初学者或非技术人员使用。 3. 支持多种大型语言模型，包括通义千问、Llama 2、Mistral 和 Gemma 等，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。 4. 提供模型库，用户可从中下载不同的模型，这些模型有不同的参数和大小，以满足不同需求和硬件条件。模型库可通过 https://ollama.com/library 查找。 5. 支持用户自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。 6. 提供 REST API，用于运行和管理模型，以及与其他应用程序的集成选项。 7. 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 官方下载地址：https://ollama.com/download 。安装完成后，可通过 ollama list 确认，未下载模型时通常显示为空。可通过 ollama 命令下载模型。

以下是一些适合客户端使用的 ASR 模型： 1. Ollama： 支持多种大型语言模型，如通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。 提供模型库，用户可从中下载不同参数和大小的模型以满足不同需求和硬件条件，可通过 https://ollama.com/library 查找。 支持用户自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。 提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 2. FishAudio 的 Fish Agent： 集成了自动语音识别（ASR）和文本到语音（TTS）技术，无需传统的语义编码器/解码器，即可实现语音到语音的直接转换。 模型经过 700,000 小时的多语言音频内容训练，支持包括英语、中文在内的多种语言，能够精准捕捉和生成环境音频信息。文本方面由 Qwen2.53B 处理。 相关链接： https://huggingface.co/fishaudio/fishagentv0.13b https://github.com/fishaudio/fishspeech 3. Gemini： Gemini Nano1 和 Gemini Pro 模型在各种 Benchmark 上的自动语音识别（ASR）任务中表现出色，如在 FLEURS、多语言 Librispeech 以及语音翻译任务 CoVoST 2 等测试集中。 相关链接：未提及。

以下是一些适合客户端使用的 TTS 模型： 1. Fish Speech：语音处理接近人类水平，约十五万小时三语数据，对中文支持完美。开发者为 fishaudio，具有亿级参数，高效轻量，可在个人设备上运行和微调，适合作为私人语音助手。详细介绍及更多演示：https://xiaohu.ai/p/10779 ，GitHub：https://github.com/fishaudio/fishspeech 。 2. GPTSoVITS：只需 1 分钟语音即可训练一个自己的 TTS 模型，是一个声音克隆和文本到语音转换的开源 Python RAG 框架。5 秒数据就能模仿，1 分钟的声音数据就能训练出高质量的 TTS 模型，完美克隆声音。支持零样本 TTS、少量样本训练、跨语言支持、易于使用的界面等。GitHub： 。

Trae 的 Builder 模式相关信息如下： Trae 提供了两种模式，其中 Builder 模式可以帮助从 0 开发一个完整的项目，对代码文件的任何更改都会自动保存。 使用 Builder 模式的步骤： 在电脑上新建一个文件夹，文件夹名字可自定义，如“helloworld”。 使用 Trae 打开这个文件夹，在弹出的弹层里选中新建的文件夹。 点击右上角的“Builder”按钮切换到 Builder 模式。 在 Builder 模式下的使用案例，如生成一个贪吃蛇游戏：打开 Builder 模式，直接输入“使用 web 技术栈生成一个贪吃蛇游戏”，排队完成后，Trae 开始思考和代码编写过程，期间需要手动接入进行文件审查，在提示中点击“全部接受”。代码生成完成之后，Trae 自动运行命令启动页面，点击运行，在 Webview 中即可看到实现的游戏效果。 如果您在使用 Trae 的 Builder 模式时出现“客户端异常，请稍后再试”的提示，建议您稍后再尝试操作，或者检查网络连接等是否正常。

X 公司的 Grok 有客户端。它提供免费图像生成和聊天功能，效果优异。下载链接为：

Mac 有 Chat GPT 客户端，以下是相关信息： 下载地址： persistent.oaistatic.com/sidekick/public/ChatGPT_Desktop_public_latest.dmg 或者：https://waytoagi.feishu.cn/file/I58PbrukKoXYdVxEF0EcY9SXnBf 下载不了可以用百度云链接：https://pan.baidu.com/s/1jFZ5uBClqP0T1IOKQLW5HQ?pwd=hmbe 提取码：hmbe 或者：https://persistenNt.oaistatic.com/sidekick/public/ChatGPT_Desktop_public_latest.dmg 使用条件： 需要苹果芯片的 mac。 内测用户（非内测用户使用指南： ）。 macOS 12.6.8 M1 芯片不兼容，系统版本 MacOS 14 及以上。 提前下载使用 ChatGPT Mac 桌面客户端的办法（需要有 ChatGPT 付费账号，以及网络技术基础）： 以 ProxyMan 为例： 登录一次以触发 API 调用。 对 ChatGPT 的 App 启用 SSL 代理（需要配置好 ProxyMan 证书）。 再登录一次以触发 API 调用。 然后右键点击 ab.chatgpt.com/v1/initialize 选择本地映射，并将所有的 false 替换为 true。 再尝试一次，你就应该能顺利登录了。 详细版图文教程：

大模型的系统提示词主要包括以下方面： 1. 在“五津：一键生成‘摸鱼打工猫’视频”中，针对用户选择的主题和回答，总结用户的创作意图，如“打工猫摸鱼的 2 小时，在巴厘岛能看一场日落”，并根据此生成 4 组体现幽默风趣、以宫崎骏风格描绘主角为摸秋刀鱼橘猫的绘图提示词，以数组形式输出到“tishici”，将用户意图输出到“biaoti”。 2. 在“云中江树：智能对决：提示词攻防中的 AI 安全博弈”中，系统提示词的相关防御措施分为输入侧、模型侧和输出侧三个部分。输入侧可进行意图识别、语义匹配等综合判断用户输入是否恶意；模型侧对于有能力的厂商应增强安全性并平衡性能，开发者则要在开发中带着安全意识优化系统提示词，加入安全引导和禁止内容等；输出侧可使用传统防御和内容过滤手段，并针对大模型特点进行私有数据泄露等检查。此外，还提到间接注入和提示词泄露的情况，间接注入常发生在应用获取依赖外部数据资源时，攻击者通过隐藏恶意指令完成攻击；提示词泄露指试图操纵模型输出获取部分或全部系统提示词，大模型输出内容可分为系统提示词、用户提示和助手提示词三段，通过攻击手段可获取系统提示词。

以下是对通义千问 Qwen2.5VL 模型的介绍： 版本：有 3B、7B 和 72B 三个尺寸版本。 主要优势： 视觉理解能力：在 13 项权威评测中夺得视觉理解冠军，全面超越 GPT4o 与 Claude3.5。 视频理解能力：支持超 1 小时的视频理解，无需微调即可变身为 AI 视觉智能体，实现多步骤复杂操作。 万物识别：擅长识别常见物体及分析图像中的文本、图表、图标、图形和布局。 精准的视觉定位：采用矩形框和点的多样化方式对通用物体定位，支持层级化定位和规范的 JSON 格式输出。 全面的文字识别和理解：提升 OCR 识别能力，增强多场景、多语言和多方向的文本识别和文本定位能力。 Qwen 特色文档解析：设计了更全面的文档解析格式，称为 QwenVL HTML 格式，能够精准还原文档中的版面布局。 增强的视频理解：引入动态帧率（FPS）训练和绝对时间编码技术，支持小时级别的超长视频理解，具备秒级的事件定位能力。 开源平台： Huggingface：https://huggingface.co/collections/Qwen/qwen25vl6795ffac22b334a837c0f9a5 Modelscope：https://modelscope.cn/collections/Qwen25VL58fbb5d31f1d47 Qwen Chat：https://chat.qwenlm.ai 然而，对于阶跃星辰 step1.5vmini 和 Gemini2.0Flash 模型，目前提供的信息中未包含其与通义千问 Qwen2.5VL 模型的直接对比内容，因此无法确切判断哪个模型在视觉理解方面最厉害。但从通义千问 Qwen2.5VL 模型的上述特点来看，其在视觉理解方面具有较强的能力和优势。

目前在视频视觉理解能力方面表现出色的大模型有： 1. 昆仑万维的 SkyReelsV1：它不仅支持文生视频、图生视频，还是开源视频生成模型中参数最大的支持图生视频的模型。在同等分辨率下各项指标实现开源 SOTA。其具有影视化表情识别体系、人物空间位置感知、行为意图理解、表演场景理解等优势。 2. 通义千问的 Qwen2.5VL：在 13 项权威评测中夺得视觉理解冠军，全面超越 GPT4o 与 Claude3.5。支持超 1 小时的视频理解，无需微调即可变身为 AI 视觉智能体，实现多步骤复杂操作。擅长万物识别，能分析图像中的文本、图表、图标、图形和布局等。

目前全世界较为厉害的视频视觉理解大模型有以下几个： 1. 昆仑万维的 SkyReelsV1：不仅支持文生视频、图生视频，是开源视频生成模型中参数最大且支持图生视频的模型。在同等分辨率下各项指标实现开源 SOTA。其优势包括影视化表情识别体系、人物空间位置感知、行为意图理解、表演场景理解等。 2. 腾讯的混元：语义理解能力出色，能精准还原复杂的场景和动作，如特定品种的猫在复杂场景中的运动轨迹、从奔跑到跳跃的动作转换、琴音化作七彩音符等。 3. Pixverse V3.5：全球最快的 AI 视频生成模型，Turbo 模式下可在 10 秒内生成视频，最快仅需 5 6 秒。支持运动控制更加稳定、细节表现力强、首尾帧生成功能，具备顶尖动漫生成能力。

目前在视觉理解大模型方面，较为突出的有 DeepSeek 的 JanusPro 模型，它将图像理解和生成统一在一个模型中；还有通义千问的视觉理解模型，其价格有较大降幅。此外，Pixverse V3.5 是全球最快的 AI 视频生成模型，在某些方面也展现出了出色的能力。但很难确切地指出全世界最厉害的视觉理解大模型，因为这取决于不同的评估标准和应用场景。

大模型对话产品具有以下优点： 1. 具有强大的语言理解和生成能力。 2. 能够提供类似恋爱般令人上头的体验，具有一定的“想象力”和“取悦能力”。 3. 可以通过陪聊建立人和 AI 之间的感情连接，产品粘性不完全依赖技术优越性。 4. 能够为用户提供产品咨询服务，适用于有企业官网、钉钉、微信等渠道的客户。 5. 具有多种应用场景，如私有领域知识问答、个性化聊天机器人、智能助手等。 大模型对话产品也存在一些缺点： 1. 存在记忆混乱的问题。 2. AI 无法主动推动剧情，全靠用户脑补，导致用户上头期短，疲劳度高，长期留存低。 3. 无法回答私有领域问题（如公司制度、人员信息等）。 4. 无法及时获取最新信息（如实时天气、比赛结果等）。 5. 无法准确回答专业问题（如复杂数学计算、图像生成等）。