deepseek总是提示系统繁忙,如何解决,如果本地部署的话能解决吗,能的话怎么部署
DeepSeek 总是提示系统繁忙,目前本地部署并不适合普通用户。纳米 AI 搜索是较为稳定的第三方替代方案,其满血版推理能力接近官方但速度较慢,高速版速度快、体验流畅但推理能力稍弱。体验地址为:
如果您想进行本地部署,在 Linux 上部署相对简单,但需要有一张 4G 以上显存的 GPU 显卡。简单步骤如下:
1. 下载代码仓库。
2. 安装依赖(注意有两个依赖未放在 requirements.txt 里)。
3. 启动 webui 的 demo 程序,然后用浏览器登陆服务器的 ip:8080 就能试玩。这个 demo 本身提供了 3 个参数:
server_name:服务器的 ip 地址,默认 0.0.0.0。
servic_port:即将开启的端口号。
local_path:模型存储的本地路径。
4. 第一次启动后生成语音时,需要看下控制台输出,它会下载一些模型文件,因此比较慢,而且可能因为网络的问题有各种失败。但是第一次加载成功了,后面就顺利了。
5. 基于这个基础已经可以开始拓展了,比如把它集成到 agent 的工具中去,比如结合 chatgpt 来做更拟人化的实时沟通。
6. webui 上可以设置的几个参数说明:
text:指的是需要转换成语音的文字内容。
Refine text:选择是否自动对输入的文本进行优化处理。
Audio Seed:语音种子,这是一个数字参数,用于选择声音的类型,默认值为 2,是一个很知性的女孩子的声音。
Text Seed:文本种子,这是一个正整数参数,用于 refine 文本的停顿。实测文本的停顿设置会影响音色,音调。
额外提示词(可以写在 input Text 里):用于添加笑声、停顿等效果。例如,可以设置为。
2025-02-12