Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

高校如何自己本地部署DEEPSEEK

Answer

高校本地部署 DEEPSEEK 可以参考以下内容：

  1. 了解相关平台服务差异，如 DLC、DSW 和 EAS 等模型部署平台服务的不同。
  2. 如果拥有云服务器，可以进行本地部署，但要注意满血版本地部署的实际情况。
  3. 在 freely.aliyun.com 可领取 500 元免费额度，但有使用限制，不能部署满血版和较大的增流模型。
  4. 登录 Pad 控制台，通过 model gallery 进行部署，如 Deepseek R1 模型，可选择 SG 浪或 Vim 推理框架，根据资源出价，部署后可在模型在线服务 EAS 查看状态。
  5. 模型试用可以使用 postman，通过修改接口和复制文档中的内容进行在线调试，发送请求查看状态码，根据模型名称和相关要求输入内容进行试用。
  6. 会带着大家复现模型的蒸馏和微调，并讲解相关知识。
  7. 实战演练 DeepSeek R1 满血版快速部署和蒸馏训练。

以上信息仅供参考，具体操作可能会因实际情况有所不同。

Content generated by AI large model, please carefully verify (powered by aily)

References

智能纪要：02-26 | DeepSeek部署+蒸馏 2025年2月26日

AI模型的云端部署与试用PaaS平台特性：PaaS平台支持多机分布式部署，满足推理性能要求，使用独占资源和专有网络，能一站式完成模型蒸馏。模型价格差异：简单应用开发平台交付产品价格在千元、万元或几十万元级别，为公司打造专有模型价格更高。云端部署操作：登录Pad控制台，通过model gallery进行部署，如Deepseek R1模型，可选择SG浪或Vim推理框架，根据资源出价，部署后可在模型在线服务EAS查看状态。模型试用方法：使用postman，通过修改接口和复制文档中的内容进行在线调试，发送请求查看状态码，根据模型名称和相关要求输入内容进行试用。作业布置：部署成功一个大语言模型，通过调试证明成功，在调试内容中带上钉钉昵称向模型对话，将成功结果提交问卷可获得阿里云小礼包。模型蒸馏及相关部署操作API调用与服务关停：介绍了模型API的调用方法，包括查找位置、获取token等，强调使用后要及时停止或删除服务以避免持续付费。模型蒸馏概念：教师模型将知识蒸馏给学生模型，有多种蒸馏方式，如R1通过蒸馏数据集并用于学生模型微调。蒸馏应用场景：包括车机等算力有限场景，能让小模型在特定领域有良好效果，还能实现低成本高速推理和修复模型幻觉。模型部署实操：在model gallery中选择模型，如1000问7B指令模型，进行部署，选择VIM加速和竞价模式，查看部署状态和日志。

智能纪要：02-26 | DeepSeek部署+蒸馏 2025年2月26日

关于AI模型部署与相关知识的讲解本地部署介绍：讲解了如果拥有云服务器如何进行本地部署，以及满血版本地部署的实际情况。免费额度说明：指出在freely.aliyun.com可领取500元免费额度，但有使用限制，不能部署满血版和较大的增流模型。平台服务差异：介绍了DLC、DSW和EAS等模型部署平台服务的差别。模型蒸馏微调：会带着大家复现模型的蒸馏和微调，并讲解相关知识。Deepseek R1模型的制作及相关模型比较R1模型的强化学习：通过强化学习，在训练过程中给予模型反馈，如路线规划是否成功到达终点、输出格式是否符合期望等，对正确路线增强权重，使做对的概率变高，导致思考逻辑变长。R1模型的蒸馏与微调：用Deepseek RE Zero蒸馏出带思考的数据，基于Deepseek V3微调，进行冷启动，再做强化学习，还从非公布模型提取微调数据，加上人类偏好，最终形成R1。R1与其他模型的差别：R1是原生通过强化学习训练出的模型，蒸馏模型是基于数据微调出来的，基础模型能力强，蒸馏微调模型能力也会强。模型的相互帮助：Deepseek R1反过来蒸馏数据微调V3，形成互相帮助的局面，使两个模型都更强。

第三期「AI实训营」手把手学AI【第三期：尝鲜阿里云上的DeepSeek玩法】

|时间|主题|课程内容|课程文档||-|-|-|-||02/25 20:00|#阿里云百炼篇：用DeepSeek搭建智能体|阿里云百炼满血版DeepSeek介绍<br>基于阿里云百炼的DeepSeek智能体搭建|[尝鲜阿里云百炼上的DeepSeek玩法.pdf](https://bytedance.feishu.cn/space/api/box/stream/download/all/RSqWbr9FzozYSsxehRDc0iNVnWe?allow_redirect=1)||02/26 20:00|#人工智能平台PAI篇：本地部署满血版DeepSeek|DeepSeek R1技术原理<br>解锁DeepSeek的不同玩法：问答助手？蒸馏？微调？<br>实战演练：DeepSeek R1满血版快速部署&蒸馏训练|[用阿里云PAI复现Deepseek蒸馏.pdf](https://bytedance.feishu.cn/space/api/box/stream/download/all/HWHTbXYWYoc0t8xsSk0cNalTnGg?allow_redirect=1)|

Others are asking
我想让DEEPSEEK帮我写一篇论文，题目已经定好了，怎么给他输入指令
以下是给 DeepSeek 输入指令以帮助您写论文的一些建议： 1. 采用结构化提示词： 优先保留专业领域术语和技术词汇，这些术语通常具有高信息价值。 对不同类型的信息设置权重，按优先级排序：任务定义>关键约束>专业术语>定量信息>方法论>背景。 以完整语义单元为基本保留单位，而非单个词语，确保压缩后的内容仍保持语义完整性。 避免详细指导思考过程，让模型自主生成思维链。 2. 高阶能力调用： 文风转换矩阵：例如“用鲁迅杂文风格写职场 PUA 现象”“将产品说明书改写成《史记》列传格式”“把这篇论文摘要翻译成菜市场大妈能听懂的话”。 领域穿透技术：如行业黑话破解“解释 Web3 领域的'胖协议瘦应用'理论”。 3. 场景化实战策略： 创意内容生成。 技术方案论证。 4. 效能增强技巧： 对话记忆管理：包括上下文锚定（如“记住当前讨论的芯片型号是麒麟 9010”）、信息回溯（如“请复述之前确认的三个设计原则”）、焦点重置（如“回到最初讨论的供应链问题”）。 输出质量控制：针对过度抽象、信息过载、风格偏移等问题，使用相应的修正指令。 5. 特殊场景解决方案： 长文本创作：可采用分段接力法，如“先完成故事大纲→逐章扩展→最后进行伏笔校验”“确保新章节与前文的三处细节呼应”。 敏感内容处理：使用概念脱敏法（如“用经济学原理类比说明网络审查机制”）或场景移植法（如“假设在火星殖民地讨论该议题”）。 在输入指令时，您需要清晰明确地描述论文的题目、研究目的、主要论点、关键论据、期望的结构和风格等重要信息，以便 DeepSeek 能够为您生成符合要求的内容。
2025-04-14
DEEPSEEK提示词生成器
以下是关于 DeepSeek 提示词生成器的相关信息： 即梦 3.0 模型中使用 DeepSeek 生成提示词 1. 进入即梦 AI 平台，访问其官方网站 https://jimeng.jianying.com/aitool/image/generate 。 2. 选择 3.0 模型。 3. 在即梦 AI 平台上找到 DeepSeek 入口。 4. 简单描述想要的画面，如“我想生成一张生日贺卡，上面有蛋糕和气球，还有‘生日快乐’的字样。” 5. DeepSeek 会根据描述生成详细的提示词。 6. 把提示词复制到生图功能的输入框，选择 3.0 模型，点击生成即可。 制作“古人骂人”视频中使用 DeepSeek 生成文案 1. 打开 DeepSeek 网站 https://chat.deepseek.com/ 。 2. 输入提示词，示例：“让 XX 用现代口语化的表达、生气骂人的口吻吐槽 XXXX（例如：吐槽现代人），XXX 目的（例如：推广 XXX 吸引游客来旅游），输出 3 条 60 字左右的毒舌文案，每条里面都要有‘回答我！Look in my eyes！Tell me！why？baby！why？’” 3. 从中挑选最满意的一条（或多条）保存备用。 使用 DeepSeek 生成单词 1. 输入单词主题、图片风格、单词数量，如非洲动物、真实风格、2 。 2. 选择 deepseekr1 模型，输入单词主题、单词数量，DeepSeek 为用户输出指定数量的单词，并以数组方式呈现，包括单词、中文、美式音标、英文句子及其中文翻译。 提示词： 角色：您是一个专业的单词生成助手，擅长围绕各种主题挖掘相关英语单词，为用户提供精准且实用的单词、中文、美式音标内容。 技能 1：输出关联英语单词，当用户输入主题时，分析主题内涵，运用专业知识，输出指定数量个与该主题紧密关联的英语单词、中文翻译、美式音标，将该单词用于一句英文中（不超过 15 个单词），并将这句英文句子翻译成中文句子，并以数组形式呈现。 限制：仅围绕用户输入主题输出相关英语单词、中文翻译、美式音标，不涉及其他领域内容。输出必须为符合要求的数组形式，英文单词对应变量 yingwen，中文翻译对应变量 zhongwen，美式音标对应变量 yinbiao，英文句子对应变量 juzi_yingwen，中文句子翻译对应变量 juzi_zhongwen，不得有其他格式偏差。
2025-04-10
DEEPSEEK相关学习内容
以下是一些关于 DeepSeek 的学习资料： 《雪梅 May 的 AI 学习日记》挑战 100 天和 AI 做朋友（持续更新中）： 专题 1：飞书多维表格+deepseekR1+扣子 DAY106 2025.2.17 速读：快速了解 deepseek 学习材料： 雪梅唠嗑：公众号文章 感受：上面这个文档是 waytoAGI 整理的 deepseek 相关的内容，快速浏览一遍，也不会花太多时间，但是可以对 deepseek 的各个角度有一些基础了解。任何一个爆火的名词或者热门的 AI 工具出现的时候，都可以先在 waytoAGI 上搜一下，社区里面会有很多小伙伴已经贡献了很多相关的内容。从经验来看，只要是能听到的词汇，基本上都能搜到。 张翼然：AI 赋能教学，创新引领未来.pdf_： 包含多篇相关资料，如《Deepseek R1 本地部署完全手册》.pdf、00 Deepseek 官方提示词.txt、普通人学 AI 指南.pdf、DeepSeek 从入门到精通.pdf、DeepSeek 图解 10 页 PDF.pdf、Prompt 提问研究小册子 V3.6.pdf 等。 有用的不是提示词技巧，而是思考和表达。 相关链接：https://pan.quark.cn/s/56e2713e95f4 非技术人 10 分钟读懂 Deepseek R1｜天才模型养成与 AI 超越人类的破晓时刻： DeepSeek 在这个春节火到没边，不仅在公众号、小红书、抖音疯狂刷屏，就连过年餐桌上七大姑八大姨都会来找我唠上两句。 主要围绕以下话题： 天才养成记：DeepSeek R1 为什么如此聪明？ “填鸭”之困：传统大模型训练的瓶颈？ 自学成才：DeepSeek R1 的破局之道？ 纯强化学习：再次带来 AI 超越人类的希望？ 去除无用“高精尖”知识，讲透技术黑话，力求帮助每个不太懂技术的读者，深度理解 Deepseek R1，更好开展自己的工作与生活。
2025-04-09
如何在电脑上安装DEEPSEEK
以下是在电脑上安装 DeepSeek 的步骤： 1. 访问网址：https://www.deepseek.com/zh 。 2. 点击开始对话，左边选择代码助手。 3. 对于 DeepSeek R1 的申请： 申请链接：https://www.volcengine.com/activity/deepseek?utm_term=202502dsinvite&ac=DSASUQY5&rc=D3H5G9QA 。 4. 环境安装（如需要）： 若涉及相关开发，可能需要提前安装 Node.JS。 下载地址：https://nodejs.org/zhcn 。 Mac 安装包： 。 Windows 安装包： 。安装时可能需要管理员权限。安装完成后，可打开终端面板输入相关指令查看是否安装成功。 此外，还可以通过以下方式使用 DeepSeek： 1. 使用网页聊天： 安装插件：使用 Chrome 或 Microsoft Edge 浏览器，点击此链接安装浏览器插件并添加到拓展程序：https://chromewebstore.google.com/detail/pageassist%E6%9C%AC%E5%9C%B0ai%E6%A8%A1%E5%9E%8B%E7%9A%84web/jfgfiigpkhlkbnfnbobbkinehhfdhndo 。 打开聊天页面，点击右上角的插件列表，找到 Page Assist 插件并点击打开。 配置“DeepSeekR1”模型的 API key 。 基础 URL：https://ark.cnbeijing.volces.com/api/v3 。填好后点击保存，关掉提醒弹窗。 添加“DeepSeekR1”模型，即可愉快使用。
2025-03-26
你是一名DEEPSEEK专家，请用大白话交给小白掌握deepseek的使用，举例说明
DeepSeek 的使用对于小白来说可能有点复杂，但我尽量用大白话给您解释清楚。 比如说，您想让 DeepSeek 帮您生成“玄武门之变结束的当天，李世民在深夜写下一段独白，你觉得他会写什么？”这样的内容。 DeepSeek 会这样来处理： 1. 先回顾玄武门之变的历史背景，比如这场政变发生在 626 年，李世民杀了兄弟，逼父亲退位等。 2. 思考李世民当晚的心理，可能有释然、愧疚、恐惧、自责等多种复杂情绪，还要考虑他是被迫还是早有预谋。 3. 要让生成的独白不仅符合历史事实，还要有文学性，体现人性的复杂。比如要平衡他的野心与自责，对未来的抱负与对过去的悔恨。 4. 考虑当时的文化背景，像儒家思想对孝悌的重视，李世民的行为违背了这些伦理，他可能会内心挣扎，还可能为自己的行为找正当理由。 5. 按照您的需求，给独白加上一些文学修辞，像比喻、对仗、意象等，增强画面感。 另外，DeepSeek 还有个很厉害的地方，就是它能在独白文本中“自作主张”地加入括号里的场景描述，让整个输出更有画面感。比如“（夜风掀动案头《韩非子》，停在‘夫妻者，非有骨肉之恩也’那页）”、“（墨迹在‘弑’字上晕开一团）”、“（忽然扔笔，抓起铜镜）”这些句子，很难相信是 AI 写的。 总之，使用 DeepSeek 时要考虑很多方面的因素，它能根据您的提示词和需求，生成很精彩的内容。
2025-03-13
DEEPSEEK
DeepSeek 是一家具有独特特点和影响力的公司。 DeepSeek 不是“中国式创新”的产物，将其比喻成“AI 界的拼多多”是偏颇的。早在 2024 年 5 月 DeepSeekV2 发布时，其以多头潜在注意力机制（MLA）架构的创新在硅谷引发小范围轰动，而当时在国内舆论场被描摹成“大模型价格战的发起者”。这表明 DeepSeek 与硅谷更有对话和交流的密码，其秘方是硅谷味儿的。 如果 V3 是 DeepSeek 的 GPT3 时刻，接下来的发展充满未知，但 DeepSeek 作为中国最全球化的 AI 公司之一，赢得全球同行尊重的秘方也是硅谷味儿的。 一个提示词“HiDeepSeek”能让 DeepSeek 的能力更上一层楼。通过 Coze 做的小测试可进行效果对比。使用方法为：首先搜索 www.deepseek.com 并点击“开始对话”；然后将装有提示词的代码发给 Deepseek；最后认真阅读开场白后正式开始对话。其设计思路包括将 Agent 封装成 Prompt 并储存在文件，通过提示词文件让 DeepSeek 实现同时使用联网和深度思考功能，在模型默认能力基础上优化输出质量等。完整提示词版本为 v1.3，特别鸣谢李继刚的【思考的七把武器】提供思考方向，以及 Thinking Claude 和 Claude 3.5 Sonnet。
2025-03-10
北大清华伯克利等知名高校最新AI研究成果
以下是北大清华伯克利等知名高校的最新 AI 研究成果： 国内方面： 清华大学的自然语言处理实验室资助了 OpenBMB 项目，催生了 MiniCPM 项目，这是可以在设备上运行的小型<2.5B 参数模型，其 2.8B 视觉模型在某些指标上仅略低于 GPT4V。 阿里巴巴最近发布了 Qwen2 系列，社区对其视觉能力印象深刻，能完成从具有挑战性的 OCR 任务到分析复杂的艺术作品等。 国外方面： Stability AI 发布的 Stable Video Diffusion 是第一个能够从文本提示生成高质量、真实视频的模型之一，并且在定制化方面取得了显著的进步。今年 3 月，他们推出了 Stable Video 3D，该模型经过第三个对象数据集的微调，可以预测三维轨道。 OpenAI 的 Sora 能够生成长达一分钟的视频，同时保持三维一致性、物体持久性和高分辨率。它使用时空补丁，类似于在变压器模型中使用的令牌，但用于视觉内容，以高效地从大量视频数据集中学习。此外，Sora 还使用了其原始大小和纵横比的视觉数据进行训练，从而消除了通常会降低质量的裁剪和缩放。 Google DeepMind 的 Veo 将文本和可选图像提示与嘈杂压缩视频输入相结合，通过编码器和潜在扩散模型处理它们，以创建独特的压缩视频表示。然后系统将此表示解码为最终的高分辨率视频。 此外，Geoffrey Hinton 让“深度学习”从边缘课题变成 Google 等网络巨头仰赖的核心技术。Hinton 和他的团队让 CIFAR 获得丰厚回报，深度学习也成为目前的主流。Hinton 冷静、谦逊与公平的态度为 NCAP 建立了良好的开放合作氛围，推进了世界的 AI 研究工作。 关于未来研究方向的参考资料包括： 人工智能技术与安全研究：DeepMind、OpenAI、MIT、Stanford、Berkeley 等机构的论文，“AI Index”（斯坦福大学发布）、OpenAI 技术博客、Google AI Blog 等技术报告，专家著作如 Nick Bostrom《Superintelligence》、Stuart Russell《Human Compatible》等。 经济与社会变迁：IMF、世界银行、OECD、WEF（世界经济论坛）的未来就业与技术报告，未来学与社会预测如 Herman Kahn、Ray Kurzweil《The Singularity is Near》等，科技史与社会影响方面如 Joseph Schumpeter（创新与经济周期）、Carlota Perez（技术革命与金融资本），以及经济学者对产业革命的历史演化研究。 政治与国际关系：联合国关于 AI 和数字治理的政策文件、欧盟 AI Act 的立法草案与相关研究，前沿智库与研究中心如 Future of Humanity Institute、Brookings、RAND Corporation 等，军事与国防方面如美国国防部和 NATO 对 AI 的战略规划，中国、欧盟、日本等国家的 AI 国家政策及军民融合案例。
2025-03-24
我是一名高校新媒体工作人员，由于文字能力一般，需要能力较强的ai文本工具，用于撰写公文，新闻稿，公众号推文，总结简报等。请推荐至少5个，并进行对比分析
以下为您推荐至少 5 个适用于高校新媒体工作人员的 AI 文本工具，并进行对比分析： Copy.ai： 功能强大，提供丰富的新闻写作模板和功能。 可快速生成新闻标题、摘要、正文等内容，节省写作时间，提高效率。 Writesonic： 专注于写作，提供新闻稿件生成、标题生成、摘要提取等功能。 智能算法能根据用户提供信息生成高质量新闻内容，适合新闻写作和编辑人员。 Jasper AI： 人工智能写作助手，写作质量较高，支持多种语言。 虽主打博客和营销文案，也可用于生成新闻类内容。 Grammarly： 不仅是语法和拼写检查工具，还提供一些排版功能，可改进文档整体风格和流畅性。 QuillBot： AI 驱动的写作和排版工具，能改进文本清晰度和流畅性，同时保持原意。 秘塔写作猫： 是 AI 写作伴侣，能推敲用语、斟酌文法、改写文风，还能实时同步翻译。 支持全文改写，一键修改，实时纠错并给出修改建议，智能分析文章属性并打分。 笔灵 AI 写作： 是智能写作助手，能应对多种文体写作，如心得体会、公文写作、演讲稿、小说、论文等。 支持一键改写/续写/扩写，智能锤炼打磨文字。 腾讯 Effidit 写作： 由腾讯 AI Lab 开发，能探索用 AI 技术提升写作者的写作效率和创作体验。 选择工具时，您可根据具体需求（如文档类型、个人偏好等）进行考虑。例如，若主要需求是生成新闻类内容，Copy.ai、Writesonic 和 Jasper AI 可能更适合；若还需兼顾排版和语法检查，Grammarly 和 QuillBot 是不错的选择；若注重中文内容的改写，秘塔写作猫、笔灵 AI 写作和腾讯 Effidit 写作可优先考虑。
2025-02-26
目前各大高校有哪些场景会实用算力
目前各大高校实用算力的场景可能包括以下方面： 1. 科研计算：如在物理学、化学、生物学等学科的研究中，进行复杂的模拟和数据分析。 2. 人工智能研究：包括模型训练、算法优化等。 3. 图形和图像处理：例如在设计、动画制作等专业中的应用。 4. 数据分析和处理：用于处理大规模的数据集，以支持学术研究和决策制定。 需要注意的是，具体的应用场景会因高校的学科设置、研究方向和教学需求而有所不同。
2025-02-19
职场人士如果高校利用AI
对于职场人士高效利用 AI ，以下是一些方面和建议： 学生和应届毕业生： 职业选择和规划：通过了解 AI 技术在不同职业中的应用，评估自身兴趣和技能，选择合适职业路径并制定详细规划。 技能提升：依据职业目标获取个性化学习建议和资源，提升在 AI 领域的技能，为就业做准备。 职场新人和职业转换者： 职业发展指导：根据自身职业目标和市场需求制定发展计划，明确短期和长期目标。 职业转型支持：对于希望从其他领域转型到 AI 相关领域的从业者，获取详细转型路径和必要技能培训资源，实现顺利转型。 企业： 人才招聘和培养：评估应聘者的 AI 技能水平，选择合适候选人，为现有员工提供职业发展规划和技能提升建议，培养内部 AI 人才。 员工职业发展：为员工制定个性化职业发展计划，提供持续职业指导和培训，提升员工职业满意度和留任率。 教育机构： 职业指导服务：将相关产品作为学生职业指导的一部分，帮助学生了解 AI 领域职业机会和发展路径，提升就业率。 课程设计和优化：根据市场需求和学生职业规划优化课程设置，提供更有针对性的 AI 技能培训。 职业咨询师： 辅助工具：使用相关产品为客户提供更精准的职业规划建议和技能评估，提升咨询服务质量和效率。 数据支持：基于产品提供的市场数据和职业趋势分析，为客户提供更全面和前瞻性的职业指导。 此外，还有一些优秀的 AI 编程教程和实践分享，例如 Nicholas Carlini 的博文“How I Use 'AI'”，其中提到了使用 LLM 进行编程和研究的实例，包括构建完整的 Web 应用、学习新技术、开启新项目、简化代码、单调任务的自动化、提升用户专业度和效率、API Reference、搜索、解决一次性的任务以及修复常见错误等方面。
2025-02-09
想要对deepseek进行提问需要什么技巧吗？有没有什么高校组织给出的方案？
对 DeepSeek 进行提问时，以下是一些技巧： 1. 身份定位技巧：目的是让 AI 理解您的背景和专业水平。例如，差的表述是“帮我写一篇营销方案”，好的表述是“作为一名刚入职的电商运营，需要为天猫美妆店铺制定 618 活动方案”。 2. 场景描述技巧：提供具体的应用场景和限制条件。比如，差的表述是“写一篇新品发布文案”，好的表述是“为新上市的儿童智能手表写一篇朋友圈文案，目标用户是 25 35 岁的年轻父母，预算 3000 以内，需强调安全定位功能”。 3. 结构化输出技巧：指定具体的输出格式和内容结构。例如，差的表述是“分析最近的新能源汽车销量数据”，好的表述是“请用表格对比 2024 年 Q1 特斯拉、比亚迪的销量数据，包含以下维度：月度销量、同比增长、市场份额，并在表格下方总结三个关键发现”。 4. 分步骤提问技巧：将复杂问题拆解为可管理的小任务。比如，差的表述是“怎么做短视频运营？”，好的表述是“请分三步指导新手做美食短视频：前期准备：需要哪些设备和技能 拍摄阶段：关键场景和机位选择 后期制作：剪辑节奏和音乐配合建议”。 5. 反馈优化技巧：通过追问获得更精准的答案。例如，第一轮“帮我做一份产品分析报告”，追问 1：“内容太专业了，能用更通俗的语言解释吗？”追问 2：“可以增加一些具体的用户案例来支撑观点吗？” 6. 深度思考引导技巧：目的是获得更深入的分析和见解。
2025-02-07
我想要了解AI在高校基础医学教学中的应用案例
以下是一些 AI 在高校基础医学教学中的应用案例： 教学：帮助学生做好组会准备，使用了 Claude + Gamma.app，Claude 能节省绝大部分时间。 医疗：蛋白质结构预测和蛋白质合成，用于生成漂亮图片的 AI 可帮助科学家研究并设计新的蛋白质。 做调研：用特定 prompt ，2 小时帮同学干完 3 篇调研报告。 做调研：用 ChatGPT 做调研。 医疗：健康生物制药的研究，AI 在抗癌、抗衰老、早期疾病防治等研究应用中起重要作用。 此外，为了在医疗保健中产生真正的改变，AI 应像人类一样学习，例如成为顶尖医疗人才需要多年密集信息输入、正规学校教育和学徒实践，AI 也应通过合理的模型训练方式而非仅依靠大量数据来提升。 对于中学生学习 AI ，有以下建议： 从编程语言如 Python 、JavaScript 入手，学习编程语法、数据结构、算法等基础知识。 尝试使用 ChatGPT 、Midjourney 等 AI 生成工具，探索百度的“文心智能体平台”、Coze 智能体平台等教育平台。 学习 AI 基础知识，包括基本概念、发展历程、主要技术及在各领域的应用案例。 参与学校或社区组织的 AI 编程竞赛、创意设计大赛等活动，尝试解决实际问题。 关注 AI 发展的前沿动态，思考其对未来社会的影响。
2024-11-07
如何本地部署大模型，如何选择是否使用云服务商
以下是关于本地部署大模型以及选择是否使用云服务商的相关内容： 本地部署大模型的主要步骤： 1. 选择合适的部署方式，包括本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身的资源、安全和性能需求进行选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，可以使用开源的预训练模型如 BERT、GPT 等，也可以自行训练一个基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调训练，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，大模型涉及大量数据和隐私信息，需要重视安全性和合规性。 以 SDXL 为例的本地部署步骤： 1. SDXL 的大模型分为两个部分，base+refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对生成的模型进行细化，生成细节更丰富的图片。还有一个配套的 VAE 模型，用于调节图片的画面效果和色彩。 2. 想要在 webUI 中使用 SDXL 的大模型，首先要在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 将模型放入对应的文件夹中，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。完成之后，启动 webUI，就可以在模型中看到 SDXL 的模型。 以 LLM 大语言模型为例的本地部署步骤： 1. 下载并安装 Ollama，点击进入根据电脑系统下载 Ollama：https://ollama.com/download ，下载完成后，双击打开，点击“Install”，安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 。 2. 下载 qwen2:0.5b 模型（0.5b 是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型）。如果是 windows 电脑，点击 win+R，输入 cmd，点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。复制相关命令行，粘贴进入，点击回车，等待下载完成。 总的来说，部署大模型需要综合考虑多方面因素，包括部署方式、数据准备、模型训练、部署调试以及安全性等。需要根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。
2025-04-14
本地部署
SDXL 的本地部署步骤如下： 1. 模型下载：SDXL 的大模型分为两个部分，第一部分 base + refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对文生图生成的模型进行细化以生成细节更丰富的图片。此外，还有一个配套的 VAE 模型用于调节图片的画面效果和色彩。这三个模型可通过关注公众号【白马与少年】，回复【SDXL】获取云盘下载链接。 2. 版本升级：要在 webUI 中使用 SDXL 的大模型，需在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 放置模型：将 base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。 4. 启动使用：完成上述步骤后启动 webUI，即可在模型中看到 SDXL 的模型。正常使用时，先在文生图中使用 base 模型，填写提示词和常规参数（如尺寸设置为 10241024）进行生成。然后将图片发送到图生图当中，大模型切换为“refiner”，重绘幅度开小一点再次点击生成。 5. 插件辅助：若觉得操作麻烦，可在扩展列表中搜索 refine 安装插件并重启，启用插件后可在文生图界面直接使用 refine 模型进行绘画。 另外，关于本地部署资讯问答机器人：Langchain + Ollama + RSSHub 实现 RAG，步骤包括导入依赖库（如 feedparse 用于解析 RSS 订阅源，ollama 用于在 python 程序中跑大模型，使用前需确保 ollama 服务已开启并下载好模型）、从订阅源获取内容（通过指定函数从 RSS 订阅 url 提取内容，并将长文本拆分成较小的块附带相关元数据）、为文档内容生成向量（使用文本向量模型 bgem3，从 hf 下载好模型后放置在指定路径，通过函数利用 FAISS 创建高效的向量存储），最终实现 RAG。
2025-04-13
我有秋叶整合包，然后需要怎么搭建本地部署？
以下是使用秋叶整合包搭建本地部署的步骤： 1. 下载整合包：可以从。 2. 复制启动器到下载仓库的目录下。 3. 打开启动器，可一键启动。如果有其他需求，可以在高级选项中调整配置。 显存优化根据显卡实际显存选择，不要超过当前显卡显存。xFormers 能极大地改善内存消耗和速度，建议开启。 4. 准备工作完毕后，点击一键启动即可。等待浏览器自动跳出，或是控制台弹出本地 URL 后说明启动成功。 如果报错提示缺少 Pytorch，则需要在启动器中点击配置。 5. Stable Diffusion webui 的更新比较频繁，请根据需求在“版本管理”目录下更新，同时注意插件的更新。 在 webui 的“扩展”选项卡下，可以安装插件。点击“加载自”后，目录会刷新，选择需要的插件点击右侧的 install 即可安装。安装完毕后，需要重新启动用户界面。 具体安装方法： 1. 打开整合包链接（https://pan.baidu.com/s/1hY8CKbYRAj9RrFGmswdNiA?pwd=caru ，提取码：caru），下载《1.整合包安装》，存放到电脑本地。 2. 打开保存到电脑里的文件夹。 3. 打开文件夹《1.秋叶整合包主包》，鼠标右击文件，点击“解压文件”。 4. 选择解压到 D 盘或者 E 盘（避免 C 盘被占满），点击确定。 5. 解压完成后，来到第二个文件夹，双击里面的文件，点击安装。 6. 打开刚刚解压保存的 SD 的根目录，找到启动器，鼠标右击启动器，点击“发送到”，选择桌面快捷方式，方便下次进入。 7. 双击启动器，等待更新，接着点击左边第二个“高级选项”，在显存优化里，根据自己电脑的显存选择。 8. 回到第一个一键启动，点击右下角的一键启动。出现代码页面不用管，等待 SD 的主界面在网页上自动弹出。如果出现报错，可以回到最开始的界面，在左边点击“疑难解答”，再点击右边的“开始扫描”，最后点击“修复”按钮。
2025-04-12
如何部署自己私人AI
部署自己私人 AI 可以参考以下几种方式： 通过云服务器、dify、智能微秘书来免费搭建微信机器人： 1. 在宝塔面板的终端安装相关命令，这些命令位于/root/dify/docker 目录下。 2. 检查运行的容器数量，若 nginx 容器无法运行，可能是 80 端口被占用，可将终端输出的代码粘贴给 AI 以解决。 3. 在浏览器地址栏输入公网 IP（去掉后面的:8888），进入后邮箱密码随便填，建立知识库并进行设置。 4. 选择模型，国内模型有免费额度可选，如智谱 ai，获取钥匙并复制保存，创建应用进行测试和发布。 基于 Hook 机制的微信 AI 机器人： 1. 将 Administrators 改成“wxid_dna83ykqawl222”。 2. 若有 FastGPT 或者 OpenAI 的 key，将 Ai_Lock 修改成“1”，并在 OpenAI 处添加模型 key；若没有，保持 Ai_Lock 为 0。 3. 修改后点击保存。 4. 返回 NGCbot 文件夹下，找到 main.py 文件双击运行。 5. 运行后会弹出微信登录框，正常登录微信，等待系统自动初始化必备文件。 6. 运行成功后，用“大号”给机器人发消息，拿到 wxid 并返回替换。 7. 添加完后，用小号登录，大号可对小号发号施令。 部署和训练自己的 AI 开源模型： 1. 选择合适的部署方式，如本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身资源、安全和性能需求选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，如开源的 BERT、GPT 等，也可自行训练基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，重视大模型涉及的大量数据和隐私信息的安全性和合规性。 总的来说，部署和训练自己的大模型需要综合考虑多方面因素，包括部署方式、数据准备、模型训练、部署调试以及安全性等，根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。
2025-04-11
DEEP SEEK 本地部署(Olama + ChatBox)+私有知识库(cherrystudio)
以下是关于 Deep Seek 本地部署（Olama + ChatBox）+私有知识库（cherrystudio）的相关内容： 一、使用 Docker + RAGFlow + Ollama 搭建个人/企业知识库 1. 将 Ollama 部署的模型接入 GARFlow 返回 RAGFlow 中，打开右上角设置，进入模型提供商，配置 Ollama 相关信息，基础 URL 按要求设置，设置完成后点击确定。 导入一个 embedding 模型用于文本向量化，导入成功后设置系统模型设置，然后返回知识库创建知识库。 进入数据集，导入文件（可设置文件夹当作知识库），导入完毕后解析文件，解析速度取决于本机 GPU 性能，解析好后进行检索测试，测试没问题即可进入聊天界面，助理设置可自行设置。 2. 使用 Ollama 本地部署 DeepSeek 模型 先下载 Ollama 程序，官方网址：https://ollama.com/ 。 下载默认到 C 盘（一般为固态盘，运行速度快），若想修改安装目录到 D 盘，后续会有说明。 下载完右下角会出现 Ollama 图标，打开命令行输入相关命令回车。 若显卡是英伟达 2060Super，可选择 Deepseekr1:14b 的模型，根据自身独立显卡性能下载。 下载速度慢可按 Ctrl+C 强制退出重新下载。 下载完毕后再下载一个嵌入模型，Ollama 的 bge 模型官方网址：https://ollama.com/library/bgem3 ，输入相关命令，下载好后直接退出终端。 二、Flowith 相关报道、采访、使用指南 |标题|发布账号|社媒来源|日期|链接| |||||| |ChatGPT 的对话框过时了？这款 AI 产品提供了一种很新的聊天方式|爱范儿|公众号|2024/04/29|| |Flowith：革新你的工作方式，体验节点式 AI 的超流畅生产力|程序那些事儿|公众号|2024/05/03|| |体验 Flowith：探索人机交互从传统聊天对话到画布式知识管理的转变|AI 兔子洞|公众号|2024/04/22|| |deepseek 服务器繁忙？硅基流不动？看看这篇，内含 18 个平台，可能是最全的 deepseek 方案。|佐佐的 AI 笔记|公众号|2025/02/06|| |满血版自部署 DeepSeekR1+知识库+联网搜索,体验下来可能就只剩下这家了!|字节笔记本|公众号|2025/02/12|| |DeepSeek 让 AI 圈卷出了新高度：Flowith 宣布 DeepSeek R1 现在免费提供!|字节笔记本|公众号|2025/01/27|| |ShowMeAI 周刊 No.15|上周最有讨论度的 6 个 AI 话题：自由画布类产品密集更新、多主体一致成发展趋势、AGI、开源…|ShowMeAI 研究中心|公众号|2025/01/21||
2025-04-10
本地部署大模型，如何微调建立本地知识库
以下是关于本地部署大模型并微调建立本地知识库的详细步骤： 一、使用 AnythingLLM 进行本地知识库搭建 1. 安装 AnythingLLM 安装地址：https://useanything.com/download 安装完成后进入配置页面，主要分为三步： 第一步：选择大模型 第二步：选择文本嵌入模型 第三步：选择向量数据库 2. 构建本地知识库 在 AnythingLLM 中创建自己独有的 Workspace 与其他项目数据隔离。 上传文档并在工作空间中进行文本嵌入。 选择对话模式，提供了 Chat 模式（大模型根据训练数据和上传文档数据综合给出答案）和 Query 模式（大模型仅依靠文档中的数据给出答案）。 二、张梦飞的全本地部署教程 1. 部署大语言模型 下载并安装 Ollama 点击进入，根据电脑系统，下载 Ollama：https://ollama.com/download 下载完成后，双击打开，点击“Install” 安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 下载 qwen2:0.5b 模型 如果是 Windows 电脑，点击 win+R，输入 cmd，点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。 复制相关命令行，粘贴进入，点击回车。 三、智能纪要中的相关内容 在智能纪要中，许键介绍了模型 API 调用方法与知识库创建，包括获取 API key 位置及调用设置，详细讲解了创建 Rag 应用（知识库）流程，如上传非结构化文件、数据解析、切分段落等操作，并回答了诸多问题。同时还涉及工作流创建、模型能力及相关问题的探讨，以及通义千问相关应用及明天课程安排交流等内容。 总之，本地部署大模型并建立本地知识库需要按照上述步骤进行操作和配置，同时不断实践和探索，以达到理想的效果。
2025-04-10