Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

llm项目

Answer

以下是一些与 LLM 项目相关的信息：

Content generated by AI large model, please carefully verify (powered by aily)

References

LLM开源中文大语言模型及数据集集合

Luotuo-Chinese-LLM：地址：[https://github.com/LC1332/Luotuo-Chinese-LLM](https://github.com/LC1332/Luotuo-Chinese-LLM)简介：囊括了一系列中文大语言模型开源项目，包含了一系列基于已有开源模型（ChatGLM,MOSS,LLaMA）进行二次微调的语言模型，指令微调数据集等。Linly：地址：[https://github.com/CVI-SZU/Linly](https://github.com/CVI-SZU/Linly)简介：提供中文对话模型Linly-ChatFlow、中文基础模型Linly-Chinese-LLaMA及其训练数据。中文基础模型以LLaMA为底座，利用中文和中英平行增量预训练。项目汇总了目前公开的多语言指令数据，对中文模型进行了大规模指令跟随训练，实现了Linly-ChatFlow对话模型。ChatYuan地址：[https://github.com/clue-ai/ChatYuan](https://github.com/clue-ai/ChatYuan)简介：元语智能发布的一系列支持中英双语的功能型对话语言大模型，在微调数据、人类反馈强化学习、思维链等方面进行了优化。ChatRWKV：地址：[https://github.com/BlinkDL/ChatRWKV](https://github.com/BlinkDL/ChatRWKV)简介：开源了一系列基于RWKV架构的Chat模型（包括英文和中文），发布了包括Raven，Novel-ChnEng，Novel-Ch与Novel-ChnEng-ChnPro等模型，可以直接闲聊及进行诗歌，小说等创作，包括7B和14B等规模的模型。

无需微调，仅用提示词工程就能让 LLM 获得 tool calling 的功能

大家好，我是一个开源项目作者ailm。目前，绝大多数小型本地开源大语言模型以及部分商用大模型接口都不支持稳定的tool calling功能。而现有的解决方案是微调LLM，这导致大量的时间和算力被浪费。本文提出一种仅使用提示词工程和一些精巧的代码设计，即可让LLM获得稳定的tool calling能力。本文使用多个不具备tool calling能力的LLM作为测试模型，在多个工具调用任务上进行实验，成功率为100%。本文所有工作是基于comfyui开发，适合完全没有代码基础的小伙伴们复现并且按自己的想法修改我的工作。

XiaoHu.AI日报

?Xiaohu.AI日报「1月29日」✨✨✨✨✨✨✨✨1⃣️?LLMs-from-scratch项目：详细解释LLMs的工作原理。提供创建自己的LLM的逐步指南。适合企业团队、初创公司和教育机构学习。?https://github.com/rasbt/LLMs-from-scratch?https://x.com/xiaohuggg/status/1751890557805449693?s=202⃣️?SliceGPT-微软开发的大语言模型压缩方法：在保持高性能的同时大幅减少模型参数。允许在更少的GPU上运行，提高运行速度。显著降低了在消费级GPU上的总计算量。?https://arxiv.org/abs/2401.15024?https://x.com/xiaohuggg/status/1751880365307011182?s=203⃣️?️?VisualWebArena-自主智能体的视觉网络任务基准测试：评估智能体在网络环境中的规划、推理和执行任务能力。着重于视觉信息的重要性和多模态智能体评估。提供深入的定量和定性分析，揭示LLM智能体的限制。?https://arxiv.org/abs/2401.13649?https://jykoh.com/vwa?https://x.com/dotey/status/1751746302155632925?s=204⃣️?百川智能的Baichuan 3模型：中文任务评测表现卓越，超越GPT-4。在医疗领域和中华传统文化理解方面表现突出。引入创新技术，提高训练效率和数据质量。?https://x.com/xiaohuggg/status/1751830719222124727?s=205⃣️?Apple Vision Pro最新宣传片：?https://x.com/xiaohuggg/status/1751789758186238100?s=20

Others are asking
notebookllm
NotebookLM 是谷歌推出的一款工具，具有以下特点和用途： 有人称它为笔记工具，有人说它是 AI 学习工具，还有人认为它是播客生成器。 只要上传文档、音频或感兴趣的网页链接，如 YouTube 等，就能轻松生成专业的播客。播客中两个主持人的对话生动自然，包含各种人类的语气和行为。 是 Google AI Lab 开发的笔记应用，基于 Gemini 1.5 Pro 的长文本理解和多模态能力。用户可通过上传文件或链接快速生成笔记和音频内容，适合教育和研究等场景。尽管产品界面设计一般，但其强大的文本理解能力在处理复杂内容时表现突出。支持协作，适合整理公众号文章、编写书稿等多种用途。 体验地址：https://notebooklm.google/
2025-03-22
使用llm的爬虫工具推荐下，开源免费
以下是为您推荐的开源免费的使用 LLM 的爬虫工具： 1. Jina 开源的网页内容爬取工具：Reader API 能从网址提取出核心内容，并将其转化为干净、易于大语言模型处理的文本，确保为您的 AI 智能体及 RAG 系统提供高品质的数据输入。 2. Scrapy 库（Python 语言）：在 crawlab 可以做到分布式爬取，非常高效。 3. GPT Crawler：主要运用 typescript 进行数据爬取。 4. 在开源的项目中，为实现对含有 JavaScript 内容的网页抓取，不使用 Python 自己的 request 库，而是使用 playwright 之类的浏览器，并将网页内容按照一定规则转化成 markdown 格式，方便 LLM 后续的理解和抓取。 同时，对于爬虫工具的选择，还需根据您的具体需求和技术熟悉程度来决定。
2025-03-06
如何写适配多个llm的提示词
以下是关于如何写适配多个 LLM 的提示词的详细内容： 实现原理： 提示词工程主要由两部分代码组成，即提示词注入和工具结果回传。提示词注入用于将工具信息及使用工具的提示词添加到系统提示中，它包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具，编写时应注意用无关紧要的工具作示例以免 LLM 混淆。tools_instructions 是将通用工具字典转换成 LLM 可读的工具列表，实际使用时可动态调整以让 LLM 知晓可用工具及使用方法。REUTRN_FORMAT 定义了调用 API 的格式。工具结果回传则是解析 tool calling 的输出，并将工具返回的内容再次嵌入 LLM，利用正则表达式抓取输出中的“tool”和“parameters”参数，对于 interpreter 工具使用另一种正则表达式提取 LLM 输出的代码，以提高成功率。对于不接受某些角色的 LLM 接口，可改为回传给 user 角色。 相关成果： 目前绝大多数小型本地开源大语言模型以及部分商用大模型接口不支持稳定的 tool calling 功能，现有的微调 LLM 解决方案会浪费大量时间和算力。本文提出仅使用提示词工程和精巧的代码设计，让 LLM 获得稳定的 tool calling 能力。使用多个不具备该能力的 LLM 作为测试模型，在多个工具调用任务上实验成功率达 100%，且基于 comfyui 开发，适合无代码基础的人员复现和修改。
2025-03-03
什么是llm
LLM（大型语言模型）是一种具有重要地位和强大功能的人工智能系统。 从不同角度来看： 它更像是新操作系统的核心程序，能够协调跨多种模式的输入与输出（如文本、音频、视觉），具备代码解释和运行程序的能力，还拥有浏览器/上网功能、嵌入式数据库用于文件和内部内存存储与检索等。 在开发中，LLM 是 LangChain 平台与各种大模型进行交互的核心模型，是一个抽象概念，输入是字符串表示的用户请求或问题，输出也是字符串表示的模型回答或结果，能调用不同大模型完成不同语言任务，让开发者无需关心大模型细节，还能灵活选择和切换大模型，甚至自己封装 LLM 实现特定语言逻辑和功能。 简单理解，LLM 就像一个非常聪明、知识丰富的“朋友”，能够通过学习大量文字数据来理解和生成自然语言，回答各种问题、写故事、完成作文等。可以把它想象成一个从小读了很多书、知识不断丰富的小朋友，虽然不是真人而是计算机程序，但能处理和学习海量文字数据，这些数据来源广泛。如今的搜索引擎背后可能就有 LLM 的支持，能更准确完整地回答问题。 总的来说，LLM 是一种通过学习大量文本数据，能够理解和生成自然语言的人工智能系统。
2025-03-01
帮我推荐一本入门llm的书
以下是为您推荐的入门 LLM 的相关资源： 1. 《皇子：LLM 经典论文速读版，看完感觉自己通透了》：包含 31 篇 LLM 的经典论文速读版，涵盖大语言模型架构、RAG、预训练、微调、提示词等内容。阅读前可安装浏览器插件“沉浸式翻译”方便中文阅读，将 arxiv PDF 论文原地址域名中的 x 更换成 5 可调整为 HTM 版本方便阅读。 2. 课程学习： 首先学习大语言模型（LLM）入门者的课程，这是了解 LLM 的基础。 进一步学习面向开发者的课程，帮助更好地应用 LLM 于实际项目中。 3. AI 大神 Karpathy 再发的 LLM 入门介绍视频：时长三个半小时，详细介绍 LLM 训练的全部过程，包括预训练、有监督微调和强化学习。即使没有技术背景也能看懂，将提供对 ChatGPT 等 LLM 完整训练流程的直观理解，包含许多示例，并可能帮助思考当前的能力、所处的位置以及未来的发展方向。
2025-02-23
在coze上实现notebookllm
以下是关于在 Coze 上实现 NotebookLLM 的相关信息： LLM 作为知识问答工具有缺陷，如无法实时获取最新信息、存在“幻觉”问题、无法给出准确引用来源等。搜索引擎虽体验不够简便直接，但加上 LLM 可能带来更优信息检索体验。 在生成标题、导语、大纲时，因为涉及文本理解与创作，这是 LLM 节点的工作，需要对其进行配置。为减少 token 消耗和节省模型调度费用，在满足预期情况下，应尽量减少大模型处理环节。经过实测，豆包·function call 32k 模型能在一轮对话中稳定生成相关内容。每个大模型节点配置项丰富，入门用户主要关注一些方面，如在“标题、导语、大纲”节点中，希望 LLM 接收原文信息后一次性生成所需内容，还需视实际情况调大模型的最大回复长度，并设计填入用户提示词。
2025-02-19
如果面试AI产品经理岗位，我的简历应该如何介绍对应的AI项目？目前我在做的是一个AI深度解读的功能，用户通过报告页面进行深度解读，进入后触发AI与用户的沟通，根据沟通信息，将用户的一些情况写在病历信息中，最终发给医生
以下是为您提供的一些参考，帮助您在面试 AI 产品经理岗位时介绍对应的 AI 项目： 在您所做的 AI 深度解读功能项目中，可以从以下几个方面进行介绍： 项目背景：阐述开展该项目的原因和目标，例如为了提升医疗服务的效率和准确性，满足用户对深度医疗解读的需求等。 项目职责：详细说明您在项目中的具体职责，如需求分析、产品规划、与开发团队协作、与用户沟通获取反馈等。 技术实现：描述项目中所运用的关键技术，如触发 AI 与用户沟通的机制、如何将用户信息写入病历等。 用户体验优化：提及为提升用户体验所采取的措施，比如优化报告页面的设计、提高 AI 沟通的自然度和准确性等。 成果与效益：展示项目取得的成果，如提高了医生的诊断效率、提升了用户满意度等。 此外，您还可以参考以下其他相关人员的项目经验： 秦超作为 AI 2C 项目负责人，在产品落地服务方面具有丰富的经验，包括产品、技术架构以及项目管理等。 Cici?在 AI 算法开发领域，将宠物与 AI 结合，具备 AI 产品研发和创业经验。 11 鸭鸭呀作为产品经理，在智能写作产品方面有 Prompt 撰写和 AI 应用的经验。 枫 share 作为产品经理，熟悉 ChatGPT，写过 prompt，使用过多种 AI 创作工具，并正在寻找 AI 方向的产品岗位。 行远作为产品经理，熟悉 prompt，部署过多种绘图项目，使用过多款 AI 创作工具，期待学习和实战案例应用。 希望以上内容对您有所帮助，祝您面试成功！
2025-04-01
项目申报书提示词
以下是关于项目申报书提示词的相关信息： 方案扩写助手： 作为乙方，经常需要为客户写方案申报材料的文档并达到字数要求，“水文字”很痛苦。 方案扩写助手在扩写方案提示词方面做了效果提升，不抑制模型表达，编写的方案“生产端能作为素材直接用”，而非充满“AI 味”和不理解业务。 产品提示词修改了 20 多次，并在日常工作中持续迭代，最终用简短、有效、清晰的提示词实现了目前扩写方案的最佳效果（因模型不同效果有差异，可换模型尝试）。 SD 新手入门图文教程中的提示词相关资源： Majinai： 词图： Black Lily： Danbooru 标签超市： 魔咒百科词典： AI 词汇加速器： NovelAI 魔导书： 鳖哲法典： Danbooru tag： AIBooru： 星流一站式 AI 设计工具中的提示词： 在 prompt 输入框中可输入提示词，使用图生图功能辅助创作。 什么是提示词：用于描绘画面，星流通用大模型与基础模型 F.1、基础模型 XL 使用自然语言（如一个长头发的金发女孩），基础模型 1.5 使用单个词组（如女孩、金发、长头发），支持中英文输入。 如何写好提示词： 预设词组：小白用户可点击提示词上方官方预设词组进行生图。 提示词内容准确：包含人物主体、风格、场景特点、环境光照、画面构图、画质等，如一个女孩抱着小猫，背景是一面红墙，插画风格、孤独感，高质量。 调整负面提示词：点击提示框下方的齿轮按钮，弹出负面提示词框，负面提示词可帮助 AI 理解不想生成的内容，如不好的质量、低像素、模糊、水印。 利用“加权重”功能：可在功能框增加提示词并进行加权重调节，权重数值越大越优先，也可对已有的提示词权重进行编辑。 辅助功能：翻译功能可一键将提示词翻译成英文；删除所有提示词可清空提示词框；会员加速能加速图像生图速度，提升效率。
2025-03-31
AI做副业项目
以下为您介绍一些利用 AI 做副业的项目： 1. 电商：婴儿的四维彩超 AI 预测 思路和玩法：通过 AI 工具将宝宝的四维彩超还原出现实模样进行变现。孕妇妈妈在孕期 22 26 周会进行四维彩超检查，很多准爸爸妈妈期待宝宝模样，从而衍生出市场需求。在小红书、抖音等公域平台发布相关笔记会有人咨询。 操作流程：客户提供四维彩超图原图，在 Midjourney 里进行垫图+特定描述词，整个流程不超 10 分钟出图。 变现方式：受众群体多为宝妈，变现方式多且单价不低。在抖音、快手、视频号、小红书上发布相关视频或图文，将客户引到私域接单变现，但平台引流要注意隐蔽，以免被检测限流或封号。 2. 自媒体人通过 AIGC 做流量与变现 流量变现渠道包括直播带货、橱窗带货（抖音需 1000 粉丝、托管橱窗）、商单、介绍粉丝接项目、多种设计（如 AI 绘图十二生肖、化妆品公司产品设计、产品包装设计、海报设计、游戏背景设计、儿童绘本、AI 漫画、PFP 头像设计、AI 图片+视频：徐悲鸿教育系列 AI 内容、AIGC+地方文旅、数字人相关、汽车宣传片、喜马拉雅微短剧等）、广告（平台如抖音星图、B 站花火，也有私单，视频广告价格可自定义设置）。
2025-03-27
生成一个建筑项目管理系统
很抱歉，目前没有关于生成建筑项目管理系统的具体内容。但一般来说，生成一个建筑项目管理系统需要以下步骤： 1. 需求分析：明确系统的功能需求，例如项目规划、进度跟踪、资源管理、成本控制、质量管理等。 2. 技术选型：根据需求选择合适的技术框架和开发工具。 3. 数据库设计：构建能够存储项目相关数据的数据库结构。 4. 功能模块开发：逐步实现各个功能模块，如项目创建、任务分配、进度更新等。 5. 界面设计：设计简洁、易用的用户界面，方便用户操作。 6. 测试与优化：对系统进行全面测试，修复漏洞和优化性能。 7. 部署与维护：将系统部署到生产环境，并持续进行维护和改进。 由于缺乏具体的细节和要求，以上只是一个大致的框架，实际的生成过程会更加复杂和具体。
2025-03-23
背景：我是一名高中生，想学习AI知识，逐步从入门到精通 目标：希望在<3个月>内具备一定能力。 请结合我的背景和优势，为我设计一份学习路线： - 列出每阶段（例如每一个礼拜）的学习重点（比如编程基础、数学）。 - 为每个阶段推荐<具体资源>（书籍、在线课程、练习项目等）。 - 提供一些学习技巧或注意事项。
以下是为您设计的一份在 3 个月内从入门到具备一定能力的 AI 学习路线： 第一个月： 学习重点：了解 AI 基本概念，包括术语、主要分支及它们之间的联系；掌握编程基础，如 Python 语言。 推荐资源： 书籍：《人工智能：一种现代方法》 在线课程：Coursera 上的“人工智能入门”课程 练习项目：使用 Python 实现简单的数据分析和可视化 学习技巧和注意事项：多做笔记，理解概念，注重实践。 第二个月： 学习重点：深入学习数学基础，包括统计学、线性代数和概率论；了解算法和模型中的监督学习和无监督学习。 推荐资源： 书籍：《概率论与数理统计》《线性代数及其应用》 在线课程：edX 上的“机器学习基础”课程 练习项目：使用监督学习算法进行数据分类预测 学习技巧和注意事项：通过实际案例加深对数学知识的理解，多做练习题。 第三个月： 学习重点：掌握神经网络基础，包括网络结构和激活函数；学习模型的评估和调优。 推荐资源： 书籍：《深度学习》 在线课程：Udacity 上的“深度学习入门”课程 练习项目：构建并优化一个简单的神经网络模型 学习技巧和注意事项：积极参与在线讨论，及时解决学习中的问题。 在整个学习过程中，您还可以： 体验 AI 产品，如 ChatGPT、文心一言等，了解其工作原理和交互方式。 掌握提示词的技巧，提高与 AI 的交互效果。 参与相关的社区和论坛，分享学习经验和成果。
2025-03-21
有什么使用AI驱动的游戏项目吗？其中有哪些比较热门
以下是一些使用 AI 驱动的游戏项目及热门情况： 1. 《Among Us》：由只有 5 名员工的工作室 Innersloth 制作。 2. 《微软模拟飞行》：有新的游戏类型和与新内容实时生成结合的特点。 3. 《AI Dungeon》和《Hidden Door》：基于文本的早期游戏例子。 4. 《Suck Up!》：2023 年 12 月由 Proxima 工作室开发的“喜剧欺骗游戏”，玩家扮演吸血鬼与 LLM 驱动的 NPC 对话，上线仅两周全网播放火速突破千万。 此外，还有以下趋势和特点： 1. 由人工智能辅助的“微型游戏工作室”逐步崛起，小型工作室能创造的游戏规模将增长。 2. 每年发布的游戏数量会增加。 3. 新的游戏类型将会被创造出来，例如以人工智能创造的角色为特色的 Spellbrush 的 RPG 游戏 Arrowmancer。 4. 有的游戏开发商使用人工智能让玩家在游戏中创建自己的头像。 生成式 AI 将使生产高质量游戏变得更加简单、更快和更便宜，同时使玩家能够真正定制他们的游戏体验。我们已经看到像 Scenario、Iliad 这样可以创建游戏资源的 AI 工具，以及像 Promethean 这样可以构建整个虚拟世界的平台。甚至可以用像 Inworld、Charisma 和 Convai 这样的产品生成非玩家角色（NPC）。
2025-03-18