直达「 通往AGI之路 」飞书知识库 →
首页/全部问答
摘要总结作为 llm 训练的下游任务,一般的训练流程是怎样的
作为 LLM 训练的下游任务,一般的训练流程如下: 1. 首先从大量文本数据中训练出一个基础 LLM。 2. 随后使用指令和良好尝试的输入和输出来对基础 LLM 进行微调和优化。 3. 接着通常使用称为“人类反馈强化学习”的技术进行进一步细化,以使系统更能够有帮助且能够遵循指令。 在训练过程中,会涉及到一些相关的理论探讨和评价指标: 理论探讨方面,如在推理阶段对 InContext Learning 能力的运行分析,将其视为隐式微调,通过前向计算生成元梯度并通过注意力机制执行梯度下降,且实验表明 LLM 中的某些注意力头能执行与任务相关的操作。 评价指标方面,entropylike 指标(如 crossentropy 指标)常用于表征模型的收敛情况和测试集的简单评估(如 Perplexity 指标),但对于复杂的下游应用,还需更多指标,如正确性(Accuracy)、信息检索任务中的 NDCG@K 指标、摘要任务中的 ROUGE 指标、文本生成任务中的 BitsperByte 指标、不确定性中的 ECE 指标、鲁棒性(包括 invariance 和 equivariance)、公平性、偏见程度和有毒性等。
2024-11-07
怎么搭建混元3D模型到本地使用
要在本地搭建混元 3D 模型,以下是一些方法和步骤: 1. 制作乐高 logo 的 STL 文件: 设计乐高 logo:使用矢量图形编辑软件(如 Adobe Illustrator 或 Inkscape)创建或获取矢量格式的乐高 logo,确保符合标准。 导入 3D 建模软件:将矢量 logo 导入到 3D 建模软件(如 Blender、Fusion 360 或 Tinkercad)中。 创建 3D 模型:在软件中根据矢量图形创建 3D 模型,调整尺寸和厚度以适合打印。 导出 STL 文件:将完成的 3D 模型导出为 STL 格式。 示例代码:在 Blender 中使用 Python 脚本创建 3D 文本作为乐高 logo 并导出 STL 文件,具体操作包括打开 Blender,切换到脚本编辑器,输入并运行脚本,然后在指定路径检查生成的 STL 文件,可根据需要调整脚本参数。 2. 使用 Polycam 工具: Polycam 是一个免费的 3D 建模工具,只需上传至少 20 张图片或至少 20 秒的视频,它会自动处理并构建 3D 模型。生成后可编辑模型,并支持 12 种以上格式导出到流行的 3D 软件(如 Blender、SketchUp、Unreal、Unity 等)。100 张图像的云处理建模时间约 1 2 分钟。还能将无人机拍摄的图像转换为 3D 模型,兼容多种流行无人机。 官方网站:
2024-11-07
给我推荐一个适合 办公应用的智能体应用
以下为您推荐一些适合办公应用的智能体应用: 1. 客服聊天机器人:通过自然语言处理与用户互动,提供自动化的客户支持。 2. 品牌卖点提炼助手:为具有营销思维的团队提供更广阔思路,提高团队效率。 3. 金融交易智能体:根据市场数据做出交易决策。 智能体的设计和实现通常涉及以下步骤: 1. 定义目标:明确智能体需要实现的目标或任务。 2. 感知系统:设计传感器系统,采集环境数据。 3. 决策机制:定义智能体的决策算法,根据感知数据和目标做出决策。 4. 行动系统:设计执行器或输出设备,执行智能体的决策。 5. 学习与优化:如果是学习型智能体,设计学习算法,使智能体能够从经验中改进。 在实际应用中,例如品牌卖点提炼,要注重对结构的理解和控制,遵循营销管理的流程,同时根据公司业态调整提示词以提升分析的合理性。在使用生成式人工智能时,要像导演一样编排具体流程,将复杂任务合理拆分,并检查和修改流程,反复迭代,同时注意提示语的核心是逻辑。
2024-11-07
帮我查找元学习提示词
以下是关于元学习提示词的相关内容: 在使用 AI 绘画工具(如 Midjourney)和聊天工具(如 KIMI)的过程中,人们可能会遇到一些问题。例如,在绘画工具中,当希望画出具有特定动作、表情的小猫时会遇到困难;在聊天工具中,可能会出现答非所问、回答格式不标准、用词不符合需求、描述的操作步骤在界面上找不到等情况。 为了让 AI 更精准地服务于我们的需求,产生我们期望的结果,需要学习提示词工程。通过优化提示词,可以使 AI 更准确地理解我们的意图。比如,在绘画工具中,使用更详细、准确的语句描述需求;在聊天工具中,更清晰明确地表达问题和期望的回答格式、风格等。 当用户在使用过程中积累了一定经验,产生的需求会更接近 AI 本身真实的范围。此时,若有高频问题需要解决,还可以为其编写提示词甚至创建一个 BOT。
2024-11-07
ai领域的prompt指什么
在 AI 领域,prompt 指的是直接描述或引导视频生成、帮助模型更好地理解用户需求并按照特定模式或规则进行响应的文本或指令。 在 AI 视频生成中,它包含主体、运动、风格等信息,用户借此控制和指导生成内容。其作用十分重要,是表达需求的方式,影响着视频的内容和质量。您可以将其理解为:把您输入的文字变成对应的画面和运动形式。 在大模型中,prompt 是给到大模型输入的一段原始输入,比如可以设定“假设你是一位医生,给出针对这种症状的建议”,后续与大模型的对话会按照这个原始设定展开。还有很多有趣的玩法,如要求模型按照一定的思路逻辑回答,像最近较火的思维链(cot)就在 prompt 环节对模型的输出进行指导,还可以让模型按照特定格式(如 json)输出,使模型成为一个输出器。
2024-11-07
微信机器人
以下是关于微信机器人的相关信息: 【入门级】教你用最简单的方式搭建微信机器人 测试和重新配置: 登录成功后,找另一个人私聊或者在群中@您,就可以看到机器人的正常回复。若未成功,可检查 config.json 文件中的配置或跳到“第四章,第 3 步”重启服务。 可为 AI 赋予不一样的提示词,返回“第三章,第 7 步”更改设置。 进行任何更改后,需“返回首页 右上角 点击重启,重启一下服务器”。熟悉 Linux 操作也可通过重启进程的方式来重启服务。 然后,在“文件”的【终端】里,输入“nohup python3 app.py & tail f nohup.out”重新扫码登录。 若想退出机器人,在手机微信上找到桌面版已登录的信息,点击退出桌面版即可。 帮助:若遇到问题,可先查询社区知识库,或加“通往 AGI 之路”群,社区小伙伴们会尽力帮助。也可加 Stuart 个人微信询问。 零基础模板化搭建 AI 微信聊天机器人 纯 GPT 大模型能力的微信聊天机器人搭建 配置腾讯云轻量应用服务器 配置部署 COW 组件 在复制的 dockercompose.yml 文件中修改配置串联微信号和已创建好的 AI 机器人,配置参考来源:https://docs.linkai.tech/cow/quickstart/config 。 配置参数中,名称的全大写描述对应编排模板,如 open_ai_api_key 对应 OPEN_AI_API_KEY 等。私聊或群交流时最好加上前缀触发机器人回复,如配置的,群组里对应配置参数是 GROUP_CHAT_PREFIX,机器人只会回复群里包含@bot 的消息。GROUP_NAME_WHITE_LIST 用来配置哪些群组的消息需要自动回复。 【保姆级】基于 Hook 机制的微信 AI 机器人,无需服务器,运行更稳定,风险更小 本教程基于 Hook 机制,与 COW 机器人方式不同。 优势:Hook 有相对更高的稳定性和安全性,更简单,易上手。 劣势:目前插件相对较少,且仅支持 Windows 系统。 此项目在 Windows 系统上运行,无需服务器,对小白更友好。能结合 FastGPT 使用,完善了群发功能,目前在内测中。 此机器人功能:基于知识库的 AI 回复、支持积分系统、支持自动拉人、检测广告、自动群发,还有安全新闻定时推送、Kfc 文案、星座查询、天气查询等有趣小功能。教程以 Windows10 系统为例。
2024-11-07
AI硬件
以下是关于 AI 硬件的相关信息: AI Native 产品: AI Pin:由 Humane 公司开发的可穿戴设备,通过激光投影技术在用户手掌上显示信息,由高通 Snapdragon 芯片驱动,运行 OpenAI 的 GPT4 语言模型,集成了麦克风、摄像头和传感器,能进行语音通话、上网和回答问题,注重隐私保护,配备“信任灯”功能,价格高昂,市场竞争可能影响其接受度。计划通过扩展功能和开放平台成为日常生活的智能伴侣,网址:https://hu.ma.ne/ TAB AI:挂在脖子上的小冰盘,本质上是麦克风和电池,使用蓝牙将音频传输到手机并传输到云端,ChatGPT 在云端转录对话,各种人工智能模型提取见解,是一个人工智能伴侣或“clarity machine”,网址:https://twitter.com/AviSchiffmann/status/1708439854005321954 主流 AI 笔记本电脑: 截止 2024 年 5 月,主流的 AI 笔记本电脑主要是为人工智能和深度学习设计的高性能移动工作站。通常配备强大的 GPU(如 NVIDIA RTX 系列)、大容量内存和高速固态硬盘。知名品牌包括: 1. 微软(Microsoft)第 11 代 Surface Pro 2. 微星(MSI)Creator/Workstation 系列 3. 技嘉(GIGABYTE)Aero/Aorus 系列 4. 戴尔(Dell)Precision 移动工作站 5. 惠普(HP)ZBook 移动工作站 6. 联想(Lenovo)ThinkPad P 系列 这些笔记本一般采用英特尔酷睿或 AMD Ryzen 的高端移动 CPU,配备 NVIDIA RTX 30/40 系列或 AMD Radeon Pro 专业级 GPU,提供大容量内存和高速 NVMe SSD 存储选配,预装 NVIDIA CUDA、cuDNN 等深度学习框架和各种 AI 开发工具。价格相对较高,通常在 2000 美元以上。用户应根据自身需求和预算选择,同时关注散热、续航等实际使用体验。 GenAI 硬件 TikTok 热度总榜: |No.|Name|Classification|Company|Number of TT works|Price| ||||||| |1|RayBan Meta Smart Glasses|Glasses|Meta and RayBan|180000|299| |2|Vision Pro|Glasses|apple|38600|3999| |3|cozmo|Toy robot|Digital Dream Labs|10500|399| |4|Lovot|Toy robot|GROOVE X|5931|9000| |5|Optimus|Bodysize robot|Tesla|2641| | |6|AI pin|Pendant|Humane|1200|699| |7|PLAUD|Recorder|Smart connection|1072|159| |8|RabbitR1|Pendant|Rabbit Inc|1048|199| |9|Loona|Toy robot|KEYi Tech|753|449| |10|Timekettle WT2|Headphones|Timekettle|751|299| |11|OrCam MYEYE|Glasses|OrCam|532|4250| |12|Jibo|Toy robot|Ling Technology|492|749| |13|LOOI|Toy robot|TangibleFuture|400|129| |14|Pixel Buds Pro|Headphones|GOOGLE|393|199|
2024-11-07
文档生成流程图
以下是关于文档生成流程图的相关内容: 生成流程图的方式主要有两种: 1. 可视化拖拽: 代表产品有:(web 工具)、visio(本地软件)。 优点:直观。 缺点:需要花时间在布局上。 2. 语法渲染成图形: 代表语法: 优点: 只用关注逻辑,文本即图形,方便直接嵌入在 markdown 文件中,比如在用 tyora、markdown 写文档时。 多样性,不同渲染引擎可渲染成多种样式。 缺点:有点抽象。 此外,假设您需要创建一个项目管理流程图,可以按照以下步骤使用 Lucidchart: 1. 注册并登录:。 2. 选择模板:在模板库中搜索“项目管理流程图”。 3. 编辑图表:根据您的项目需求添加和编辑图形和流程步骤。 4. 优化布局:利用 AI 自动布局功能,优化图表的外观。 5. 保存和分享:保存图表并与团队成员分享,或导出为 PDF、PNG 等格式。 利用这些 AI 工具,您可以快速、高效地创建专业的示意图,满足各种工作和项目需求。
2024-11-07
意图识别
以下是关于意图识别的全面介绍: 意图识别在自然语言处理领域是常见话题,随着大型模型兴起,其在智能体的 Brain 模块中承担主要工作。 意图识别的定义:当用户输入指令,通过感知模块传递到 Brain 模块,Brain 模块对其做出反应,本质上是一种分类任务,区分用户具体意图,在单一或多智能体系统中都至关重要。 通过常见智能助手如 Siri、小爱同学的例子可更直观理解。 在 AI 搜索中,意图识别的关键作用包括对用户提问进行分类,如导航类(如搜索“ThinkAny”为打开官网)、信息查询类(如搜索“什么是 AI 搜索引擎”为了解行业)、交易类(如搜索“笔记本电脑”为购买)、本地信息类(如搜索“附近的烤肉店”为找附近餐馆)等,还存在其他分类和多级子分类,但面临枚举无法穷尽的问题。 对搜索意图分类可匹配更准的信息源和更好的回复提示词,提升检索召回率,保证搜索结果个性化。目前主流实现方案主要通过提示词请求大模型完成识别,但准确度不够高,大模型的 Function Calling 能力也可理解为一种意图识别。 在提示词中使用意图分类的理论依据是人工智能的意图识别理论,其核心观点包括通过自然语言处理技术从用户查询中识别目的或需求,考虑上下文理解以更全面理解意图,将识别出的意图分类并与预定义指令或操作匹配执行相应任务。具体步骤包括定义意图类别、分析用户输入、进行意图分类和执行相应操作。
2024-11-07
我想要了解AI在高校基础医学教学中的应用案例
以下是一些 AI 在高校基础医学教学中的应用案例: 教学:帮助学生做好组会准备,使用了 Claude + Gamma.app,Claude 能节省绝大部分时间。 医疗:蛋白质结构预测和蛋白质合成,用于生成漂亮图片的 AI 可帮助科学家研究并设计新的蛋白质。 做调研:用特定 prompt ,2 小时帮同学干完 3 篇调研报告。 做调研:用 ChatGPT 做调研。 医疗:健康生物制药的研究,AI 在抗癌、抗衰老、早期疾病防治等研究应用中起重要作用。 此外,为了在医疗保健中产生真正的改变,AI 应像人类一样学习,例如成为顶尖医疗人才需要多年密集信息输入、正规学校教育和学徒实践,AI 也应通过合理的模型训练方式而非仅依靠大量数据来提升。 对于中学生学习 AI ,有以下建议: 从编程语言如 Python 、JavaScript 入手,学习编程语法、数据结构、算法等基础知识。 尝试使用 ChatGPT 、Midjourney 等 AI 生成工具,探索百度的“文心智能体平台”、Coze 智能体平台等教育平台。 学习 AI 基础知识,包括基本概念、发展历程、主要技术及在各领域的应用案例。 参与学校或社区组织的 AI 编程竞赛、创意设计大赛等活动,尝试解决实际问题。 关注 AI 发展的前沿动态,思考其对未来社会的影响。
2024-11-07