与知识库对话

以下是一张涉及大模型概念的知识图谱：大模型 Embedding 技术句子和文档嵌入 Doc2Vec：扩展了 Word2Vec，能够为整个文档生成统一的向量表示。 Average Word Embeddings：将一段文本中所有单词的嵌入取平均作为整体的文本表示。 Transformers Sentence Embeddings：如 BERT 的标记对应的向量，或者专门针对句子级别的模型如 SentenceBERT。实体/概念嵌入 Knowledge Graph Embeddings：如 TransE、DistMult、ComplEx 等，用于将知识图谱中的实体和关系嵌入到低维向量空间中。其他类型图像 Embeddings：使用卷积神经网络（CNN）进行图像特征提取，得到的特征向量即为图像嵌入。音频 Embeddings：在语音识别和声纹识别中，将声音信号转化为有意义的向量表示。用户/物品 Embeddings：在推荐系统中，将用户行为或物品属性映射到低维空间以进行协同过滤或基于内容的推荐。图 Embeddings：用于学习图结构的表示学习方法，将图中的节点和边映射到低维向量空间中。通过学习图嵌入，可以将复杂的图结构转化为向量表示，以捕捉节点之间的结构和关联关系。这些方法可以通过 DeepWalk、Node2Vec、GraphSAGE 等算法来实现。图嵌入在图分析、社交网络分析、推荐系统等领域中广泛应用，用于发现社区结构、节点相似性、信息传播等图属性。关键技术标准机器学习标准：规范机器学习的训练数据、数据预处理、模型表达和格式、模型效果评价等，包括自监督学习、无监督学习、半监督学习、深度学习和强化学习等标准。知识图谱标准：规范知识图谱的描述、构建、运维、共享、管理和应用，包括知识表示与建模、知识获取与存储、知识融合与可视化、知识计算与管理、知识图谱质量评价与互联互通、知识图谱交付与应用、知识图谱系统架构与性能要求等标准。大模型标准：规范大模型训练、推理、部署等环节的技术要求，包括大模型通用技术要求、评测指标与方法、服务能力成熟度评估、生成内容评价等标准。自然语言处理标准：规范自然语言处理中语言信息提取、文本处理、语义处理等方面的技术要求和评测方法，包括语法分析、语义理解、语义表达、机器翻译、自动摘要、自动问答和语言大模型等标准。智能语音标准：规范前端处理、语音处理、语音接口和数据资源等技术要求和评测方法，包括深度合成的鉴伪方法、全双工交互、通用语音大模型等标准。计算机视觉标准：规范图像获取、图像/视频处理、图像内容分析、三维计算机视觉、计算摄影学和跨媒体融合等技术要求和评价方法，包括功能、性能和可维护性等标准。生物特征识别标准：规范生物特征样本处理、生物特征数据协议、设备或系统等技术要求，包括生物特征数据交换格式、接口协议等标准。国内大模型通用模型：如文心一言、讯飞星火等，处理自然语言。垂直模型：专注特定领域如小语种交流、临床医学、AI 蛋白质结构预测等。大模型的体验以‘为什么我爸妈结婚的时候没有邀请我参加婚礼’和‘今天我坐在凳子上’为例，体验了 Kimi、通义千问、豆包等大模型的回答和续写能力，发现回复有差异，且大模型基于统计模型预测生成内容。大语言模型的工作原理包括训练数据、算力、模型参数，在训练数据一致情况下，模型参数越大能力越强，参数用 b 链形容大小。 Transformer 架构：Transformer 是大语言模型训练架构，17 年出现用于翻译，具备自我注意力机制能理解上下文和文本关联，其工作原理是单词预测，通过嵌入、位置编码、自注意力机制生成内容，模型调教中有控制输出的 temperature。大模型幻觉：大模型通过训练数据猜测下一个输出结果，可能因错误数据导致给出错误答案，优质数据集对其很重要。 Prompt 的分类和法则分为 system prompt、user prompt 和 assistant prompt。写好 prompt 的法则包括清晰说明、指定角色、使用分隔符、提供样本等，核心是与模型好好沟通。 Fine tuning 微调：基于通用大模型，针对特定领域任务提供数据进行学习和调整，以适应特定领域的需求。 RAG 概念：未对 RAG 的具体内容进行详细阐述，仅提出了这个概念。