提示词工程是一门在 AI 领域中新兴且重要的学科,主要包括以下方面:
实现原理:主要由提示词注入和工具结果回传两部分代码组成。提示词注入用于将工具信息及使用工具的提示词添加到系统提示中,包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。工具结果回传则是解析 tool calling 的输出,并将工具返回的内容再次嵌入 LLM。
提示词注入阶段:INSTRUCTION 包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 理解和使用工具,编写时应注意用无关紧要的工具作示例避免混淆。tools_instructions 可通过输入不同工具动态调整,让 LLM 得知可用工具及使用方法。REUTRN_FORMAT 定义调用 API 的格式。
工具结果回传阶段:利用正则表达式抓取输出中的“tool”和“parameters”参数,对于 interpreter 工具使用另一种正则表达式提取 LLM 输出的代码。通过识别 LLM 返回的调用工具的字典提取对应值,传入工具函数,将结果以 observation 或 user 角色返回给 LLM。
是用户与模型沟通愿望的文本界面,涵盖简单问题到复杂任务,包括指令、问题、输入数据和示例等,以指导 AI 的响应。其核心在于制作出能实现特定目标的最佳提示词,需结合领域知识、对 AI 模型的理解及系统化方法为不同情境定制提示词,还可能包括创建可根据给定数据集或上下文进行程序化修改的模板,是一个迭代和探索的过程。
在人工智能迅速发展的当下,已成为企业领导者必须掌握的关键技能,是设计和优化输入到 AI 系统指令(即提示词)的艺术和科学。但简单提示词存在局限性,无法满足复杂需求,推动了更先进提示技巧如思维链、思维树和思维图等的发展。
2024-10-23