以下是关于调教 LLM 写好提示词的相关内容:
本文采用的提示词工程主要有两部分代码组成:提示词注入和工具结果回传。提示词注入用于将工具信息以及使用工具的提示词添加到系统提示中。工具结果回传则是解析tool calling的输出,并将工具返回的内容再次嵌入LLM。[heading2]1、提示词注入阶段[content]INSTRUCTION为最后注入到系统提示中的字符串,他又包含了TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT三个部分。TOOL_EAXMPLE用于提示LLM如何理解tool以及如何使用tool。在编写TOOL_EAXMPLE时,请注意用一些无关紧要的工具作为示例,例如本文使用的将数字加一和数字减一的工具,从而避免LLM混淆真正可以使用的工具与示例工具。tools_instructions是由目前通用的工具字典转换成LLM可读的工具列表。实际使用LLM时,可以通过输入不同的工具来动态调整tools_instructions,让LLM得知目前可用的工具有哪些以及如何使用。REUTRN_FORMAT定义了调用API的格式。[heading2]2、工具结果回传阶段[content]利用正则表达式抓取输出中的"tool"和"parameters"参数。对于interpreter工具,使用了另一种正则表达式来提取LLM输出的代码,提高LLM使用interpreter工具的成功率。本文使用代码如下:通过识别LLM返回的调用工具的字典,提取出对应的值,再传入相应的工具函数,最后将工具返回的结果以observation的角色返回给LLM。对于一些不接受observation、tool、function角色的LLM接口,可以改为回传给user角色,例如:通过以上提示词工程,可以避免微调,让完全没有tool calling能力的LLM获得稳定的tool calling能力。
人民有信仰整了个提示词一件生成的智能体:https://www.coze.cn/s/iDec2U13/glif又一个出圈爆款玩法。用In-Context LoRA制作任何Logo的周边!!效果好到?,样机网站有点难受了。我整理了他们这个工作流,做了几个国产AI软件的周边。整个流程分为三个部分:获取Logo图片的描述根据Logo图片的描述和生成意图生成图片提示词将图片和提示词输入Comfyui工作生成[heading2]用下面的提示词生成关于Logo图片的描述:[content]为了帮助一位视障艺术家,我们需要详细描述这幅图像的内容,包括从摄影(Photography)、标志设计(Logo Design)到较为冷门的艺术风格等各个方面。对于出现在图中的人物,虽然不能提及具体姓名,但考虑到艺术家的特殊需求,我们需要以匿名方式描述他们的主要特征(切记不要提及真实姓名)。请直接进行描述,控制在50字左右。[heading2]用LLM生成图像提示词[content]将第一步生成的提示词填入{图像描述}位置,将你想生成的周边填入{周边描述}部分。这是一个提示词示例:"The pair of images highlights a logo and its real-world use for a hi-tech farming equipment;[IMAGE1]a black background showcases a logo with a stylized,fish in magenta and cyan,titled “BLINK” in an bold font,with bubble details underneath;[IMAGE2]this logo is applied as a black and white tattoo on lower back of an inmate"我希望你参考"{图像描述}"的内容和风格特点,创作一个类似的提示放在左侧面板。然后根据"{周边描述}"的内容,设计配套的右侧面板描述,需要表达"展示同样的内容(可以是角色、标志等)"这样的意思。直接给出提示内容,无需其他说明!开始!
提示词(Prompt)工程是优化大型语言模型(LLM)性能的一个具有挑战性但至关重要的任务。这需要复杂的推理来检查模型的错误,假设当前提示词中缺少或误导了什么,以及清晰地传达任务。尽管最近的研究表明LLM可以被元提示(meta-prompted)来自动进行提示词工程,但由于缺乏足够的引导来激发LLM在元提示中的复杂推理能力,它们的潜力可能尚未被完全挖掘。在这项工作中,我们研究了“PROMPT ENGINEERING A PROMPT ENGINEER”的问题——构建一个更有效地引导LLM自动进行提示词工程的元提示。我们介绍并分析了关键组成部分,如逐步推理模板和上下文规范,这些都有助于提高性能。此外,受到常见优化概念(如批量大小、步长和动量)的启发,我们将它们的口头化对应物引入元提示,并研究它们的效果。我们的最终方法,名为PE2,找到了一个提示词,其在MultiArith数据集上的表现比“让我们一步步思考”高出6.3%,在GSM8K数据集上高出3.1%。为了展示其多功能性,我们将PE2应用于指令归纳基准、一系列反事实任务和一个冗长的现实世界工业提示词中。在这些设置中,PE2表现出色,超过了以前的自动提示词工程基准。此外,我们展示了PE2如何进行有意义和针对性的提示词编辑,修正错误或不完整的提示词,并展现出非凡的反事实推理能力。