要在 DeepSeek 中通过提示词实现工具调用，主要通过以下提示词工程实现：
在游戏实操中，当模型判断需要调用工具函数时（检测到返回的 json 里 function_call 字段不为空），执行异步函数调用，采用回调方式获取函数返回结果，通过判断返回的 functionCall 名称执行不同函数并返回结果。
对于 ChatGPT，为让其返回符合要求的 JSON 格式，prompt 的定制尤为重要和复杂。OpenAI 发布函数调用及其他 API 更新后，开发人员可向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函数，让模型智能输出包含调用函数所需参数的 JSON 对象。本地可根据 GPT 返回的函数名、参数进行数据查询，可采用函数查询或 SQL 查询，根据实际业务需求选择，使 AI 输出更可控。
本文采用的提示词工程主要有两部分代码组成：提示词注入和工具结果回传。提示词注入用于将工具信息以及使用工具的提示词添加到系统提示中。工具结果回传则是解析tool calling的输出，并将工具返回的内容再次嵌入LLM。[heading2]1、提示词注入阶段[content]INSTRUCTION为最后注入到系统提示中的字符串，他又包含了TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT三个部分。TOOL_EAXMPLE用于提示LLM如何理解tool以及如何使用tool。在编写TOOL_EAXMPLE时，请注意用一些无关紧要的工具作为示例，例如本文使用的将数字加一和数字减一的工具，从而避免LLM混淆真正可以使用的工具与示例工具。tools_instructions是由目前通用的工具字典转换成LLM可读的工具列表。实际使用LLM时，可以通过输入不同的工具来动态调整tools_instructions，让LLM得知目前可用的工具有哪些以及如何使用。REUTRN_FORMAT定义了调用API的格式。[heading2]2、工具结果回传阶段[content]利用正则表达式抓取输出中的"tool"和"parameters"参数。对于interpreter工具，使用了另一种正则表达式来提取LLM输出的代码，提高LLM使用interpreter工具的成功率。本文使用代码如下：通过识别LLM返回的调用工具的字典，提取出对应的值，再传入相应的工具函数，最后将工具返回的结果以observation的角色返回给LLM。对于一些不接受observation、tool、function角色的LLM接口，可以改为回传给user角色，例如：通过以上提示词工程，可以避免微调，让完全没有tool calling能力的LLM获得稳定的tool calling能力。
[title]游戏实操|利用LLM进行环境叙事和解谜——《Im Here2》[heading1]三、Demo实现[heading2]3.2提示词设计具体而言，当模型判断需要调用工具函数时，即检测到返回的json里面function_call字段不为空，则执行异步函数调用，这里采用回调的方式以获取函数返回的结果。通过判断返回的functionCall的名称来执行不同的函数，执行逻辑同时返回结果。1.对守卫者和指引者一类具有单一明确任务的代理来说，虽然不同代理负责不同的谜题如一般谜题和世界观谜题，但由于指令结构的存在保持着一定的兼容性，所以只要调试出一个可行的结构，进一步更换谜题和回答正确后提供的线索即可。在这里调试它们的指示预设更像是尝试使它们输出特定的内容，有点像：《完蛋！我被LLM包围了！》，感兴趣的可以试玩一下：[https://huggingface.co/spaces/LLMRiddles/LLMRiddles](https://huggingface.co/spaces/LLMRiddles/LLMRiddles)[https://modelscope.cn/studios/LLMRiddles/LLMRiddles/summary](https://modelscope.cn/studios/LLMRiddles/LLMRiddles/summary)这里举了两个有不同谜题的代理示例，可以试着一段段输入测试查看模型输出的结果，指令预设如下：守卫者1：【角色预设+谜题】
可以发现为了让ChatGPT返回符合要求的JSON格式，prompt的定制就尤为重要和复杂。好消息是，在当地时间6月13日，OpenAI发布函数调用及其他API更新。现在开发人员可以向gpt-4-0613和gpt-3.5-turbo-0613描述函数，并让模型智能地选择输出一个包含调用这些函数所需参数的JSON对象。这是一种更可靠地将GPT的能力与外部工具和API连接起来的新方法。传送门：[Function calling and other API updates](https://openai.com/blog/function-calling-and-other-api-updates)官网有很详细的例子，这里就不再描述代码了。我用本文案例总结大致流程：有个好处是不需要让ChatGPT生成SQL了，减少SQL注入的风险。本地写一个函数执行this.app.mysql.select(table,condition)，根据GPT返回的函数名、参数（字段和where）来查询数据，更为安全。但这个方法又有局限性，事先定义函数查询不如SQL查询来的灵活，所以这里也可以让函数改为SQL查询this.app.mysql.query(sql)，GPT的函数调用改为：getSqlQuery(sql:string)，函数名getSqlQuery，参数：sql，更为灵活。总结：让GPT与函数调用结合，本地控制返回JSON格式，prompt的定制更为简单，AI的输出更为可控。根据实际业务需求采用函数查询或SQL查询，值得一试！[heading2]SQL分析示例[content]注：以下SQL分析的数据均是在数据库中伪造的数据，仅供测试。分析每种图表的使用情况分析图表类型是柱状图的创建时间和数量