chatbi落地方案

背景前提：我不是专业的BI工程师，所以对数据治理、SQL优化思路等不太了解，只能跟着GPT的提示以及查询资料来一步步进行。我相信如果是专业的BI工程师，这些问题可能都只是小儿科，GPT提出的优化思路在专业人士看来可能也比较初级。但本次分享的主题是打工人如何利用强大的GPT，来帮助自己解决不擅长领域的问题以及快速学习成长。由于充值的问题没有解决，所以本次只用到了免费的ChatGPT-3.5版本，但也足够了。而且写文章写到一半的时候账号登录不上了，提示访问被拒，所以暂时无法截图还原完整的对话过程...[heading3]以下是完整的使用过程：[content]在开始前，我对GPT的认知是：它是一个知识储备无比丰富的助理，但需要一个清晰、准确的prompt，它才会给出一个符合需求的输出。所以我先整理了我要和GPT交互的基本思路以及步骤：旧代码输入>需求及现状问题输入>调试优化>结果输出验证接下来开始实操：[heading3]Step1：旧代码输入[content]首先，将需要优化的旧代码输入到ChatGPT模型中，旧代码有1900行，GPT直接提示too long，所以我做了分次输入。直接粘贴提示报错分段输入，再进行联合这一步的作用是让GPT理解旧代码实现的效果以及熟悉查询表和字段，方便后续GPT生成优化代码时可以直接复制粘贴到数据库中运行。原SQL的主要逻辑就是统计近30天内每一天的业务数据日报，把近30个结果指标，按照天和地区进行分组汇总，需要查询多张表几百万条数据。这里GPT的理解基本正确，甚至在我没有提需求的情况下，就提出了一些优化建议。

这个方向对大模型的任务理解、编程能力、输出遵循有较高的要求，并且需要一些LLM前处理与后处理的工程来进行兜底，毕竟企业流程自动化一旦出错影响面很广。但可以预见的是这个方向是最有意义也是能承载厂商最多的方向，这个方向可以简单的归结为，使用大模型帮助企业完成数字化转型并直接升级至业务自动化。而因为这其中需要每一家大模型服务商针对性的帮助企业去设计大模型赋能的方案（因为每个企业的业务流、数据流都不相同）因此全部是定制化服务，因此可以承载非常多的业务。但是其业务爆发期判断可能要到几年后，待这次经济下行结束回暖后，目前可能需求方还是优先国企与金融，数字化较成熟且有国家AI+任务驱动的地方。3、采用RAG方案进行知识应用的工程框架，这方面包括AI搜索、智能客服、流水线问题定位等场景，通过给予大模型已有行业知识来让其在一定范围内解决问题。这个方向也是比较火的方向，可以将其看作现阶段能力还不足的大模型的工程优化，通过RAG解决模型幻觉、模型包含知识过时的问题。但是这个方向有个很明显的问题，就是整个前处理过程对整个方案的效果有着更高的影响（怎样拆query、怎样匹配检索、怎样排序、怎样供给信息）。3、ToC业务最后说说ToC业务，由于我不是ToC出身，对这个方向看的不够透彻，首先是这个问题，ToC业务当前能够说有爆款吗？目前看来，chatgpt肯定是最爆的，其次可能是midjourney。然后c.ai、talkie等产品也还比较火，剩下的一些产品可能是短期火一下然后就沉寂了。目前暂时还没有出现像微信这样的大杀器C端产品，当然这也跟LLM的发展相关，毕竟突破才一年多。向QQ这种产品也是在互联网泡沫后逐步出现的，而且未来C端的产品形态也难说，毕竟当前C端最火的产品竟然是本应是产品架构最底层的模型端提供的。