以下是关于数据集构建的相关信息:
Panda-70M 数据集:
RAG 提示工程中的数据集构建:
中文数据集:
核心内容:Panda-70M数据集的构建涉及从HD-VILA-100M数据集中筛选出高质量的视频片段,并使用多个跨模态教师模型生成描述。然后,通过微调一个检索模型来选择最佳描述作为注释。模型结构详述:作者首先设计了一个语义感知的视频分割算法,将长视频分割成语义一致的片段。然后,使用包括图像描述模型和视频视觉问答(VQA)模型在内的多个教师模型生成候选描述。最后,通过微调一个细粒度的视频到文本检索模型来选择最佳描述。1.?实验结果:核心实验结果:在视频描述任务中,使用Panda-70M预训练的模型在MSR-VTT和MSVD数据集上的性能显著优于官方权重。在视频和文本检索任务中,预训练的Unmasked Teacher模型在MSR-VTT、DiDeMo和MSVD数据集上的零样本和微调检索性能也优于官方权重。消融实验:论文没有明确提到消融实验,但通过比较不同模型在视频描述任务中的表现,展示了多模态输入对于提高描述质量的重要性。1.?总结归纳:Panda-70M是一个创新的大规模视频数据集,它通过结合多模态输入和先进的模型训练技术,显著提高了视频描述的质量和准确性。这一工作为视频理解和生成任务提供了宝贵的资源,并推动了相关领域的研究进展。相关工作:论文中提到了与Panda-70M相关的其他工作,如HD-VILA-100M、HowTo100M等,这些工作在视频数据集的构建和注释方面提供了基础。1.❓引发思考的问题:
大家可以看到,我将主要的提示词放到了System中,正如刚才所讲,我们需要控制模型的行为与设定,所以会放在此处。而User提示词,我预置了一句提问的话(当然你也可以在此基础上修改,对单次交互提出更多要求),重点在于{Query},这种写法是特殊的变量形式写法,如果在实际运行中,{Query}会被替代成具体问题,这个效果在后面我们将会看到。创建并保存后,你将会在“Registry”中看到你所创建的提示词。第三步:准备数据集在这一步中,你可以上传自己的测试数据集,也可以使用PromptLayer提供的测试数据集,目前PromptLayer支持的数据集格式有Json和CSV两种。请注意,经过测试后发现上传中文数据集可能会出现乱码,所以在构建数据集时请大家多多留意为了方便演示,我使用了PromptLayer提供的数据集样例和我自己编写的一套测试集。当然,在真实环境中,肯定需要一套真实的测试集进行提示词调试,详情可至[Hugging Face](https://huggingface.co/)的“Datasets”中查看。第四步:开始测试点击你刚刚创建的数据集,进入到数据中,我们就可以开始进行测试前的配置了。(免费账户可一次性测试4个Q&A对,付费账户可以进行大批量测试。)点击“Add Step”后,出现如下操作框,这一步选择“Prompt Template”在点击“Prompt Template”后,会出现具体配置,首先我们给测试列起一个名字,然后方可配置后两项。配置好列名后,点击“Select template”,选择你刚创建的提示词。
|ID|标题|更新日期|数据集提供者|许可|说明|关键字|类别|论文地址|备注||-|-|-|-|-|-|-|-|-|-||7|[ChineseTextualInference](https://github.com/liuhuanyong/ChineseTextualInference)|43449|刘焕勇,中国科学院软件研究所||中文文本推断项目,包括88万文本蕴含中文文本蕴含数据集的翻译与构建,基于深度学习的文本蕴含判定模型构建|中文NLI|中文文本推断;文本蕴含||||8|[NLPCC-DBQA](https://biendata.com/ccf_tcci2018/datasets/tcci_tag/11)|2016/2017/2018|NLPCC||给定问题-答案,以及该答案是否是该问题的答案之一的标记,1表示是,0表示不是|DBQA|问答匹配||||9|[“技术需求”与“技术成果”项目之间关联度计算模型](https://www.datafountain.cn/competitions/359)|201/8/32|CCF||给定文本形式的技术需求和技术成果,以及需求与成果的关联度标签;其中技术需求与技术成果之间的关联度分为四个层级:强相关、较强相关、弱相关、无相关|长文本;需求与成果匹配|长文本匹配||||10|[CNSD/CLUE-CMNLI](https://github.com/zengjunjun/CNSD)|2019/12|ZengJunjun||中文自然语言推理数据集,本数据及通过翻译加部分人工修正的方法,从英文原数据集生成,可以一定程度缓解中文自然语言推理和语义相似度计算数据集不够的问题|中文NLI|中文自然语言推断|[论文](https://6a75-junzeng-uxxxm-1300734931.tcb.qcloud.la/CNSD.pdf?sign=401485f4d6f256393a264e68464ca4ae&t=1578114336)||