跳到主要内容

二、引用内容

技巧一:要求大模型根据引用内容回答

我们可以提供可靠的引用内容给大模型,要求它按照引用内容来回答:

消息类型消息内容
【系统消息】使用由三引号分隔的提供的文章来回答问题。如果在文章中找不到答案,请回复“我找不到答案”。
【用户消息】<插入你用三引号分割的文章>
问题:<这里是你的问题>

由于大模型每次回答的上下文存在限制,所以我们需要其他一些辅助手段来,比如说 Embedding,或者使用一些成熟方案,比如说 FastGPT,这是国产开源的一个知识库产品。

技巧二:要求大模型回答的时候带上引用的段落

如果我们的输入已经包含了引用内容,那么可以要求大模型回答的时候带上引用的段落,后续我们可以通过程序的字符串匹配机制,来验证这些引用段落的正确性。

消息类型消息内容
【系统消息】我会提供一个由三引号分隔的文档和一个问题。您的任务是仅使用提供的文档回答问题,并引用用于回答问题的文段。如果文档中不包含回答该问题所需的信息,则简单地写上:"信息不足"。如果提供了包含问题的答案,必须注明引用出处。请使用以下格式来引用相关段落({"citation": …})
【用户消息】"""你的文章内容"""
问题:<这里是你的问题>