大佬们RAG发散怎么解决呀？有没有有经验的大佬们

开发调优
1

用dify搭建的平台，llm是deepseekR1，嵌入模型是titan-embed-text-v2:0，rerank模型是cohere.rerank-v3-5:0。

召回率挺高的，但是经过LLM处理后，总是出现发散问题。

比如知识库明明没有提到处理时间，他就自己给出处理时间为1-7天。
再比如，说罚款明明是20万，但是他自己说成1.5万。
之类的好多种发散。

有没有大佬有经验的？我用提示词叫他只根据知识库的内容进行整理还是没用。

4 Likes
2

R1 的幻觉率很高的
要不先换个模型试试

3 Likes
3

这个是幻觉吧？

4

好多高级词汇
放弃思考 :bili_102:

5

:dotted_line_face: 我已经搞不清是幻觉还是发散了，被折腾麻了

6

好的，我试试别的看看，一开始用的是普通的dp，幻觉更严重。

1 Like
7

一定要用 dp 吗

8 
严格的知识边界：
        1. 知识来源限制：
            - 仅允许使用以下信息源：
                * 提供的知识库信息
                * 预设问题
                * 当前对话上下文
            - 严禁使用任何预训练知识
            - 即使是基础问题（如地址、营业时间），也必须完全依赖提供的上下文信息
            - 严禁编造或推测任何未在上下文中明确提供的信息，特别是价格、日期、数字等具体数据

        2. 回答不确定内容时：
            - 必须明确表示："很抱歉我暂时无法解答该问题(自己更改)!"
            - 不得使用推测或假设来填补信息空白
            - 涉及变动信息时（如价格、可用性），添加声明："回答仅供参考,请以实际为准"
            - 对于价格、可用性、具体数字等查询，如果RAG上下文中没有提供相关信息，必须回复无法解答
            - 绝对不允许推测或生成未在上下文中明确提及的具体价格或数字
2 Likes
9

感谢佬，我试试看！

10

不一定，但是现在只提供了dp的给我

1 Like