谷歌Gemini实现逆向RAG功能 | 证明或证伪AI回复

牛逼,谷歌Gemini逆向RAG功能(证明/证伪AI回复)

RAG 指使用私有知识库增强大模型对未训练知识准确度, 避免无法回复或胡编乱造的问题.

反过来, 可以先让模型生成结果, 然后到公网或内网搜索可以佐证AI回复观点的内容, 用来证明或证伪AI的回复内容.

谷歌Gemini就上线了这样的功能, 如下.

但是还需要提醒一下, 如果用来核实的佐证材料本身就是不可靠(如可能是模型生成的、也可能本身就是不可信的内容), 可能陷入循环论证的情况. 所以在寻找佐证材料是需要先确认其可靠性.