各位同仁，下午好！
今天，我们聚焦一个在构建智能 Agent 过程中至关重要，却又充满挑战的议题：如何让 Agent 在检索信息时，能够像人类一样，在发现初始结果不尽如人意时，自动反思、修正策略，并再次尝试。这便是我们今天要深入探讨的“Rerank-then-Loopback”机制。
在当今的 AI 领域，Agent 正在承担越来越复杂的任务，从数据分析到自动化决策，再到与用户进行深度交互。然而，这些任务的核心往往离不开高质量的信息检索。一个 Agent 的“智能”程度，很大程度上取决于它获取、理解并利用信息的能力。我们常常会遇到这样的场景：Agent 根据任务生成了第一个查询，提交给检索系统，但返回的结果却差强人意，甚至完全偏离了目标。此时，如果 Agent 只能被动接受这些低质量结果，那么它的后续决策和行动都将受到严重影响。
传统的信息检索系统通常是单次、静态的：给定一个查询，返回一组结果，任务结束。这种模式对于简单、明确的查询尚可应对，但对于 Agent 在执行复杂任务时产生的、往往带有隐式需求的查询，就显得力不不逮。Agent 需要的是一个能够自我修正、迭代优化的检索过程。
“Rerank-then-Loopback”正是为解决这一痛点而生。它不仅仅是一个简单的重试机制，更是一种融合了深度学习、语义理解和智能决策的迭代优化范式。其核心思想是：Agent 首先发起一次检索，然后对返回的原始结果进行深度语义重排序（Rerank），接着对重排序后的结果进行质量评估。一旦评估发现结果质量存疑，Agent 便会根据现有信息和对失败原因的分析，自动修改当前的查询，并触发一次新的检索循环（Loopback），直到满意或达到预设的循环上限。
接下来，我将带领大家一步步剖析这个机制的各个环节，并辅以代码示例，希望能够为大家在实际项目中构建更智能的 Agent 提供一些启发。
一、初始检索：Agent 如何发出第一声询问
Agent 执行任务的第一步，往往是从其内部状态、任务目标和上下文信息中提炼出一个初始查询。这个查询可能是关键词列表，也可能是语义向量，具体取决于Agent所集成的检索系统类型。
1. 查询的生成
Agent 通常会利用一个语言模型（LLM）来将复杂的任务描述或内部思维链（Chain of Thought）转化为一个简洁、有效的检索查询。例如，如果Agent的任务是“找出关于全球变暖对海洋生态系统影响的最新研究”，它可能会生成一个查询如：“全球变暖 海洋生态系统 最新研究”。
2. 检索系统的选择
检索系统可以是多种多样的：
- 向量数据库（Vector DB）： 如Pinecone、Weaviate、Milvus、Qdrant、Faiss等。Agent将查询转换为一个向量，然后进行ANN（Approximate Nearest Neighbor）搜索。
- 关键词检索（Keyword Search）： 如Elasticsearch、Solr。Agent生成关键词或短语，系统基于倒排索引进行检索。
- 混合检索（Hybrid Search）： 结合了向量检索和关键词检索的优势，旨在提高召回率和精确度。
为了后续的重排序和评估，我们通常期望初始检索能够提供一个相对宽泛的、包含潜在相关文档的候选集，即“高召回率”。
代码示例：初始向量检索
假设我们有一个简单的文档集合，并使用 sentence-transformers 进行编码，然后用 faiss 进行向量检索。
import numpy as np
from sentence_transformers import SentenceTransformer
import faiss
from typing import List, Dict, Tuple
# 1. 初始化模型和FAISS索引
model = SentenceTransformer('all-MiniLM-L6-v2') # 使用一个轻量级模型
index = None
documents = []
document_metadata = []
def initialize_retrieval_system(docs_data: List[Dict[str, str]]):
"""
初始化检索系统，包括编码文档并构建FAISS索引。
docs_data: 包含 'id' 和 'content' 字段的文档列表。
"""
global index, documents, document_metadata
documents = [d['content'] for d in docs_data]
document_metadata = docs_data
print(f"Embedding {len(documents)} documents...")
document_embeddings = model.encode(documents, convert_to_tensor=False)
dimension = document_embeddings.shape[1]
index = faiss.IndexFlatL2(dimension) # 使用L2距离
index.add(np.array(document_embeddings).astype('float32'))
print(f"FAISS index created with {index.ntotal} documents.")
def initial_vector_search(query: str, k: int = 10) -> List[Dict[str, str]]:
"""
执行初始向量检索。
query: Agent生成的查询字符串。
k: 返回的文档数量。
"""
if index is None:
raise ValueError("Retrieval system not initialized. Call initialize_retrieval_system first.")
query_embedding = model.encode([query], convert_to_tensor=False).astype('float32')
# 搜索
distances, indices = index.search(query_embedding, k)
retrieved_docs = []
for i, doc_idx in enumerate(indices[0]):
if doc_idx < len(document_metadata): # 确保索引有效
doc_info = document_metadata[doc_idx].copy()
doc_info['score'] = float(distances[0][i]) # FAISS返回的是距离，越小越相关
retrieved_docs.append(doc_info)
# 根据距离（分数）进行排序，距离越小越好
retrieved_docs.sort(key=lambda x: x['score'])
return retrieved_docs
# 模拟文档数据
sample_docs = [
{"id": "doc1", "content": "全球变暖导致海平面上升，影响沿海城市。"},
{"id": "doc2", "content": "海洋酸化是全球变暖的另一个后果，威胁珊瑚礁和贝类生物。"},
{"id": "doc3", "content": "北极冰盖融化速度加快，对北极熊的生存造成威胁。"},
{"id": "doc4", "content": "研究表明，渔业捕捞过度导致某些鱼类种群数量急剧下降。"},
{"id": "doc5", "content": "极端天气事件如飓风和洪水在全球范围内变得更加频繁和强烈。"},
{"id": "doc6", "content": "可再生能源如太阳能和风能是减少碳排放的关键。"},
{"id": "doc7", "content": "森林砍伐加速了气候变化，减少了碳汇。"},
{"id": "doc8", "content": "海草床和红树林在吸收碳方面发挥着重要作用，同时也是海洋生物的栖息地。"},
{"id": "doc9", "content": "塑料污染对海洋生物造成了严重的物理伤害和化学毒害。"},
{"id": "doc10", "content": "联合国气候变化大会COP28讨论了全球减排目标。"},
]
# 初始化系统
initialize_retrieval_system(sample_docs)
# Agent的初始查询
initial_agent_query = "全球变暖对海洋生态系统的影响"
initial_results = initial_vector_search(initial_agent_query, k=5)
print("n--- 初始检索结果 ---")
for i, doc in enumerate(initial_results):
print(f"Rank {i+1}: ID={doc['id']}, Score={doc['score']:.4f}, Content='{doc['content'][:50]}...'")
这段代码展示了一个基础的初始检索过程。然而，单纯的向量相似度可能无法捕获查询和文档之间所有的语义关联，尤其是在文档内容较长或查询意图复杂时。这就是为什么我们需要重排序。
二、深度重排序（Rerank）：精炼与聚焦
初始检索，特别是向量检索，通常旨在获得高召回率。这意味着它可能会返回一些与查询主题相关但并非最精确、最核心的文档。Reranking 的目标就是在这个初步的候选集（通常是 Top-K 或 Top-N）中，根据更深层的语义理解，重新评估并排序文档，从而提高精确率。
1. 为什么需要 Reranking？
- 语义鸿沟： 初始检索的 embedding 模型可能无法完全捕捉到查询和文档之间的所有细微语义关联。
- 上下文缺失： 初始检索通常只考虑查询和文档的整体相似性，而忽略了文档中与查询最直接相关的局部信息。
- 噪声干扰： 召回的文档可能包含大量与查询不直接相关的背景信息。
- 效率与精度权衡： 训练一个能在海量数据上进行高效ANN搜索，同时又极其精确的模型是困难的。Reranking 允许我们使用更复杂、更昂贵的模型对一个更小的候选集进行精细化排序。
2. Reranking 模型
最常见的 Reranking 模型是基于 Transformer 的交叉编码器（Cross-Encoder）。与双编码器（如 SentenceTransformer 用于初始检索）不同，交叉编码器同时接收查询和文档作为输入，并计算它们之间的交互，从而生成一个联合的相似性分数。这种交互式建模能够捕捉到更丰富的语义关系。
例如，cross-encoder/ms-marco-MiniLM-L-6-v2 就是一个常用的交叉编码器，它在 MS MARCO 数据集上进行了训练，专门用于判断查询与文档的相关性。
3. Reranking 过程
对于初始检索返回的 Top-K 文档，Reranker 会对每一对 (query, document_content) 计算一个相关性分数。分数越高，表示文档与查询越相关。
代码示例：集成 Reranker
from sentence_transformers import CrossEncoder
# 2. 初始化交叉编码器 reranker
reranker_model = CrossEncoder('cross-encoder/ms-marco-MiniLM-L-6-v2')
def rerank_documents(query: str, retrieved_docs: List[Dict[str, str]], top_n: int = 5) -> List[Dict[str, str]]:
"""
使用交叉编码器对检索到的文档进行重排序。
query: 原始查询字符串。
retrieved_docs: 初始检索返回的文档列表。
top_n: 重排序后返回的文档数量。
"""
if not retrieved_docs:
return []
# 准备 reranker 的输入格式：[(query, doc1_content), (query, doc2_content), ...]
sentence_pairs = [[query, doc['content']] for doc in retrieved_docs]
# 预测分数
print(f"Reranking {len(retrieved_docs)} documents with cross-encoder...")
rerank_scores = reranker_model.predict(sentence_pairs)
# 将分数添加到文档信息中
for i, doc in enumerate(retrieved_docs):
doc['rerank_score'] = float(rerank_scores[i])
# 根据 rerank_score 降序排序
reranked_docs = sorted(retrieved_docs, key=lambda x: x['rerank_score'], reverse=True)
return reranked_docs[:top_n]
# 使用之前的初始检索结果进行重排序
reranked_results = rerank_documents(initial_agent_query, initial_results, top_n=3)
print("n--- Reranked 结果 ---")
for i, doc in enumerate(reranked_results):
print(f"Rank {i+1}: ID={doc['id']}, Rerank_Score={doc['rerank_score']:.4f}, Content='{doc['content'][:50]}...'")
通过 Reranking，我们得到了一个更加精确的文档集合。但这些文档真的足够好，能够满足 Agent 的任务需求吗？这就引出了下一步：质量评估。
三、质量评估：Agent 如何判断结果是否存疑
这是“Rerank-then-Loopback”机制中的核心决策点。Agent 必须能够自主判断当前检索结果的质量，以决定是继续使用这些结果，还是触发查询修改和循环检索。如果 Agent 无法准确评估，那么整个循环就失去了意义。
判断检索结果是否“存疑”或“不合格”是一个复杂的问题，它需要 Agent 对其自身的任务目标有深刻的理解，并能够将这种理解转化为可量化的评估标准。
1. 评估方法
-
Reranker 信心分数：
- 原理： Reranker 返回的分数本身就可以作为相关性的指示。如果重排序后的最高分数仍然很低，或者前几名文档的分数差距很小，都可能表明结果质量不高。
- 优点： 简单直接，无需额外模型。
- 缺点： 分数阈值难以确定，且分数高不代表内容完全符合 Agent 需求。
-
语义覆盖度与完整性：
- 原理： Agent 检查检索到的文档是否覆盖了其任务目标中所有关键信息点。例如，如果任务是“找出全球变暖对海洋生态系统长期和短期影响”，Agent会检查结果中是否同时提及了这两方面。
- 实现： 需要 Agent 能够从任务中提取关键实体、概念、方面，然后检查这些元素在文档中的出现频率或密度。这通常需要一个更强大的语言模型来辅助分析文档内容。
- 优点： 与 Agent 任务目标高度对齐。
- 缺点： 实现复杂，对 Agent 的理解能力要求高，可能需要多次 LLM 调用。
-
多样性与信息量：
- 原理： 如果检索到的所有文档都围绕着一个非常狭窄的方面，或者信息高度重复，那么 Agent 可能会认为结果缺乏多样性或信息量不足，无法提供全面的视角。
- 实现： 可以使用 MMR（Maximal Marginal Relevance）或其他聚类算法来评估文档的多样性。
- 优点： 避免信息冗余，鼓励探索更广泛的相关信息。
- 缺点： 有时 Agent 需要的是深度而非广度。
-
特定实体/关键词缺失：
- 原理： Agent 在执行任务时，可能预设需要某些特定类型的实体（如日期、人名、组织名、技术术语）或关键词。如果检索结果中显著缺乏这些元素，则表明结果可能不相关。
- 实现： 基于规则或命名实体识别（NER）模型。
- 优点： 简单高效，适用于结构化信息需求。
- 缺点： 过于依赖预设，不灵活。
-
基于 LLM 的综合评估：
- 原理： 这是目前最强大也最灵活的方法。Agent 可以将原始查询、任务目标以及检索到的文档一起提交给一个大型语言模型，让 LLM 扮演“评审员”的角色，评估文档的整体质量、相关性、完整性，并给出是否需要进一步检索的建议及理由。
- 优点： 能够进行高度复杂的语义判断，适应性强，可以提供详细的反馈。
- 缺点： 成本高（API 调用费用和延迟），可能存在 LLM 幻觉问题。
2. 阈值与启发式规则
无论采用哪种方法，都需要设定一个“存疑”的阈值或规则。例如：
- Reranked 文档的最高分数低于某个预设值（如 0.7）。
- LLM 评估结果明确指出“需要进一步检索”或“信息不完整”。
- 前 N 篇文档中，关键实体 A 和 B 至少有一个未被提及。
代码示例：基于 LLM 的质量评估
这里我们模拟一个 LLM 接口来评估结果质量。在实际应用中，这会是一个对 OpenAI GPT、Anthropic Claude 或其他 LLM 服务的 API 调用。
import os
import openai # 假设使用OpenAI API，需要配置 OPENAI_API_KEY
from openai import OpenAI
# 模拟LLM客户端
class MockOpenAIClient:
def chat(self):
return self
def completions(self):
return self
def create(self, model, messages, **kwargs):
prompt = messages[0]['content'] # 简化处理，只看第一个消息
# 模拟LLM的评估逻辑
if "全球变暖对海洋生态系统的影响" in prompt and
"海洋酸化" in prompt and
"海平面上升" in prompt and
"渔业捕捞过度" not in prompt: # 模拟LLM认为缺少渔业影响
response_content = "评估结果：存在一定相关性，但文档内容可能不够全面。例如，缺少对渔业资源或具体物种影响的深入探讨。建议：可以尝试修改查询，更具体地寻找这方面的信息。"
is_doubtful = True
elif "全球变暖对海洋生态系统的影响" in prompt and
"海洋酸化" in prompt and
"海平面上升" in prompt and
"北极熊" in prompt: # 模拟LLM认为北极熊不完全是海洋生态系统
response_content = "评估结果：相关性较高，但部分内容（如北极熊）可能略微偏离核心的海洋生态系统。建议：可以尝试更精确地聚焦在海洋生物和水体变化上。"
is_doubtful = True
else:
response_content = "评估结果：文档内容与查询高度相关且信息量充足。无需进一步检索。"
is_doubtful = False
# 构造模拟的响应对象
class MockChoice:
def __init__(self, content):
self.message = type('Message', (object,), {'content': content})()
class MockResponse:
def __init__(self, content):
self.choices = [MockChoice(content)]
return MockResponse(response_content)
# 实际使用时，请替换为您的OpenAI客户端
# client = OpenAI(api_key=os.environ.get("OPENAI_API_KEY"))
client = MockOpenAIClient() # 使用模拟客户端进行演示
def assess_retrieval_quality(query: str, reranked_docs: List[Dict[str, str]], task_goal: str) -> Tuple[bool, str]:
"""
使用LLM评估检索结果的质量。
query: Agent当前的查询字符串。
reranked_docs: 重排序后的文档列表。
task_goal: Agent的整体任务目标。
返回: (是否存疑, 评估理由)
"""
if not reranked_docs:
return True, "没有检索到任何文档。"
docs_summary = "n".join([f"文档ID: {doc['id']}n内容摘要: {doc['content'][:150]}..." for doc in reranked_docs])
prompt = f"""
你是一个智能Agent，正在评估信息检索结果。
原始任务目标是："{task_goal}"
当前的查询是："{query}"
以下是你检索并重排序后的顶级文档：
---
{docs_summary}
---
请根据原始任务目标和当前查询，评估这些文档的质量和相关性。
你的评估应包含以下几点：
1. 这些文档是否充分回答了查询？
2. 是否存在关键信息缺失？
3. 文档内容是否有偏差或无关信息？
4. 是否需要进一步修改查询并进行检索？如果是，请给出具体的修改建议。
请以清晰的中文给出你的评估结果和建议。
"""
print("n--- LLM 正在评估检索结果 ---")
try:
response = client.chat.completions.create(
model="gpt-4o", # 实际模型名称
messages=[
{"role": "user", "content": prompt}
],
temperature=0.0
)
assessment_text = response.choices[0].message.content
print(assessment_text)
# 简单的启发式判断是否需要循环
is_doubtful = "建议" in assessment_text or "缺少" in assessment_text or "偏离" in assessment_text
return is_doubtful, assessment_text
except Exception as e:
print(f"LLM 评估失败: {e}")
return True, "LLM 评估失败，默认为需要重新检索。" # 失败时默认重新检索
# 模拟Agent的整体任务目标
agent_task_goal = "深入了解全球变暖对海洋生态系统的具体影响，包括生物多样性、物理化学变化及其长期趋势。"
# 对重排序后的结果进行评估
is_doubtful_initial, assessment_reason_initial = assess_retrieval_quality(
initial_agent_query, reranked_results, agent_task_goal
)
print(f"n评估结果: {'需要循环检索' if is_doubtful_initial else '满意'}, 理由: {assessment_reason_initial}")
如果 is_doubtful 为 True，Agent 便会进入下一个阶段：查询修改。
四、查询修改：Agent 如何自我纠正
当 Agent 判断当前检索结果不佳时，它必须能够根据质量评估的反馈，智能地修改其查询。这是整个“Loopback”机制中最具挑战性和智能化的部分。查询修改的有效性直接决定了下一次检索的成功率。
1. 查询修改策略
Agent 可以采取多种策略来修改查询，这些策略可以组合使用：
-
查询扩展（Query Expansion）：
- 目的： 增加查询的召回率，捕获与原始查询语义相关但词汇不匹配的文档。
- 方法：
- 同义词/近义词： 使用词典（如 WordNet）或词嵌入模型查找相关词。
- 相关概念： 基于初始检索结果中的高频词或 LLM 识别出的相关概念进行扩展。
- LLM 驱动： 提示 LLM 根据原始查询和评估反馈，生成更广泛、更全面的相关术语。
- 示例：
“全球变暖”->“全球变暖 气候变化 气候危机 温室效应”
-
查询精炼/具体化（Query Refinement/Specification）：
- 目的： 提高查询的精确率，聚焦于特定方面或排除不相关内容。
- 方法：
- 添加限定词： 根据评估反馈中指出的缺失信息，添加具体关键词或短语。
- 排除词： 如果发现结果中包含大量不相关内容，可以添加
-或NOT操作符排除特定词汇。 - 聚焦实体： 明确指定要搜索的实体类型（如“2023年数据”、“印度洋”）。
- LLM 驱动： 提示 LLM 基于评估中指出的偏差或不足，将查询变得更具体。
- 示例：
“全球变暖对海洋生态系统的影响”(结果偏向北极熊) ->“全球变暖对海洋生物多样性、珊瑚礁和渔业资源的影响”
-
查询重构/重写（Query Reformulation/Rewriting）：
- 目的： 当原始查询的表述方式本身就有问题，导致语义模糊或偏离时，完全重新组织查询。
- 方法：
- LLM 驱动： 提示 LLM 结合任务目标、原始查询和失败的检索结果，生成一个全新的、更清晰的查询。这通常是最强大的策略，因为它允许 LLM 进行高级推理。
- 示例： 原始查询过于宽泛
“海洋健康”-> 重写为“海洋污染对珊瑚礁和鱼类种群的具体影响”
-
增加上下文/背景信息：
- 目的： 为检索系统提供更多关于 Agent 任务状态、历史交互的信息，帮助系统更好地理解查询意图。
- 方法： 在查询中包含 Agent 的前几轮对话、当前子任务目标等。
2. 优先级与迭代
在一次循环中，Agent 可能不会一次性应用所有策略。它可能会根据评估反馈的严重性和具体性，选择最合适的策略。例如，如果只是缺少某个关键实体，可能只需进行查询精炼；如果整个查询方向都有问题，则可能需要重构。
代码示例：LLM 驱动的查询修改
我们继续使用模拟的 LLM 客户端来演示查询修改。
def modify_query(original_query: str, assessment_reason: str, previous_bad_docs: List[Dict[str, str]], iteration: int) -> str:
"""
使用LLM根据评估理由修改查询。
original_query: Agent的原始查询。
assessment_reason: LLM评估给出的修改建议。
previous_bad_docs: 上一轮检索到的、被判定为不佳的文档。
iteration: 当前循环的次数，可用于调整修改策略（如初期更保守，后期更激进）。
返回: 修改后的新查询字符串。
"""
docs_summary_for_llm = "n".join([f"ID: {doc['id']}, 内容摘要: {doc['content'][:100]}..." for doc in previous_bad_docs])
prompt = f"""
你是一个智能Agent的查询修改助手。
原始查询是："{original_query}"
检索结果评估反馈是："{assessment_reason}"
这是上一轮检索到的（被认为不够好的）文档摘要：
---
{docs_summary_for_llm}
---
请根据上述信息，生成一个更准确、更有效的查询，以期在下一轮检索中获得更好的结果。
请确保新查询能够解决评估反馈中指出的问题，并尽可能具体。
如果评估反馈建议了具体的关键词或方向，请采纳。
请只返回修改后的查询字符串，不要包含任何额外说明。
"""
print("n--- LLM 正在修改查询 ---")
try:
response = client.chat.completions.create(
model="gpt-4o", # 实际模型名称
messages=[
{"role": "user", "content": prompt}
],
temperature=0.7 # 适当提高温度，让LLM更具创造性
)
new_query = response.choices[0].message.content.strip()
print(f"新查询生成: '{new_query}'")
return new_query
except Exception as e:
print(f"LLM 查询修改失败: {e}")
# 失败时可以采取回退策略，例如使用预设的扩展词，或直接返回原始查询并增加一个警告
return original_query + " 更多信息" # 简单的回退策略
# 假设评估结果指示需要修改
if is_doubtful_initial:
modified_agent_query = modify_query(
initial_agent_query,
assessment_reason_initial,
reranked_results,
iteration=1
)
print(f"n修改后的查询: '{modified_agent_query}'")
else:
modified_agent_query = initial_agent_query # 如果不需要修改，就用回原始查询
五、循环检索（Loopback）：迭代优化
一旦查询被修改，Agent 就会带着新的查询重新进入检索流程：新的查询 -> 初始检索 -> Rerank -> 质量评估。这个过程会不断重复，直到满足某个停止条件。
1. 循环的编排
一个智能 Agent 需要一个控制器来编排这个循环。这个控制器负责：
- 发起检索： 调用初始检索模块。
- 管理Rerank： 调用 Reranking 模块。
- 执行评估： 调用质量评估模块，判断是否需要继续循环。
- 触发修改： 如果需要，调用查询修改模块。
- 跟踪状态： 记录当前循环次数、历史查询、历史结果和评估。
- 判断停止条件： 在适当的时候终止循环。
2. 停止条件
为了避免无限循环或资源浪费，必须设定明确的停止条件：
- 最大迭代次数： 预设一个 Agent 尝试修改查询的最大次数。例如，最多尝试 3-5 次。
- 质量阈值满足： 质量评估模块返回“满意”或达到预设的最低相关性分数。
- 无显著改进： 连续几次循环后，检索结果的质量（例如最高 Rerank 分数）没有明显提升，或者新生成的查询与前一个查询高度相似，表明 Agent 可能陷入局部最优或无法找到更好的查询。
- Agent 任务完成： 如果 Agent 在检索过程中收集到了足够的信息，足以完成其当前子任务或整体任务，则可以停止。
- 资源限制： 例如，达到 API 调用次数上限或时间限制。
3. 结果整合
在多次循环后，Agent 可能会从不同的查询中得到一系列结果。如何整合这些结果也很重要：
- 去重： 移除重复的文档。
- 合并与排序： 将所有合格的文档合并，并根据它们的 Rerank 分数重新进行全局排序。Agent 可能更倾向于最新一次循环中得分高的文档，但也应保留早期循环中得分较高的文档。
- 多样性保证： 在最终结果集中，可以再次进行多样性检查，确保信息覆盖的广度。
代码示例：编排 Rerank-then-Loopback 循环
def run_rerank_then_loopback(
initial_query: str,
task_goal: str,
max_iterations: int = 3,
k_initial: int = 10,
k_rerank: int = 5
) -> List[Dict[str, str]]:
"""
执行 Rerank-then-Loopback 循环检索。
initial_query: Agent的初始查询。
task_goal: Agent的整体任务目标。
max_iterations: 最大循环次数。
k_initial: 初始检索返回的文档数量。
k_rerank: Rerank后返回的文档数量。
返回: 最终的合格文档列表。
"""
current_query = initial_query
all_good_results = {} # 使用字典存储，便于去重 (doc_id -> doc_info)
iteration_count = 0
print(f"n--- 启动 Rerank-then-Loopback 循环 (最大迭代次数: {max_iterations}) ---")
while iteration_count < max_iterations:
iteration_count += 1
print(f"n=== 迭代 {iteration_count} ===")
print(f"当前查询: '{current_query}'")
# 1. 初始检索
retrieved_docs = initial_vector_search(current_query, k=k_initial)
if not retrieved_docs:
print("警告: 初始检索未返回任何文档。")
if iteration_count == 1: # 第一次就没结果，直接退出
return []
else: # 如果之前有结果，尝试用之前的
print("尝试修改查询并再次检索...")
current_query = modify_query(current_query, "没有检索到任何文档，查询可能过于具体或不准确。", [], iteration_count)
continue # 进入下一轮循环
# 2. 深度重排序
reranked_docs = rerank_documents(current_query, retrieved_docs, top_n=k_rerank)
if not reranked_docs:
print("警告: Rerank后没有有效文档。")
current_query = modify_query(current_query, "Rerank后没有有效文档，查询可能不够聚焦。", [], iteration_count)
continue
# 3. 质量评估
is_doubtful, assessment_reason = assess_retrieval_quality(current_query, reranked_docs, task_goal)
# 将本次循环中高质量的文档加入到总结果中
for doc in reranked_docs:
# 假设 rerank_score 达到一定阈值才算“好”
if doc.get('rerank_score', 0) > 0.5: # 这是一个示例阈值，需根据模型调整
all_good_results[doc['id']] = doc # 自动去重
if not is_doubtful:
print("n评估结果: 检索结果令人满意，停止循环。")
break
else:
print(f"n评估结果: 检索结果存疑，需要修改查询并重新检索。理由: {assessment_reason}")
# 4. 查询修改
old_query = current_query
current_query = modify_query(old_query, assessment_reason, reranked_docs, iteration_count)
if current_query == old_query:
print("警告: 查询未能成功修改，可能陷入循环或无法改进。停止循环。")
break # 无法修改查询，停止
print("n--- Rerank-then-Loopback 循环结束 ---")
# 整合并返回最终结果
final_results = list(all_good_results.values())
final_results.sort(key=lambda x: x.get('rerank_score', 0), reverse=True) # 再次按最高分数排序
return final_results
# 运行整个循环
final_retrieved_docs = run_rerank_then_loopback(
initial_agent_query,
agent_task_goal,
max_iterations=3
)
print("n--- 最终检索结果 ---")
if final_retrieved_docs:
for i, doc in enumerate(final_retrieved_docs):
print(f"Rank {i+1}: ID={doc['id']}, Rerank_Score={doc.get('rerank_score', -1):.4f}, Content='{doc['content'][:80]}...'")
else:
print("未能检索到任何满足质量要求的文档。")六、架构与Agent框架集成
“Rerank-then-Loopback”机制可以无缝集成到现代 Agent 框架中，例如 LangChain、LlamaIndex 或自定义的 Agent 系统。它通常作为 Agent 感知（Perception）或规划（Planning）阶段的一部分，为 Agent 提供高质量的外部知识。
1. 模块化组件
我们可以将上述各个步骤视为 Agent 架构中的独立模块：
| 模块名称 | 职责 | 关键技术/输出 |
|---|---|---|
| 查询生成器 | 根据任务目标和上下文生成初始查询。 | LLM, 关键词提取 |
| 初始检索器 | 执行快速、高召回率的初步检索。 | 向量数据库 (FAISS, Pinecone), 关键词索引 (Elasticsearch) |
| 重排序器 | 对初步结果进行深度语义排序，提高精确率。 | 交叉编码器 (Cross-Encoder) |
| 质量评估器 | 判断检索结果是否满足 Agent 需求。 | LLM, 语义覆盖度分析, 信心分数阈值 |
| 查询修改器 | 根据评估反馈智能修改查询。 | LLM (查询扩展、精炼、重构) |
| 循环控制器 | 编排整个检索循环，管理状态和停止条件。 | 状态机, 循环逻辑 |
| 结果整合器 | 合并多轮检索结果，去重并排序。 | 文档去重算法, 排序逻辑 |
2. Agent 的工作流
Agent 内部的思维链（Chain of Thought）或规划器（Planner）可以驱动这个检索循环。一个典型的 Agent 决策流可能是：
- 感知任务： Agent 接收到一个新的任务或子任务。
- 规划行动： Agent 决定需要外部信息来完成任务。
- 生成初始查询： 调用查询生成器。
- 执行 Rerank-then-Loopback 流程：
- 调用初始检索器。
- 调用重排序器。
- 调用质量评估器。
- 如果结果存疑：调用查询修改器，然后返回步骤 4.1。
- 如果结果满意或达到循环限制：将最终结果传递给 Agent。
- 利用信息： Agent 使用检索到的高质量信息来推理、决策、生成响应或执行其他任务。
- 反思与学习： Agent 可以从检索失败的案例中学习，优化其查询生成和修改策略。
七、挑战与未来展望
尽管“Rerank-then-Loopback”机制极大地提升了 Agent 的检索能力，但它并非没有挑战：
- 计算成本： 每次循环都可能涉及多次 LLM 调用（查询生成、评估、修改），以及昂贵的 Reranker 计算，这会带来显著的延迟和 API 费用。
- LLM 的可靠性： LLM 在生成查询或评估结果时可能出现幻觉或产生次优的建议，导致检索效果不升反降。
- 停止条件的鲁棒性： 如何设定一个既能保证结果质量，又能及时终止循环的停止条件，是一个实践中的难题。过于宽松可能导致资源浪费，过于严格可能错过好结果。
- 局部最优： Agent 可能在几次修改后陷入一个局部最优的查询，无法跳出当前的信息茧房。
- 可解释性： 当 Agent 连续修改查询时，理解其修改背后的推理过程有时会很困难。
未来展望：
- 强化学习（Reinforcement Learning）驱动的查询修改： 将查询修改视为一个动作，检索结果的质量作为奖励信号，Agent 可以通过 RL 学习更优的查询修改策略。
- 多模态检索与循环： 将图像、视频等多模态信息纳入检索和评估范畴，实现更丰富的 Agent 感知能力。
- 自适应的循环策略： Agent 根据任务的复杂性、当前已有的信息量和时间预算，动态调整最大迭代次数、Rerank 数量等参数。
- 更高效的 LLM 交互： 通过蒸馏（Distillation）、量化（Quantization）等技术，使用更小、更快的模型来执行部分 LLM 任务，或优化 prompt 工程以减少 token 消耗。
通过 Rerank-then-Loopback 机制，我们赋予了 Agent 类似人类的“反思”和“再尝试”能力，使其不再是被动的查询执行者，而是主动的信息探寻者。这不仅提高了 Agent 的任务完成质量，也使其在处理复杂、模糊的任务时更具韧性。
这个机制的实现融合了信息检索、深度学习和智能决策的最新进展。它代表了 Agent 走向真正自主和智能的关键一步，值得我们在未来的 AI 系统设计中投入更多关注和实践。