前言
路由（Routing）是 Agentic Design Patterns 中的核心模式之一，它通过智能决策机制，将用户请求导向最合适的处理路径，实现高效的任务分发和处理。
路由模式概述
虽然通过提示词链进行顺序处理是使用语言模型执行确定性、线性工作流的基础技术，但在需要自适应响应的场景中，它的适用性会受到限制。现实世界的智能体系统必须经常根据运行时条件在多个潜在行动之间进行决策，例如环境状态、用户输入或前一操作的结果。这种控制流向不同专门函数、工具或子流程的动态决策能力，是通过一种称为路由的机制实现的。
路由将条件逻辑引入智能体系统的操作框架，使其从固定的执行路径转变为这样一种模型：智能体动态评估特定标准，从一组可能的后续操作中进行选择。这使得系统行为更加灵活且具有上下文感知能力。
路由模式的核心组件
路由模式的核心组件是执行评估并指导流程的机制。这种机制可以通过几种方式实现：
- 基于LLM的路由：可以提示语言模型本身分析输入并输出指示下一步或目的地的特定标识符或指令。例如，提示词可能要求LLM分析以下用户查询并仅输出类别：订单状态、产品信息、技术支持或其他。智能体系统然后读取此输出并相应地指导工作流。
- 基于嵌入的路由：输入查询可以转换为向量嵌入。然后将此嵌入与代表不同路由或能力的嵌入进行比较。查询被路由到嵌入最相似的路由。这对于语义路由很有用，其中决策基于输入的含义而不仅仅是关键词。
- 基于规则的路由：这涉及使用基于关键词、模式或从输入中提取的结构化数据的预定义规则或逻辑（if-else, switch case）。这可以比基于LLM的路由更快、更具确定性，但在处理细微或新颖输入方面的灵活性较差。
- 基于机器学习模型的路由：它采用判别模型，例如分类器，该模型已经在小型标记数据语料库上专门训练以执行路由任务。虽然它与基于嵌入的方法在概念上有相似之处，但其关键特征是监督微调过程，该过程调整模型的参数以创建专门的路由功能。这种技术与基于LLM的路由不同，因为决策组件不是在推理时执行提示词的生成模型。相反，路由逻辑被编码在微调模型的学习权重中。虽然LLM可能在预处理步骤中用于生成合成数据以增强训练集，但它们不参与实时路由决策本身。
路由机制可以在智能体系统的操作周期内的多个节点实现。它们可以在开始时应用以对主要任务进行分类，在处理链内的中间点应用以确定后续操作，或在子程序期间应用以从给定集合中选择最合适的工具。
路由模式的应用场景
路由模式在实际的智能体系统中有广泛的应用场景：
- 客服系统：根据用户问题类型（订单查询、退换货、技术支持等）将请求路由到不同的专业处理模块，提高响应效率和准确度。
- 内容审核：将用户生成的内容根据风险等级路由到不同的审核流程，低风险内容自动通过，高风险内容转人工审核。
- 多领域问答：在涵盖多个知识领域的问答系统中，根据用户查询的语义将问题路由到最匹配的领域专家模型，确保回答的专业性。
- 工具选择：智能体拥有多种工具时，根据当前任务需求动态选择最合适的工具执行，避免无效调用和资源浪费。
路由与其他模式的协作
路由模式不是孤立运作的，它经常与 Agentic Design Patterns 中的其他模式协同使用：
- 路由 + 提示词链：路由决定走哪条分支后，每条分支内部可以采用提示词链进行顺序处理。例如，客服系统先通过路由将用户请求分类，再在各类别中使用提示词链完成多步骤处理。
- 路由 + 并行化：当路由判断某个请求需要多方面信息时，可以在路由后触发并行化模式，同时调用多个工具或子流程获取信息，最后汇总结果。
- 路由 + 记忆：路由决策可以结合历史记忆信息，例如根据用户的历史偏好或上下文状态选择不同的处理路径，使系统行为更加个性化和连贯。
总结
路由是 Agentic Design Patterns 中实现智能体灵活性的关键模式。通过将条件逻辑引入系统控制流，路由使智能体能够根据运行时条件动态选择最合适的处理路径。四种主要实现方式——基于LLM、基于嵌入、基于规则和基于机器学习模型——各有优劣，适用于不同场景。在实际系统设计中，路由通常与其他模式协同工作，共同构建具有自适应能力的智能体系统。
扩展阅读
- LangChain - Routing - LangChain 官方关于路由实现的 How-to 指南
- Agentic Design Patterns - Andrew Ng - 吴恩达关于 Agentic Design Patterns 的系列文章，路由模式的原始参考
- Semantic Router - 基于语义嵌入的开源路由框架，适合实践基于嵌入的路由
- LangGraph - Multi-agent Orchestration - LangGraph 多智能体编排中的路由机制实践
- Agentic Design Patterns-提示词链 - 本博客同系列文章，了解提示词链模式