Agentic Design Patterns-并行化


并行化模式概述

前面的章节中,我们探讨了用于顺序工作流的提示词链,以及用于动态决策和不同路径间转换的路由。虽然这些模式不可或缺,但许多复杂的智能体任务涉及多个可同时执行而非顺序执行的子任务。这正是并行模式的用武之地。
并行化是指并发执行多个组件,包括LLM调用、工具使用乃至于整个子智能体。不同于顺序等待每个步骤完成后再开始下一步,并行执行允许独立任务同时运行,从而显著缩短可分解为独立部分的任务的总执行时间。
设想一个旨在研究某个主题并总结发现的智能体。顺序方法可能是这样的:

  1. 搜索来源A
  2. 总结来源A
  3. 搜索来源B
  4. 总结来源B
  5. 基于摘要A和B合成最终答案
    而并行方法则可改为:
  6. 同时搜索来源A和来源B
  7. 两个搜索完成后,同时总结来源A和来源B
  8. 基于摘要A和摘要B合成最终答案
    核心思想是识别工作流中不依赖于其他部分输出的环节并将它们并行执行。这在处理具有延迟的外部服务(如API或数据库)时尤其有效,因为你可以同时发出多个请求。

实现并行化通常需要支持异步执行或多线程/多进程的框架。现代智能体框架在设计时已充分考虑异步操作,可以轻松定义并行运行的步骤。

![并行示意](/images/Agentic Design Patterns-并行化/并行示意.png)

并行化模式对于提升智能体系统的效率和响应能力至关重要,特别是在处理涉及多个独立查询、计算或与外部服务交互的任务时。它是优化复杂智能体工作流性能的关键技术。

实际应用与用例

并行化是优化智能体性能的强大模式,适用于多种应用场景:

  1. 信息收集与研究:同时从多个来源收集信息是经典用例。
    • 用例:公司调研智能体
      • 并行任务:同时搜索新闻文章、获取股票数据、监控社交媒体提及和查询公司数据库
      • 优势:相比顺序查询能更快获得全面视图
  2. 数据处理与分析:对数据的不同部分进行并发处理,或同时应用不同的分析技术
    • 用例:客户反馈分析智能体
      • 并行任务:对一批反馈条目同时执行情感分析、关键词提取、反馈分类和紧急问题识别
      • 优势:快速提供多维度分析结果
  3. 多API或工具交互:调用多个独立的API或工具以获取不同类型信息或执行不同操作
    • 用例:旅行规划智能体
      • 并行任务:同时查询航班价格、酒店可用性、当地活动和餐厅推荐
      • 优势: 更快呈现完整的旅行方案

并行化是智能体设计中的基础优化技术,使开发人员能够通过利用独立任务的并发执行来构建更高性能和响应更快的应用程序。

总结

在本章中,我们探讨了并行化模式——继提示词链和路由之后的又一个重要智能体设计模式。并行化的核心思想是识别工作流中的独立环节并同时执行,从而显著缩短任务的总执行时间。无论是信息收集、数据分析还是多API交互,并行化都能帮助我们构建更高效的智能体系统。

扩展阅读


文章作者: DoubleR
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 DoubleR !
  目录