AI Agent 框架
1. 何时使用 Agent 框架
在围绕 LLM 构建应用程序时,不总是需要 Agent 框架。它们确实能在工作流中提供灵活性,以高效地解决特定任务,但不总是必要的。
有时预定义的工作流足以满足用户需求,实际上不需要 Agent 框架。如果构建 Agent 的方式很简单,比如只是一连串的提示词,那么使用普通代码就足够。这样做的好处是,开发者可以完全掌控,并且理解他们的系统,而不需要任何抽象层。
然而,当工作流变得更加复杂时,比如让 LLM 调用函数或者使用多个 Agent,这些抽象层开始变得有用。
基于这些考虑,我们已经可以确定如下特性需要 Agent 框架:
- 为系统提供支撑的 LLM 引擎。
- Agent 可以访问的一系列工具。
- 与解析器同步的系统提示词。
- 一个记忆系统。
- 控制 LLM 错误的错误记录和重试机制。
2. 常用的 Agent 框架
Framework | Description | Unit Author |
smolagents | Agents framework developed by Hugging Face. | Sergio Paniego - HF - X - Linkedin |
Llama-Index | End-to-end tooling to ship a context-augmented AI agent to production | David Berenstein - HF - X - Linkedin |
LangGraph | Agents allowing stateful orchestration of agents | Joffrey THOMAS - HF - X - Linkedin |