一起学多 AI 智能体系统(双语字幕)- 7. 智能体系统中让工具表现出色的关键因素

Subscribers:
6,600
Published on ● Video Link: https://www.youtube.com/watch?v=ME_hBBe_E0c



Duration: 7:13
308 views
8


一起学多 AI 智能体系统(双语字幕)- 7. 智能体系统中让工具表现出色的关键因素

工具是你的 AI 以及所有的多智能体系统中的重要部分。这些工具可以让你的智能体与外部世界进行交流。它们可以使智能体不仅仅是自言自语,而是真正地执行行动。它们可以真正地影响你的流程、你的系统、你的用户,甚至你的公司。所以,这是使智能体展现出强大能力的重要一环。

那么,是什么让一个工具变得优秀呢?一个工具集与另一个工具集有什么不同呢?根据我们从众多使用 crewAI 的用户那里获得的反馈,至少有三个因素可以使一个工具与众不同。这三个因素是:

1. 工具的多功能性
2. 工具的容错性
3. 工具的缓存实现能力

工具的多功能性

一个工具要如何才能表现出多功能性呢?首先,工具需要能够处理不同类型的请求。该工具在 AI 和 App 之间建立了连接但 AI 应用程序的输入是模糊的,而外部 App 对输入格式是有严格要求的。因此,你的工具需要足够灵活以应对大语言模型可能产生的各种情况。crewAI 支持将各种参数转换成正确的类型并能处理来自你的 AI 智能体输出的各种细节。如果你是为自己打造这个工具,你需要确保无论大语言模型产生了什么,你都能合理地处理它,你需要将其转换为适当的类型以方便使用。因此,打造优秀工具的一个重要环节就是确保工具的多功能性,能处理各种类型的输入。

工具的容错性

第二个重要环节是容错性。许多早期使用 AI 智能体的人很快就意识到,当你的智能体向工具传递信息时,可能会出现故障导致异常。如果这些异常没有得到正确的处理,你的工作就会因为程序的中断而被迫停止,这并不是你想看到的。所以你需要确保你的工具能够优雅地处理失败,即使出现问题,它们也能自我修复。crewAI 默认就为你实现了这个功能。即使在运行工具时出现异常,它也不会中断程序执行,而是将错误信息反馈给智能体。因此,AI 智能体可以对其进行操作。可能问题出在输入。可能 AI 智能体应该发送一种不同类型的输入。也可能是 AI 智能体缺少了必需的参数,或者可能存在其他问题。但重要的是,你的工具应该具备自我修复能力,并且在出错时能够优雅地处理,而不是直接中断 AI 智能体的执行。

实际案例中的容错性
这是我们经常看到的情况。当你在大规模部署这些 AI 智能体时,尤其是在大型公司中,你将会有 AI 智能体处理各种文档以及各种信息来源。因此,你需要确保工具能够处理所有这些,甚至能处理一些未预期的情况。实际上,我们在一些大规模用户中就看到了这样的情况,他们正在分析大量的财务文件,有时数字可能并不容易阅读,或者文本并不容易解析。尽管如此,你还需要确保你的工具能够应对这些问题。

工具的缓存

好的,你有一个多功能的工具,你有一个具有容错能力的工具。这意味着你已经做好了大部分的工作。那么,缓存呢?缓存是让这些工具在现实世界中变得实用并物有所值的关键。无论你何时使用一个工具,大多数时候这个工具都是用来与网络进行通信的。因此,它将会调用各种 API。它将会调用各种服务。有时候,这会涉及到内部服务。有时候,可能会涉及到外部服务。每次进行调用时,你要确保在做请求时注意时间的花费,同时,除非必要,否则不要做请求。因此,有一个可以阻止不必要请求的缓存层是非常重要的。确保你正在构建的开发者团队是最优的。所以,你要确保你不仅有缓存,而且你的缓存是智能的。因此,在 crewAI 中,我们提供跨 AI 智能体的缓存。这意味着,如果一个 AI 智能体试图使用一个工具,并给出一组参数,另一个 AI 智能体试图使用同一个工具,并给出相同的参数,即使他们是不同的 AI 智能体,他们实际上都将使用缓存层。因此,当他们第二次试图使用一个工具时,他们不会进行那个 API 调用,这会产生很大的影响。这可以防止不必要的请求,防止触及速率限制,防止不必要的消耗,同时也节省了执行时间。确保你的开发者团队和你的多个 AI 系统运行得更快。因此,当你在构建需要大规模运行的开发者团队时,缓存尤为重要。

工具的例子

有哪些工具的例子呢?我们可以讨论的工具有很多。有一些简单的,比如搜索互联网或者抓取网站,这些都是我们实际使用过的工具。不过,工具的应用远不止这些。你还可以连接到数据库,调用 API,发送认证信息等等。所以你可以看到工具在任何场合都起着基础性的作用。这对于所有的框架来说都是一样的,包括 crewAI。在 crewAI 中,工具是很重要的一部分,因此 Crew 提供了许多现成的工具供你使用。因此,当你有空闲时间准备自己构建工具的时候,一定要查阅 crewAI 的相关文档,你会在那里找到所有已有工具的详细文档。另外,我要强调的是,crewAI 支持所有的 LangChain 工具。LangChain 也提供了很多现有的工具,你可以直接在使用 crewAI 的开发者团队时使用这些工具。

课程地址:learn.deeplearning.ai/courses/multi-ai-agent-systems-with-crewai




Other Videos By 宝玉的技术分享


2024-12-06OpenAI 连续 12 天 AI 发布会:第二天完整视频(中英文双语字幕)
2024-12-05OpenAI 连续 12 天发布会:第一天完整视频(中英文双语字幕)
2024-10-25如何写好提示词?(6/完)
2024-10-25如何写好提示词5
2024-10-24如何写好提示词4
2024-10-23如何写好提示词3
2024-10-23如何写好提示词2
2024-10-16如何写好提示词?(上)
2024-07-03对标 GPT-4o 的开源实时语音多模态模型 Moshi
2024-07-03OpenAI 联合创始人 Andrej Karpathy 在2024年加州大学伯克利分校人工智能黑客马拉松颁奖典礼上的主题演讲
2024-06-05一起学多 AI 智能体系统(双语字幕)- 7. 智能体系统中让工具表现出色的关键因素
2024-05-28一起学多 AI 智能体系统(双语字幕)- 6. 实战:搭建一个多智能体客户支持系统
2024-05-25一起学多 AI 智能体系统(双语字幕)- 5. AI 智能体的 6 个关键要素
2024-05-24一起学多 AI 智能体系统(双语字幕)- 4. 实战:构建一个多智能系统来帮你写作
2024-05-23一起学多 AI 智能体系统(双语字幕)- 3. 什么是 AI 智能体
2024-05-23一起学多 AI 智能体系统(双语字幕)- 2. 概览
2024-05-23一起学多 AI 智能体系统(双语字幕)- 1. 介绍
2024-05-15OpenAI GPT-4o 当冷知识竞赛裁判,竟然能判断出谁抢答成功
2024-05-14另一个 Google Project Astra 演示,陪你一起看 Google I/O 直播并为你解说。
2024-05-13OpenAI 2024春季更新的在线演示部分视频(双语字幕)
2024-05-13OpenAI 2024 春季更新的介绍部分(中文字幕)