Cloudflare官方
25-05-22 18:18 微博认证:Cloudflare官方微博

智能体技术拼合版图:MCP 协议、身份验证、授权以及 Durable Objects 免费计划(二)

可休眠 WebSocket:使 AI 智能体在未使用时进入休眠状态

现在,一项新的改进已引入到 McpAgent 类:WebSocket Hibernation API 支持,让您的 MCP 服务器在没有接收请求时进入休眠状态,并在需要时立即唤醒。这意味着您仅在智能体实际工作时才需支付计算资源费用。

我们最近推出 McpAgent 类,使开发人员能够使用 Durable Objects 在 Cloudflare 上构建远程 MCP 服务器,并为每个客户端会话维护有状态连接。我们决定从一开始就将 McpAgent 打造成有状态的,允许开发人员构建可以记住上下文、用户首选项和对话历史的服务器。然而,维护客户端连接意味着会话可能会长时间保持活跃状态,即便其并未被实际使用。

MCP 智能体默认可休眠

您无需修改代码即可利用休眠功能。通过最新的 SDK 更新,所有 McpAgent 实例将自动包含休眠支持,使您的有状态 MCP 服务器能够在非活动期间进入休眠,并在需要时以保存到状态唤醒。

工作方式

当 Server-Sent Events 端点 /see 收到请求时,Worker 将为会话初始化一个与适当 Durable Object 的 WebSocket 连接,并将 SSE 数据流返回给客户端。所有响应都通过该数据流传输。

该实现利用 Durable Objects 中的 WebSocket Hibernation API 。当出现不活动时,Durable Object 可从内存中逐出,同时保持 WebSocket 连接打开。如果 WebSocket 后来收到消息,则会在运行时将重新创建 Durable Object 并将消息传递给适当的处理程序。

Durable Objects 免费层

为了帮助您在 Cloudflare 上构建 AI 智能体 ,我们为免费层提供 Durable Objects ,使您可以 “零承诺” 地开始使用。通过 Agents SDK,您的 AI 智能体将部署到运行 Durable Objects 的 Cloudflare 上。

Durable Objects 提供计算和持久存储,与 Workers 结合即可解锁有状态的无服务器应用。每个 Durable Object 都是一个有状态的协调者,用于处理客户端实时交互,向外部服务(如 LLM)发出请求,以及通过零延迟 SQLite 存储中的状态持久性创建智能体“记忆”——这些是 AI 智能体中要求的所有任务。Durable Objects 可以毫不费力地扩展到数百万个智能体,每个智能体都在用户与其交互的地方创建,以获得快速性能,全部由 Cloudflare 管理。

2024 年 9 月的生日周期间,我们发布了 Durable Objects 零延迟 SQLite 存储的公测版。从那时起,我们一直专注于研究与 Durable Objects 中现有键值存储相比缺少的功能和稳健性。我们很高兴地宣布 SQLite 存储普遍可用,每个 Durable Object 提供 10 GB 的 SQLite 数据库,并推荐为所有新的 Durable Object 类使用 SQLite 存储。Durable Objects 免费层只能访问 SQLite 存储。

Cloudflare 的免费层级使您能够构建面向实际应用的项目。在免费计划中,每个 Worker 请求都可以调用一个 Durable Object。对于基于使用量的定价,Durable Objects 产生计算和存储使用量,有如下免费层级限制。

图1

欢迎访问 agents.cloudflaredflare.com

我们意识到需要接收的信息量很大,但不用担心。无论您是首次接触智能体,还是希望进一步了解 Cloudflare 如何帮助您构建智能体,我们推出的全新网站都能够帮助您入门

—— 欢迎访问:agents.cloudflare.com ,并与我们分享您构建的项目。

Cloudflare 保护整个企业网络,帮助客户高效构建互联网规模的应用程序,加速任何网站或互联网应用程序,抵御 DDoS 攻击,防止黑客入侵,并能协助您实现 Zero Trust 的部署与实施。

从任何设备访问 1.1.1.1,使用我们的免费应用加速和保护您的互联网。

立即联系我们,获取更多相关信息http://t.cn/A6Tx4yTT

#Cloudflare##AI#

发布于 北京