科普篇 ｜AI, AI 如何工作, 以及 AI 可能会带来的风险（二）

AI智能体

什么是 AI智能体？

AI 智能体是一种由 AI 提供支持的计算机程序，即使没有明确的指令，它也可以自主执行任务来协助人类用户。不同于聊天机器人等其他基于 AI 的软件，AI 智能体可以在基于特定提示的上下文之外运行。可以这么说，它们能够脱离训练数据并环顾整个世界来查找信息，然后根据这些信息自主采取行动，以实现更大的目标。

AI 智能体可以做出决策，从过去的经验中学习，并相应地调整行动。它们甚至可以咨询其他 AI 智能体来获取相关信息。人类负责为 AI 智能体设定目标，而代理的职责是弄清楚如何实现这些目标。它们可以独立运行，或者只需极少的人工干预就能运行。

AI 智能体可以为硬件提供支持（机器人技术）或仅在软件中运行。

自主智能体 AI 与 AI 智能体

AI 智能体就是前文所述的软件程序：它们能够自主决策并处理任务。自主智能体 AI 是 AI 开发领域，它支持构建 AI 智能体。（想一想生成式 AI 与个别大型语言模型（例如 Microsoft Copilot）之间的区别，或者想一想“烹饪”与具体菜肴之间的区别。）

自主智能体 AI 与生成式 AI

生成式 AI (GenAI) 是指一种深度学习模型，它可以根据提示来生成内容。ChatGPT 等 LLM 都属于这类 AI。自主智能体 AI 则建立在 GenAI 基础之上。LLM 只能通过特定用户界面或 API 对提示做出回复，而 AI 智能体则可以超越既定的上下文，甚至在没有提示的情况下也可以执行操作。

大公司的销售主管可能会这样提示大型语言模型 (LLM) 说：“请帮我写一封电子邮件，让我可以发送给我司的 10 个最大客户，邀请他/她们来参加晚宴。”但如果使用自主智能体 AI，该主管可能会提示 AI 智能体说：“请邀请我司的 10 个最大客户来参加晚宴”。换句话说，LLM 可以生成文本，AI 智能体则应该能够生成电子邮件文本、在 CRM 中找到排名前 10 的客户，以及发送个性化电子邮件来邀请客户参加活动（前提条件是它拥有足够的权限这样做）。

AI 智能体的工作原理是什么？

大型语言模型 (LLM)

AI 智能体基于 LLM 而构建。LLM 是一种经过大量样本数据训练的 AI 模型，能够理解人类创建的内容并生成自己的内容。LLM 甚至可以理解不确切的人类提示和请求。

由于 AI 智能体基于 LLM 构建，因此，它们可以处理并解读从用户的对话请求到 Web 托管的视频内容等各种数据和内容。AI 智能体可以解读来自多种媒体类型的内容，包括：代码、文本、音频、视频等等。然后，他们就可以利用从这些内容中了解到的内容来优化行动。

外部集成与交互

此外，AI 智能体具备与世界互动的方式。在机器人技术中，这可能包括物理传感器和摄像头。对于纯软件 AI 智能体，这可能有几种形式：

代理可以通过 API 直接接入外部应用

一些 AI 智能体可以像人类用户一样与 Web 应用交互，例如填写表单、阅读网页等（它们可能会使用无头浏览器来实现此目的）

一种名为模型上下文协议 (MCP) 的新兴标准，可以将 AI 智能体连接到各种工具（电子邮件客户端、CRM、账单系统等），并让代理进行适当的身份验证和授权。

这些与 AI 智能体环境之外的世界进行交互的方式，让 AI 智能体能够采取行动。企业可以制定 AI 智能体的防护措施，以帮助确保它们采取的行动正确无误，就像人类用户在 IT 环境中的权限可能受到限制一样。除了将策略编程写入 AI 智能体之外，企业还可以采用人机交互方法，即：由人类验证 AI 智能体提供的答案是否准确或批准代理的行动。

通过数据飞轮学习

AI 智能体也可以学习，利用过去行动的结果和人类用户的输入来完善其未来的行动。它们拥有“记忆”，不仅仅是指 RAM 的计算能力，还包括记住过去的交互和结果。通过一个称为“数据飞轮”的反馈循环进行这种学习：底层模型会利用代理的交互记录来改进未来的性能。

AI 智能体有哪些类型？

AI 智能体主要有两种类型：

后台智能体：它们在后台执行任务，尤其是日常任务，几乎不需要用户交互。后台智能体就像门卫或维护人员一样，负责保持办公室清洁和照明正常。

平面智能体：它们更直接地与人类用户交互。聊天机器人、客户服务和 AI 助手都属于此类 AI 智能体。平面智能体就像办公大楼的前台工作人员，负责与走进大楼的人互动并根据需要完成某些任务。

还有单一智能体和多个智能体系统。单一 AI 智能体系统仅基于一种模型构建。而个多 AI 智能体系统组合了多个智能体的功能，这些智能体可以通过相互协商来解决问题。

什么是自主智能体 AI 聊天机器人？

像传统聊天机器人一样，自主智能体 AI 聊天机器人能够与人们进行对话交互。不过，自主智能体 AI 聊天机器人可以脱离自身环境（离开聊天环境），代表交互对象采取行动。传统聊天机器人也许能够提供关于提交支持工单的说明。自主智能体 AI 聊天机器人则能够自行提交工单。

自主智能体 AI 聊天机器人与非自主智能体 AI 聊天机器人

非自主智能体 AI 聊天机器人是被动响应，它们会根据训练数据来提供针对用户提示的答案。此类 AI 聊天机器人可能仍然由 LLM 提供支持，但与代表用户执行操作的自主智能体 AI 聊天机器人相比，它们更擅长为用户提供实用内容或指示。自主智能体 AI 聊天机器人能够在与用户交互的上下文之外执行操作，它们还可以从训练数据之外的各种来源进行学习。

Cloudflare 如何支持自主智能体 AI？

Cloudflare 开发人员平台会提供构建和部署 AI 智能体所需的所有工具，以便这些代理可以：

自主执行任务

与客户实时沟通

调用 AI 模型

浏览 Web 内容

查询数据库

支持人机交互

此外，Cloudflare 全球网络让开发人员可以构建 AI 智能体，在世界任何地方运行代码并尽可能靠近最终用户。了解如何开始在 Cloudflare 上构建 AI 智能体。

如何使用 AI？

AI 的应用领域仍在不断扩大。下面是目前正在探索的一些实际应用：

聊天机器人：基于 AI 的程序可以生成听起来像人一样的答案，而且通常可以真实地回复人类用户提供的不可预测的输入。换句话说，一些 AI 模型可以进行自然对话，从而增强聊天机器人的能力。

自动驾驶汽车：AI 的预测能力使其能够应对现实世界的路况，即使它们之前从未遇到过这些路况也不例外。

推荐算法：如流媒体平台和社交媒体应用程序使用的算法。

医疗保健：可以使用 AI 来帮助诊断健康状况，以及处理医疗保健领域的其他重复性工作。

金融：许多金融公司已经使用 AI 来尝试识别市场趋势或预测哪些股票会表现良好。

编码：LLM 能够为新函数快速生成代码、创建文档以及扫描现有代码以查找漏洞。

内容创作：生成式 AI 模型可以生成文本、图像、视频等。

创建报告：解析和汇总数据是一项重复性工作，通常可以通过机器学习将其自动化。

试验性用途：AI 的更多用途仍在探索之中，随着 AI 能力的不断增强，使用案例也会不断扩大。

AI 对企业有哪些风险？

安全风险

数据泄露：AI 服务使用输入数据来进一步训练其模型；它们在设计上没有安全保险库功能。但许多人使用 LLM 的方式会增加数据暴露的风险，包括处理机密信息或封闭源代码。可能会在这些 LLM 的进一步回答中复制或模仿这些数据。

失去对数据的控制：数据一旦上传到 LLM，就不再受个人控制，用户可能无法知道会对所提供输入执行什么处理。例如，如果一位面包师把自己新研制的佛卡恰面包秘方输入 LLM，并要求 LLM 为其面包店的网站撰写一份具有吸引力的说明，他们可能会得到这样一份说明，但面包师的秘方不再是秘密，因为它可能会暴露给 LLM 的其他用户或 LLM 的运营商。

违反法规：使用外部 AI 工具通常会带来一定程度的数据风险。因此，AI 可能会使企业无法遵守 GDPR 等监管框架。

其他风险

幻觉：生成式 AI 工具可能会编造信息以生成回答——这种现象的专业术语是“幻觉”。如果企业不加批判地将这些信息纳入其内容，那么有可能会损害品牌。

过度依赖 AI 进行决策：由于 AI 模型提供的信息并不总是可靠的，在决策过程中过度使用 AI 可能会导致决策对企业产生负面影响。

AI 对消费者有哪些风险？

隐私丢失和个人数据泄露：在公开提供的 LLM 中输入泄露或机密数据的人可能会发现，他们的数据会被使用相同工具的其他用户重复使用。

AI 应用中的安全漏洞：与任何应用一样，AI 工具也可能存在安全漏洞，导致个人数据泄露。

幻觉：如上所述，生成式 AI 工具经常会编造信息，以便对用户的提示做出听起来可信的回答。这可能导致传播错误的信息。

网络钓鱼或社会工程学攻击中的深度伪造：AI 工具可以模仿一个人的形象、声音或写作风格，并且达到令人信服的程度。这可用于社会工程学攻击，冒充已知个人，诱骗受害者交出钱财或数据。

Cloudflare 如何帮助降低 AI 的风险？

Cloudflare 数据丢失防护 (DLP) 可帮助组织掌握员工如何使用 AI。DLP 可以限制上传、复制和粘贴以及键盘输入，阻止机密数据离开受保护的安全环境。进一步了解 DLP 的工作原理。

Cloudflare 如何帮助开发人员建立新的人工智能模型？

Cloudflare for AI 允许开发人员在 Cloudflare 全球网络上构建和部署新的人工智能应用程序。了解有关 Cloudflare for AI 的更多信息。

Cloudflare 保护整个企业网络，帮助客户高效构建互联网规模的应用程序，加速任何网站或互联网应用程序，抵御 DDoS 攻击，防止黑客入侵，并能协助您实现 Zero Trust 的部署与实施。

从任何设备访问 1.1.1.1，使用我们的免费应用加速和保护您的互联网。

立即联系我们，获取更多相关信息http://t.cn/A6Tx4yTT

#Cloudflare##AI#