企业AI代理：治理、信任与新基础设施竞赛

代理时代需要新的信任层

关于企业AI的讨论已经从模型能做什么转向它们应该被允许做什么。随着自主代理获得阅读电子邮件、查询数据库和触发API调用的能力，它们成为“终极内部人员”，其访问权限远超任何人类员工。这造成了一个悖论：使代理有价值的特性也使它们在缺乏适当治理时变得危险。

Google Cloud最近的基础设施报告强调，79%的技术领导者将安全、治理或运营列为扩展推理时面临的最大挑战。这一统计数据凸显了行业中的一个根本性紧张关系：部署代理的技术能力已经超过了安全管理所需的组织和监管框架。

主要云提供商的回应是将治理直接嵌入其AI基础设施中。平台不再将安全视为事后考虑，而是将身份感知的访问控制、审计跟踪和政策执行机制构建到代理运行时本身。这代表了从AI实验早期（当时模型通常在最小监督下部署）以来的重大架构转变。

工具成为新的竞争战场

AWS将Amazon Redshift与Agent Toolkit for AWS集成，说明了一个更广泛的趋势：云提供商正在竞相使其数据服务对代理友好。通过使AI代理能够通过经过身份验证的API执行来构建、查询、故障排除和迁移数据仓库，AWS将Redshift定位为代理生态系统中的一等公民。

使用Model Context Protocol（MCP）服务器和精选的“技能”包尤其值得注意。这些技能充当经过测试的程序和参考资料，帮助代理更有效地完成复杂任务。这种方法降低了代理犯下代价高昂错误的风险，同时降低了希望利用AI进行数据管理的企业的进入门槛。

Cloudflare针对运营商的BotBase更新采取了不同但互补的方法。通过为机器人运营商提供管理提交、跟踪状态和声明其机器人如何使用内容的仪表板，Cloudflare正在构建一个经过审查的代理目录。这在网络边缘创建了一个信任层，机器人可以在那里进行身份验证，其行为可以被监控和控制。

AI合作伙伴关系的地缘政治

OpenAI决定在Cursor被SpaceX收购后终止与Cursor的合同，为企业AI方程引入了一个新变量：地缘政治一致性。虽然该公告被描述为商业决策，但它反映了AI能力与国家安全和产业政策日益交织的趋势。

这一发展引发了关于AI模型可移植性以及企业在特定模型提供商之上构建时所产生的依赖性的重要问题。如果模型提供商可以因所有权或战略一致性变化而终止访问，那么对于已将那些模型集成到核心运营中的公司意味着什么？

Cursor的情况也凸显了AI初创生态系统的脆弱性。许多AI原生公司建立在少数提供商的基座模型之上。当这些提供商改变其条款或优先级时，下游影响可能非常显著。企业不仅要考虑AI模型的技术能力，还要考虑其提供商的战略稳定性。

迈向治理优先的架构

这些发展的融合表明，企业AI的下一阶段将由治理优先的架构来定义。这意味着构建的系统在部署后不会将安全、合规和可审计性作为附加组件，而是将其作为代理及其支持基础设施设计的组成部分。

对于企业来说，这种转变需要一套新的评估标准。决策者不应只关注模型准确性或延迟，还必须评估平台对自主代理的身份管理、策略执行和可观测性的支持程度。回答“谁在何时做了什么以及为什么”的能力与完成任务的能力同样重要。

仍未回答的问题是，这一治理层将成为竞争优势的来源还是商品。如果每个主要云提供商都提供类似的治理能力，市场可能会收敛于一套最佳实践。但如果某个提供商能够提供显著更好的安全性或合规性，那可能成为企业采用的决定性因素。

企业现在应该做什么？

鉴于变化速度之快，企业应专注于构建代理治理的内部能力。这包括制定关于代理允许做什么的明确政策，为非人类行为者实施强大的身份和访问管理，以及投资于能够跨系统追踪代理行为的可观测性工具。

避免过度依赖任何单一AI提供商也是明智的。Cursor的例子表明，提供商关系可能迅速变化，而建立了深度集成的企业可能会发现自己难以适应。多提供商策略虽然管理起来更复杂，但可以降低这种风险。

最终，在代理时代取得成功的企业将是那些将治理视为战略优势而非负担的企业。通过与客户、监管机构和合作伙伴建立信任，他们可以比准备不足的竞争对手更自信、更大规模地部署代理。