企业AI的真正风险：不是智能体，而是它们之间的复杂关系

智能体复杂性的隐性威胁

企业AI领域正在酝酿一场危机，但这场危机并非来自科幻电影中那种失控的自主智能体。真正的风险更加隐蔽，也更加棘手：当企业部署的不是单个智能体，而是一整支智能体队伍时，它们之间错综复杂的调用关系会迅速演变成一个无人能够看清、更无人能够治理的复杂系统。

这正是当前企业AI项目面临的核心困境。企业不会只部署一个智能体然后看着它运行，它们部署的是智能体集群。每个智能体都在调用API、调用其他智能体、深入那些从未为机器决策者设计过的应用程序。这种失败模式才是最令人寝食难安的：一个盘根错节、无人能够清晰洞察并加以治理的系统。

复杂性不是线性增长，而是指数级膨胀

为什么事情会如此迅速地变得不透明？答案藏在简单的数学里。在一个系统中添加第二个智能体，你增加了一条连接。但当你添加到第十个智能体时，你增加的不是十条连接，而可能是几十条，因为此时任何一个智能体都可能调用其他任何智能体，而每一次调用又可能触发另一处的调用。

复杂性的增长并不与智能体数量成正比，而是与智能体之间的路径数量成正比。而问题在于，没有任何人的工作职责是绘制这张关系图。一个过去只涉及一个系统的支持工单，现在可能在人类看到之前就已经穿过了四个智能体，而每一次交接都是一个无人批准过的决策点。

大多数企业AI项目之所以停滞不前，正是因为负责这些智能体的人类失去了对全局的掌控。向安全团队提出一个简单问题：哪些智能体可以访问哪些系统？你会看到一片沉默。再问：三跳之前是哪个智能体触发了哪个下游操作？沉默依旧。

清单式治理为何失效

面对这种局面，企业的本能反应是把它当作一份检查清单来处理：批准智能体、记录智能体、继续下一步。但这种本能是错误的。清单只能检查单个时间点，而复杂性贯穿整条链路。你无法用一堆一次性的审批来治理一条链路，就像你不能因为吃过一次蔬菜就宣称节食成功一样。

那么问题究竟出在哪里？首先是权限蔓延。有人构建了一个智能体来总结支持工单，因为正确限定权限范围需要额外一个冲刺周期，于是给了它宽泛的API访问权限，然后就忘了这件事。六个月后，这个智能体已经有了一条通往支付系统的路径。没有人记得批准过这件事，因为根本没有人批准过。

其次是责任归属随着链路延伸而逐渐稀薄。五个智能体触及同一个工作流，第四步出了问题，现在你要问的是：谁该为这个从未被指派给任何人的环节负责？因为组织架构图止步于“部署智能体”，从未延伸到“指定为其负责的人类”。

从身份开始修复

这个问题的本质是治理基础设施未能跟上智能体的实际行为方式：互联、级联、以超过追踪流程的速度繁殖。修复这个集群需要从身份开始。

每个智能体都需要作为独立实体存在，而不是借用部署者权限的影子。它需要在注册表中拥有自己的名字，拥有自己限定范围的权限，以及一个为其行为负责的具名人类担保人。只有建立了这样的身份体系，企业才能真正开始治理智能体集群，而不是在复杂性面前束手无策。

企业AI的未来不在于构建更强大的单个智能体，而在于建立能够管理智能体之间复杂关系的治理框架。这需要从根本上重新思考身份、权限和责任的定义方式，将每个智能体视为需要独立管理的实体，而非某个系统的附属功能。