管理者必须解决AI代理与其他AI代理互动所需的微妙平衡

背景

《The Globe and Mail》于2026年9月28日刊发职业与管理类文章，探讨企业部署AI代理后出现的新管理难题。该文属于其Work Life newsletter相关的职业内容。文章以“现在是凌晨2点，你知道公司的AI代理在做什么吗？”开篇，并提到近期关于“失控AI代理”的新闻。但作者指出，更普遍、更紧迫的问题不是单个代理失控，而是AI代理开始与其他AI代理打交道：它们会谈判、委派任务、交换数据、调用工具，甚至代表企业做出交易或承诺。管理者的职责因此从监督人类员工，扩展到监督由人类与非人类行动者共同组成的混合系统。

关键挑战

• 自主性与控制权的平衡：AI代理需要一定自主权才能提高效率，但过度自主可能带来越权、错误级联和合规风险；控制过严又会削弱其价值。
• 目标冲突与激励错位：不同部门、不同厂商的代理可能目标不一致，例如销售代理追求成交，合规代理追求风险最小化；若只奖励速度或成本，代理可能牺牲安全与伦理。
• 责任与透明度：当代理之间自主互动，出现问题时很难追踪是谁下达指令、谁批准行动、谁应负责。
• 安全、隐私与合规：代理可能访问敏感数据、绕过权限、形成意外合作，导致数据泄露、监管违规或成本失控。
• 组织与法律空白：现有制度多假设决策由人类做出，针对代理间互动的政策、合同和监管仍不成熟。

管理建议

文章强调管理者必须主动建立治理框架：

• 建立AI代理清单，为每个代理指定人类负责人，明确角色、权限和边界。
• 采用最小权限原则，设置身份认证、访问控制和代理间通信协议。
• 建立日志、审计与监控，保留可解释记录，并设置熔断、终止开关和人工升级路径。
• 在沙盒中测试多代理互动，进行红队演练，模拟冲突、故障和攻击场景。
• 由IT、法务、合规、人力资源和业务部门组成跨职能治理委员会，定期审查风险。
• 培训员工和管理者，重新定义绩效指标，既衡量效率，也衡量安全、伦理与信任。
• 对关键决策保留人类在环，避免代理完全替企业做出高风险承诺。

意义

文章的核心结论是：AI代理之间的互动将重塑管理。企业不能只关注AI替代人类岗位，还要关注代理与代理之间的协作、竞争和冲突。管理者需要在创新与安全、效率与问责、自主与监督之间取得微妙平衡。忽视这一平衡，可能引发运营中断、声誉受损和法律风险；处理得当，则能让多代理系统成为提升生产力和竞争力的工具。作者呼吁管理者尽早制定规则、持续监测并动态调整，确保AI代理在人类可理解的框架内行动。