IDC分析师Dave Schubmehl近日就智能体AI(Agentic AI)的发展趋势与企业落地注意事项接受了行业媒体No Jitter的采访。他指出,随着越来越多的组织开始将具备自主决策与执行能力的AI智能体引入业务流程,相关风险管控必须被提上议程。
智能体AI区别于传统生成式AI的核心特征在于其能够自主规划任务、调用工具并执行多步骤操作。Schubmehl表示,这种自主性在提升效率的同时,也带来了权限管理、数据安全、决策透明度以及合规性等方面的挑战。企业若未建立相应的治理框架,可能面临智能体行为偏离预期、敏感数据泄露或操作失误等后果。
IDC建议,组织在部署智能体AI之前,应明确其应用边界与责任归属,建立可观测性与审计机制,并对智能体的自主操作设置必要的人工干预节点。此外,企业还需评估现有IT基础设施与安全策略是否足以支撑智能体的大规模运行。
从行业角度看,智能体AI正成为企业软件与云服务厂商竞相布局的方向。包括微软、Salesforce、ServiceNow在内的多家企业服务提供商已推出或计划推出相关产品,推动AI从辅助工具向自主执行角色演进。但与此同时,围绕智能体行为的监管讨论也在升温,如何在创新与风险之间取得平衡,将成为企业CIO和IT决策者未来一段时间的核心议题。
Schubmehl的提示反映出企业服务市场对AI落地态度的转变:从早期追求功能快速上线,逐步转向关注长期可控性与治理能力。对于SaaS与PaaS厂商而言,能否在智能体产品中内置完善的安全与治理能力,或将成为下一阶段差异化竞争的关键。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。