简报

  • 随着企业不再满足于单纯部署AI，高管们正努力证明该技术能否可靠地交付业务成果。HFS Research与IT公司TCS于周一发布的报告显示，受访对象为美国和加拿大的100多位C级高管及技术高管。
  • 报告指出，仅三分之一的受访者表示AI能持续交付预期成果、保持可控，并赢得监管机构、客户及高管的信任。与此同时，仅四分之一的高管表示已具备支持企业级技术扩展所需的治理与管控措施，而仅六分之一的受访者信任自主AI处理关键工作。
  • “过去几年我们一直在问能否开始部署这些工具——更难的问题在于我们能否开始依赖它们，”HFS Research执行研究负责人Dana Daher对CIO Dive表示。

深度洞察

企业对AI的依赖能力正受到审视，由于AI支出上升、员工采用滞后以及监管政策变动，高管们开始采取更为谨慎的部署策略。

尽管AI正在帮助员工获取洞察并与客户建立联系，但根据SAP于7月发布的一份报告，受访企业认为该技术未必能节省时间或成本。不一致的定价模式和供应商碎片化进一步加剧了成本挑战。

员工对AI工具理解的不足，也是企业采取更务实AI策略的原因之一。Forrester的一项调查发现，仅16%的信息工作者对AI有高度理解。

然而，HFS Research的报告发现，在有人类介入的情况下，对AI的信任和信心仍然最高。报告称，可靠的AI并不意味着阻止每一次失败，“而在于企业能多快检测、解释并控制一次失败。”

Daher表示，清晰定义人类介入策略，明确问责机制和信任层级，对于构建可靠AI和管理业务中断至关重要。

“你需要培训人员，明确他们的责任，”Daher说。

Daher还指出，除了制定清晰的人类问责与监督策略外，构建可信赖、可靠的AI系统还需基于交付的业务成果来评估AI。然而，报告显示，技术指标（如正常运行时间和准确性）比业务成果更常被追踪。

最后，随着AI日益复杂，高管们越来越难以解释其决策过程。Daher表示，治理对于AI可靠性至关重要。

“围绕信任存在一个巨大的张力，因为我们被要求在工作与生活的方方面面采用AI，却并不理解这些回应是如何产生的，”她说。