随着人工智能系统悄然从工具转变为企业工作流程中的参与者，五个信号揭示了自主性、风险和运营模式何时已经开始转变——而且往往在领导者意识到之前就已经发生了转变。

分析研究和企业实际部署都揭示了一个共同的模式。未来几个月，首席信息官们最应该关注的信号并非新的人工智能功能或模型基准，而是那些悄然表明人工智能何时从工具转变为企业内部参与者的行为、组织和治理信号。

Forrester预测，到2026年底，首席信息官们将被迫决定工作流程在多大程度上可以脱离人工干预。挑战在于，许多组织已经在不知不觉中朝着自动化方向发展，却并未明确承认这一决定。

通过对 Forrester 副总裁兼研究总监 Linda Ivy-Rosser 以及来自 Trimble、思科和群联电子的 IT 领导者的采访，我们发现了五个突出的信号。每个信号都能为首席信息官 (CIO) 提供预警系统，不仅能预警技术变革，还能预警已经开始的运营模式转型。

1. 在工作流程和自主性方面：当人工智能不再辅助而是开始行动时

最早也是影响最大的信号看似简单：人工智能系统开始在未经人类明确指令的情况下采取行动。科技公司Trimble的技术创新副总裁Aviad Almagor描述了自主性悄然到来的时刻。“当人工智能不再回答问题而是开始采取行动时，界限就被打破了，”他说。在早期阶段，系统可能会建议下一步行动。但一旦人工智能开始执行这些步骤，工作流程就发生了根本性的变化。

另一个明显的迹象是行为上的转变。阿尔马戈尔表示，团队不再问“你用了什么提示？”，而是开始问“系统为什么会做出这样的决定？”这种转变表明，人工智能不再被视为工具，而是被视为决策的参与者。

思科首席工程师尼克·凯尔 (Nik Kale) 发现，大型企业大规模部署人工智能助手时也存在同样的模式。最初，人工智能的输出结果会在交付给客户之前由人工审核。随着时间的推移，随着信心的增强，审核逐渐变成形式主义。最终，只有在出现问题后才会需要人工介入。“一旦人工从决策环节过渡到事后分析环节，就意味着已经跨越了临界点，”他说道。

这一信号表明，企业已经从辅助型人工智能转向了自主型人工智能，而这往往没有经过正式的决策。首席信息官们如果错过了这个关键时刻，就可能在被动而非主动地管理人工智能的自主性。

2. 在治理和风险方面：当控制力消退的速度快于问责制消退的速度时

最明显的危险信号之一出现在审计追踪能够解释发生了什么，却无法解释为什么发生的时候。阿尔马戈尔警告说，许多组织可以重现行动，却无法还原其背后的原因。“如果决策无人负责，而是由人工智能做出的，那么治理就已经落后了，”他说道。

Forrester 的 Ivy-Rosser 表示，这种情况最常发生在危机时期，当时人们试图利用人工智能来解决混乱且不规范的流程。“首席信息官们往往会选择阻力最小的路径，”她说道，从而绕过了定义决策权、升级模型和流程编排蓝图等繁琐的前期工作。其结果是运营风险层层叠加，这并非因为人工智能本身存在缺陷，而是因为治理机制未能及时跟上。

另一个容易被忽视的迹象是回滚难度。Kale建议首席信息官们密切关注可逆性成本的上升。当撤销一项自动化操作需要跨多个系统或团队协调时，就说明自主权已经超出了其初衷。“自主权的授予应该与可逆性和可控性成正比，”他指出，对模型的信心是一个较小的因素。

这一信号表明，自主权已经超越了治理。一旦可逆性成本高昂且问责机制分散，组织无论是否意识到，都会超出其风险承受能力。

3. 在运营模式中：当工作围绕结果进行重组时

另一个信号并非体现在仪表盘上，而是体现在对工作的描述方式上。在Trimble公司，Almagor指出，工作方式正从基于角色的执行转向以结果为导向的工作流程。以往各自独立的AI工具分别支持调度员、现场操作员或规划人员，而现在，智能体系统能够监控端到端的运行状况并持续调整计划。“当工作围绕结果而非角色组织时，运营模式就发生了改变，”他说道。

Forrester发现各行各业都存在类似的模式。Ivy-Rosser指出，许多企业通过托管服务将流程复杂性外包给了供应商，却没有转向以结果为导向的合同。“最终，供应商替企业做出战略决策，因为企业从未明确区分效用和竞争优势的界限，”她说道。

当首席信息官 (CIO) 被要求在人工智能项目失败后介入时，也出现了类似的信号。Forrester 预测，大量 CIO 将被要求出手拯救那些缺乏治理和共同责任机制的业务主导型人工智能部署项目。这与其说是技术上的失败，不如说是运营模式不匹配的问题。

这一信号表明，人工智能正在重塑价值的创造和传递方式。如果首席信息官们仍然将人工智能视为提高生产力的附加功能，则可能会错过更深层次的结构性变革。

4. 在文化和行为方面：当人类变化的速度快于或慢于系统变化时

一些最有力的指标与文化有关。那些准备好迎接更高自主性的组织能够坦然接受概率性结果。阿尔马戈尔强调，成功的团队不会期望人工智能系统给出确定性的答案。他们将不确定性视为一种输入，而非失败，并据此设计阈值和人机交互机制。“自主性失败并非源于系统本身的不确定性，而是源于组织的不确定性，”他说道。

反之，过度信任也是一个危险信号。在建筑和交通运输领域，Almagor 发现，即使数据缺失或相互矛盾，人工智能系统仍然自信地继续运行。当人们不再质疑输出结果，因为他们声称自动化以前一直运行良好时，危险就会加剧。

Kale描述了一种类似的规模化现象。一旦人工智能的性能趋于稳定，即使决策的影响范围不断扩大，人们也会逐渐放松警惕。这种警惕性的悄然丧失往往预示着治理危机的发生。

这一信号揭示了组织能否负责任地驾驭自主权。技术上的准备充分而行为上的准备不足，是失败的先兆。

5. 在技术和基础设施方面：当约束条件转移到应用层以下时

群联电子首席技术官塞巴斯蒂安·让强调了那些悄然决定成败的基础设施瓶颈：内存不足、数据局部性和延迟容忍度。“如果一个系统运行时间从7秒延长到17分钟，人们就会直接放弃，”他说道。这些限制因素比算法的复杂程度更能影响技术的普及。

他补充道，随着人工智能项目从概念验证阶段过渡到生产阶段，许多组织认为扩展规模需要在所有地方运行完整版本的系统——更大的模型、更多的内存、更高的带宽和更高级的基础设施。Jean表示，在实践中，这种假设往往未经检验。

他转而介绍了一种更注重实证的方法，一些团队已经开始采用这种方法：故意同时运行一个精简版的系统和完整版系统，并比较结果。“你可以选择一个版本的系统，减少资源和模型规模，或者简化流程，然后衡量业务结果是否真的发生了变化，”他说道。在许多情况下，企业会发现性能差异微乎其微，甚至用户根本察觉不到，而基础设施成本却大幅下降。

他指出，对首席信息官而言，关键信号在于，即使资源减少，决策质量、用户行为或后续结果是否仍然保持稳定。这种稳定性表明，企业一直在为不需要的资源支付过高的费用。

成本优化成为成熟度的标志。能够安全地降级、比较和验证结果的组织不再猜测其人工智能支出在何处创造价值，而是进行衡量，并利用这些证据来指导架构和治理决策。

如何在这些信号对你产生影响之前采取行动？

在所有四次访谈中，一致的观点是：这些信号并非未来变革的预兆，而是变革已经开始的证据。因此，首席信息官的职责是建立一套制度，使组织能够在这些信号出现后做出相应的应对。

第一个具体步骤是将信号检测正式化。首席信息官们应该停止依赖零散的轶事（感觉有些不对劲），而是应该在治理论坛中建立明确的审查环节。这意味着要定期提出一些问题，例如哪些系统会在没有提示的情况下主动采取行动，哪些情况下需要事后人工干预，以及哪些决策难以撤销。正如Trimble公司的Almagor所说，自主性往往在便利的驱使下悄然出现。首席信息官们需要定期、有意识地审查这种便利性在哪些方面已经演变为控制权的转移。

首席信息官们应该提前推进治理，而不是事后添加。Forrester强调，部署后再进行控制往往比早期放慢速度更具破坏性。Ivy-Rosser强调，在代理端到端运行之前，决策权、升级路径和编排蓝图至关重要。

思科的凯尔表示，与其将自主性仅仅视为一种设计选择，不如将其视为一种行为信号。他指出，在大规模部署中，真正的临界点在于人类不再参与决策过程，而是开始参与事后分析。此时，人工智能实际上已经从助手变成了行动者，而且往往没有得到领导层的明确指示。

一旦信号表明自主性已超过阈值，首席信息官们就必须重塑运营和问责模式。当人类成为异常处理者，而人工智能渗透到工作流程的各个环节时，共同问责就成了必然。首席信息官们应该召集首席运营官、首席人力资源官、法务和业务负责人，明确定义谁负责意图、执行和结果。正如凯尔所观察到的，人工智能并不会消除问责，而是迫使企业最终明确问责机制。

最后，首席信息官们应该将企业文化视为一种运营控制手段。那些能够妥善处理概率性结果并质疑自动化决策的组织，比那些追求确定性结果的组织更能适应自主运营。这可能需要对管理者进行再培训，使他们成为数字化员工的管理者，而不仅仅是工具的使用者——菲森集团的让将这种转变比作管理技术娴熟的初级员工，而不是管理软件。

因此，要发现信号，识别转变，并采取果断行动。这样做的首席信息官们将按照自己的意愿塑造自主权，而不是被动地继承它。

文章引自：https://www.cio.com/article/4118790/5-ai-signals-every-cio-should-be-watching-right-now.html