AI接管UI，要谨防警觉性衰退

在 UI 设计中，确认是一种常见的安全机制。

删除文件、支付订单、授权隐私权限，系统都会在操作真正发生之前增加一道确认环节。系统负责执行，人负责在关键节点作出最后判断。只要用户仍然掌握“允许”或“拒绝”的权力，风险似乎就没有完全转交给系统。但 Agent 目前正在改变这个前提。

传统软件中的高风险操作通常由用户主动发起，确认框只是对刚才意图的再次核对。Agent 却可能连续执行几十个步骤，其中很多动作并不是用户逐一提出的。于是，人的角色从“确认自己的操作”变成了“监督系统是否偏离目标”。

两者对注意力的要求完全不同。

Jakob Nielsen 最近重新讨论了一个早已存在于人因研究中的问题：警觉性衰退。1948 年的经典实验发现，当人长时间监视大量正常信号，只等待偶尔出现的异常时，发现异常的能力会迅速下降。最初半小时内，检测能力就可能下降约 10%—15%。而Agent 恰好构造出了类似的环境。

一个运行良好的 Agent，绝大多数动作都是正确的。用户连续看过十几次正常执行之后，很难再用第一次审批时的注意力阅读第十五次请求。实时滚动的执行记录会逐渐变成背景信息；反复出现的“允许 / 拒绝”也会从判断任务变成操作习惯。

这里存在一个反直觉的问题，那就是系统越可靠，人的监督能力反而越容易下降。

如果前二十九次请求都合理，用户会逐渐形成“批准通常没有问题”的经验。第三十次真正出现风险时，界面却可能与前二十九次毫无区别。危险并不来自缺少确认，而来自确认出现得太频繁，以至于用户已经不再把它视为需要判断的事件。

因此，Agent 的安全设计不能再依赖不断增加确认步骤。

可以恢复的操作，应更多依靠执行后的反馈和撤销机制；涉及付款、公开发布、删除、隐私访问等高风险行为，再明确要求用户介入。到了真正需要判断的节点，界面也不能只呈现一句“是否允许”，而应该帮助用户迅速恢复上下文：最初的任务是什么，Agent 准备执行什么，这个动作为什么出现，会影响哪些对象，以及发生之后能否恢复。

确认框在这里承担的已经不只是阻止误触，它需要重新唤起判断。

Nielsen 甚至提出，可以通过用户的审批行为反过来判断界面是否已经失效。如果某项确认的中位响应时间低于 2 秒，或者长期超过 95% 的请求都会被批准，那么它很可能已经不再承担真正的判断功能。当然，这两个数字更接近经验性的预警指标，还不能视为普遍适用的人因标准。