问问演示没有呈现什么

好的演示有其应有的价值。它能让人看见仅靠语言难以传达的可能性。问题出现在我们开始用它证明日常运行的可靠性时。一个精心挑选的案例,说明某件事可以做成;但当输入变得陌生、残缺,甚至相互矛盾时会发生什么,仍然有待回答。

领导者首先要把这两个问题分开。在扩大使用范围之前,先明确任务是什么,系统预期在什么条件下运行,以及哪些错误最值得警惕。一份不准确的草稿与一条不安全的操作建议,需要不同的处理方式。评估必须对应工作的实际后果,也要算上发现错误、修复错误所需的精力。

让信任有明确的边界

信任来自对普通案例和困难案例的持续检验,检验结果也应允许人们审视。使用者需要知道,系统在哪些地方表现可靠,哪些地方证据薄弱,以及何时应该停止并交还处理权。一个综合分数可能恰好掩盖最值得关注的失败。讨论时应始终保留有代表性的具体案例,尤其是那些令人不太舒服的案例。

这种理解不能在上线时就此定格。文档会变化,工作条件会改变,更新也可能带来意想不到的行为变化。持续评估需要明确的负责人,由其听取使用者反馈,判断何时应缩小或暂停使用范围。当承认局限被视为负责任的管理,而非需要掩饰的难堪,信任才更容易维持。

让人的控制权落到实处

人的控制权必须在实际工作中行使得了。批准一项输出的人,需要足够的背景信息、时间,以及提出异议的权限。他们还需要有办法在后果难以挽回之前叫停行动。如果周围的流程一味奖励速度,又在无形中压制提问,一个批准按钮提供的保护就很有限。监督是否真实有效,也取决于组织如何运转。

我更愿意用一个简单的问题来检验:负责的人能否解释,为什么这个系统适合这项任务;能否识别它何时触及边界;又能否据此采取行动?如果可以,扩大使用就有了基础。如果做不到,再精致的演示也填不上这个缺口。下一步应该投入的,是证据和控制机制。