三项测试

风险、可逆性、可验证性

是否将任务交给自动化系统，取决于任务的三个属性，而非该系统看起来多么令人印象深刻。

1. 风险（Stakes）。 如果输出结果是错误的，会有什么后果？错误的歌曲推荐只会让你损失三分钟。而错误的剂量、错误的税务数字或错误的医疗摘要，代价则要大得多。风险越高，越需要谨慎。

2. 可逆性（Reversibility）。 你能否撤销糟糕的结果？你可以重写的草稿是可逆的。已经发出的付款、已经送达的消息、已经执行的决定：这些很难撤销。不可逆且高风险是危险区域。

3. 可验证性（Verifiability）。 你能否实际上将结果与独立的参照物进行核对？如果你无法分辨正确答案和错误答案，那么委派就是一场赌博，而非捷径。

阅读上述矩阵。低风险且易于检查：自由委派。高风险但可检查：委派，然后每次都要验证。高风险且难以检查：自己保留。低风险但难以检查：委派并进行抽查。

对任务进行排序

轮到你了：对四项任务进行排序

以下是你可以交给自动化系统处理的四项任务：

- A. 为朋友的惊喜派对撰写邀请函文案。

- B. 计算你家庭纳税申报表上的最终数字。

- C. 总结你明天在课堂上必须讨论并辩护的一章内容。

- D. 为公路旅行歌单推荐十首歌曲。

自动化系统如何失效

输出出错的四种方式

自动化系统不会像崩溃的程序那样停止运行并显示错误。它们会在看起来完全正常的情况下失效。请学习这四种失效特征。

1. 自信但错误。 输出内容流畅、格式规范且语气笃定，但事实却是错误的。呈现方式的自信程度并不能说明其正确性。错误的答案和正确的答案看起来同样精致。

2. 数据过时或有偏见。 系统基于其接收到的数据进行推理。如果这些数据过时、缺乏代表性或存在偏差，输出结果就会继承这些缺陷：去年的价格、未能充分代表某些群体的训练集，或只向你展示单一视角的信息流。

3. 误解意图。 你要求做一件事，但系统解决了一个相近却不同的问题。你希望得到一个保留反方观点的摘要，但它给了你一个抹平这些观点的摘要。它回答了一个你并未提出的问题。

4. 优化了错误的目标。 系统精确地最大化了它被指示的目标，而这并不总是你想要的结果。一个被指示最大化观看时长的信息流，学会的是让你不断滚动屏幕，而不是向你提供信息。这是最微妙的失效：系统在达成其目标的同时，却让你失望了。

这四种失效的共同警示在于同一项纪律：永远不要让流畅的呈现方式替代核查。

捕捉错误

轮到你了：捕捉一个看似合理的输出

预算工具给你提供了上个月的摘要：

“总支出：30天内共1,200美元。你的日均支出约为每天75美元。支出看起来控制得很好。”

这个工具听起来很自信，格式看起来也很整洁。

三种检查方法

让检查方式匹配风险等级

验证需要花费时间，因此你应根据风险大小来调整验证力度。过度检查播放列表是浪费生命；而检查不足医疗日程则可能危及他人的生命。以下是三种工具，按成本从低到高排列。

抽查。 随机抽取几个输出结果并仔细检查。适用于低风险、大批量的工作：如果三个被抽样的项目看起来都正确，你就可以将有限的信任扩展到其余部分。

交叉核对独立来源。 对照不共享该系统数据或假设的事物来确认结果：另一个工具、官方记录或知情者。独立性是核心所在；两个依赖相同错误数据的系统可能会达成一致，但两者都是错误的。

根据已知信息进行合理性检查。 将你已信任的事实和大致数量级与输出结果进行对比。你就是这样发现预算错误的：你知道 1,200 除以 30 绝不可能接近 75。这种方法几乎不花费成本，却能发现相当比例的错误。

规则：验证强度随风险等级和不可逆性上升。琐碎且可逆的事项只需一瞥；昂贵且不可逆的事项每次都需要独立的交叉核查。

需要多少检查？

轮到你了：两项任务，两种检查

自动助手为你起草了两份内容：

- A. 一条发给朋友的信息，建议将见面时间从 6 点改为 7 点。

- B. 你年迈祖父母的每周用药计划，列出了剂量和时间。

你交付，你负责

“系统说是这样”不是借口

以下是区分专业人士与旁观者的规则：交付成果的人拥有该成果的责任。 当你提交、发送或基于它采取行动时，它就变成了你的责任。提供帮助的系统只是一个工具，而工具不承担责任。

“是系统这么说的”作为一种辩解之所以行不通，原因很简单：你做了两个系统无法替你做的选择。你选择将这项任务委托出去，你也选择了对结果进行何种程度的验证。这两个选择都是你做出的，因此后果也由你承担。

这对你并不不公平；这正是让你保持掌控感的原因。如果责任可以转移给工具，那么就没有人会去检查任何东西，每一次失败都会成为无主之责。拥有所有权是使用强大工具的代价，也是其回报。

是谁的错？

轮到你了：一个小组项目

你的团队使用自动化工具计算了报告中的各项数据。其中一项数据是错误的，没有人检查，导致团队被扣分。一位队友耸耸肩说，“是工具给出了这个数字，所以不是我们的错。”

保持亲力亲为

技能维护与能力的错觉

在所有危险之下，隐藏着一个更深层的危险。如果你完全将某项技能委托出去，你会逐渐失去核查替代你的那个工具的能力。你无法发现你已无法亲自完成的工作中的错误。

观看工具流畅地完成任务会产生一种能力错觉：因为最终输出看起来轻松且显而易见，你会觉得自己理解了。但识别别人递给你的正确答案，并不等同于你自己能够生成或验证它。这种理解的感觉往往跑在了实际技能的前面。

防御之道在于刻意而为：坚持手动完成核心工作的足够部分，以保持敏锐。有时亲自进行计算。有时从头开始撰写草稿。有时亲自阅读原始资料。你并不是在低效工作；你是在维护那种能让你在工具出错时抓住它的确切能力。自动化系统最优秀的操作者，都会让自己的双手留在工作中。

你将带走什么？

最后一点思考

你现在掌握了一套完整的框架：根据风险、可逆性和可验证性来决定委派什么；识别四种失败模式；根据风险程度进行验证；对你交付的成果负责；并保持自身技能足够敏锐，以便能发现工具的问题。

自动化系统只会变得更有能力，并更深入地融入你的生活。这使得这套框架的价值随时间推移而增加，而非减少。能够明智地委派并有效验证的人，拥有一种不会过时的优势。