日常生活中的自動化系統
替我們回答問題的工具
你每天都在使用自動化系統，可能甚至沒有特別去注意。所謂自動化系統，是指任何能接收資訊並自行產生答案或執行動作，而無需人類決定每個步驟的工具。
以下是你幾乎肯定使用過的一些例子：
- 一款能為你選擇前往某地最快路線的地圖應用程式。
- 一個搜尋框或作業助手，能回答你輸入的問題。
- 一個商店網站，推薦你接下來該買什麼，或顯示價格。
- 一個翻譯器，將一種語言轉換成另一種語言。
- 一個拼字檢查器，在單字下方畫線並建議修正。
這些工具很有用。但它們也僅僅是工具。這節課的目標不是要恐懼它們，也不是盲目信任它們，而是學習如何像熟練的工人使用任何工具一樣，善用這些工具。
暖身活動
在深入探討之前，請回想一下你這週的經歷。
自動化系統擅長什麼
真正的優勢
自動化系統在某些方面確實表現出色，通常遠勝於人類：
- 快速。 路線應用程式能在你眨眼之間比較數千種道路組合。
- 不知疲倦。 它檢查第 900 個價格時，會像檢查第一個一樣仔細。它永遠不會感到無聊或困倦。
- 保持一致性。 給它兩次相同的輸入，它就會兩次執行相同的操作。它不會有「狀態不好」的時候。
- 處理大量數據。 它可以一次性掃描巨大的清單、長篇文件或整張地圖，這超出了人類心智所能負荷的範圍。
當一項工作規模龐大、重複且枯燥時，自動化系統通常是合適的工具。這是它的優勢領域。
自動化系統不擅長什麼
真正的弱點
同一個工具也有真正的盲點。自動化系統不擅長：
- 理解你真正的意圖。 它讀的是你的文字，而不是你的心聲。向地圖應用程式詢問「銀行」，它可能會帶你去河邊，或是帶你去城裡另一端的錯誤分行。
- 知道自己何時出錯。 如果輸入計算機的數字有誤，它會非常自信地給出錯誤答案。該工具沒有「嗯，這看起來不對」的直覺。
- 保持資訊時效性。 工具可能不知道昨天封閉的道路，或一小時前變動的價格，或自其建立以來已改變的事實。
- 公平性。 系統從舊數據中學習。如果那些數據存在偏見，工具可能在看似中立的情況下，悄悄重現這種不公平。
最大的陷阱：自信地出錯
這是整堂課最重要的概念。自動化系統可能會自信地出錯。它給出流暢、聽起來很確定的答案，但其實完全錯誤。當它出錯時，聽起來並不會不確定，因為它無法察覺自己錯了。一個整齊的答案不等於一個正確的答案。
擅長與不擅長
輪到你來分辨了
讓我們用你自己的話，確保清楚理解這些優勢與劣勢。
信任前先檢查
保護你的習慣：驗證
因為工具可能會「自信地給出錯誤答案」，明智的做法是在信任輸出結果之前先驗證它，特別是當答案至關重要時。
驗證是指將答案與其他來源進行核對：例如第二個資訊來源、你快速估算的結果、已知的事實，或是常識。
你驗證的程度應該與風險的大小相匹配：
- 選一首要播放的歌？如果工具選錯了，你只需跳過即可。幾乎不需要檢查。
- 獲取去朋友家的路線？看一眼地圖，確認它指向大致正確的方位即可。
- 遵循食譜、藥物劑量、金額，或是報告中的事實？請務必仔細與可信的來源進行核對。在此類情況下，自信卻錯誤的答案可能會讓你付出真正的代價。
幾種快速驗證的方法：在腦中進行粗略估算，看看答案是否在合理範圍內；檢查第二個工具或可信賴的網站；詢問懂行的人；或者在全面採用之前，先測試一小部分。
你會先做什麼？
一個自信的回答出現在你的螢幕上
這是一個真實的情境。你問一個作業助手：「一週有多少分鐘？」它立刻以非常確定的語氣回答：
> 「一週有 6,720 分鐘。」
這個回答聽起來自信且具體。但它也是錯的。
授權工作，保留判斷
誰在負責？
將整堂課的內容整合起來，便形成一個循環。你將枯燥或龐大的任務授權給工具。工具產生輸出。你驗證該輸出。接著由你決定下一步該怎麼做。然後再次重複這個過程。
注意誰掌握著關鍵部分。你可以把瑣碎的工作交出去，但必須為自己保留兩件事：
- 判斷力。 由你決定答案是否足夠好，值得採用。
- 最終決定。 工具提供建議；由你做選擇。
還有一條讓「驗證」成為可能的規則。自己要做足夠多的工作，才能有能力檢查工具的輸出。 如果你從未學過加法，就無法判斷計算機是否被輸入了錯誤的數字。如果你從不自已看地圖，就無法察覺路線是否讓你繞了遠路。保留一點自己的技能，正是讓你能夠發現工具錯誤的關鍵。
因此，把枯燥的部分委派出去，但要保持主導權。好的工具是助手，而非老闆。
委派還是決定？
還有一種情境
想像一個購物網站對產品列表進行排序，並將其中一項放在最頂端，標註為「為你推薦的最佳選擇」。這看起來很方便。反正你本來就打算購買該類別中的某樣東西。
你將帶走什麼？
最後一點想法
現在，你已經擁有一個適用於所有自動化系統的簡單習慣：委託瑣碎的部分，在關鍵時刻驗證輸出結果，並保留決策權。投入足夠多的工作，以便在工具自信地出錯時發現它。
這些工具既非魔法，也非敵人。它們是助手。你仍然是做決定的人。