Ba bài kiểm tra

Mức độ rủi ro, Khả năng đảo ngược, Khả năng xác minh

Việc có nên giao một nhiệm vụ cho một hệ thống tự động hay không phụ thuộc vào ba thuộc tính của nhiệm vụ đó, chứ không phải vào việc hệ thống trông có ấn tượng đến đâu.

1. Mức độ rủi ro. Điều gì sẽ xảy ra nếu kết quả đầu ra là sai? Một gợi ý bài hát sai chỉ khiến bạn mất ba phút. Một liều dùng sai, một con số thuế sai, hoặc một bản tóm tắt y khoa sai sẽ gây ra hậu quả nghiêm trọng hơn nhiều. Mức độ rủi ro càng cao thì càng cần thận trọng.

2. Khả năng đảo ngược. Bạn có thể hoàn tác một kết quả xấu không? Một bản nháp có thể viết lại là có thể đảo ngược. Một khoản thanh toán đã gửi, một tin nhắn đã gửi đi, một quyết định đã được thực thi: những thứ này khó có thể hoàn tác. Không thể đảo ngược kết hợp với mức độ rủi ro cao là vùng nguy hiểm.

3. Khả năng xác minh. Bạn có thực sự có thể kiểm tra kết quả dựa trên một nguồn độc lập không? Nếu bạn không thể phân biệt được câu trả lời đúng từ câu trả lời sai, thì việc giao quyền là một canh bạc, chứ không phải một lối tắt.

Đọc ma trận ở trên. Mức độ rủi ro thấp và dễ kiểm tra: giao quyền tự do. Mức độ rủi ro cao nhưng có thể kiểm tra: giao quyền, sau đó xác minh mỗi lần. Mức độ rủi ro cao và khó kiểm tra: tự giữ lại cho mình. Mức độ rủi ro thấp nhưng khó kiểm tra: giao quyền và kiểm tra ngẫu nhiên.

Xếp hạng các nhiệm vụ

Đến lượt bạn: Xếp hạng bốn nhiệm vụ

Dưới đây là bốn nhiệm vụ bạn có thể giao cho một hệ thống tự động:

- A. Viết nội dung lời mời cho bữa tiệc bất ngờ của một người bạn.

- B. Tính toán các con số cuối cùng trong tờ khai thuế của gia đình bạn.

- C. Tóm tắt một chương mà bạn phải thảo luận và bảo vệ trước lớp vào ngày mai.

- D. Gợi ý mười bài hát cho danh sách phát nhạc trong chuyến đi đường dài.

Cách Hệ Thống Tự Động Gặp Lỗi

Bốn Cách Đầu Ra Sai Lầm

Các hệ thống tự động không gặp sự cố giống như một chương trình bị sập, dừng lại và hiển thị thông báo lỗi. Chúng gặp sự cố trong khi trông hoàn toàn bình thường. Hãy học bốn dấu hiệu đặc trưng này.

1. Tự tin nhưng sai. Đầu ra được trình bày trôi chảy, có định dạng rõ ràng và tỏ ra chắc chắn, nhưng thực chất lại hoàn toàn sai. Sự tự tin trong cách trình bày không cho bạn biết gì về tính chính xác. Một câu trả lời sai và một câu trả lời đúng trông đều được trau chuốt như nhau.

2. Dữ liệu lỗi thời hoặc thiên kiến. Hệ thống lập luận dựa trên bất kỳ thứ gì được cung cấp cho nó. Nếu dữ liệu đó đã lỗi thời, không đại diện, hoặc bị lệch, đầu ra sẽ kế thừa khiếm khuyết đó: giá cả của năm ngoái, một tập huấn luyện không đại diện đầy đủ cho một nhóm nào đó, hoặc một nguồn tin chỉ luôn cho bạn thấy một phía.

3. Hiểu sai ý định. Bạn yêu cầu một thứ; hệ thống giải quyết một vấn đề gần đó nhưng khác biệt. Bạn muốn một bản tóm tắt giữ lại các lập luận phản bác; nó đưa cho bạn một bản tóm tắt đã làm mờ đi những lập luận đó. Nó đã trả lời một câu hỏi mà bạn không hề hỏi.

4. Tối ưu hóa sai thứ. Hệ thống tối đa hóa chính xác những gì nó được yêu cầu, điều mà không phải lúc nào cũng là điều bạn muốn. Một nguồn tin được yêu cầu tối đa hóa thời gian xem sẽ học cách giữ bạn cuộn màn hình liên tục, chứ không phải để cung cấp thông tin cho bạn. Đây là sự cố tinh vi nhất: hệ thống thành công trong mục tiêu của nó nhưng lại làm thất vọng bạn.

Dấu hiệu chung cho cả bốn loại là cùng một kỷ luật: không bao giờ để sự trình bày trôi chảy thay thế cho việc kiểm tra.

Phát hiện Lỗi

Đến lượt bạn: Phát hiện một Đầu ra Có vẻ Hợp lý

Công cụ lập ngân sách cung cấp cho bạn bản tóm tắt của tháng trước:

'Tổng chi tiêu: 1.200 đô la trong 30 ngày. Trung bình hàng ngày của bạn là khoảng 75 đô la mỗi ngày. Chi tiêu có vẻ được kiểm soát tốt.'

Công cụ nghe có vẻ tự tin và định dạng trông sạch sẽ.

Ba cách để kiểm tra

Phù hợp phương pháp kiểm tra với mức độ rủi ro

Việc xác minh tốn thời gian, vì vậy bạn cần điều chỉnh quy mô kiểm tra theo mức độ rủi ro. Kiểm tra quá kỹ một danh sách phát nhạc là lãng phí cuộc đời; còn kiểm tra quá sơ sài một lịch trình y tế thì có thể đe dọa đến tính mạng của người khác. Ba công cụ, từ ít tốn kém nhất đến kỹ lưỡng nhất.

Kiểm tra ngẫu nhiên (Spot-check). Lấy mẫu một vài kết quả đầu ra một cách ngẫu nhiên và kiểm tra chúng kỹ lưỡng. Phù hợp cho các công việc ít rủi ro nhưng có khối lượng lớn: nếu ba trong ba mục được lấy mẫu trông đúng, bạn có thể mở rộng sự tin tưởng hạn chế cho phần còn lại.

Đối chiếu với một nguồn độc lập. Xác nhận kết quả bằng cách so sánh với thứ không chia sẻ dữ liệu hoặc giả định của hệ thống: một công cụ thứ hai, một hồ sơ chính thức, hoặc một người am hiểu. Sự độc lập là điểm cốt lõi; hai hệ thống dựa trên cùng một dữ liệu sai sẽ đồng thuận với nhau trong khi cả hai đều sai.

Kiểm tra tính hợp lý dựa trên những gì bạn biết. Đối chiếu kết quả đầu ra với các sự thực và các bậc đại số (magnitudes) xấp xỉ mà bạn đã tin tưởng. Bạn đã phát hiện lỗi ngân sách bằng cách này: bạn biết rằng 1.200 chia cho 30 không hề gần với 75. Cách này hầu như không tốn chi phí và bắt được một tỷ lệ đáng ngạc nhiên các lỗi.

Quy tắc: mức độ xác minh tăng lên cùng với mức độ rủi ro và tính không thể đảo ngược. Những việc tầm thường và có thể đảo ngược chỉ cần một cái nhìn lướt qua; những việc tốn kém và không thể đảo ngược đòi hỏi phải kiểm tra chéo độc lập mỗi lần.

Kiểm tra bao nhiêu là đủ?

Đến lượt bạn: Hai công việc, hai mức kiểm tra

Một trợ lý tự động soạn thảo hai thứ cho bạn:

- A. Một tin nhắn cho bạn bè đề nghị gặp nhau lúc 7 giờ thay vì 6 giờ.

- B. Lịch dùng thuốc hàng tuần cho ông bà lớn tuổi của bạn, liệt kê liều lượng và thời gian.

Bạn phát hành, bạn chịu trách nhiệm

"Hệ thống nói vậy" không phải là lời biện hộ

Đây là quy tắc phân biệt một chuyên gia với một người đứng ngoài: con người phát hành đầu ra chịu trách nhiệm cho đầu ra đó. Khi bạn gửi, chuyển tiếp hoặc hành động dựa trên nó, nó trở thành của bạn. Hệ thống hỗ trợ chỉ là một công cụ, và công cụ không chịu trách nhiệm.

Lời biện hộ “hệ thống nói vậy” thất bại vì một lý do đơn giản: bạn đã đưa ra hai lựa chọn mà hệ thống không thể thay bạn quyết định. Bạn đã chọn ủy quyền nhiệm vụ này, và bạn đã chọn mức độ kiểm tra kết quả. Cả hai lựa chọn đều thuộc về bạn, nên kết quả cũng thuộc về bạn.

Điều này không bất công với bạn; đó chính là điều giúp bạn giữ quyền kiểm soát. Nếu trách nhiệm có thể chuyển sang công cụ, sẽ không ai kiểm tra bất cứ thứ gì, và mọi sự cố đều sẽ không có người chịu trách nhiệm. Sự sở hữu (trách nhiệm) là cái giá và cũng là phần thưởng khi sử dụng các công cụ mạnh mẽ.

Lỗi của ai?

Đến lượt bạn: Một dự án nhóm

Nhóm của bạn đã sử dụng một công cụ tự động để tính toán các con số trong một báo cáo. Một con số bị sai, không ai kiểm tra nó, và nhóm đã bị trừ điểm. Một thành viên trong nhóm khoát tay và nói, “Công cụ đã cho chúng ta con số đó, nên không phải lỗi của chúng ta.”

Giữ Tay Trong Công Việc

Duy trì kỹ năng và ảo tưởng về năng lực

Một mối nguy hiểm ẩn dưới tất cả các mối nguy hiểm khác. Nếu bạn ủy quyền hoàn toàn một kỹ năng, bạn sẽ dần mất đi khả năng kiểm tra công cụ đã thay thế bạn. Bạn không thể phát hiện lỗi trong công việc mà bạn không còn tự làm được nữa.

Việc xem một công cụ thực hiện điều gì đó một cách trôi chảy tạo ra ảo tưởng về năng lực: bạn cảm thấy mình hiểu, vì kết quả cuối cùng trông dễ dàng và hiển nhiên. Nhưng nhận ra một câu trả lời đúng khi nó được đưa cho bạn không giống với việc bạn có thể tự tạo ra hoặc xác minh nó. Cảm giác hiểu biết chạy nhanh hơn kỹ năng thực sự.

Biện pháp phòng thủ là có chủ đích: tiếp tục tự tay làm đủ phần cốt lõi để giữ tay nghề sắc bén. Hãy tự tính toán đôi khi. Hãy viết bản nháp từ đầu đôi khi. Hãy tự đọc nguồn gốc đôi khi. Bạn không đang kém hiệu quả; bạn đang duy trì chính xác khả năng cho phép bạn bắt lỗi khi công cụ thất bại. Những người vận hành hệ thống tự động tốt nhất luôn giữ tay mình trong công việc.

Bạn sẽ mang theo điều gì?

Một suy nghĩ cuối cùng

Bây giờ bạn đã sở hữu một khung tư duy hoàn chỉnh: quyết định việc nào nên ủy quyền dựa trên mức độ rủi ro, khả năng đảo ngược và khả năng kiểm chứng; nhận diện bốn chế độ thất bại; kiểm chứng tương xứng với những gì đang bị đe dọa; chịu trách nhiệm cho mọi thứ bạn triển khai; và duy trì kỹ năng của bản thân đủ sắc bén để nhận diện khi công cụ gặp sự cố.

Các hệ thống tự động sẽ ngày càng trở nên năng lực hơn và gắn kết chặt chẽ hơn vào cuộc sống của bạn. Điều này khiến khung tư duy này trở nên có giá trị hơn theo thời gian, chứ không phải ngược lại. Người có thể ủy quyền một cách khôn ngoan và kiểm chứng hiệu quả sẽ nắm giữ một lợi thế không bao giờ hết hạn.