세 가지 테스트

이해관계, 가역성, 검증 가능성

작업을 자동화 시스템에 맡길지 여부는 시스템이 얼마나 인상적인지 여부가 아니라, 작업의 세 가지 속성에 달려 있습니다.

1. 이해관계(Stakes). 결과가 잘못되면 무엇이 깨집니까? 잘못된 음악 추천은 3분 정도의 손해를 의미합니다. 반면 잘못된 용량, 잘못된 세금 수치, 또는 잘못된 의료 요약은 훨씬 큰 비용을 초래합니다. 이해관계가 높을수록 더 신중해야 합니다.

2. 가역성(Reversibility). 나쁜 결과를 되돌릴 수 있습니까? 다시 작성할 수 있는 초안은 가역적입니다. 이미 보낸 결제, 이미 전달된 메시지, 이미 실행된 결정은 되돌리기 어렵습니다. 되돌릴 수 없고 이해관계가 높은 경우가 위험 구역입니다.

3. 검증 가능성(Verifiability). 결과를 독립적인 기준과 실제로 대조하여 확인할 수 있습니까? 정답과 오답을 구별할 수 없다면, 위임은 지름길이 아니라 도박입니다.

위 매트릭스를 읽어보세요. 이해관계가 낮고 확인이 쉬우면: 자유롭게 위임하세요. 이해관계가 높지만 확인이 가능하면: 위임한 후 매번 검증하세요. 이해관계가 높고 확인이 어려우면: 직접 처리하세요. 이해관계가 낮지만 확인이 어려우면: 위임하고 표본 검사하세요.

작업 순위 매기기

당신의 차례: 네 가지 작업 순위 매기기

자동화 시스템에 위임할 수 있는 네 가지 작업이 있습니다:

- A. 친구의 서프라이즈 파티 초대장 문구를 작성하기.

- B. 가족의 세금 신고서에 들어갈 최종 숫자를 계산하기.

- C. 내일 수업에서 토론하고 방어해야 하는 장을 요약하기.

- D. 로드 트립 플레이리스트용 노래 10곡을 추천하기.

자동화 시스템의 실패 방식

출력이 잘못되는 네 가지 방법

자동화 시스템은 에러를 표시하며 멈추는 충돌한 프로그램처럼 실패하지 않습니다. 완전히 정상적으로 보일 때 실패합니다. 이 네 가지 특징을 학습하세요.

1. 자신감 있는 오류. 출력물은 유창하고, 포맷이 잘 잡혀 있으며, 자신감이 넘쳐 보이지만, 사실은 단순히 틀린 것입니다. 표현의 자신감은 정확성에 대해 아무것도 말해 주지 않습니다. 틀린 답과 맞는 답은 똑같이 세련되어 보입니다.

2. 오래되거나 편향된 데이터. 시스템은 주어진 데이터를 바탕으로 추론합니다. 해당 데이터가 구식이거나, 대표성이 부족하거나, 편향되어 있다면 출력물도 그 결함을 물려받습니다: 작년의 가격, 특정 집단을 과소 대표하는 학습 세트, 한쪽 면만 보여 주는 피드 등입니다.

3. 의도의 오해. 당신은 한 가지를 요청했지만, 시스템은 유사하지만 다른 문제를 해결했습니다. 반론을 유지하는 요약을 원했지만, 반론을 평면화한 요약을 받았습니다. 그것은 당신이 묻지 않은 질문에 답한 것입니다.

4. 잘못된 대상 최적화. 시스템은 지시받은 것을 정확히 최대화하지만, 그것이 항상 당신이 원한 것은 아닙니다. 시청 시간을 최대화하도록 지시된 피드는 당신을 정보로 무장시키는 것이 아니라, 계속 스크롤하게 만드는 것을 학습합니다. 이것이 가장 미묘한 실패입니다: 시스템은 자신의 목표를 달성하지만, 당신을 실패로 이끕니다.

이 네 가지 모두에 대한 공통된 경고 신호는 동일한 규율입니다: 유창한 표현이 검증(check)을 대체하도록 절대 두지 마세요.

오류를 잡아내다

당신의 차례: 그럴듯한 출력을 잡아내다

예산 관리 도구가 지난 달에 대한 이 요약을 제공합니다:

'총 지출: 30일 동안 $1,200. 일일 평균은 약 하루 $75였습니다. 지출은 잘 통제되고 있는 것으로 보입니다.'

도구의 톤은 자신감 있어 보이고 형식도 깔끔해 보입니다.

검증하는 세 가지 방법

위험도에 맞는 검증 선택

검증에는 시간이 들기 때문에, 위험한 정도에 맞춰 그 범위를 조절해야 합니다. 재생 목록을 과도하게 확인하는 것은 시간을 낭비하는 것이며, 의료 일정은 확인이 부족하면 다른 사람의 생명이 위험해질 수 있습니다. 가장 비용이 적은 것부터 가장 철저한 것까지, 세 가지 도구를 소개합니다.

스팟 체크. 무작위로 몇 개의 출력을 표본 추출하여 세밀하게 검사합니다. 위험도가 낮고 양이 많은 작업에 적합합니다: 표본으로 추출한 3개 중 3개가 모두 올바르게 보인다면, 나머지 전체에 대해 제한적인 신뢰를 확장할 수 있습니다.

독립적인 소스로 교차 확인. 시스템의 데이터나 가정을 공유하지 않는 다른 것과 결과를 대조하여 확인합니다: 두 번째 도구, 공식 기록, 해당 분야에 정통한 사람 등. 독립성이 핵심입니다; 동일한 잘못된 데이터에 기반한 두 시스템은 둘 다 틀리면서도 서로 일치할 수 있습니다.

알고 있는 사실로 상식적 검증. 이미 신뢰하는 사실과 대략적인 규모를 기준으로 출력을 검토합니다. 예산 오류를 이 방법으로 발견했습니다: 1,200을 30으로 나누면 75 근처가 될 리 없다는 것을 알고 있었기 때문입니다. 이 방법은 거의 비용이 들지 않으면서도 놀라울 정도로 많은 수의 실패를 잡아냅니다.

원칙: 검증의 강도는 이해관계의 크기와 되돌릴 수 없는 정도에 따라 높아집니다. 사소하고 되돌릴 수 있는 일은 한 번의 확인으로 충분하지만, 비용이 크고 되돌릴 수 없는 일은 매번 독립적인 교차 검증을 받아야 합니다.

얼마나 확인해야 할까?

당신의 차례: 두 가지 작업, 두 가지 검증

자동화 어시스턴트가 당신을 위해 두 가지를 초안으로 작성합니다:

- A. 친구에게 6시가 아닌 7시에 만나자는 내용의 문자 메시지.

- B. 고령의 조부모님을 위한 주간 약물 복용 일정표(용량과 시간 포함).

당신이 출시하면, 당신이 책임진다

"시스템이 그렇게 하라고 해서"는 변명이 되지 않는다

전문가와 방관자를 가르는 규칙은 이것이다: 출력을 출시하는 인간은 그 출력을 소유한다. 제출하거나, 보내거나, 그에 따라 행동하는 순간, 그것은 당신의 것이 된다. 도움을 준 시스템은 도구일 뿐이며, 도구는 책임을 지지 않는다.

'시스템이 그렇게 말했다'는 변명이 실패하는 데는 단순한 이유가 있습니다. 시스템이 대신할 수 없었던 두 가지 선택을 당신이 했기 때문입니다. 이 작업을 위임할지, 그리고 결과를 얼마나 철저히 검증할지를 선택한 것은 모두 당신이었기 때문에, 그 결과에 대한 책임도 당신에게 있습니다.

이것은 당신에게 불공정한 것이 아닙니다. 오히려 이것이 당신에게 통제권을 유지시켜 줍니다. 책임이 도구로 넘어갈 수 있다면 아무도 아무것도 확인하지 않을 것이며, 모든 실패는 주인 없는 고아가 될 것입니다. 강력한 도구를 사용하는 것의 대가이자 보상이 바로 소유권(Ownership)입니다.

누구의 책임인가?

당신의 차례: 그룹 프로젝트

당신의 팀은 자동화 도구를 사용하여 보고서의 수치를 계산했습니다. 그중 하나의 수치가 틀렸고, 아무도 이를 확인하지 않아 팀이 감점을 받았습니다. 한 팀원은 어깨를 으쓱하며 ''도구가 그 수치를 줬으니 우리 잘못이 아니다.''라고 말합니다.

손을 직접 대는 것 유지하기

스킬 유지와 역량에 대한 환상

모든 위험의 밑바닥에는 하나의 위험이 숨어 있다. 스킬을 완전히 위임하면, 당신을 대체한 도구를 점검할 능력을 서서히 잃게 된다. 더 이상 수행할 수 없는 작업의 오류를 잡아낼 수 없다.

도구가 무언가를 유창하게 수행하는 것을 지켜보는 것은 역량에 대한 환상을 만들어낸다: 완성된 결과가 쉽고 명백해 보이므로 이해하고 있는 것처럼 느껴진다. 그러나 주어진 정답을 인식하는 것은 스스로 생성하거나 검증하는 능력과 같지 않다. 이해하고 있다는 느낌은 실제 스킬을 앞서 간다.

방어책은 의도적인 것이다: 날카로움을 유지하기 위해 핵심 작업을 충분히 손으로 수행한다. 때때로 산술을 스스로 해본다. 때때로 초안을 처음부터 작성해 본다. 때때로 1차 자료를 스스로 읽어 본다. 비효율적인 것이 아니다; 도구가 실패할 때 그것을 잡아내는 정확한 능력을 유지하는 것이다. 자동화 시스템의 최고의 운영자들은 자신의 손을 작업에 계속 대고 있다.

당신은 무엇을 가져갈 것인가?

마지막 한 가지 생각

이제 당신은 완전한 프레임워크를 갖추었습니다: 이해관계, 가역성, 검증 가능성을 기준으로 위임을 결정하고, 네 가지 실패 모드를 인식하며, 위험에 노출된 정도에 비례하여 검증하고, 출시한 것에 대해 책임을 지며, 도구를 감지할 수 있을 만큼 자신의 기술을 날카롭게 유지하는 것입니다.

자동화 시스템은 점점 더 강력해지고 당신의 삶에 더 깊이 스며들 것입니다. 이는 이 프레임워크의 가치를 시간이 지날수록 더 낮추지 않고, 오히려 더 높게 만듭니다. 현명하게 위임하고 잘 검증할 수 있는 사람은 만료되지 않는 이점을 갖게 됩니다.