자동화 시스템이 잘하는 것

실제 강점

자동화 시스템은 일부 작업에서 진정으로 잘하며, 종종 사람보다 훨씬 더 잘합니다:

- 빠름. 경로 앱은 당신이 눈을 깜빡이는 시간 동안 수천 개의 도로 조합을 비교합니다.

- 지치지 않음. 900번째 가격을 첫 번째 가격만큼 꼼꼼하게 확인합니다. 지루해하거나 졸리는 일이 절대 없습니다.

- 일관성 있음. 동일한 입력을 두 번 주면 두 번 모두 동일한 결과를 냅니다. 컨디션이 나쁜 날이 없습니다.

- 대량의 데이터를 처리함. 거대한 목록, 긴 문서, 또는 전체 지도를 한 번에 스캔할 수 있으며, 이는 사람이 머릿속에 담을 수 있는 양을 훨씬 초과합니다.

작업이 크고 반복적이며 지루할 때, 자동화 시스템은 종종 올바른 도구입니다. 그것이 바로 그 시스템의 주된 강점입니다.

자동화 시스템이 약한 점

실제 약점

같은 도구에 실제 맹점이 있습니다. 자동화 시스템은 다음과 같은 면에서 약합니다:

- 진정으로 의도한 것을 이해하는 것. 시스템은 사용자의 말이 아니라 문자 그대로만 읽습니다. 지도 앱에 "은행"이라고 검색하면 강가(river bank)로 안내하거나, 도시 반대편의 잘못된 지점으로 보낼 수 있습니다.

- 자신이 틀렸음을 아는 것. 잘못된 숫자를 입력받은 계산기는 완전히 확신에 찬 태도로 틀린 답을 내놓습니다. "음, 뭔가 이상한데"라는 느낌을 가질 줄 아는 도구는 아닙니다.

- 최신 정보를 유지하는 것. 도구는 어제 도로가 폐쇄되었다는 사실, 한 시간 전 가격이 변경되었다는 사실, 또는 시스템이 구축된 이후로 사실이 바뀌었다는 사실을 모를 수 있습니다.

- 공정성. 시스템은 과거의 데이터에서 학습합니다. 만약 그 데이터가 불공정했다면, 도구는 중립적으로 보이며 조용히 그 불공정성을 반복할 수 있습니다.

큰 함정: 확신에 찬 오류

이 전체 수업에서 가장 중요한 개념입니다. 자동화 시스템은 확신에 찬 오류(confidently wrong)를 범할 수 있습니다. 그것은 단순히 틀렸지만, 매끄럽고 확신에 찬 톤의 답변을 내놓습니다. 틀렸을 때 불확실하게 들리지 않는 이유는, 그것이 자신이 틀렸다는 사실을 알 수 없기 때문입니다. 깔끔한 답변은 정확한 답변과 같은 것이 아닙니다.

잘하는 것과 못하는 것

직접 분류해 보기

장점과 단점이 여러분의 말로 명확히 이해되었는지 확인해 보겠습니다.

신뢰하기 전에 확인하세요

당신을 보호하는 습관: 검증하기

도구가 확신에 차서 틀린 답을 낼 수 있으므로, 특히 결과가 중요한 경우에는 신뢰하기 전에 출력을 검증하는 것이 현명한 방법입니다.

검증이란 답을 다른 것과 대조하여 확인하는 것을 의미합니다: 두 번째 출처, 본인의 간단한 추정, 알려진 사실, 또는 상식 등입니다.

얼마나 검증해야 하는지는 얼마나 중요한 상황에 따라 달라져야 합니다:

- 틀을 재생할 곡을 고르는 경우? 도구가 틀렸다면 그냥 건너뛰면 됩니다. 거의 확인할 필요가 없습니다.

- 친구 집으로 가는 길을 안내받는 경우? 지도를 한 번 보고 대략적인 방향이 맞는지 확인해 보세요.

- 요리법, 약 용량, 금액, 또는 보고서용 사실을 따르는 경우? 신뢰할 수 있는 출처와 신중하게 대조해 보세요. 여기서 확신에 찬 잘못된 답은 실제로 큰 손해를 끼칠 수 있습니다.

검증하는 몇 가지 간단한 방법: 머릿속으로 대략적인 추정을 해보아 답이 적절한 범위 내에 있는지 확인하고, 두 번째 도구나 신뢰할 수 있는 웹사이트를 확인하며, 아는 사람에게 물어보거나, 전체에 의존하기 전에 작은 부분을 먼저 테스트해 보세요.

당신이라면 먼저 무엇을 하시겠습니까?

자신감 넘치는 답변이 화면에 뜹니다

실제 상황을 하나 소개해 드리겠습니다. 숙제 도우미에게 이렇게 물었습니다: "1주일에 몇 분입니까?" 도우미는 매우 단호한 어조로 즉시 답했습니다:

> "1주일에 6,720분이 있습니다."

그 답변은 자신감 있고 구체적으로 들립니다. 하지만 동시에 틀린 답이기도 합니다.

작업은 위임하되, 판단은 유지하라

누가 책임지는가?

전체 수업을 하나로 묶으면 하나의 루프가 형성됩니다. 당신은 지루하거나 방대한 작업을 도구에게 위임합니다. 도구는 출력을 생성합니다. 당신은 그 출력을 검증합니다. 그리고 당신이 결정합니다. 그런 다음 다시 처음부터 반복합니다.

무엇이 중요한지, 그리고 누가 그것을 쥐고 있는지 주목하세요. 당신은 지루한 업무를 넘기지만, 두 가지는 스스로에게 남겨둡니다:

- 판단. 답이 사용하기에 충분히 좋은지 결정하는 것은 당신입니다.

- 최종 결정. 도구가 제안하고, 당신이 선택합니다.

검증이 가능하게 만드는 또 하나의 규칙이 있습니다. 도구를 검증할 수 있을 만큼 스스로 충분한 일을 하세요. 덧셈을 배우지 못했다면 계산기에 잘못된 숫자가 입력되었는지 알 수 없습니다. 지도를 직접 한 번도 보지 않았다면 경로가 우회로를 안내하고 있는지 알 수 없습니다. 스스로의 작은 기술을 유지하는 것이 도구의 실수를 잡아내는 것을 가능하게 합니다.

따라서 지루한 부분은 위임하되, 운전석에는 남으세요. 좋은 도구는 조력자이지, 보스가 아닙니다.

위임할 것인가, 결정할 것인가?

또 하나의 상황

쇼핑 사이트가 제품 목록을 정렬하여 맨 위에 하나를 배치하고 "당신을 위한 최고의 선택"이라고 표시한다고 상상해 보세요. 편리해 보입니다. 어차피 그 카테고리에서 무언가를 사려고 했기 때문입니다.

무엇을 앞으로 가져갈 것인가?

마지막 한 가지 생각

이제 앞으로 사용하게 될 모든 자동화 시스템에 적용할 수 있는 간단한 습관을 갖추게 되었습니다: 지루한 부분은 위임하고, 중요한 결과물은 검증하며, 결정권은 스스로에게 두세요. 도구가 자신감 있게 틀린 것을 잡아낼 수 있을 만큼 충분한 작업을 하세요.

이러한 도구는 마법도 적도 아닙니다.它们是 도우미입니다. 결정하는 사람은 여전히 당신입니다.