Cosa sanno fare bene i sistemi automatizzati

Punti di forza reali

I sistemi automatizzati sono davvero bravi in alcune cose, spesso molto meglio di una persona:

- Veloci. Un'app di percorsi confronta migliaia di combinazioni stradali nel tempo che impieghi a battere le palpebre.

- Indaffaticabile. Verificherà il 900° prezzo con la stessa attenzione del primo. Non si annoia mai né si addormenta.

- Costante. Se gli dai lo stesso input due volte, fa la stessa cosa due volte. Non ha mai un brutto giorno.

- Gestisce grandi quantità di dati. Può scansionare un elenco enorme, un documento lungo o un'intera mappa in una volta sola, più di quanto una persona possa trattenere nella mente.

Quando un compito è grande, ripetitivo e noioso, un sistema automatizzato è spesso lo strumento giusto. È il suo terreno di competenza.

Cosa non sanno fare bene i sistemi automatizzati

Debolezze reali

Lo stesso strumento ha punti ciechi reali. I sistemi automatizzati sono carenti in:

- Comprendere cosa intendi davvero. Legge le tue parole, non la tua mente. Chiedi a un'app di mappe "la banca" e potrebbe mandarti alla riva di un fiume, o alla filiale sbagliata dall'altra parte della città.

- Sapere quando si sbaglia. Una calcolatrice a cui vengono inseriti numeri errati fornisce una risposta sbagliata con totale sicurezza. Lo strumento non ha la sensazione di dire "hmm, questo sembra strano".

- Rimanere aggiornati. Uno strumento potrebbe non sapere che una strada è stata chiusa ieri, che un prezzo è cambiato un'ora fa, o che un fatto è cambiato da quando è stato creato.

- Equità. Un sistema impara da dati vecchi. Se quei dati erano ingiusti, lo strumento può ripetere silenziosamente l'ingiustizia apparendo neutrale.

La grande trappola: sbagliare con sicurezza

Ecco l'idea più importante di tutta questa lezione. Un sistema automatizzato può essere sbagliato con sicurezza. Fornisce una risposta fluida e sicura che in realtà non è corretta. Non sembra incerto quando sbaglia, perché non può capire di aver sbagliato. Una risposta ben fatta non è la stessa cosa di una risposta corretta.

Punti di forza vs Punti deboli

Il tuo turno per fare ordine

Assicuriamoci che i punti di forza e i punti deboli siano chiari con le tue parole.

Controlla prima di fidarti

L'abitudine che ti protegge: verifica

Poiché uno strumento può essere sbagliato con grande sicurezza, la mossa intelligente è verificare l'output prima di fidartene, soprattutto quando la risposta è importante.

Verificare significa controllare la risposta rispetto ad altro: una seconda fonte, la tua stessa stima rapida, un fatto noto o il buon senso.

Quanto verifichi dovrebbe corrispondere a quanto è in gioco:

- Scegli una canzone da riprodurre? Se lo strumento sbaglia, basta saltarla. Vale a malapena la pena controllare.

- Ottieni indicazioni per la casa di un amico? Dà un'occhiata alla mappa e assicurati che indichi la direzione generale corretta.

- Segui una ricetta, un dosaggio di medicina, un importo di denaro o un fatto per un rapporto? Controllalo attentamente rispetto a una fonte affidabile. Una risposta sbagliata ma affermata con sicurezza può costarti davvero caro.

Alcuni modi rapidi per verificare: fai una stima approssimativa a mente e verifica se la risposta rientra nell'intervallo corretto, controlla un secondo strumento o un sito web affidabile, chiedi a una persona che ne sa, o testa una piccola parte prima di puntare tutto sull'insieme.

Cosa faresti per primo?

Una risposta sicura appare sul tuo schermo

Ecco una situazione reale. Chiedi a un assistente per i compiti: "Quanti minuti ci sono in una settimana?" Risponde immediatamente, con un tono molto sicuro:

> "Ci sono 6.720 minuti in una settimana."

La risposta suona sicura e specifica. È anche sbagliata.

Delega il Lavoro, Mantieni il Giudizio

Chi è responsabile?

Mettendo insieme tutta la lezione, si forma un ciclo. Deleghi un compito noioso o enorme allo strumento. Lo strumento produce un output. Verifichi quell'output. Poi decidi tu cosa fare. Poi ricominci il ciclo.

Fai attenzione a chi detiene la parte importante. Deleghi le mansioni noiose, ma tieni per te due cose:

- Il giudizio. Tu decidi se la risposta è abbastanza buona da essere utilizzata.

- La decisione finale. Lo strumento suggerisce; tu scegli.

C'è un'altra regola che rende possibile la verifica. Fai abbastanza lavoro da solo da essere in grado di controllare lo strumento. Se non hai mai imparato a fare le addizioni, non puoi capire quando alla calcolatrice sono stati inseriti i numeri sbagliati. Se non guardi mai la mappa tu stesso, non puoi capire quando il percorso ti sta mandando per la strada più lunga. Mantenere un po' di competenza propria è ciò che ti permette di cogliere gli errori dello strumento.

Quindi delega le parti tediose, ma resta al volante. Un buon strumento è un aiutante, non un capo.

Delegare o Decidere?

Un'altra situazione

Immagina un sito di shopping che ordina un elenco di prodotti e ne mette uno in cima, etichettato "Migliore scelta per te". Sembra comodo. Stavi per comprare qualcosa in quella categoria comunque.

Cosa porterai con te?

Un'ultima riflessione

Ora hai un'abitudine semplice per ogni sistema automatizzato che userai in futuro: delega la parte noiosa, verifica l'output quando conta e mantieni la decisione nelle tue mani. Fai abbastanza lavoro da accorgerti quando lo strumento sbaglia con sicurezza.

Questi strumenti non sono magia e non sono il nemico. Sono aiutanti. Resti tu a decidere.