Ce que les systèmes automatisés font bien

Forces réelles

Les systèmes automatisés sont réellement bons dans certains domaines, souvent bien mieux que les humains :

- Rapide. Une application d'itinéraire compare des milliers de combinaisons de routes en le temps qu'il vous faut pour cligner des yeux.

- Inlassable. Il vérifiera le 900ᵉ prix aussi attentivement que le premier. Il ne s'ennuie jamais et ne s'endort jamais.

- Constant. Donnez-lui la même entrée deux fois et il fera la même chose deux fois. Il n'a pas de mauvaise journée.

- Gère de grandes quantités de données. Il peut scanner une immense liste, un long document ou une carte entière d'un coup, bien plus qu'une personne ne peut en retenir en mémoire.

Lorsqu'une tâche est grande, répétitive et ennuyeuse, un système automatisé est souvent l'outil approprié. C'est son terrain de jeu.

Ce que les systèmes automatisés font mal

Faiblesses réelles

Le même outil a de véritables angles morts. Les systèmes automatisés sont mauvais pour :

- Comprendre ce que vous vouliez vraiment dire. Il lit vos mots, pas votre esprit. Demandez à une application de cartes « la banque » et elle peut vous envoyer vers une rive de rivière, ou vers la mauvaise succursale de l'autre côté de la ville.

- Savoir quand on a tort. Une calculatrice à qui l'on donne de mauvais nombres donne une mauvaise réponse avec une confiance totale. L'outil n'a pas de sentiment qui lui dirait « hmm, ça semble étrange ».

- Rester à jour. Un outil peut ne pas savoir qu'une route a été fermée hier, ou qu'un prix a changé il y a une heure, ou qu'un fait a changé depuis sa création.

- Équité. Un système apprend à partir de données anciennes. Si ces données étaient inéquitables, l'outil peut discrètement reproduire cette inéquité tout en semblant neutre.

Le grand piège : avoir tort avec assurance

Voici l'idée la plus importante de toute cette leçon. Un système automatisé peut être totalement sûr de son erreur. Il donne une réponse fluide et sûre qui est simplement incorrecte. Il ne semble pas incertain lorsqu'il a tort, car il ne peut pas savoir qu'il a tort. Une réponse bien formulée n'est pas la même chose qu'une réponse correcte.

Ce qu'il fait bien vs Ce qu'il fait mal

À vous de trier

Assurons-nous que les forces et les faiblesses sont claires dans vos propres mots.

Vérifiez avant de faire confiance

L'habitude qui vous protège : vérifier

Comme un outil peut se tromper avec assurance, la démarche intelligente est de vérifier le résultat avant de lui faire confiance, surtout lorsque la réponse est importante.

Vérifier signifie contrôler la réponse par rapport à autre chose : une deuxième source, votre propre estimation rapide, un fait connu ou le bon sens.

Le niveau de vérification doit être proportionnel à l'enjeu :

- Choisir une chanson à écouter ? Si l'outil se trompe, vous passez simplement à la suivante. Peu de valeur à vérifier.

- Obtenir un itinéraire vers la maison d'un ami ? Jetez un œil à la carte et assurez-vous qu'elle indique la bonne direction générale.

- Suivre une recette, une dose de médicament, un montant d'argent ou un fait pour un rapport ? Vérifiez soigneusement auprès d'une source de confiance. Une réponse fausse mais donnée avec assurance peut ici vous coûter très cher.

Quelques façons rapides de vérifier : faites une estimation approximative dans votre tête pour voir si la réponse est dans la bonne fourchette, consultez un deuxième outil ou un site web de confiance, demandez à une personne compétente, ou testez une petite partie avant de miser sur l'ensemble.

Que feriez-vous en premier ?

Une réponse pleine de confiance s'affiche à l'écran

Voici une situation réelle. Vous demandez à un assistant pour les devoirs : « Combien y a-t-il de minutes dans une semaine ? » Il répond instantanément, avec un ton très assuré :

> « Il y a 6 720 minutes dans une semaine. »

La réponse semble confiante et précise. Elle est aussi fausse.

Déléguer le travail, garder le jugement

Qui est responsable ?

Mettre toute la leçon ensemble, cela forme une boucle. Vous déléguiez une tâche ennuyeuse ou énorme à l'outil. L'outil produit une sortie. Vous vérifiez cette sortie. Puis vous décidez quoi faire. Ensuite, vous recommencez.

Observe qui détient la partie essentielle. Vous déléguez les tâches fastidieuses, mais vous conservez deux éléments pour vous-même :

- Le jugement. C'est vous qui décidez si la réponse est de qualité suffisante pour être utilisée.

- La décision finale. L'outil suggère ; vous choisissez.

Il existe une règle supplémentaire qui rend la vérification possible. Faites suffisamment de travail vous-même pour être en mesure de contrôler l'outil. Si vous n'avez jamais appris à additionner, vous ne pouvez pas savoir quand une calculatrice a reçu de mauvais nombres. Si vous ne regardez jamais la carte vous-même, vous ne pouvez pas savoir quand l'itinéraire vous envoie par le plus long chemin. Conserver une petite compétence de votre propre fait est ce qui vous permet de détecter les erreurs de l'outil.

Déléguez donc les parties fastidieuses, mais restez le conducteur. Un bon outil est un assistant, pas un chef.

Déléguer ou Décider ?

Une situation de plus

Imaginez un site de vente en ligne qui trie une liste de produits et en place un tout en haut, étiqueté « Meilleur choix pour vous ». Cela semble pratique. Vous alliez de toute façon acheter quelque chose dans cette catégorie.

Que allez-vous emporter avec vous ?

Une dernière réflexion

Vous disposez désormais d'une habitude simple pour chaque système automatisé que vous utiliserez : déléguer la partie fastidieuse, vérifier le résultat quand cela compte, et conserver la décision pour vous. Faites assez de travail pour détecter l'outil lorsqu'il se trompe avec assurance.

Ces outils ne sont ni magiques, ni des ennemis. Ce sont des assistants. Vous restez celui qui décide.