Ett vanligt verktyg
Automatiserade system är vanliga verktyg
Automatiserade system ligger nu mellan dig och nästan allt: de dirigerar dina pengar, rangordnar det du läser, sorterar jobbansökningar, betygsätter prov, rekommenderar läkemedel och utkastar texter. Denna lektion behandlar dem inte som ett särskilt ämne, utan som det de är: en snabb, kraftfull och alltmer dominerande klass av verktyg.
Ett verktyg har ett handtag och en skarpa. Handtaget är det som gör det användbart; skarpkan är där det kan skära dig. En räknemaskin, en sökmotor och en automatiserad assistent delar alla samma affär: de gör arbete åt dig, men de kan göra felaktigt arbete med självförtroende, och du märker det kanske inte.
Kunniga människor frågar inte "ska jag använda verktyg eller inte?" De ställer tre skarpare frågor: Vad ska jag överlämna? Hur kontrollerar jag resultatet? Vem äger det när det går fel? Dessa tre frågor är hela lektionen.
Inledning
Innan vi bygger ramverket, en kort reflektion.
Tre tester
Insatser, omvändbarhet, verifierbarhet
Huruvida man ska lämna över en uppgift till ett automatiserat system beror på tre egenskaper hos uppgiften, inte på hur imponerande systemet ser ut.
1. Insatser. Vad går sönder om resultatet är felaktigt? En felaktig musikrekommendation kostar dig tre minuter. En felaktig dos, ett felaktigt skattetal eller en felaktig medicinsk sammanfattning kostar betydligt mer. Högre insatser innebär mer försiktighet.
2. Omvändbarhet. Kan man ångra ett dåligt resultat? ett utkast som kan skrivas om är omvändbart. En betalning som redan skickats, ett meddelande som redan levererats, ett beslut som redan agerats på: dessa motstår ånger. Omvändbart kombinerat med höga insatser är farozonen.
3. Verifierbarhet. Kan man faktiskt kontrollera resultatet mot något oberoende? Om man inte kan skilja ett rätt svar från ett felaktigt, är delegering ett spel, inte en genväg.
Läs matrisen ovan. Låga insatser och lätt att kontrollera: delegera fritt. Höga insatser men verifierbart: delegera, verifiera sedan varje gång. Höga insatser och svårt att kontrollera: behåll det själv. Låga insatser men svårt att kontrollera: delegera och gör stickprovskontroller.
Ranka uppgifterna
Din tur: Ranka fyra uppgifter
Här är fyra uppgifter du kan överlåta till ett automatiserat system:
- A. Formulera inbjudan för en väns överraskningsfest.
- B. Beräkna de slutliga siffrorna på familjens skatteman.
- C. Sammanfatta ett kapitel som du måste diskutera och försvara i klass imorgon.
- D. Förslag på tio låtar till en bilresespelning.
Hur automatiserade system misslyckas
Fyra sätt som utdata kan gå fel
Automatiserade system misslyckas inte som ett kraschat program som stannar och visar ett felmeddelande. De misslyckas medan de ser helt normala ut. Lär dig dessa fyra kännetecken.
1. Säker men felaktig. Utdata kommer fram flytande, formaterat och självsäkert, och det är helt enkelt fel. Säkerheten i presentationen säger ingenting om korrektheten. Ett felaktigt svar och ett korrekt svar ser lika polerade ut.
2. Föråldrade eller skeva data. Systemet resonerar utifrån det den har matats med. Om dessa data är föråldrade, icke-representativa eller skeva, ärft utdata felet: förra årets priser, en träningsmängd som underrepresenterar en viss grupp, ett flöde som bara visar dig en sida.
3. Missförstått avsikt. Du bad om en sak; systemet löste ett närliggande men annat problem. Du ville ha en sammanfattning som behöll motargumenten; den gav dig en sammanfattning som plattade ut dem. Den svarade på en fråga du inte ställt.
4. Optimerar fel sak. Systemet maximerar exakt det den blev tillagd att göra, vilket inte alltid är det du ville ha. Ett flöde som blir tillagt att maximera tittartid lär sig att hålla dig i rullning, inte att informera dig. Detta är det mest subtila felet: systemet lyckas med sitt mål men misslyckas med dig.
Tecknet för alla fyra är samma disciplin: låt aldrig en flytande presentation ersätta en kontroll.
Fånga felet
Din tur: Fånga ett troligt utdata
En budgeteringsverktyg ger dig denna sammanfattning av föregående månad:
'Totalt utgifter: $1 200 över 30 dagar. Ditt dagliga snitt var cirka $75 per dag. Utgifterna ser väl under kontroll ut.'
Verktyget låter självsäkert och formatet ser rent ut.
Tre sätt att kontrollera
Matcha kontrollen med riskerna
Verifiering kostar tid, så du skalar den efter vad som står på spel. Att kontrollera en spellista för mycket slösar bort din tid; att kontrollera en medicinskt schema för lite riskerar någon annans liv. Tre verktyg, från billigast till mest ingående.
Stickprovskontroll. Ta ett stickprov av några slumpmässiga resultat och inspektera dem noggrant. Passar bra för arbete med låga risker och hög volym: om tre av tre utvalda objekt ser rätt ut, utökar du begränsat förtroende till resten.
Krysskolla mot en oberoende källa. Bekräfta resultatet mot något som inte delar systemets data eller antaganden: ett annat verktyg, ett officiellt register, en person som vet. Oberoendehet är hela poängen; två system som bygger på samma felaktiga data kommer att vara överens medan båda är felaktiga.
Kontrollera mot det du redan vet. Jämför resultatet med fakta och ungefärliga storleksordningar som du redan litar på. Du upptäckte budgetfelet på detta sätt: du visste att 1 200 över 30 är inget som 75. Detta kostar nästan ingenting och fångar en överraskande stor del av fel.
Regeln: verifiering ökar med insatsen och omöjligheten att ångra. Triviala och ångrbara saker förtjänar en snabb blick; kostsamma och oångräliga förtjänar en oberoende dubbelkoll varje gång.
Hur mycket kontroll?
Din tur: Två jobb, två kontroller
En automatisk assistent utkastar två saker åt dig:
- A. Ett meddelande till en vän med förslag om att träffas kl. 19 istället för kl. 18.
- B. Den veckovisa medicinschemat för din äldre föräldrad, med listade doser och tider.
Du levererar det, du äger det
"Systemet sa så" är inget försvar
Här är regeln som skiljer en professionell från en åskådare: den människa som levererar resultatet äger resultatet. När du skickar in det, skickar det eller agerar på det, blir det ditt. Systemet som hjälpte till är ett verktyg, och verktyg bär inget ansvar.
Att säga "systemet sa så" fungerar inte som ett försvar av en enkel anledning: du fattade två beslut som systemet inte kunde fatta åt dig. Du valde att delegera uppgiften, och du valde hur noggrant du skulle verifiera resultatet. Båda besluten var dina, så utfallet är ditt.
Detta är inte orättvist mot dig; det är det som håller dig i kontroll. Om ansvarsförlag kunde överföras till ett verktyg, skulle ingen någonsin kontrollera något, och varje misslyckande skulle bli ett "barn utan föräldrar". Ägande är priset och belöningen för att använda kraftfulla verktyg.
Vems fel är det?
Din tur: Ett grupparbete
Ditt team använde ett automatiserat verktyg för att beräkna siffrorna i en rapport. En siffra var felaktig, ingen kontrollerade den, och teamet förlorade poäng. En lagkamrat axelrycker och säger: ''Verktyget gav oss det numret, så det är inte vårt fel.''
Håll händerna i arbetet
Färdighetsupprätthållande och illusionen av kompetens
En fara gömmer sig under alla de andra. Om du delegerar en färdighet helt, förlorar du långsamt förmågan att kontrollera det verktyg som ersatt dig. Du kan inte upptäcka ett fel i arbete som du inte längre kan utföra själv.
Att titta på hur ett verktyg gör något flytande skapar en illusion av kompetens: det känns som att du förstår, eftersom det färdiga resultatet ser lätt och självklart ut. Men att känna igen ett rätt svar när det serveras för dig är inte detsamma som att kunna producera eller verifiera det själv. Känslan av förståelse springer ifrån den faktiska färdigheten.
Försvarsmekanismen är medveten: fortsätt att göra tillräckligt mycket av kärnarbetet för hand för att hålla dig skarp. Gör aritmetiken själv ibland. Skriv utkastet från grunden ibland. Läs källtexten själv ibland. Du är inte oeffektiv; du underhåller just den förmåga som låter dig fånga upp verktyget när det misslyckas. De bästa operatörerna av automatiserade system håller sina egna händer i arbetet.
Vad kommer du att ta med dig?
En sista tanke
Du har nu ett komplett ramverk: avgör vad som ska delegeras baserat på vad som står på spel, om det är reversibelt och om det kan verifieras; identifiera de fyra misslyckandemönstren; verifiera i proportion till vad som riskeras; ta ansvar för det du levererar; och håll dina egna färdigheter så skarpa att du kan upptäcka när verktyget misslyckas.
Automatiserade system kommer att bli mer kapabla och mer vävda in i ditt liv. Det gör att detta ramverk blir mer värdefullt över tid, inte mindre. Den som kan delegera klokt och verifiera noggrant har en fördel som inte går ut.