Sıradan Bir Araç
Otomatik Sistemler Sıradan Araçlardır
Otomatik sistemler artık neredeyse her şeyin arasında, sizinle arasında duruyor: paralarınızı yönlendiriyor, okuduğunuz şeyleri sıralıyor, iş başvurularını ayıklıyor, testleri notlandırıyor, ilaçlar öneriyor ve metinler taslaklıyor. Bu ders, onları özel bir konu olarak değil, oldukları şey olarak ele alır: hızlı, güçlü ve giderek baskın bir araç sınıfı.
Bir aracın bir tutma yeri ve bir keskin kenarı vardır. Tutma yeri onu işe yarar kılan şeydir; keskin kenar ise sizi yaralayabileceği yerdir. Bir hesap makinesi, bir arama motoru ve bir otomatik asistan aynı pazarlığı paylaşır: sizin için iş yaparlar, ancak yanlış işi güvenle yapabilirler ve bunu fark etmeyebilirsiniz.
Uzman kişiler 'araçları kullanmalı mıyım, kullanmamalı mıyım?' diye sormazlar. Üç daha keskin soru sorarlar: Ne devretmeliyim? Sonucu nasıl kontrol ederim? Yanlış gittiğinde kim sorumludur? Bu üç soru, dersin tamamıdır.
Isınma
Çerçeveyi oluşturmaya başlamadan önce kısa bir düşünme.
Üç Test
Paylar, Geri Alınabilirlik, Doğrulanabilirlik
Bir görevin otomatik bir sisteme devredilip devredilmeyeceği, sistemin ne kadar etkileyici göründüğüne değil, görevin üç özelliğine bağlıdır.
1. Paylar. Çıktı yanlışsa ne bozulur? Yanlış bir şarkı önerisi size üç dakika kaybettirir. Yanlış bir dozaj, yanlış bir vergi rakamı veya yanlış bir tıbbi özet ise çok daha fazla kayba yol açar. Paylar ne kadar yüksekse, o kadar dikkatli olunmalıdır.
2. Geri Alınabilirlik. Kötü bir sonucu geri alabilir misiniz? Yeniden yazabileceğiniz bir taslak geri alınabilir. Zaten gönderdiğiniz bir ödeme, zaten iletildiğiniz bir mesaj, zaten hayata geçirilen bir karar: bunlar geri alınmaya direnç gösterir. Geri alınamaz ve yüksek paylar, tehlike bölgesidir.
3. Doğrulanabilirlik. Sonucu bağımsız bir şeyle gerçekten kontrol edebilir misiniz? Doğru cevabı yanlış olandan ayırt edemiyorsanız, devretmek bir kısayol değil, bir kumardır.
Yukarıdaki matrisi okuyun. Düşük paylar ve kontrol etmesi kolay: serbestçe devredin. Yüksek paylar ama kontrol edilebilir: devredin, ardından her seferinde doğrulayın. Yüksek paylar ve kontrol etmesi zor: kendiniz yapın. Düşük paylar ama kontrol etmesi zor: devredin ve örneklem kontrolü yapın.
Görevleri Sırala
Sıra Sizde: Dört Görevi Sıralayın
İşte otomatik bir sisteme devredebileceğiniz dört görev:
- A. Bir arkadaşınızın sürpriz partisi için davet metnini kaleme almak.
- B. Ailenizin vergi beyannamesindeki nihai sayıları hesaplamak.
- C. Yarın sınıfta tartışmanız ve savunmanız gereken bir bölümü özetlemek.
- D. Bir yolculuk için çalma listesine on şarkı önermek.
Otomatik Sistemler Nasıl Hata Verir
Çıktının Yanlış Olduğu Dört Yol
Otomatik sistemler, durup hata gösteren çökmüş bir program gibi hata vermez. Tamamen sorunsuz görünürken hata verirler. Bu dört belirtiyi öğrenin.
1. Kendinden emin ama yanlış. Çıktı akıcı, biçimlendirilmiş ve kendinden emin bir şekilde gelir ve basitçe yanlıştır. Sunumdaki özgüven, doğruluk hakkında hiçbir şey söylemez. Yanlış bir cevap ile doğru bir cevap aynı derecede cilalı görünür.
2. Eski veya önyargılı veri. Sistem, kendisine verilen her şey üzerinde akıl yürütür. Bu veri güncel değilse, temsilci değilse veya çarpıksa, çıktı bu kusuru devralır: geçen yılın fiyatları, bazı grupları yetersiz temsil eden bir eğitim seti, size her zaman yalnızca bir tarafı gösteren bir akış.
3. Niyeti yanlış anlama. Bir şeyi istediniz; sistem yakın ama farklı bir sorunu çözdü. Karşı argümanları koruyan bir özet istediniz; onları düzleştiren bir özet verdi. Sormadığınız bir soruyu yanıtladı.
4. Yanlış şeyi optimize etme. Sistem, kendisine söylenen şeyi tam olarak maksimize eder, bu da her zaman istediğiniz şey değildir. İzleme süresini maksimize etmesi söylenen bir akış, sizi bilgilendirmek yerine kaydırmaya devam etmenizi öğrenir. Bu en ince hata türüdür: sistemi hedefine ulaşır ve sizi hayal kırıklığına uğratır.
Dördü için de belirleyici olan aynı disiplindir: akıcı sunumu asla bir kontrolün yerine koymayın.
Hataları Yakala
Sıra Sizde: İnanılır Görünen Bir Çıktıyı Yakalayın
Bir bütçeleme aracı size geçen ayın bu özetini veriyor:
'Toplam harcama: 30 gün boyunca 1.200 $. Günlük ortalamanız yaklaşık 75 $/gün. Harcamalar kontrol altında görünüyor.'
Aracı kendinden emin bir ton kullanıyor ve format temiz görünüyor.
Üç Kontrol Yöntemi
Kontrolü Risklere Uygun Hale Getirin
Doğrulama zaman alır, bu yüzden onu riske atılan şeyle orantılı olarak ölçeklendirirsiniz. Bir çalma listesini aşırı kontrol etmek hayatınızı boşa harcamaktır; tıbbi bir programı yetersiz kontrol etmek ise başkalarının hayatını riske atar. En ucuzdan en kapsamlıya doğru üç araç.
Örneklem kontrolü. Çıktılardan rastgele birkaç tanesini seçin ve bunları dikkatle inceleyin. Düşük riskli, yüksek hacimli işler için uygundur: örneklenen üç maddenin üçü de doğru görünüyorsa, kalanına sınırlı bir güvenle yaklaşabilirsiniz.
Bağımsız bir kaynaktan çapraz kontrol yapın. Sonucu, sistemin verileri veya varsayımlarıyla ortaklaşmayan bir şeyle doğrulayın: ikinci bir araç, resmi bir kayıt veya konuyu bilen bir kişi. Bağımsızlık asıl noktadır; aynı hatalı veriden beslenen iki sistem, her ikisi de yanlışken bile birbirleriyle aynı sonucu verir.
Bildiğiniz şeylerle mantık kontrolü yapın. Çıktıyı, zaten güvendiğiniz olgularla ve kabaca büyüklüklerle karşılaştırın. Bütçe hatasını bu şekilde yakalamıştınız: 1.200'ün 30'a bölünmesinin 75'e hiçbir şekilde yakın olmadığını biliyordunuz. Bu neredeyse hiçbir şeyinize mal olmaz ve sürpriz derecede fazla sayıda hatayı yakalar.
Kural: Doğrulama, risk ve geri alınamazlık arttıkça yükselir. Trivial ve geri alınabilir durumlar için bir bakış yeterlidir; maliyetli ve geri alınamaz durumlar ise her seferinde bağımsız bir çapraz kontrol gerektirir.
Ne Kadar Kontrol?
Sıra Sizde: İki İş, İki Kontrol
Otomatik bir asistan sizin için iki şey taslaklıyor:
- A. Bir arkadaşınıza 6 yerine 7'de buluşmayı öneren bir mesaj.
- B. Yaşlı büyükanne/büyükbabanız için haftalık ilaç takvimi, dozlar ve saatler listelenmiş.
Sen Teslim Ediyorsan, Sen Sahipsin
Sistem Böyle Dedi Bir Savunma Değildir
Profesyoneli seyirciden ayıran kural şudur: çıktıyı teslim eden insan, çıktının sahibidir. Bunu gönderdiğinde, ilettiğinde veya buna göre hareket ettiğinde, o çıktı senin olur. Yardım eden sistem bir araçtır ve araçlar sorumluluk taşımaz.
'Sistem öyle söyledi' savunması olarak işe yaramaz; bunun basit bir nedeni var: Sistemin sizin yerine yapamadığı iki seçim yaptınız. Bu görevi devretmeyi seçtiniz ve sonucu ne kadar dikkatle doğrulayacağınızı seçtiniz. Her iki seçim de size aitti, bu nedenle sonuç da size aittir.
Bu sizin için haksız değildir; sizi kontrol sahibi tutan şeydir. Sorumluluk bir araca devredilebilseydi, kimse hiçbir şeyi kontrol etmezdi ve her başarısızlık sahiplenilmemiş bir durum olurdu. Güçlü araçları kullanmanın bedeli ve ödülü sahiplenmektir.
Kimin Hatası?
Sıra Sizde: Grup Projesi
Ekip, bir rapordaki rakamları hesaplamak için otomatik bir araç kullandı. Bir rakam yanlıştı, kimse kontrol etmedi ve ekip puan kaybetti. Bir ekip arkadaşı omuz silkip, ''Aracı bizlere bu sayıyı verdi, bu yüzden hatası bizim değil.'' diyor.
Ellerini İşin İçinde Tut
Beceri Bakımı ve Yetkinlik İllüzyonu
Diğer tüm tehlikelerin altında gizli bir tehlike var. Bir beceriyi tamamen devrettiğinizde, sizi değiştiren aracı kontrol etme yeteneğinizi yavaş yavaş kaybedersiniz. Artık yapamadığınız bir işteki hatayı yakalayamazsınız.
Bir aracın bir şeyi akıcı bir şekilde yapmasını izlemek bir yetkinlik illüzyonu yaratır: bitmiş çıktı kolay ve bariz göründüğü için anladığınızı hissedersiniz. Ancak size sunulan doğru bir cevabı tanımak, onu kendiniz üretebilmek veya doğrulayabilmekle aynı şey değildir. Anlama hissi, gerçek beceriden daha hızlı ilerler.
Savunma bilinçli olmalıdır: keskin kalmak için çekirdek işin yeterince fazlasını elle yapmaya devam edin. Bazen aritmetiği kendiniz yapın. Bazen taslağı sıfırdan yazın. Bazen birincil kaynağı kendiniz okuyun. Verimsiz davranmıyorsunuz; aracın hata yaptığında onu yakalamanızı sağlayan tam yeteneği koruyorsunuz. Otomatik sistemlerin en iyi operatörleri kendi ellerini işin içinde tutar.
Ne Taşıyacaksın?
Son Bir Düşünce
Artık elinizde tam bir çerçeve var: neyi devretmeniz gerektiğini pay, geri döndürülebilirlik ve doğrulanabilirlik açısından belirleyin; dört hata modunu tanıyın; risk altındaki şeylerle orantılı olarak doğrulama yapın; neyi gönderirseniz (ship) onu sahiplenin ve aracınızı yakalayabilecek kadar kendi becerilerinizi keskin tutun.
Otomatik sistemler giderek daha yetkin hale gelecek ve hayatınıza daha fazla nüfuz edecek. Bu, zamanla bu çerçevenin daha az değil, daha değerli olacağı anlamına gelir. Akıllıca devredebilen ve iyi doğrulayabilen kişi, süresi dolmayan bir avantaja sahip olur.