Три критерия

Ставки, обратимость, проверяемость

Решение о передаче задачи автоматизированной системе зависит от трех свойств задачи, а не от того, насколько впечатляюще выглядит система.

1. Ставки. Что случится, если результат окажется неверным? Ошибка в рекомендации трека стоит трех минут. Ошибка в дозировке, в налоговой цифре или в медицинском резюме стоит гораздо дороже. Чем выше ставки, тем осторожнее нужно быть.

2. Обратимость. Можно ли отменить плохой результат? Черновик, который можно переписать, — обратим. Платеж, который уже отправлен, сообщение, которое уже доставлено, решение, которое уже принято: все это трудно отменить. Невозможность отмены в сочетании с высокими ставками — это зона риска.

3. Проверяемость. Можно ли реально проверить результат, сверив его с независимым источником? Если вы не можете отличить правильный ответ от неправильного, делегирование — это не упрощение, а игра в азарт.

Рассмотрите матрицу выше. Низкие ставки и легкость проверки: делегируйте свободно. Высокие ставки, но результат проверяем: делегируйте, но проверяйте каждый раз. Высокие ставки и сложность проверки: выполняйте сами. Низкие ставки, но сложность проверки: делегируйте и проводите выборочные проверки.

Расставьте задачи по рангам

Ваш ход: расставьте четыре задачи по рангам

Вот четыре задачи, которые можно поручить автоматизированной системе:

- A. Сформулировать текст приглашения на сюрприз-вечеринку для друга.

- B. Рассчитать итоговые суммы в налоговой декларации вашей семьи.

- C. Суммировать главу, которую вам нужно обсудить и защитить на занятии завтра.

- D. Предложить десять песен для плейлиста в дорогу.

Как автоматизированные системы дают сбой

Четыре способа, которыми выходной результат может пойти не так

Автоматизированные системы не ломаются так, как упавшая программа, которая останавливается и выводит сообщение об ошибке. Они дают сбой, оставаясь на вид полностью исправными. Изучите эти четыре признака.

1. Уверенное, но неверное. Вывод приходит плавным, отформатированным и полным уверенности, но он просто лжёт. Уверенность в подаче не говорит ничего о правильности. Неправильный и правильный ответ выглядят одинаково отшлифованными.

2. Устаревшие или предвзятые данные. Система рассуждает на основе того, что ей было подано. Если эти данные устарели, не репрезентативны или искажены, вывод наследует этот дефект: цены за прошлый год, набор для обучения, в котором недостаточно представлена какая-то группа, лента, которая показывает вам только одну сторону.

3. Непонимание намерения. Вы попросили об одном, а система решила близкую, но иную задачу. Вы хотели резюме, сохраняющее контраргументы, а получили резюме, которое их сгладilo. Она ответила на вопрос, который вы не задавали.

4. Оптимизация не того. Система максимизирует ровно то, что ей велели, а это не всегда то, чего вы хотели. Ленте, которой велели максимизировать время просмотра, выгодно удерживать вас в скроллинге, а не информировать вас. Это самый тонкий сбой: система достигает своей цели, но подводит вас.

Признак для всех четырёх — одна и та же дисциплина: никогда не позволяйте плавной подаче заменять проверку.

Поймать ошибку

Ваш ход: Поймать правдоподобный вывод

Инструмент для составления бюджета предоставляет вам следующую сводку за прошлый месяц:

'Общие расходы: 1200 долларов за 30 дней. Ваш средний дневной расход составил около 75 долларов в день. Расходы выглядят хорошо контролируемыми.'

Инструмент звучит уверенно, а формат выглядит аккуратно.

Три способа проверки

Подберите проверку к ставкам

Проверка требует времени, поэтому масштабируйте её в зависимости от того, что поставлено на кон. Избыточная проверка плейлиста — трата жизни; недостаточная проверка медицинского графика ставит под угрозу чью-то жизнь. Три инструмента, от самого дешевого к самому тщательному.

Селективная проверка. Случайно отберите несколько результатов и внимательно их изучите. Подходит для работы с низким уровнем риска и большим объемом: если три из трех проверенных элементов выглядят правильно, вы можете распространить ограниченное доверие на остальные.

Контрольная проверка по независимому источнику. Подтвердите результат, сверив его с чем-то, что не разделяет данные или допущения системы: второй инструмент, официальный документ, человек, который знает. Независимость — вот в чем суть; две системы, опирающиеся на одни и те же плохие данные, могут согласовываться, будучи при этом обеими неверными.

Проверка на адекватность по известным фактам. Сопоставьте результат с фактами и приблизительными величинами, которым вы уже доверяете. Именно так вы поймали ошибку в бюджете: вы знали, что 1200 за 30 дней никак не могут дать 75. Это стоит почти ничего и позволяет выявить удивительно большое количество ошибок.

Правило: уровень верификации возрастает вместе со ставкой и необратимостью. Для тривиальных и обратимых действий достаточно беглого взгляда; для дорогостоящих и необратимых — каждый раз требуется независимая перекрёстная проверка.

Сколько проверять?

Ваш ход: две задачи, две проверки

Автоматический ассистент составляет для вас два документа:

- A. Текст другу с предложением встретиться в 7 вместо 6.

- B. Недельное расписание приёма лекарств для вашего пожилого бабушки/дедушки, с указанием дозировок и времени.

Ты выпускаешь — ты отвечаешь

«Система так сказала» — не оправдание

Вот правило, которое отличает профессионала от наблюдателя: человек, который выпускает результат, несёт за него ответственность. Когда вы отправляете, публикуете или действуете на основе этого, оно становится вашим. Система, которая помогла, — это инструмент, а инструменты не несут вины.

«Так сказал системный процесс» не работает как оправдание по простой причине: вы приняли два решения, которые система не могла принять за вас. Вы выбрали делегировать эту задачу, и вы выбрали, насколько тщательно проверять результат. Оба решения были за вами, поэтому и результат — тоже ваш.

Это не несправедливо по отношению к вам; именно это позволяет вам сохранять контроль. Если бы ответственность можно было переложить на инструмент, никто бы никогда ничего не проверял, и каждая ошибка оставалась бы без хозяина. Власть над результатом — это и цена, и награда за использование мощных инструментов.

Чья вина?

Ваш ход: групповой проект

Ваша команда использовала автоматизированный инструмент для вычисления показателей в отчёте. Одна цифра оказалась неверной, никто её не проверил, и команда потеряла баллы. Один из товарищей по команде пожимает плечами и говорит: «Инструмент дал нам это число, так что это не наша вина».

Держите руки в работе

Поддержание навыков и иллюзия компетентности

Одна опасность скрывается под всеми остальными. Если вы полностью делегируете навык, вы постепенно теряете способность проверять инструмент, который вас заменил. Вы не можете обнаружить ошибку в работе, которую больше не можете выполнить сами.

Наблюдение за тем, как инструмент что-то делает бегло, порождает иллюзию компетентности: кажется, что вы понимаете, потому что готовый результат выглядит легким и очевидным. Но распознавание правильного ответа, когда он вам предложен, — это не то же самое, что способность самостоятельно его создать или проверить. Ощущение понимания обгоняет реальный навык.

Защита требует осознанности: продолжайте выполнять достаточно базовых задач вручную, чтобы оставаться в тонусе. Иногда выполняйте арифметические вычисления сами. Иногда пишите черновик с нуля. Иногда читайте первоисточник сами. Вы не действуете неэффективно; вы поддерживаете именно ту способность, которая позволяет вам поймать инструмент, когда он дает сбой. Лучшие операторы автоматизированных систем всегда держат свои руки в работе.

Что вы возьмёте с собой?

Одна последняя мысль

Теперь у вас есть полная система: определяйте, что делегировать, исходя из значимости, обратимости и проверяемости; распознавайте четыре типа сбоев; проверяйте в соответствии с тем, что поставлено на кон; берите на себя ответственность за всё, что вы выпускаете; и держите собственные навыки в такой форме, чтобы вы могли контролировать инструмент.

Автоматизированные системы будут становиться всё более способными и более глубоко вплетаться в вашу жизнь. Это делает данную систему более ценной со временем, а не менее. Тот, кто умеет мудро делегировать и качественно проверять, обладает преимуществом, которое не имеет срока годности.