[каталог, не первичка] По Wikipedia (снятие 2026-09-12, лонг-лист добытчика): «the tendency to depend excessively on automated systems which can lead to erroneous automated information overriding correct decisions» (снимок Wikipedia, строка «Automation bias», раздел задачи Decision / оттенок Association).
[каталог, не первичка] По задачной таксономии Dimara et al. (2020) через лонг-лист добытчика: «choices affected by their association with an automated system» (Decision / Association), ранг встречаемости в исходных списках — «#5 [169]» (по методике сводчика).
[факт — обзор прочитан живьём] Parasuraman, R. & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410 (далее PM10) — интегративный обзор эмпирических исследований automation bias и automation complacency с итоговой теоретической моделью. Определение (через Mosier & Skitka 1996): automation bias — результат использования решения автомата «"as a heuristic replacement for vigilant information seeking and processing"» (PM10, с. 391). Два типа ошибок: «An error of omission, whereby the user does not respond to a critical situation... The second type of error is a commission error... users follow the advice of the aid even though it is incorrect» (с. 391).
[каноническая демонстрация — дизайн, N, величина эффекта] «Mosier et al. (1992) studied pilot decision making in simulated engine fire situations... An automated electronic checklist was implemented that recommended that the pilot shut down the wrong engine... Mosier and colleagues found that 75% of pilots followed the wrong recommendation and neglected to check relevant information available from other indicators. In contrast, only 25% of pilots using a traditional paper checklist committed the same type of commission error» (с. 392–393) — 75% против 25%, действующие пилоты в тренажёре (не студенты).
[три причины эффекта — по обзору] «cognitive-miser hypothesis... perceived trust of humans in automated aids as powerful agents with superior analysis capability... diffusion of responsibility» (с. 391–392).
[устойчивость эффекта — итоговый список обзора] «automation bias represents a robust phenomenon that (a) can be found in different settings, (b) occurs in both naive and expert (e.g., pilots) participants, (c) seems to depend on the LOA and the overall reliability of an aid, (d) cannot be prevented by training or explicit instructions to verify the recommendations of an aid, (e) seems to depend on how accountable users of an aid perceive themselves for overall performance, and (f) can affect decision making in individuals as well as in teams» (с. 397).
[про командный контроль как несостоявшееся противоядие] «The presence of a second crewmember did not affect the strength of automation bias for either omission or commission errors... neither of the training and instruction interventions had any effect on the strength of automation bias» (с. 397, по Skitka, Mosier, Burdick и др., N=48 опытных пилотов «glass cockpit» во втором исследовании) — второй пилот в кабине и тренинг эффект не снижают.
Каноническая демонстрация: Mosier et al. (1992), внутри обзора PM10 · симулированный пожар двигателя, автоматический электронный чек-лист рекомендует выключить не тот двигатель · действующие пилоты в тренажёре · величина — 75% (автоматический чек-лист) vs 25% (бумажный) допустили ошибку · источник — интегративный обзор живьём, Статус доказательности: 🟡 обзор прочитан живьём (интегративный обзор эмпирики + модель, не единичная первичка); первоисточник термина (Skitka, Mosier & Burdick 1999/2000) отдельно проектом не добыт — по выжимке добытчика Величина эффекта: 75% против 25% ошибок commission (Mosier et al. 1992, пилоты, тренажёр); эффект не снижается вторым членом экипажа и тренингом (N=48 опытных пилотов) · PM10, с. 392–393, 397 Ось карты — стадия: исполнение (решение выполняется через автоматизированную систему, ошибка проявляется на этапе исполнения/мониторинга) Координата «уровень»: индивид (пилот/оператор) — эффект также в командах, по итоговому пункту (f) обзора (с. 397) Координата «механизм/таксономия»: [не отнесено напрямую источником] — обзор описывает через cognitive-miser hypothesis (снижение когнитивных усилий) и diffusion of responsibility — ближе к эвристике/мотивационному механизму оси проекта, чем к «Association» каталога Dimara; прямого сопоставления обзор не делает Цена для управленца: количественно не в деньгах, но в частоте критических ошибок — 75% commission-ошибок у пилотов при неверной автоматической рекомендации против 25% без неё (PM10, с. 392–393); прямого денежного/временного эквивалента обзор не даёт Противоядия: [не найдено с измеренным эффектом] — сам обзор прямо фиксирует провал двух очевидных кандидатов: второй член экипажа и тренинг/инструкции не снижают силу эффекта (с. 397); ближайший формализованный ПР волны — ПР-13 Алгоритмы и структурированные процедуры, про использование алгоритмов вообще, не про надзор за ними Термин: en automation bias · ru «смещение к автоматизации» (устоявшегося перевода не проверено по изданию, дано по смыслу)
(б) Процедура. Честно: измеренного работающего противоядия нет — обзор PM10 прямо показывает провал двух очевидных кандидатов (второй член экипажа, тренинг/инструкции проверять рекомендации — с. 397); ближайшее формализованное — ПР-13 Алгоритмы и структурированные процедуры, про использование алгоритмов вообще, не про надзор за ними. (в) Среда. По PM10 эффект зависит «on the LOA [level of automation] and the overall reliability of an aid» (с. 397) — то есть системы с высокой автоматизацией и обычно высокой надёжностью повышают риск, потому что именно тогда бдительность оператора падает; эффект документирован и у новичков, и у экспертов (пилотов), в индивидуальных и командных решениях (с. 397). (г) Организация. [не найдено с измеренным эффектом] — PM10 прямо фиксирует, что ни присутствие второго члена экипажа, ни тренинг/явные инструкции проверять рекомендации силу эффекта не снижают (с. 397); распространять на другую организационную практику дальше этой находки — запрещено правилом узла-заглушки.
2026-09-12 2026-09-14 добавлен и сверен по интегративный обзор Parasuraman & Manzey (2010); статус повышен ⚪ → 🟡; по выжимке добытчика, оригинал сверен.
отвечено 0 из 3
1. Откуда в этом узле взята каноническая демонстрация automation bias, и что это за источник?
2. Что показала каноническая демонстрация Mosier et al. (1992, пилоты в тренажёре) по величине эффекта?
3. Снижают ли силу automation bias второй член экипажа и тренинг/явные инструкции проверять рекомендации, по данным обзора PM10?