自動化偏誤
Automation Bias
什麼是自動化偏誤 (Automation Bias)？
自動化偏誤是一種認知偏誤，指的是人們過度依賴或信任自動化系統的傾向，即使有其他矛盾的資訊或憑藉自身經驗判斷系統可能出錯時，仍然會選擇相信機器的建議。
隨著科技發展，我們生活中充滿了各種自動化輔助工具（如導航、拼字檢查、演算法推薦）。這種偏誤讓我們的大腦進入一種「節能模式」，傾向於將思考和決策的責任外包給機器，因為我們普遍認為機器是客觀、精確且不會犯錯的。
疏漏之錯 (Errors of Omission)
當自動化系統「未能」偵測或警告一個問題時，人類操作員也因為過度信任系統而同樣未能發現它。
執行之錯 (Errors of Commission)
人類操作員盲目地執行了自動化系統提出的「錯誤」指令或建議。
我們將思考和決策的責任外包給機器，因為普遍認為機器是客觀、精確且不會犯錯的。
三種情境下的例子
1. 工作上的例子：履歷篩選系統
情境
一家大型企業的人資部門，使用一套AI履歷篩選系統（ATS）來處理數千封的應徵履歷。
系統的運作
該系統會根據設定的關鍵字（如「碩士學位」、「Python」、「專案管理」）和評分模型，自動篩選出「最符合」職位要求的應徵者，並淘汰掉不符合的。
人資主管的行為（自動化偏誤）
執行之錯： 系統將一份塞滿了關鍵字、但內容空洞的履歷評為高分。人資主管在面試時，感覺這位應徵者言之無物，與履歷描述不符。但他心想：「系統都說他分數很高，應該是我問的問題不對，或者他只是比較緊張。」他壓抑了自己的專業直覺，仍然將這位不適合的候選人推薦給用人單位。
疏漏之錯： 另一位非常有經驗的資深工程師，因為畢業於早期，其履歷的寫法不符合現代AI系統的關鍵字偏好，而被系統直接淘汰。人資主管完全信任系統的篩選結果，從未手動去檢視那些被標記為「不合格」的履歷，因此錯失了一位頂尖人才。
自動化偏誤分析
這位人資主管將決策權過度下放給了自動化系統。他不再將系統視為「輔助工具」，而是當成了「最終裁決者」，放棄了自己作為專業人士的判斷力和責任。
分析：過度信任系統導致專業判斷力的放棄。
2. 個人生活上的例子：GPS導航
情境
一個人開車前往一個不熟悉的目的地，全程依賴手機的GPS導航。
GPS的指令
導航系統在一個複雜的路口，指示駕駛「向右轉進入前方巷弄」。
駕駛的反應（自動化偏誤）
駕駛的肉眼和常識判斷，那條巷子看起來非常狹窄，而且光線昏暗，不像是一條正常的行車路線。他心裡嘀咕：「這條路看起來怪怪的...」但隨後，他的下一個念頭是：「不過，Google Map應該不會錯吧？它可能有最新的即時路況，或者知道這是一條捷徑。」於是，他盲目地跟從了導航的指示。
自動化偏誤分析
這是一個典型的「執行之錯」。駕駛放棄了自己最直接、最可靠的感官資訊和常識判斷，而選擇無條件地信任一個自動化系統。結果，他可能會開進一條死胡同、單行道，或者根本無法通行的窄巷，最終陷入進退兩難的窘境。他對科技的過度信任，壓倒了他自己的判斷力。
分析：盲目信任導航系統忽視了直觀的危險信號。
3. 人際關係上的例子：依賴社群媒體演算法
情境
小美最近剛和交往多年的男友分手，心情低落。她在社群媒體上看到朋友們都在分享吃喝玩樂、出國旅遊的動態。
演算法的運作
社群媒體的演算法，旨在透過展示最吸引眼球、互動率最高的內容來留住使用者。這些內容通常是人們生活中最光鮮亮麗的「精選時刻」。
小美的感受（自動化偏誤）
她不斷地滑著手機，看到演算法推薦給她的，全都是朋友們幸福洋溢的貼文。她開始想：「為什麼演算法一直推薦這些給我看？它是不是在告訴我，全世界只有我一個人這麼悲慘？大家都過得那麼好，只有我的生活一團糟。連這個系統都知道，我的生活是『不正常的』，而他們的生活才是『正常的』。」
自動化偏誤分析
小美在這裡犯了一種更微妙的自動化偏誤。
將演算法人格化： 她錯誤地將一個中性的、以流量為導向的自動化推薦系統，解讀為一個具有判斷能力的「權威」，認為它正在對她的生活做出「評價」。
信任系統呈現的世界： 她盲目地相信了演算法呈現給她的、經過高度美化的世界是「真實且普遍的」，並以此作為參照點來貶低自己的處境。她沒有意識到，這個系統只是在「餵養」它認為最能吸引她注意力的內容，而不是在反映客觀現實。她讓一個自動化系統，定義了她對「正常」人際關係和幸福的看法。
分析：將中性演算法誤認為權威判斷影響自我認知。
如何應對自動化偏誤？
保持情境意識
永遠不要關掉你的大腦。將自動化系統的建議，視為眾多資訊來源之一，並與你親眼所見、親耳所聞的現實進行交叉比對。
了解系統的局限性
認知到任何自動化系統都有其設計上的限制、規則和可能出錯的地方。它是一個「輔助」工具，而非「替代」你思考的上帝。
賦予自己最終決定權
始終記住，最終為決策負責的是「你」，而不是那台機器或那段程式碼。
練習健康的懷疑
對自動化系統的建議，保持與對待人類專家建議同等的、適度的懷疑精神。
自動化偏誤讓我們過度依賴系統而放棄獨立思考。 通過保持情境意識、了解系統局限性、維持決定權和練習健康懷疑，我們可以更好地與科技協作。