這篇是Daria Torres所寫的"Detection Difficulty: The Boardroom’s AI Governance Blind Spot"，2026年7月14日在Directors and Boards網站刊出。其中提到FMEA的概念與對應提問的問題和措施。
工程師長期仰賴失敗模式與效應分析(failure mode and effects analysis，亦即FMEA)預測複雜系統在失靈之前會如何崩潰。這個方法不會視風險為某一個層面的判斷。它會將每個可能的失敗模式評估分成三個問題：
*失敗有多嚴重？
*可能會如何發生？
*在造成傷害之前有多難偵測？
董事也正開始詢問FMEA前兩類的問題—嚴重性與發生率。他們會詢問這些失敗模式傷害程度可能會有多高，以及發生的可能性。但是大多數董事會針對第三個FMEA檢查面向，還沒有發展出同樣的紀律或本能：偵測難度。在AI治理的脈絡下，尤其是AI和人力資本交錯之處，這或許是董事會沒有提問、但後果最嚴重的問題。
因此產生的治理落差是實在的。ISS-Corporate在2026年說，僅22％的S&P 500 公司揭露董事會對AI之監督，僅24％有揭露AI架構及政策。The Conference Board說，S&P 500公司會揭露AI風險的比例，從2023年的12％升至2025年底的83％。換言之，越來越多公司會告訴投資人AI很重要，但是少數才會顯現董事會如何監督。
會應用FMEA角度的董事會，會要求管理階層明確確認AI的失敗模式。對每個失敗模式，管理階層要能夠說明的不只是嚴重度與發生可能性，還有公司如何及早偵測問題。有哪些資料會顯現問題？誰審視？頻率？向上報告的門檻？公司有審查供應商的模式嗎，還是只有演算法的產出？被拒絕的申請者、員工或經理人是否具備實質管道來挑戰AI影響的決定？
[失敗模式]AI招聘工具會產生有偏見的候選人名單。
[偵測問題]管理階層在被拒絕的申請人、監理機關和原告律師提出問題前，如何得知？
[相關控制]差異化影響力測試、選擇率審視、定期第三方查核、明文的人為審視以及候選人申訴管道。
[失敗模式]績效管理演算法增強了過去的偏見。
[偵測問題]公司關於角色、經理人、人口族群和營運單位，有跨時間地檢驗結果嗎？
[相關控制]長期性的偏移分析、人為審視異常的決定、不利影響分析，以及報導越權及例外狀況。
[失敗模式]AI代理在沒有適當授權下會對工作流程採取行動嗎？
[偵測問題]有什麼機制可預防AI代理越過已核准的權限，當發生此事時誰會警示？
[相關控制]許可限制、交易限制、查核日誌、責任分離、終止機制以及向上報告門檻。
對董事而言，平衡仰賴於及時的證據：使用了哪些工具、敏感資料流到哪、AI實現的決定如何測試，以及異常狀況何時會升級。若沒有透明度，董事會在速度與安全之間被迫選擇，沒有足夠資訊判斷是否彼此兼顧。
然而，更高層次的投入不應與技術投入混淆。董事不需要成為機器學習工程師，而需要堅持AI治理有包含檢驗架構。這代表要盤點已核准、未核准的AI使用案例；敏感資訊流的日誌紀錄和監控；定期偏見與偏移測試；供應商查核權；員工報導管道；記載人為審視；異常狀況報告；以及董事會層級能知道事件、可能發生的錯誤、否決以及未決議的限制。
FMEA的長期價值是：不會讓樂觀掩蓋了控制。當AI進入人力資本決定及每日公司工作流程時，董事應該不只詢問—管理階層是否具備AI政策，或有經核准工具的清單。影響更大的問題是—當AI產出董事會無法防衛的結果時，在外部人告訴董事之前，組織就能知悉、有證據以及具備向上報告的途徑。
沒有留言:
張貼留言