"Board Oversight of AI"這篇是2024年9月17日在Harvard Law School Forum on Corporate Governance刊載、由Tara K. Giunt與Lex Suvanto合寫的。內容相當多，我們就僅針對董事會需注意AI之處進行介紹。
AI被視為轉型工具，可能改變我們生活的每個面向。其影響範圍令人眼花繚亂，而公司還在努力判斷可參與AI革命到什麼程度，包括採用AI工具提高營運效率、創新和績效。
雖然是變革性的，但是AI也會引發新的法律、監理及財務風險，因為現實世界令人警示的案例越來越多。值得注意的是，最近對Fortune 500公司年報的調查顯示，有281家公司視AI為潛在風險因素，較前一年增加473.5%。
對公司董事會而言，瞭解與監督AI快速成為關鍵責任。有鑑於公司各部門都會使用AI（包括財務、法務、製造、行銷供應鏈），還有演算法決定的「黑箱性」，故AI對有效的董事會監督而言，是一項特別的挑戰。此外，AI作為一種技術，正快速地演變—比網際網路還快，法律與監理制度都還在追趕。這就讓董事會要更頻繁、深入地與管理階層就此討論，以瞭解AI對其公司的機會與風險。這也代表是董事會、個別董事新的法律風險。在此脈絡下，董事會或許會不想要跨越治理到管理上，違反迄今都沒違背的「關心、但不插手」(Noses In, Fingers Out)的原則。
本文就是要探索處理AI風險的法律和監理措施，以及董事會對「關鍵」風險監督之發展。作者會討論如何維持「關心、但不插手」此監督方法之考量，最後會建議：董事會可如何提供AI相關風險的有效監督，同時支持和引導管理階層。
在過去幾十年，「關心、但不插手」的方法是描述，有效能的董事會如何與管理階層合作，瞭解公司營運時的關鍵風險（Noses In）、同時不插手營運管理事宜（Fingers Out）。董事會的責任是要提出有洞察力的問題，並將風險整合到其決策裡，而管理階層是負責履行公司營運事宜—由董事會訂出高層方針和指引。
董事核心的職責是注意義務（及其衍生）與監督義務。監督義務最早起於1996年Caremark案件所建立的原則，在德拉瓦法律裡，董事若未能真誠地努力監督公司營運和遵守法律，就會違反其注意義務。在Caremark標準下，原告須證明董事未落實公司治理資訊和報導系統，或未能適當監控、監督管理階層，而無法讓董事會知悉需要他們注意的風險或問題。最近有幾起關於Caremark原則之訴訟案，進一步定義了標準，並顯示法院想要就未識明「重大」風險，要求董事負起責任。
每個進入企業界的新科技，都會引發這樣的問題：董事受託義務會如何依企業營運之發展及其相關風險而演進？比如，德拉瓦法院審視了在Caremark原則下控告董事會未適當監督網路風險的狀況。在Construction Industry Laborers Pension Fund一案，法院認為網路安全風險是線上軟體公司的關鍵之處，因為他們依賴客戶與其他客戶之間共享數位資訊存取權。
使用AI並將之納入企業營運裡也是，特別是越來越多人認識到，AI會對很多領域帶來巨大威脅，包括保密、歧視、減排以及運算法決策。比如，當公司對AI模型之依賴升高，模型所需的處理能力也會增加，若少了專門的監督，就會產生沒有預料到的碳足跡。另外，在招聘或投資決定時，未能落實AI應用程式之控制，會導致影響勞工權與金融責任的問題。如果沒有特別對AI之整合與使用特別制訂適當措施的話，每個風險都可能會讓董事暴露於巨大的法律責任。
有鑑於AI無所不在的特性，以及AI可能成為關鍵遵循風險，董事應該考慮以下幾點：
*關鍵的AI使用與風險：瞭解公司所使用最重要的AI系統，以及它們會如何整合進營運流程裡，用來訓練和運作此系統的資料性質、使用此系統相關的風險類型及內容，以及所有用來減緩這些風險之步驟。
*董事會與高階管理層之責任：將審視AI相關風險與減緩計畫納入會議議程內，並專就監理遵循與風險減緩指派管理階層責任。
*遵循架構：瞭解應用的法律和監理制度，確保AI遵循與報導結構會強化董事會監督，這或許包括構成AI道德委員會、任命AI長、定期評估AI特有的風險並監控，以及發展AI為主的政策、程序和指引資料。
*重大的AI事件：確保董事會充分、及時知悉任何重大AI事故，還有公司對此事故之因應與後續影響。
*教育與持續學習：發展與落實AI技術進修計畫，還有其對公司營運各面向之影響，並追蹤進修要求的遵循狀況。
對董事會而言，最重要的是採取積極措施以履行其監督責任。董事必須優先重視於瞭解AI的潛在風險和效益、落實全面性遵循架構，並確保管理階層為AI相關決定負起責任。董事會必須小心以對，以維持其監督上的重要角色，但切莫無意間插手實際管理。
資料來源：https://corpgov.law.harvard.edu/2024/09/17/board-oversight-of-ai/
沒有留言:
張貼留言