對於人工智慧(artificial intelligence，AI)與董事會之間關係的探討，我們會持續列為一個要點來關心。其中除了仍是董事受託義務的範圍，還包括現在都想不到的可能：比如按AI產生的資料與預測做決定而出問題，董事該怎麼對結果、對過程負責？可主張此經營判斷不應有後見之明嗎？介紹這一篇由Holly J. Gregory所寫、2023年10月7日刊載於Harvard Law School Forum on Corporate Governance的"AI and the Role of the Board of Directors"。內容非常多，在此分成兩部分，第一部份為：序言、協助董事會監督公司AI相關活動三種方法的前兩種「視為公司策略與風險」及「考慮AI活動的影響」；第二部分為協助董事會監督公司AI相關活動三種方法的第三種「監督AI相關的遵循與控制」，還有董事會的「實務要點」。本篇為第一部份。
作為轉型科技，AI會打亂整個產業、帶動新的經營機會，也會給公司帶來新風險。董事會及其顧問因此需要考慮：
*公司及競爭對手現在如何使用AI？
*AI會如何擾亂公司的業務及產業？
*與AI產品和服務有關的策略意義及風險
*對公司及其他利害關係人使用AI的影響
*遵循法律、監理與道德義務的意義
*使用AI與相關政策和控制的治理意義
董事會的監督義務會延伸到AI使用上，這跟對內部控制與政策有受託的心態和想法，一樣有必要。董事必須瞭解AI對公司及自身義務、機會與風險的影響，並使用對其他管理、遵循、風險及揭露主題同樣的監督方法。
這一篇文章是要說明：
協助董事會監督公司AI相關活動的三部分方法：
一、將AI視為公司策略與風險的一個問題；
二、考慮AI活動對員工、客戶與其他利害關係人的影響，還有對環境；
三、監督公司在AI方面的法規遵循，並發展相關政策、資訊系統及內部控制。
另外還有 四、董事及其顧問對AI應考慮的實務要點及問題。
一、將AI視為公司策略與風險
董事會與公司經理人需要評估AI對公司策略與風險之影響，特別是要考慮：
*目前如何使用AI，以支持創新與研發、強化客戶體驗、管理供應鏈、降低風險，或其他強化效率及降低成本的作為。
*AI可能如何改變產業及企業。
*AI會帶來、但尚未被發現的策略機會
*相關的營運、財務、遵循與名譽風險
董事會應該與管理階層一起探討，如何最佳地使用AI來協助達成營運目標，並有進一步的機會來運用AI。此考量應立基於：AI未來可能會如何擾亂產業、對當前營運模型的意義，以及公司所需的改變，以便透過AI掌握住機會，透過創新與創造新的營運模型和獲利來源，以作為公司的競爭優勢。
除了為競爭優勢帶來機會。AI也可能會創造與管理風險。在風險創造方面，AI系統因為高度依賴於資料，故在資料、演算法（或兩者加起來）都會有風險，這就會導致錯誤或意想不到的結果。而在管理風險這一面，應用AI可協助找出與減少風險。
除了對各類AI相關風險分類，NIST AI Risk Management Framework提出了四個特殊功能—治理、勘測(mapping)、衡量與管理—協助組織處理AI風險。其中「治理」功能是關於培育與落實風險管理文化，並適用於組織所有階段的風險管理。此功能是針對以下事項整理出一些類別：
*關於勘測、衡量與管理AI風險的政策、流程、程序與實務能到位，而且是透明而有效落實的。
*負責結構確保授權給合適的團隊與個人、能夠負責，並對勘測、衡量與管理AI風險進行訓練。
*在勘測、衡量與管理AI風險上重視工作場所的多元、平等、共融，並且有可接觸的流程。
*組織團隊致力於打造會考量和溝通AI風險的文化。
*具備能與重要AI從業者有健全互動的流程。
*有政策與流程，可處理從第三方軟體、資料或其他供應鏈問題來的AI風險及效益。
二、考慮AI活動的影響
董事會與經營團隊需要考慮公司負責任地使用AI，以及對員工、客戶、其他利害關係人與環境的影響。其考慮應基於避免與減少意想不到的結果，包括使用經董事會或適合的功能性委員會來監督政策及內控。
董事會應考慮：公司對AI之使用會如何影響到員工及人才管道，員工是否會受到訓練，讓他們以善用自身技能、減少AI風險的方式來使用AI，還有，應落實什麼類別的政策，以鼓勵員工對經過核准的案例上適當地使用AI—特別是受高度管制或高風險的產業，比如醫療照顧、金融服務，或者是在做招聘與晉升決定時。
董事會應該要瞭解，公司在什麼目的下使用AI、以及對這些使用有什麼政策。將AI用到就業相關的決定時可能要遵守規定，而這些領域的規定可能會擴大。
董事會也應該瞭解，客戶和供應商怎麼使用AI的，以及對環境的影響。已經有許多產業在使用AI了，比如汽車業、電子商務、娛樂業、金融服務、醫療照顧、保險、物流、製造、行銷、零售與運輸業。董事會或許不瞭解他們公司、或產業中其他公司使怎麼用AI與客戶、供應商互動的，而這些運用涉及蒐集資料的程度，還有對隱私的影響以及對偏見的相關憂慮。此外，董事會可能不知道對環境的影響，比如訓練演算法找出可靠的模型，而這可能會需要大量能源來分析上百萬筆資料。
資料來源：https://corpgov.law.harvard.edu/2023/10/07/ai-and-the-role-of-the-board-of-directors/
沒有留言:
張貼留言