這篇是在2024年4月29日在Lockton刊出的文章"AI risks: what directors and officers need to know"。探討的是董事責任險,足見現在董事責任的範圍越來越大。以下分享部分要點。
關於AI與AI漂洗等風險的責任,可能落在長字輩主管身上:不僅是某些人相信,董事與主管(D&O)要負責管理AI之落實,也有些人相信,他們必須知悉這些工具帶來的風險,並採取措施減少潛在的傷害。關於後者,也有助於教育董事與主管 (D&O)責任險公司,讓他們知道董事會層級如何瞭解及管理特定的AI風險。
因AI治理流程不佳、或AI技術失利以及不實報導而引發的訴訟,可能會以違反D&O責任之形式提出控告。此類的控告可能會使公司名譽受傷,並造成D&O的集體訴訟。
對D&O而言,關鍵的AI風險包括:
*法律責任—AI在公司決定上扮演更重要的角色,包括未揭露AI之使用、或其風險揭露不當。
*過失控告—包括被控歧視、偏見、侵犯隱私,還有對因AI失利而蒙受損失的受害者進行救濟。
*產品的法律責任/違反契約的控告—對於會引發損傷的AI產品,沒有確保毫無缺陷。
*報導不實的控告—若AI被用來產出報告,比如財務揭露,則董事或許會因報導不實或不正確,而負擔個人責任。
*競爭上的控告—若使用AI而針對價格敏感證券的交易提供建議,或用作公司販售產品或服務之價格設定,則董事會須確認,AI沒有依賴內部資訊、或以反競爭的方式與競爭者共同壟斷價格。
*保險風險—若企業因AI失利而蒙受損失、且未具備適當的保險,則這會引發訴訟,即董事可能會因沒有安排適當保險範圍而違反職責,進而要負擔法律責任。
儘管有這些挑戰,但AI是可以管理的風險。組織必須制定最佳實務並讓治理、遵循協議及法律架構跟上最新的AI技術發展。董事與主管的可能考慮包括:
*在採行新技術時,應該有什麼樣的決策流程?
*有鑑於這個投資不便宜,對AI應投入多少資本才合適?
*公司會如何追蹤AI之使用及所有帶動的成本效益?
*客戶對AI及自動化之變化,態度為何?
*有適當的網路安全措施保護AI相關的漏洞嗎?
*有透明程序回應AI問題和錯誤嗎?
*員工在使用和管理AI上,有受到適當的訓練嗎?以及,他們有獲得必要的資源以有效執行嗎?
*有購買了適當的保險範圍,以保護AI有關的損失嗎?
董事會在與內外部法律顧問諮詢後,或許要考慮制定一個AI道德委員會,以徵詢關於AI工具之落實與管理。此委員會或許亦能協助監控,關於AI方面的新政策與法律。若企業沒有內部專家發展、使用和維護AI,則或許要透過第三方來做。AI道德委員會或許也能夠討論AI偏見、智慧財產權、網路風險及資料保密的管理流程。
資料來源:https://global.lockton.com/gb/en/news-insights/ai-risks-what-directors-and-officers-need-to-know
沒有留言:
張貼留言