(1)歐盟通過人工智慧法意味董事會必須對人工智慧監理做出反應
如果公司董事會尚未準備好，他們將需要更仔細檢視其如何使用人工智慧(AI)，因為歐盟本週通過了世界上第一個監管此革命性技術的重大嘗試。雖然美國監管AI的立法有限，歐盟此舉可能迅速啟動監管此技術的的各項措施—使得董事會更加留意他們現在如何使用AI以及未來可以如何使用它的這件事變得要緊。
歐盟人工智慧法(EU AI Act，以下簡稱「該法」)是為了AI使用所制定的第一個標準。該法禁止該技術的某些用途，並將其他用途分類為高、中與低風險。根據CNN的報告，該立法禁止人工智慧做以下使用：
*使用生物辨識工具來猜測某人的種族、性取向或政治立場；
*使用於社會信用評分系統；
*使用於自動化特徵分析系統以預測一個人未來犯罪的可能性；與
*作為解讀學校或工作場所人們情緒的手段。
AI在教育、聘僱和取得政府服務方面的使用被歸類為「高風險」，並預期會接受來自監理機關更嚴格的審查。違反該法者會處以3800萬美元或該公司全球營收7％的罰款。歐盟27個成員國的法律預期會在未來兩年內全面生效。
正在開發使用AI重大商業倡議的公司董事會成員可能需要考慮：：
AI監管將會持續演進，迫使公司預期在AI的使用上將受到限制。當公司持續發現新穎及創新的AI使用方式，就會持續努力來監管AI使用以避免該技術濫用。最佳治理實務要求董事會考慮關於公司營運計畫最糟的情況，因此董事或許必須考慮假設他們公司如何使用AI計畫受到禁止時要怎麼辦。何為該技術的其他用途可以刺激公司獲利？我們在使用上可以多有彈性？公司是否應該與監理機關議合，並在該技術某些使用的倡議發聲？隨著AI監理持續演變，可能需要提出這些不同問題。
目前公司在歐盟27個成員國是否遵循AI標準？大多數公司都嘗試使用AI來增進生產力與效率。進行一次查核來精準判定公司如何使用AI以及它們是否沒有違反最初歐盟AI法是必要的，特別是如果公司目前在歐盟區運作。就像任何其他新的立法一樣，董事會必須確保公司如今遵循法規，並具備相關程序來預防未來的違規行為。不遵守法規的處罰很重。
董事會與管理階層已經召集一個委員會來評估美國的AI法規可能的樣貌嗎？既然歐盟已制定了法規標準，合理預期美國會以某種方式採行該法其中許多規定。公司董事會可能想指派關鍵經理人隨時了解美國監管AI之措施，以利公司對其事業運作做出適當調整。
資料來源：https://boardmember.com/passage-of-the-e-u-ai-act-means-boards-must-respond-to-ai-regulation/
(2)歐盟發佈全面性AI法規架構，平衡創新與道德保護
這篇是由Lindia Perska所寫、2024年4月18日在Womble Bond Dickinson刊出的"EU Launches Comprehensive AI Regulation Framework to Balance Innovation and Ethical Protections"。主要是分享ThousandGuards的資安長顧問及創辦人Juanjo Martínez看待歐盟新實施的AI法的觀點。以下分享一些內容。
在這項法規裡，AI風險被分為四個層次：不可接受、高度、有限及最低。對這些領域，都有要求公司要基於風險程度須實行的相應控制。AI系統可能會侵犯基本權利，比如社會評分或操弄人類行為，在此法理，這都是被嚴格禁止的。
沒有遵守這項法規，可能會有重大處罰，比如罰款3000萬歐元、或其全球銷售額的6％。
關鍵的挑戰與爭議有：
1.遵循成本：小公司與新創公司或許在遵守嚴格法規上有財務與後勤方面的需求，這可能會扼殺創新、阻礙進入產業。
2.國際標準：歐盟的法規如何與其他國際AI治理規定一致，是一項挑戰，這可能會引發全球科技市場的碎片化。
3.AI的變動性質：由於AI科技變化快速，故法規也要快速調整，對立法者而言這就是一項挑戰。
4.執法：法規或許難以適當執行，特別是如何區隔—對應風險水準的AI系統及確保整個歐盟都能一致性的推行法律。
優勢：
1.保護基本權利：藉由強調保護道德，法律的目標就是保障公民的隱私、安全與不受歧視。
2.法律的不確定性：此架構或許可對企業提供更可預測的環境，以明確的界線來鼓勵負責任的創新。
3.消費者信任：藉由確保基本權利之安全並受到尊重，法規或許會提高消費者對AI科技的信任。
不利之處：
1.扼殺創新：嚴格的法規可能會阻礙AI的積極發展，或許會讓歐盟在全球科技競爭上居於劣勢。
2.全球不一致：各區域之間不一樣的法律標準，可能會造成貿易障礙，並讓AI產業的合作變得複雜。
3.落實：在理解和落實監理架構內複雜的AI系統上，企業和監理機關可能會面對挑戰。
(3)朝向全球治理：AI歐洲監管AI的進步
Paloma Villa Mateos與Pablo Barrionuevo在2024年3月21日有一篇"Towards Global Governance: Progress on AI Regulation in Europe"。來介紹一下一些要點。
Council of Europe(CoE)在人工智慧(AI)法規方面的最新進展，象徵AI治理的新階段。這些發展顯示了，歐洲對於如何確保道德作法、人權及發展和部署AI透明度的願景，以及為此新科技有負責任及全面的治理，打下基礎。
3月14日，CoE的人工智慧委員會(CAI)提交了最終版的人工智慧、人權、民主與法治精神公約(Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law)草案。雖然共識版本對私部門仍不具約束力，但會要求政府評估：公司使用AI帶來的潛在風險。比如，最新草案很大程度交由各國來決定：他們如何確保私部門符合公約之規定。
共識版本排除了：涉及國家安全或研究活動範疇的AI系統發展和使用。然而，這些系統必須包含必要的措施，以確保遵循國際法。
該公約毫無疑問地是一個全球性的工具，對全世界開放，並與其他組織（比如OECD、UNESCO）既有的原則和行為守則一致，另外也符合歐盟AI法。
在此脈絡下，自律在AI中扮演關鍵角色，因為制度跟不上創新的速度。公共和私人機構有責任要建立內部標準及監督流程，以確保AI系統以道德的方式設計及部署，尊重人權並避免可能的傷害。自律允許在科技進步時有更大的彈性與適應力，讓組織可跟上最新發展及AI領域的道德挑戰。
雖然實施AI法是重要的一步，但還只是細膩實行階段的開端而已，因為某些立法要求的複雜性應該讓公私兩部門間持續對話，特別是關於標準制定。此外，在2024年六月歐盟大選後，預期可能還會有額外的AI立法，以突顯持續強化與擴大AI科技監理環境的承諾。
(4)馬來西亞規劃AI治理與道德守則
2024年1月9日在Business Times上報導了馬來西亞近期對AI相關法規面的規劃：馬來西亞要提出一組關於人工智慧(AI)治理與道德守則，以因應AI業務影響力之擴大及接觸到新市場。
這個訊息公布的時機，正逢Nvidia 執行長黃仁勳與總理Datuk Seri Anwar Ibrahim會面之際。同一個月中，政府也與全球科技巨擘Google合作，要促進在數位經濟成長中馬來西亞和當地公司的機會。
科學、科技與創新部長鄭立慷(Chang Lih Kang)說，最終目標是提出AI法規的計畫，首先會從AI治理與道德守則著手。
其他國家（像英國與美國）也正在制定治理AI的法規，藉此從科技獲益、同時又減少風險。
在2021年，歐盟提出要監管AI的相關主張，是處理此科技帶來挑戰的第一步，雖然他們是先行者，但相關法規預期要到2025年以後才會實施。
鄭部長說，「政府正緊密關注全世界對AI法規之採行。歐盟成員國要根據各國狀況進行調整及採行相關行動，還要花一些時間。」
The National Tech Association of Malaysia(PIKOM)的執行長Ong Kian Yew說，此規定會鼓勵朝向負責任發展的創新，因為已經有指導方針了。
資料保密、公平及當責，是AI監管上少數標準的一些要素。
「然而，有一定程度監理介入來處理特定應用所引發的潛在傷害，會允許彈性，並且避免讓低風險應用有不必要的負擔。」
Ong說，「法規應向業界說明，演算上對個人或群體的偏見、歧視，還有侵犯隱私都是不能被接受的。」
AI法規對企業的影響，端視AI所使用的產業及領域，會有額外的資源和基礎設施投資。
他說，企業需要在資源與專業上進行投資，以遵守新法規，這包含了發展健全的AI治理架構、進行風險評估，以及落實透明度與當責性措施。
Ong說，企業需要發展及部署公平、透明與負責的AI系統，此或許在設計與發展階段就要納入道德考量、使用科技來減少偏見，並確保AI決定的可解釋性。
由跨國市場研究及諮詢機構Ipsos Malaysia所做的一份調查發現：70％的馬來西亞人相信公司對AI之使用。
Ong 說，公眾也應該會投入討論與諮詢，以提升AI及其潛在效益和風險之意識。他說，這會有助於構成公眾的看法並為監理決定提供意見。
沒有留言:
張貼留言