(1)SEC執法主任警告AI漂洗
最近聽說有類似漂綠的AI Washing一詞出現，形容這個新科技、新趨勢伴隨出來的問題。這篇是由C. Alex Bahn、Lillian Brown、Jenna El-Fakih、Alan J. Wilson、Jonathan Wolfman合寫、2024年4月24日在Wilmer Hale網站刊出的"SEC Enforcement Director Warns Against AI Washing"。
2024年4月15日，SEC的執法部主任Gurbir S. Grewal在遵循與執法會議上表示，關於人工智慧(AI)越來越普及相關的挑戰及潛在錯誤。
AI漂洗就是公司在毫無根據下表示，他們的AI使用與能力，以及AI對其業務的影響。Grewal主任指出，AI漂洗可能會誤導投資人、傷害消費者以及違反聯邦證券法。
Grewal主任的言論，立基於先前SEC其他人對AI漂洗的6看法—包括SEC的主席Gary Gensler 及公司財務部主任Erik Gerding。比如，在最近的演講裡，Gensler強調：證券法規也適用於AI。Gensler說，關於AI前景的主張應該要有合理基礎，且公司應揭露關於AI的特殊風險，而非只以樣版式的語言交代。同樣的Gerding強調，在AI揭露上需要有特殊性，包括需要對特定公司而言AI所指為何。
這些言論都清楚表示了SEC對AI的興趣，以及確保相關揭露要特別進行、對投資人要有用，以及不能有AI漂洗。當公司在審視未來的檔案及其他公開聲明時，應該仔細檢查對AI揭露。特別是，公司應確保關於AI的聲明是合理的，而且有仔細的研擬，以明確表示這是只是理想狀況、而非事實。否則，這些理想的聲明之後可能會被SEC、或其他私人提訴者視為錯誤、誤導性的聲明，而違反了聯邦證券法的法律責任。
比如，SEC上個月宣布了對兩個登記投資顧問公司提出和解控告，原因是他們對AI聲稱的用途有虛假與誤導性聲明。根據SEC的命令，其中一家顧問公司聲稱：「是第一個受監管的AI財務顧問」；另一家則聲稱「所蒐集的資料會讓我們的AI更聰明，藉此預測哪些公司和趨勢會蓬勃發展，讓你可領先其他人投資。」此和解控告造成了這兩間投資顧問公司支付了22.5萬至17.5萬之間的罰款。
關於個人法律責任，Grewal主任指出，他會傾向採用關於網路安全揭露失利後的個人責任。藉此，執法部會看此人實際上是否知情、或應該知道這些錯誤；這個人實際上有沒有做；還有將之與SEC在法規、規定內的標準進行比對。Grewal主任重申：以善意進行經營及採取合理措施避免錯誤的領導人，就不會面對到個人法律責任。雖然聲明提供了某些保證，但是個人法律責任，還要看在真實世界裡的具體事實會如何呈現。
(2)發現AI漂洗：公司會如何誇大AI
這篇是由Bernard Marr所寫、Forbes在2024年4月25日刊出的"Spotting AI Washing: How Companies Overhype Artificial Intelligence"。以下介紹一些作者點出來辨識誇大AI的方法。
基本上，AI漂洗涉及的是：公司以AI為名誇大其販售產品或服務之能力，以便看起來比實際上更複雜、創新及智慧。
會對其產品與服務作AI漂洗的行銷者，經常會：
*誇大其能力—說他們的AI模型及演算法比實際更強、更有用、更彈性。誤導了「智慧」一詞，事實上該軟體並未使用能學習合作決定的演算法，無法明確運用程式如此做。
*提供非常模糊的定義—並未具體說明哪些要素是「智慧的」，以及哪些是依賴傳統軟體方法或人工輸入。
*淡化涉及的人為輸入量—包括服務提供者這部分及使用者部分。
要發現公司是否欲AI漂洗時，需要對這些主張抱以懷疑態度。注意他們所使用的具體模型、技術或演算法，比如自然語言、資料處理、神經迴路以及深度學習。並注意「透明的」AI相關主張，在此公司會對所涉及的資料及演算法種類持開放態度。
注意那些看來不願、無法陳述其技術如何運作的公司。有時候，這些資訊會在個案研究、或公司網站公佈的白皮書看到。
如果你跟銷售代表交手，請他們說明：公司在資料和演算法上採取了哪些措施以避免偏見、或AI幻象。若他們對這些問題沒有解決方案，有可能他們根本沒有真正使用AI。
沒有留言:
張貼留言