天天熱門:Team8 CISO Village發布《CISO指南：GenAI風險管理》

Team8 CISO Village出品

無論是 ChatGPT、Midjourney、Copilot還是其他，Generative AI已經并將對所有行業和企業產生深遠影響。

在此背景下，Team8與我們的CISO Village社區合作，為CISO準備了一份指南，用于評估 Generative AI和ChatGPT的企業風險和機遇。

(相關資料圖)

盡管益處多多，安全主管的擔憂正在增加。雖然許多CISO感到廣泛啟用GenAI的壓力，但他們明白不加選擇地這樣做可能會帶來廣泛的風險。就像最初引入的互聯網、云、智能手機和社交媒體一樣，我們發現自己落后于技術采用曲線，并面臨成為業務推動者的機會。

事實上，這份報告得出的結論是，與GenAI相關的風險是可以管理的。

CISO提出的關鍵問題：誰在我的組織中使用該技術，目的是什么？員工與GenAI交互時如何保護企業信息（數據）？如何管理底層技術的安全風險？我如何平衡安全權衡與技術提供的價值？

雖然GenAI的許多固有風險存在于任何云或基于AI/ML的技術中，并且應該由現有政策涵蓋，但需要假設GenAI被廣泛采用的新政策，包括非技術人員。

在本文中，我們討論了這項新技術帶來的各種企業風險、威脅和影響，我們探討了威脅建模、制定政策時的考慮因素、與內部利益相關者（如工程和法律團隊）的互動，以及其他相關方面。

作為CISO社區，我們面臨著一個歷史性的機遇，它也可以影響監管以及世界各地個人（包括我們組織的個人）的安全、隱私和安全。

最后，重要的是要注意安全社區繼續研究這個關鍵主題。隨著更多協作項目的形成和行業最佳實踐的記錄，我們的主題、發現和建議將由Team8和CISO Village進行更新和擴展。

報告要點

高管們，其中包括CISO，發現自己落后于技術采用曲線，而員工和業務部門正在迅速采用Generative AI（GenAI）技術。

CISO正在問的關鍵問題：誰在我的組織中使用該技術，目的是什么？當員工與GenAI交互時，我如何保護企業信息（數據）？我如何管理底層技術的安全風險？如何在安全性權衡與技術提供的價值之間取得平衡？

通過與相關利益相關者合作，為組織制定定制政策，可以管理與GenAI相關的風險。

盡管GenAI的許多固有風險存在于任何基于云或AI/ML的技術中，但需要新的政策來假設GenAI的廣泛采用，包括非技術人員的廣泛采用。

企業中與GenAI相關的最嚴重風險源于四個根本問題：

GenAI對內部運營和流程的影響；

信任第三方安全的必要性；

采用導致的法律和監管風險；

盡管數據泄露風險確實存在，但媒體對其進行了不必要的炒作。

可以通過應用以下策略來管理這些風險：

識別相關風險及其對組織的影響；

制定組織政策，說明如何以及誰可以使用這些工具，將上述風險降低到可接受的水平；

根據提供給客戶的安全性和政策可定制性，選擇合適的GenAI提供商，例如選擇退出和數據保留；

在企業控制下審查潛在的內部替代方案。

關于Team8 CISO Village

這是一個由來自世界領先企業的CISO組成的社區。主要重點是促進世界上最著名的公司之間的合作，目的是分享信息和想法，就行業和技術趨勢和需求進行深入討論，并為各方創造價值和商業機會。