流行的AIGC項(xiàng)目構(gòu)成了嚴(yán)重的安全威脅

【資料圖】

大型語言模型的進(jìn)步

AIGC如今越來越受歡迎，它使人們能夠以前所未有的方式創(chuàng)造、互動(dòng)和消費(fèi)內(nèi)容。隨著大型語言模型(例如GPT)的顯著進(jìn)步，AIGC系統(tǒng)現(xiàn)在擁有生成類似人類的文本、圖像甚至代碼的能力。集成了這些技術(shù)的開源項(xiàng)目的數(shù)量正在呈指數(shù)級(jí)增長。

例如，自從OpenAI公司七個(gè)月前首次推出ChatGPT以來，GitHub上現(xiàn)在有30000多個(gè)開源項(xiàng)目使用GPT-3.5系列的LLM。

盡管用戶對這些技術(shù)的需求激增，但GPT和LLM項(xiàng)目給使用它們的用戶帶來了各種安全風(fēng)險(xiǎn)，其中包括信任邊界風(fēng)險(xiǎn)、數(shù)據(jù)管理風(fēng)險(xiǎn)、固有模型風(fēng)險(xiǎn)以及一般安全問題。

AIGC安全風(fēng)險(xiǎn)

早期采用AIGC或任何新生技術(shù)(特別是LLM)，需要在整個(gè)軟件開發(fā)生命周期中進(jìn)行全面的風(fēng)險(xiǎn)評(píng)估并遵守穩(wěn)健的安全實(shí)踐。通過對安全風(fēng)險(xiǎn)給予應(yīng)有的關(guān)注，企業(yè)可以就是否以及如何采用AIGC解決方案做出明智的決定，同時(shí)堅(jiān)持最高標(biāo)準(zhǔn)的審查和保護(hù)。

Rezilion公司漏洞研究總監(jiān)Yotam Perkal表示：“AIGC的應(yīng)用越來越普遍，但它還不成熟，而且極易存在風(fēng)險(xiǎn)。除了固有的安全問題之外，個(gè)人和企業(yè)在沒有適當(dāng)安全護(hù)欄的情況下為這些AI模型提供了過度的訪問和授權(quán)。通過我們進(jìn)行的研究，旨在傳達(dá)使用不安全的AIGC和LLM的開源項(xiàng)目也具有較差的安全態(tài)勢。這些因素導(dǎo)致企業(yè)面臨重大風(fēng)險(xiǎn)。”

從安全教育到安全意識(shí)

Rezilion公司的研究團(tuán)隊(duì)調(diào)查了GitHub上50個(gè)最受歡迎的AIGC項(xiàng)目的安全狀況。該研究利用開源安全基金會(huì)記分卡客觀地評(píng)估了LLM開源生態(tài)系統(tǒng)，并強(qiáng)調(diào)了許多基于LLM的項(xiàng)目缺乏成熟度、基本安全最佳實(shí)踐的差距以及潛在的安全風(fēng)險(xiǎn)。

這一調(diào)查結(jié)果突出了人們的擔(dān)憂，揭示了得分較低的非常新的和受歡迎的項(xiàng)目：

非常受歡迎，平均有15909顆星。極度不成熟，平均時(shí)間為3.77個(gè)月。安全狀況非常差，平均得分為4.60分(滿分為10分)，以任何標(biāo)準(zhǔn)衡量都很低。例如，GitHub上最受歡迎的基于GPT的項(xiàng)目Auto-GPT，擁有超過13.8萬顆星，不到三個(gè)月的時(shí)間，記分卡得分為3.7。

對于AIGC系統(tǒng)的安全部署和操作，Rezilion公司建議采用以下最佳實(shí)踐和指南：教育團(tuán)隊(duì)了解采用任何新技術(shù)相關(guān)的風(fēng)險(xiǎn);評(píng)估和監(jiān)控與LLM和開源生態(tài)系統(tǒng)相關(guān)的安全風(fēng)險(xiǎn);實(shí)施穩(wěn)健的安全實(shí)踐，進(jìn)行徹底的風(fēng)險(xiǎn)評(píng)估，并培養(yǎng)安全意識(shí)的企業(yè)文化。

雖然在采用AIGC模型及其生態(tài)系統(tǒng)方面存在重大的安全挑戰(zhàn)，但AI技術(shù)具有強(qiáng)大的功能和能力，并且將會(huì)繼續(xù)發(fā)展下去。