近日，在中國人工(gōng)智能(néng)産業發展聯盟（AIIA）第十一次全運會(huì)上(shàng)，中國信通院發布大(dà)模型标準符合性驗證結果，華爲雲盤古憑借大(dà)模型安全解決方案——盤古安全護欄完成軟硬件、數據、模型、應用(yòng)等可信模塊測試，成爲業界首個在大(dà)模型可信領域獲得卓越級（5級）評分的大(dà)模型産品。
全新盤古安全護欄，信通院可信滿級認證
近年來(lái)，我國人工(gōng)智能(néng)産業在《“十四五”數字經濟發展規劃》《“十四五”國家信息化規劃》等政策引導下(xià)蓬勃發展。大(dà)規模預訓練模型作(zuò)爲人工(gōng)智能(néng)新基建的關鍵技術，在自(zì)然語言處理(lǐ)、計(jì)算(suàn)機視(shì)覺等領域取得顯著突破。然而，随着技術應用(yòng)深入發展而來(lái)的數據投毒、不當應用(yòng)等風(fēng)險也(yě)逐漸凸顯。
自(zì)2021年起，中國信通院開(kāi)始研究大(dà)規模預訓練模型标準，與多方共同建立技術和(hé)應用(yòng)标準體系，推動人工(gōng)智能(néng)發展。
在本次大(dà)模型标準符合性驗證中，華爲雲大(dà)模型安全解決方案覆蓋了(le)基礎設施、訓練數據、生成内容的端到(dào)端安全合規全場景，有效應對(duì)大(dà)模型數據治理(lǐ)、模型可信、内容合規等三大(dà)維度風(fēng)險，并以文(wén)本審核、Prompt攻擊檢測、AIGC鑒僞、個人隐私脫敏等新型可信能(néng)力，确保應用(yòng)中的可信可靠。
此外(wài)，在軟硬件和(hé)數據方面，盤古安全護欄保證了(le)基礎軟硬件的安全性、可靠性和(hé)兼容性，以采集、預處理(lǐ)和(hé)使用(yòng)控制實現(xiàn)數據可信性，并從(cóng)多角度構築數據可信能(néng)力，打造穩健、可控、合規且符合價值觀的應用(yòng)服務。
爲引導産業發展和(hé)規範行業自(zì)律，華爲雲還與中國信息通信研究院聯合其他(tā)相關單位共同開(kāi)展編制《大(dà)規模預訓練模型技術和(hé)應用(yòng)評估方法 第5部分：可信要求》，爲國家人工(gōng)智能(néng)産業的健康發展貢獻力量。
全新盤古安全護欄，築牢大(dà)模型新防線
大(dà)模型逐漸深入行業核心系統，成爲推動數字化轉型的關鍵力量，伴随而來(lái)的還有端到(dào)端的可信挑戰。盤古安全護欄，進一步強化了(le)大(dà)模型的全鏈路保障，基于華爲雲在盤古大(dà)模型實踐中積累的豐富經驗和(hé)技術優勢，開(kāi)放(fàng)兼容，能(néng)夠服務于多樣化的模型形态，助力企業實現(xiàn)大(dà)模型全鏈路合規。
華爲雲盤古安全護欄憑借四道(dào)防線，全面覆蓋大(dà)模型使用(yòng)的全生命周期，兼容開(kāi)源、三方大(dà)模型，爲企業用(yòng)戶提供最佳的大(dà)模型安全解決方案。
1.數據防護防線
通過數據脫敏、數據血緣、數據防毒等技術手段，從(cóng)預訓練模型的數據集，直至數據治理(lǐ)階段，全方位保障企業構建高(gāo)質量、安全合規的數據集，确保數據多樣性和(hé)公平性。
2.模型防護防線
針對(duì)模型訓練階段可能(néng)遭遇的數據投毒風(fēng)險，以及推理(lǐ)階段訓練數據、用(yòng)戶隐私信息洩露等風(fēng)險，采用(yòng)模型混淆、模型加密等先進技術，軟硬件結合，加密模型，有效保障企業大(dà)模型資産安全。
3.内容防護防線
通過Prompt攻擊檢測等新型防禦能(néng)力，實現(xiàn)對(duì)多種直接與間接攻擊手段的有效檢測，并通過對(duì)模型輸入輸出内容嚴格審核，嚴防生成有害或不當信息，有效應對(duì)新型安全風(fēng)險。
4.應用(yòng)防護防線
保護大(dà)模型在應用(yòng)插件場景下(xià)的安全可靠性，确保大(dà)模型在各類應用(yòng)場景中都能(néng)穩定、高(gāo)效地發揮作(zuò)用(yòng)。
據悉，盤古安全護欄四道(dào)防線的綜合攔截率超過90%，能(néng)夠爲企業大(dà)模型提供堅實的保障。