隨著AI大模型的應(yīng)用范圍越來(lái)越廣，“生成式人工智能技術(shù)”在迅猛發(fā)展的同時(shí)，也帶來(lái)了技術(shù)安全風(fēng)險(xiǎn)。面對(duì)AI大模型引發(fā)的全新安全挑戰(zhàn)，行業(yè)應(yīng)從哪些方面進(jìn)行安全維護(hù)？北信源作為終端安全領(lǐng)軍企業(yè)，在28年的發(fā)展中積累了深厚的安全技術(shù)和豐富的安全服務(wù)經(jīng)驗(yàn)，不斷將自身的安全理念融入AI的研究與應(yīng)用中，并結(jié)合我國(guó)法律法規(guī)要求，針對(duì)法信法律基座大模型技術(shù)結(jié)構(gòu)特點(diǎn)，從供應(yīng)鏈安全風(fēng)險(xiǎn)和運(yùn)行安全風(fēng)險(xiǎn)兩個(gè)方面來(lái)識(shí)別其風(fēng)險(xiǎn)與安全威脅。
（一）供應(yīng)鏈安全解決方案
供應(yīng)鏈安全風(fēng)險(xiǎn)涉及多個(gè)環(huán)節(jié)包括硬件安全、軟件及AI組件安全、數(shù)據(jù)投毒等，還有模型后門(mén)、大模型幻覺(jué)、提示詞注入、對(duì)抗攻擊、價(jià)值觀倫理安全、大模型濫用等各類風(fēng)險(xiǎn)。
北信源結(jié)合多年網(wǎng)絡(luò)和數(shù)據(jù)安全的經(jīng)驗(yàn)，通過(guò)嚴(yán)格的供應(yīng)鏈審查、安全認(rèn)證、數(shù)據(jù)加密，以及外包管理，有效減少了供應(yīng)鏈安全風(fēng)險(xiǎn)對(duì)法信法律基座大模型的影響，并提出五大應(yīng)對(duì)措施：
（1）安全驗(yàn)證：對(duì)所有使用的軟件及AI組件進(jìn)行安全驗(yàn)證，使用安全掃描工具識(shí)別潛在的漏洞。在使用第三方模型或預(yù)訓(xùn)練模型前，進(jìn)行詳細(xì)的代碼審查和模型測(cè)試。
（2）對(duì)抗訓(xùn)練：在訓(xùn)練模型時(shí)，故意引入一些帶有噪聲或?qū)剐愿蓴_的輸入，訓(xùn)練模型在遇到這些擾動(dòng)時(shí)仍能正確預(yù)測(cè)。可以提升模型在面對(duì)攻擊或意外輸入時(shí)的穩(wěn)定性。
（3）數(shù)據(jù)增強(qiáng)：通過(guò)在訓(xùn)練過(guò)程中增加更多樣化的數(shù)據(jù)（例如改變角度、添加噪聲、調(diào)整亮度等），可以提高模型對(duì)現(xiàn)實(shí)世界中各種不同情況的適應(yīng)能力，減少其對(duì)特定輸入的依賴。
（4）魯棒性測(cè)試：定期對(duì)模型進(jìn)行魯棒性測(cè)試，包括模擬不同的惡意攻擊或異常數(shù)據(jù)輸入，查看模型是否能穩(wěn)定表現(xiàn)。可以找出模型在面對(duì)哪些情況時(shí)容易失敗，從而有針對(duì)性地改進(jìn)。
（5）輸入數(shù)據(jù)校驗(yàn)：在模型使用前，增加一層驗(yàn)證機(jī)制，檢查輸入數(shù)據(jù)是否被篡改或添加了異常信息。運(yùn)行安全風(fēng)險(xiǎn)包含了通信網(wǎng)絡(luò)安全、區(qū)域邊界安全、計(jì)算環(huán)境安全、平臺(tái)漏洞、數(shù)據(jù)泄露、隱私泄露、數(shù)據(jù)竊取與篡改等。
（二）運(yùn)行安全解決方案
運(yùn)行安全風(fēng)險(xiǎn)包含了通信網(wǎng)絡(luò)安全、區(qū)域邊界安全、計(jì)算環(huán)境安全、平臺(tái)漏洞、數(shù)據(jù)泄露、隱私泄露、數(shù)據(jù)竊取與篡改等。
基于等級(jí)保護(hù)構(gòu)建“一個(gè)中心（安全管理中心）、三重防護(hù)（安全通信網(wǎng)絡(luò)、安全區(qū)域邊界、安全計(jì)算環(huán)境）”的縱深安全防護(hù)體系。并增加了大模型業(yè)務(wù)特有的安全防護(hù)保障能力，應(yīng)對(duì)措施包含以下六個(gè)方面：
（1）安全開(kāi)發(fā)和代碼審查：在AI系統(tǒng)開(kāi)發(fā)過(guò)程中，采用嚴(yán)格的安全開(kāi)發(fā)流程，確保每一步都經(jīng)過(guò)安全性驗(yàn)證；定期進(jìn)行代碼審查和安全測(cè)試，識(shí)別并修復(fù)潛在漏洞和后門(mén)。
（2）模型驗(yàn)證和測(cè)試：使用防后門(mén)檢測(cè)工具和對(duì)抗性測(cè)試，對(duì)AI模型進(jìn)行全面的安全性評(píng)估，確保模型未被植入惡意后門(mén)。
（3）強(qiáng)化訪問(wèn)控制：通過(guò)部署AI防火墻，實(shí)施嚴(yán)格的訪問(wèn)控制策略，限制只有經(jīng)過(guò)授權(quán)的人員才能訪問(wèn)和修改AI系統(tǒng)的核心代碼和模型。
（4）防篡改機(jī)制：使用防篡改技術(shù)保護(hù)模型的完整性，確保模型在使用過(guò)程中不會(huì)被未經(jīng)授權(quán)的修改或注入惡意代碼。
（5）模型更新和監(jiān)控：使用AI漏洞探測(cè)系統(tǒng)定期更新AI模型和系統(tǒng)，修補(bǔ)已知漏洞，并對(duì)模型的行為進(jìn)行持續(xù)監(jiān)控，識(shí)別任何潛在的異?；顒?dòng)。
（6）輸出后驗(yàn)證：使用信源密信系統(tǒng)和密信AI能力安全平臺(tái)，對(duì)模型的輸出進(jìn)行驗(yàn)證，向用戶提示模型的輸出可能不完全準(zhǔn)確，提醒用戶進(jìn)行核實(shí)，保障最終輸出環(huán)節(jié)的驗(yàn)證。
隨著時(shí)代的發(fā)展，AI大模型的應(yīng)用范圍越來(lái)越廣，在使用過(guò)程中，我們應(yīng)嚴(yán)格遵循法律法規(guī)，確保其安全性與合規(guī)性，共同營(yíng)造一個(gè)健康、有序、可持續(xù)的 AI發(fā)展環(huán)境，共迎AI時(shí)代的機(jī)遇與挑戰(zhàn)！未來(lái)北信源仍將不斷創(chuàng)新研發(fā)，積極探索“AI+安全”解決方案，幫助用戶更安全地享受AI技術(shù)帶來(lái)的便捷和高效。
彰顯綜合實(shí)力 北信源位列《網(wǎng)絡(luò)安全企業(yè)100強(qiáng)》前六強(qiáng)
《2024年中國(guó)數(shù)據(jù)安全企業(yè)全景圖》正式發(fā)布 北信源強(qiáng)勢(shì)入榜
