專家解讀 | 框架重磅發(fā)布，加快構(gòu)建我國人工智能安全治理格局
2024-09-19 13:44:30
dzq
6
當(dāng)前，以大模型為代表的人工智能技術(shù)持續(xù)快速發(fā)展、應(yīng)用不斷泛化和深化，為社會生產(chǎn)生活充分注入前所未有的新動能、新活力，激發(fā)全球各國廣泛關(guān)注。然而，正如雙刃劍之喻，人工智能在加快應(yīng)用的同時，面臨的安全挑戰(zhàn)和風(fēng)險也與日俱增，其深遠(yuǎn)影響或波及我國經(jīng)濟(jì)的繁榮基石、社會的和諧穩(wěn)定乃至民眾福祉。在此背景下，亟需構(gòu)筑堅實的人工智能安全治理體系，妥善應(yīng)對人工智能安全風(fēng)險，保障人工智能安全、快速、有序發(fā)展。遵循習(xí)近平總書記提出的“堅持以人為本、智能向善”的理念和宗旨，積極響應(yīng)并貫徹落實《全球人工智能治理倡議》，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會制定《人工智能安全治理框架》（以下簡稱“《框架》”），于2024年全國網(wǎng)絡(luò)安全宣傳周正式發(fā)布。《框架》不僅標(biāo)志著我國在人工智能安全治理領(lǐng)域取得了標(biāo)志性進(jìn)展，更為社會各界提供了指導(dǎo)藍(lán)本和參考依據(jù)，有力促進(jìn)了人工智能安全治理工作的持續(xù)深化與優(yōu)化。聚焦于構(gòu)建全方位、全鏈條的治理體系，旨在推動形成覆蓋人工智能發(fā)展全周期、全要素的治理格局，是推動人工智能健康發(fā)展和規(guī)范應(yīng)用的關(guān)鍵依據(jù)。
一、制定《人工智能安全治理框架》的背景認(rèn)識
近年來，我國高度重視人工智能治理工作，習(xí)近平總書記在“一帶一路”國際高峰合作論壇上親自宣布提出《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案，指出人工智能治理攸關(guān)全人類命運(yùn)，強(qiáng)調(diào)要堅持發(fā)展和安全并重的原則看待人工智能?！犊蚣堋返陌l(fā)布為社會各界貫徹落實《全球人工智能治理倡議》提供了堅實的支撐，同時也成為推動人工智能安全治理工作向更深層次、更廣泛領(lǐng)域邁進(jìn)的關(guān)鍵力量。
《框架》系統(tǒng)總結(jié)并分享了我國人工智能安全治理工作中取得的研究成果和經(jīng)驗，為國內(nèi)外各界提供了深入學(xué)習(xí)、準(zhǔn)確理解及高效識別人工智能安全風(fēng)險的詳盡指南，為構(gòu)建多方協(xié)同的全鏈條安全治理機(jī)制提供助力，為全球人工智能安全治理工作貢獻(xiàn)中國智慧?！犊蚣堋返墓_發(fā)布再次凸顯了我國一直以來作為全球人工智能大國，以及人工智能安全治理引領(lǐng)者的負(fù)責(zé)任態(tài)度與擔(dān)當(dāng)。
《框架》主要包含四部分內(nèi)容，一是治理原則，二是安全風(fēng)險，三是技術(shù)應(yīng)對與綜合治理措施，四是安全開發(fā)應(yīng)用指引。
《框架》首先闡述了人工智能安全治理的理念和原則，提出了包容審慎、確保安全，風(fēng)險導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對，開放合作、共治共享四項原則，為開展人工智能安全治理工作開展提供整體思路。按照風(fēng)險管理思路，《框架》緊密結(jié)合人工智能特性，系統(tǒng)梳理了人工智能重大安全風(fēng)險，為有效識別人工智能安全風(fēng)險提供了基本依據(jù)。一是包括偏見歧視、訓(xùn)練數(shù)據(jù)被投毒、數(shù)據(jù)泄露等由人工智能自身技術(shù)缺陷和不足帶來的內(nèi)生安全風(fēng)險，二是包括被用于違法犯罪活動、加劇信息繭房、制作虛假新聞等由人工智能被不當(dāng)使用、濫用、惡意利用帶來的應(yīng)用安全風(fēng)險。針對不同類型安全風(fēng)險，《框架》從技術(shù)、管理兩方面提出防范應(yīng)對措施，為應(yīng)對人工智能安全風(fēng)險提供整體指導(dǎo)。針對模型、數(shù)據(jù)、系統(tǒng)等方面的內(nèi)生安全風(fēng)險，提出安全開發(fā)運(yùn)維、輸出內(nèi)容標(biāo)識等技術(shù)應(yīng)對措施，并推動負(fù)責(zé)任研發(fā)應(yīng)用體系、供應(yīng)鏈安全保障等綜合治理措施。針對網(wǎng)絡(luò)、現(xiàn)實、認(rèn)知、倫理等方面的應(yīng)用安全風(fēng)險，提出安全防護(hù)機(jī)制、最終用途追溯等技術(shù)應(yīng)對措施，并實施分類分級管理、人才培養(yǎng)等綜合治理措施。同時，《框架》還提出了人工智能安全開發(fā)應(yīng)用的指引，為不同主體開展人工智能相關(guān)活動給出了具體的安全指引規(guī)范，包括模型算法研發(fā)者如何進(jìn)行人工智能安全開發(fā)、服務(wù)提供者如何安全提供人工智能服務(wù)、重點領(lǐng)域使用者以及社會公眾如何安全應(yīng)用人工智能。
三、以標(biāo)準(zhǔn)工作促進(jìn)《框架》有效落地
《框架》的發(fā)布為推動各方就人工智能安全治理達(dá)成共識、協(xié)調(diào)一致起到了促進(jìn)作用。加強(qiáng)人工智能安全治理，需要社會各方的共同努力、緊密協(xié)作。在標(biāo)準(zhǔn)工作方面，積極推動人工智能安全標(biāo)準(zhǔn)工作，通過標(biāo)準(zhǔn)促進(jìn)《框架》的有效落地實施。
一是加快構(gòu)建并持續(xù)完善人工智能安全標(biāo)準(zhǔn)體系，統(tǒng)籌規(guī)劃、合理布局，通過標(biāo)準(zhǔn)凝聚各方在人工智能安全方面的共識，助力構(gòu)建開放、公正、有效的治理機(jī)制。二是大力推動重點急需標(biāo)準(zhǔn)研制工作，包括生成式人工智能服務(wù)安全基本要求、訓(xùn)練數(shù)據(jù)安全規(guī)范、數(shù)據(jù)標(biāo)注安全規(guī)范，以及人工智能生成合成內(nèi)容標(biāo)識方法等重點網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)。三是聚焦行業(yè)領(lǐng)域安全問題開展標(biāo)準(zhǔn)化工作探索，在金融、能源、電信、交通、民生等行業(yè)領(lǐng)域，組織相關(guān)單位開展標(biāo)準(zhǔn)化研究，防范化解人工智能安全風(fēng)險，保障人工智能的應(yīng)用安全。四是加強(qiáng)《框架》及人工智能安全標(biāo)準(zhǔn)宣貫，面向網(wǎng)絡(luò)安全企業(yè)、科研機(jī)構(gòu)、地方主管部門，開展人工智能安全標(biāo)準(zhǔn)宣講，同時利用新媒體、新渠道加強(qiáng)標(biāo)準(zhǔn)宣貫，推動標(biāo)準(zhǔn)落地實施。
