南方財(cái)經(jīng)全媒體見(jiàn)習(xí)記者徐小瓊 廣州報(bào)道

2024年9月9日，在國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇上，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（以下簡(jiǎn)稱(chēng)“網(wǎng)安標(biāo)委”）發(fā)布《人工智能安全治理框架》1.0版。

去年10月，中國(guó)提出了《全球人工智能治理倡議》，聚焦人工智能發(fā)展與安全治理等問(wèn)題，協(xié)力共同促進(jìn)人工智能治理。為落實(shí)該倡議，網(wǎng)安標(biāo)委研究制定了《人工智能安全治理框架》（以下簡(jiǎn)稱(chēng)《框架》），按照風(fēng)險(xiǎn)管理的理念，提出相應(yīng)技術(shù)應(yīng)對(duì)和綜合防治措施，以及人工智能安全開(kāi)發(fā)應(yīng)用指引。

《框架》主要包括人工智能安全治理原則、安全風(fēng)險(xiǎn)、技術(shù)應(yīng)對(duì)與綜合治理措施、安全開(kāi)發(fā)應(yīng)用指引四大板塊，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險(xiǎn)來(lái)源和表現(xiàn)形式，針對(duì)模型算法安全、數(shù)據(jù)安全和系統(tǒng)安全等內(nèi)生安全風(fēng)險(xiǎn)和網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等應(yīng)用安全風(fēng)險(xiǎn)，比如偏見(jiàn)歧視、訓(xùn)練數(shù)據(jù)被投“毒”、加劇“信息繭房”等，提出綜合治理措施。

網(wǎng)安標(biāo)委秘書(shū)處主要負(fù)責(zé)人表示，《框架》1.0版的發(fā)布，對(duì)推動(dòng)社會(huì)各方積極參與、協(xié)同推進(jìn)人工智能安全治理具有重要促進(jìn)作用，為培育安全、可靠、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài)，促進(jìn)人工智能的健康發(fā)展和規(guī)范應(yīng)用，提供了基礎(chǔ)性、框架性技術(shù)指南。同時(shí)，也有助于在全球范圍推動(dòng)人工智能安全治理國(guó)際合作，推動(dòng)形成具有廣泛共識(shí)的全球人工智能治理體系，確保人工智能技術(shù)造福于人類(lèi)。

更多內(nèi)容請(qǐng)下載21財(cái)經(jīng)APP