21世紀經(jīng)濟報道 記者 鄭雪 北京報道

報告全文和下載鏈接：《中國AI治理的獨立思考——生成式人工智能發(fā)展與監(jiān)管白皮書》

新一輪人工智能飛速發(fā)展，如何平衡發(fā)展與安全成為此次發(fā)展過程中的一道必答題。

8月1日，南財合規(guī)科技研究院與觀韜中茂律師事務所推出《中國AI治理的獨立思考——生成式人工智能發(fā)展與監(jiān)管白皮書》（以下簡稱白皮書），通過分析生成式AI的發(fā)展現(xiàn)狀、政策導向、實操中面臨的風險，以及各國的監(jiān)管路徑，以期為未來的AI治理提供有益思路。

生成式AI技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。生成式AI本質(zhì)在于“創(chuàng)造未知世界”。

大模型是本輪生成式AI競賽的殺手锏。各個科技公司加碼大模型，上演“百模大戰(zhàn)”。白皮書梳理了來自互聯(lián)網(wǎng)公司、AI公司、科研院所、教育行業(yè)、車企等發(fā)布的超過30個大模型。此外，白皮書還梳理了當前接入類ChatGPT技術(shù)應用，將其整理為辦公軟件、社交文娛、商業(yè)營銷、家庭助理、智慧醫(yī)療六大類，并具體細分為16個應用方向。

白皮書指出，生成式AI當前主要面臨四大類風險：一是知識產(chǎn)權(quán)侵權(quán)風險，需要關(guān)注著作權(quán)侵權(quán)、商業(yè)秘密侵犯、不正當競爭和反壟斷風險；二是算法風險，面臨算法黑箱、算法歧視、算法決策、算法失真風險；三是數(shù)據(jù)安全與個人信息保護風險，需要考慮個人信息保護、數(shù)據(jù)跨境風險、數(shù)據(jù)安全風險等問題；四是倫理道德風險，需要關(guān)注生成式AI發(fā)展過程中帶來的偏見、刻板印象、歧視等問題。

值得關(guān)注的是，白皮書梳理了歐盟、美國的人工智能監(jiān)管框架，以期為中國人工智能治理思路提供參考。

白皮書指出，美國其未在聯(lián)邦或者州層面制定相關(guān)的法律文件來規(guī)制生成式AI的應用以及其可能帶來的風險，而是采取以美國國家標準與技術(shù)研究院的《人工智能風險管理框架》（以下簡稱框架）為主引導實踐的治理框架，框架概述了可信的人工智能系統(tǒng)的特征，即可解釋性、透明度和問責制。美國關(guān)于生成式AI應用的治理框架反映了其對于創(chuàng)新技術(shù)的一貫態(tài)度，即鼓勵科技發(fā)展，著力保持自身在全球科技創(chuàng)新中的領導地位。

歐盟略顯保守，其采用了以人工智能法案為主的風險分級監(jiān)管治理框架，將人工智能技術(shù)可能對人的健康和安全或基本權(quán)利造成的風險程度分為四個級別：不可接受的風險、高風險、有限風險和最小風險，并分別采取不同的限制措施。

具體到中國來看，白皮書指出，“發(fā)展”正逐漸成為中國AI治理的第一視角。中國在7月發(fā)布了《生成式人工智能服務管理暫行辦法》，提及“堅持目標導向和問題導向”，單設了“技術(shù)發(fā)展與治理”章節(jié)，同時也新增了不少有力措施來鼓勵生成式AI技術(shù)發(fā)展，如探索優(yōu)化應用場景、加強基礎技術(shù)自主創(chuàng)新、推動公共訓練數(shù)據(jù)資源平臺建設、豁免責任等。

針對生成式AI商業(yè)化中出現(xiàn)的一系列風險，開發(fā)者又該如何應對？白皮書亦給出了答案。

白皮書提出了以風險控制為核心目標導向的AI風險治理框架。風險治理框架的核心為風險識別-風險度量-應對策略-控制措施。

風險識別：關(guān)注知識產(chǎn)權(quán)、算法、數(shù)據(jù)安全以及個人信息等方面帶來的風險。同時提醒關(guān)注未知風險。

風險度量：典型的風險衡量方法需要開發(fā)者將測量或估計的影響和影響可能性相乘或定性組合為風險評分(風險≈影響x可能性)。試圖完全消除負面風險在實踐中可能適得其反，因為并非所有事件和風險都可以消除。

應對策略：開發(fā)者針對已識別的生成式AI商業(yè)化應用風險的應對治理模塊，目前包括以下模塊：協(xié)議安排、內(nèi)部政策、技術(shù)性限制、數(shù)據(jù)治理、動態(tài)測試及評估、透明度實踐等。

控制措施：依據(jù)風險應對策略，確定的具體風險控制節(jié)點，需要開發(fā)者內(nèi)部具體落實的措施。

此外，生成式AI應用風險事件庫也是一個值得借鑒的行業(yè)實踐。AI風險事件數(shù)據(jù)庫通過整理和分析生成式AI商業(yè)化應用的開發(fā)和部署在現(xiàn)實商業(yè)領域中造成的或可能造成不良后果或者損害的情況，形成相應數(shù)據(jù)庫。