21世紀(jì)經(jīng)濟(jì)報(bào)道記者 蔡姝越 郭美婷 實(shí)習(xí)生 譚硯文 麥子浩上海、廣州報(bào)道

編者按：

在2023年過(guò)去的幾個(gè)月里，各大公司搶灘大模型、GPT商用化探索、算力基礎(chǔ)設(shè)施看漲……如同15世紀(jì)開啟的大航海時(shí)代，人類交往、貿(mào)易、財(cái)富有了爆炸性增長(zhǎng)，空間革命席卷全球。變革同時(shí)，也帶來(lái)了秩序的挑戰(zhàn)，數(shù)據(jù)泄露、個(gè)人隱私風(fēng)險(xiǎn)、著作權(quán)侵權(quán)、虛假信息......此外，AI帶來(lái)的后人類主義危機(jī)已然擺在桌面，人們?cè)撘院畏N姿態(tài)迎接人機(jī)混雜帶來(lái)的迷思？

(資料圖片)

此刻，尋求AI治理的共識(shí)、重塑新秩序成了各國(guó)共同面對(duì)的課題。南財(cái)合規(guī)科技研究院將推出AI契約論系列報(bào)道，從中外監(jiān)管模式、主體責(zé)任分配、語(yǔ)料庫(kù)數(shù)據(jù)合規(guī)、AI倫理、產(chǎn)業(yè)發(fā)展等維度，進(jìn)行剖析，以期為AI治理方案提供一些思路，保障負(fù)責(zé)任的創(chuàng)新。

自生成式AI技術(shù)興起，到如今“百模大戰(zhàn)”的局面，該技術(shù)的產(chǎn)業(yè)鏈圖譜也已初步成型。

（AIGC產(chǎn)業(yè)鏈圖譜。制圖/南財(cái)合規(guī)科技研究院、21世紀(jì)經(jīng)濟(jì)報(bào)道記者）

不過(guò)，在生成式AI成為一項(xiàng)通用技術(shù)前，各鏈條生產(chǎn)者都需要思考怎樣可以將其轉(zhuǎn)變?yōu)橐粋€(gè)“可控”的工具。

今年3月下旬，一封由特斯拉首席執(zhí)行官埃隆·馬斯克、 蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等千余名企業(yè)家、學(xué)者簽署的《暫停大型人工智能實(shí)驗(yàn)》公開信發(fā)布。

信中提到，盡管近幾個(gè)月世界各地的人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，以開發(fā)和部署更強(qiáng)大的數(shù)字思維，但包括技術(shù)的研發(fā)者在內(nèi)，“沒(méi)有任何人能真正理解、預(yù)測(cè)或完全控制這項(xiàng)技術(shù)?！?/strong>

清華大學(xué)新聞與傳播學(xué)院元宇宙文化實(shí)驗(yàn)室也在《AIGC發(fā)展研究》報(bào)告中指出，AIGC強(qiáng)勢(shì)介入全球產(chǎn)業(yè)鏈，將全面替代程序員、平面設(shè)計(jì)、客服等工作，為人工成本劃定上限，第三世界產(chǎn)業(yè)鏈將因此遭受巨大沖擊。

這意味著，大算力支持下的AIGC可能成為割裂跨國(guó)公司全球產(chǎn)業(yè)鏈的利刃，也可能成為劃破“地球村”幻象的匕首。

因此，在AIGC快速發(fā)展的當(dāng)下，如將其背后的生成式AI技術(shù)關(guān)進(jìn)監(jiān)管的籠子里，厘清產(chǎn)業(yè)鏈各方的責(zé)任，已成為世界各國(guó)亟需處理的命題。

監(jiān)管政策梳理：劃清產(chǎn)業(yè)研發(fā)底線

目前，我國(guó)已走在了生成式AI技術(shù)規(guī)制的道路上。今年4月，國(guó)家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱“《辦法》”），是我國(guó)第一部針對(duì)生成式AI技術(shù)的監(jiān)管文件。

總體而言，《辦法》是在現(xiàn)有的深度合成監(jiān)管框架之下，對(duì)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》的細(xì)化，除了個(gè)人信息保護(hù)的一般性義務(wù)，還要求人工智能服務(wù)提供者進(jìn)一步履行安全評(píng)估、算法備案、內(nèi)容標(biāo)識(shí)等義務(wù)。

對(duì)于以上相關(guān)政策文件的頒布，北京大成律師事務(wù)所高級(jí)合伙人肖颯在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)指出，相關(guān)企業(yè)應(yīng)當(dāng)重視銜接現(xiàn)有算法推薦服務(wù)、深度合成服務(wù)等其他人工智能監(jiān)管法規(guī)的要求，盡力做到內(nèi)部合規(guī)，結(jié)合技術(shù)與法律力量提出創(chuàng)造性的合規(guī)解決方案，為產(chǎn)業(yè)發(fā)展贏得更多的制度空間。

對(duì)于《辦法》等規(guī)范人工智能技術(shù)發(fā)展法案的陸續(xù)出臺(tái)，行業(yè)內(nèi)也大多報(bào)以支持的觀點(diǎn)。如亮風(fēng)臺(tái)高級(jí)產(chǎn)品總監(jiān)魏超群在接受21記者采訪時(shí)便分享了他的看法。他認(rèn)為，在生成式AI技術(shù)剛起步的時(shí)候，配套管理辦法的出臺(tái)對(duì)整個(gè)產(chǎn)業(yè)的健康發(fā)展而言，有顯著的促進(jìn)作用。

“一方面，《辦法》的出臺(tái)意味著整個(gè)產(chǎn)業(yè)有了明確的操作規(guī)范，可以指導(dǎo)企業(yè)的一整套研發(fā)流程。另一方面，也為整個(gè)行業(yè)設(shè)定了研發(fā)底線，列舉了哪些事情能做，哪些事情不能做?！?/strong>魏超群指出。

如《辦法》第十七條中便要求人工智能服務(wù)提供者“提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來(lái)源、規(guī)模、類型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等”，實(shí)現(xiàn)對(duì)數(shù)據(jù)量龐大、規(guī)則易變的人工智能技術(shù)的治理。

不過(guò)，也有觀點(diǎn)認(rèn)為，目前國(guó)內(nèi)的人工智能相關(guān)法律法規(guī)政策文件仍需要進(jìn)一步完善。

肖颯便在采訪中提到，《辦法》雖然對(duì)于生成式人工智能帶來(lái)的風(fēng)險(xiǎn)與沖擊作出了回應(yīng)，但梳理其內(nèi)容會(huì)發(fā)現(xiàn)，其在責(zé)任主體、適用范圍、合規(guī)義務(wù)等方面的規(guī)定都較為寬泛。

如《辦法》第五條中，明確了利用生成式人工智能產(chǎn)品的服務(wù)提供者（即主體），應(yīng)當(dāng)承擔(dān)內(nèi)容生產(chǎn)者的責(zé)任。

原文提到，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過(guò)提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。但對(duì)于服務(wù)提供者具體應(yīng)該承擔(dān)何種法律責(zé)任，《辦法》中尚未展開。

發(fā)展難題：如何平衡監(jiān)管與技術(shù)

如何在技術(shù)創(chuàng)新發(fā)展的前提下完善人工智能監(jiān)管體系，加強(qiáng)其與數(shù)據(jù)合規(guī)、算法治理的銜接與協(xié)調(diào)，是目前亟待解決的問(wèn)題。

其中，明確AIGC各產(chǎn)業(yè)鏈環(huán)節(jié)的責(zé)任主體，打造“負(fù)責(zé)任”的AI技術(shù)，便是監(jiān)管需要密切關(guān)注的要點(diǎn)之一。

除了《辦法》第五條中提到的主體責(zé)任分配問(wèn)題，近日，歐盟也在修改后的《人工智能法案》中提到，在人工智能價(jià)值鏈責(zé)任分配上，任何分發(fā)者、進(jìn)口者、部署者或其他第三方，均應(yīng)被視為高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者，需要履行相應(yīng)的義務(wù)。如在高風(fēng)險(xiǎn)人工智能系統(tǒng)上標(biāo)明名稱、聯(lián)系方式，提供數(shù)據(jù)規(guī)格或數(shù)據(jù)集相關(guān)信息，保存日志等。

北京理工大學(xué)法學(xué)院助理教授裴軼也向21記者指出，企業(yè)作為提供AI服務(wù)的關(guān)鍵主體，一方面需要保證透明的數(shù)據(jù)收集和處理——明確告知數(shù)據(jù)主體數(shù)據(jù)收集和處理的目的，并獲取必要的同意或授權(quán)。實(shí)施適當(dāng)?shù)臄?shù)據(jù)安全和隱私保護(hù)措施，確保數(shù)據(jù)的機(jī)密性和完整性。另一方面，也需要進(jìn)行合規(guī)的數(shù)據(jù)共享。在進(jìn)行多方數(shù)據(jù)共享或數(shù)據(jù)交易時(shí)，確保合規(guī)的數(shù)據(jù)使用權(quán)益和授權(quán)機(jī)制，遵守適用的數(shù)據(jù)保護(hù)法律和規(guī)定。

21記者觀察發(fā)現(xiàn)，目前已有人工智能公司正在明確自己作為責(zé)任主體的義務(wù)。

如OpenAI便為用戶專門開設(shè)了“安全門戶”（Security Portal），在此頁(yè)面中，用戶可以瀏覽公司的合規(guī)性文檔，包括“數(shù)據(jù)安全”中的備份、刪除、靜態(tài)加密信息以及“應(yīng)用安全”中的代碼分析、憑證管理等等。

（OpenAI的“安全門戶”頁(yè)面。來(lái)源/OpenAI官方網(wǎng)站）

AI繪畫工具M(jìn)idjourney官網(wǎng)發(fā)布的隱私政策中，也對(duì)用戶數(shù)據(jù)的共享、保留、傳輸場(chǎng)景和用途做了具體說(shuō)明，同時(shí)，也詳細(xì)列舉了應(yīng)用在為用戶提供服務(wù)的過(guò)程中，需要搜集身份標(biāo)識(shí)、商業(yè)信息、生物識(shí)別信息等11種個(gè)人信息。

值得一提的是，上海某新興科技公司法務(wù)負(fù)責(zé)人在和21記者的交談中表示，目前公司內(nèi)部人工智能相關(guān)業(yè)務(wù)的服務(wù)條款正在制定中，在責(zé)任分配的規(guī)則上部分參考了OpenAI的做法。

另一方面，作為生成式AI服務(wù)的提供者，各企業(yè)也需要提起對(duì)內(nèi)部合規(guī)的重視。肖颯指出，AIGC相關(guān)企業(yè)的業(yè)務(wù)需要依托于海量的數(shù)據(jù)及復(fù)雜的算法，應(yīng)用場(chǎng)景復(fù)雜多樣化，企業(yè)容易陷入各種風(fēng)險(xiǎn)之中，并且完全依靠外部監(jiān)管難度非常大，因此相關(guān)企業(yè)務(wù)必加強(qiáng)AIGC內(nèi)部合規(guī)管理。

一方面，監(jiān)管機(jī)構(gòu)要以全面推行企業(yè)合規(guī)改革為契機(jī)，積極探索在網(wǎng)絡(luò)數(shù)字領(lǐng)域推進(jìn)涉案企業(yè)合規(guī)改革和落實(shí)第三方監(jiān)督評(píng)估機(jī)制，建立健全合規(guī)管理的制度機(jī)制，有效預(yù)防網(wǎng)絡(luò)違法犯罪。另一方面，也要積極探索以事后合規(guī)整改促進(jìn)事前合規(guī)建設(shè)的監(jiān)管路徑，推動(dòng)網(wǎng)絡(luò)監(jiān)管部門、互聯(lián)網(wǎng)企業(yè)共同研究制定數(shù)據(jù)合規(guī)規(guī)范指引，保障數(shù)字經(jīng)濟(jì)健康發(fā)展。

“監(jiān)管層最重要的任務(wù)在于劃定底線，其中‘科技倫理’以及‘國(guó)家安全’就是兩個(gè)不容讓渡的底線，在底線范圍內(nèi)，可以盡量給予產(chǎn)業(yè)寬容的發(fā)展空間，這樣避免技術(shù)為了合規(guī)畏首畏尾、被限制發(fā)展?！迸彷W向21記者表示。

統(tǒng)籌：王俊

記者：郭美婷 蔡姝越 譚硯文 麥子浩

制圖：蔡姝越