從2023年1月以來(lái)，一直處于輿論焦點(diǎn)的交互反饋式人工智能服務(wù)ChatGPT不斷給各行各業(yè)帶來(lái)驚嘆，近期各互聯(lián)網(wǎng)大廠(chǎng)陸續(xù)推出反饋交互式人工智能大模型。但同時(shí)也始終伴隨著巨大的爭(zhēng)議，如據(jù)媒體報(bào)道稱(chēng)，2023年3月29日，著名安全機(jī)構(gòu)生命未來(lái)研究所（Future of Life Institute，F(xiàn)LI）發(fā)布了一封包括特斯拉CEO伊隆·馬斯克，圖靈獎(jiǎng)得主約書(shū)亞·本吉奧，以及蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等1125人簽名的公開(kāi)信，信中呼吁全球所有機(jī)構(gòu)暫停訓(xùn)練比GPT-4更強(qiáng)大的AI至少六個(gè)月，并利用這六個(gè)月時(shí)間制定AI安全協(xié)議。

2023年4月11日，國(guó)家網(wǎng)信辦發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《生成式征求意見(jiàn)稿》），擬就類(lèi)似ChatGPT等基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)擬進(jìn)行相應(yīng)規(guī)范，坊間稱(chēng)之為“類(lèi)ChatGPT應(yīng)用中國(guó)版監(jiān)管”。那么如何看待這一規(guī)范？對(duì)行業(yè)后續(xù)影響如何？我們進(jìn)行簡(jiǎn)要討論。

一、如何看待《生成式征求意見(jiàn)稿》？

一是肯定了生成式人工智能技術(shù)服務(wù)的價(jià)值。正是由于其所具有的技術(shù)創(chuàng)新和應(yīng)用創(chuàng)新價(jià)值，以及其所可能帶來(lái)的產(chǎn)業(yè)變革，才使得制訂規(guī)范使其健康發(fā)展成為需要。正如《生成式征求意見(jiàn)稿》第一條所明確，制訂目的是“為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”。

(相關(guān)資料圖)

二是對(duì)原有相關(guān)規(guī)范框架進(jìn)一步有針對(duì)性明確或細(xì)化。事實(shí)上，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已經(jīng)于2023年1月10日起施行；而在這之前，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也已經(jīng)自2022年3月1日起施行。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中的五種算法推薦中包括生成合成類(lèi)算法，而《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》所稱(chēng)的深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，本質(zhì)上說(shuō)本辦法所稱(chēng)的生成式人工智能技術(shù)屬于深度合成技術(shù)。

本次出臺(tái)的《生成式征求意見(jiàn)稿》是“辦法”，一般來(lái)說(shuō)，辦法強(qiáng)調(diào)指導(dǎo)性或操作方法，更強(qiáng)調(diào)處理問(wèn)題或辦理事務(wù)的程序步驟方法等程序性規(guī)范性的要求；而針對(duì)算法推薦服務(wù)和深度合成技術(shù)則是“規(guī)定”，其強(qiáng)調(diào)利益調(diào)整的可預(yù)見(jiàn)和法律效力，相對(duì)“辦法”而言其法律條文屬性利益關(guān)系調(diào)整屬性要強(qiáng)一些。

三是力圖規(guī)范生成式人工智能服務(wù)的算法安全和內(nèi)容傳播安全問(wèn)題。正如馬斯克等人發(fā)出公開(kāi)信中針對(duì)ChatGPT的安全性及其缺乏監(jiān)管產(chǎn)生的巨大擔(dān)憂(yōu)，《生成式征求意見(jiàn)稿》對(duì)AI算法模型開(kāi)發(fā)和應(yīng)用提出了一些要求。

就技術(shù)模型研發(fā)方面，《生成式征求意見(jiàn)稿》提出的監(jiān)管要求主要包括安全和可信，主要措施是增強(qiáng)透明度，包括算法安全評(píng)估、算法備案、內(nèi)容標(biāo)識(shí)和預(yù)訓(xùn)練與優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)合法、質(zhì)量保證、保護(hù)個(gè)人信息和隱私等基本要求。

在算法應(yīng)用帶來(lái)影響主要包括兩個(gè)方面，一是內(nèi)容傳播，主要針對(duì)控制虛假內(nèi)容，二是用戶(hù)合法權(quán)益保護(hù)，包括尊重和保護(hù)知識(shí)產(chǎn)權(quán)、反對(duì)不正當(dāng)競(jìng)爭(zhēng)，以及保護(hù)用戶(hù)人格權(quán)、個(gè)人信息、隱私等各類(lèi)合法權(quán)益。

四是明確了生成式人工智能服務(wù)必須尊重知識(shí)產(chǎn)權(quán)。生成型人工智能可能在獲取數(shù)據(jù)時(shí)侵犯知識(shí)產(chǎn)權(quán)，同時(shí)其生成內(nèi)容是否應(yīng)受版權(quán)保護(hù)存在一定爭(zhēng)議。目前境內(nèi)外針對(duì)人工智能生成內(nèi)容相關(guān)知識(shí)產(chǎn)權(quán)問(wèn)題，不同司法案例中裁判觀(guān)點(diǎn)略有不同，有觀(guān)點(diǎn)認(rèn)為人工智能生成內(nèi)容并不構(gòu)成作品，無(wú)論是系統(tǒng)開(kāi)發(fā)者還是用戶(hù)都不能對(duì)此主張著作權(quán)，而另有觀(guān)點(diǎn)則認(rèn)為人工智能生成內(nèi)容在一定條件下可以成為作品，系統(tǒng)開(kāi)發(fā)者或使用者可以主張著作權(quán)。我們注意到美國(guó)版權(quán)局也認(rèn)為，作為人工智能軟件本身并不能成為主張著作權(quán)的作者，但我們也看到媒體報(bào)道印度有將人工智能軟件被登記為作品共同作者的信息。這與技術(shù)和應(yīng)用發(fā)展尚未完全成型是有關(guān)系的。

我們認(rèn)為，就作者而言，人工智能本身并不能成為作者，因?yàn)槠洳荒塥?dú)立承擔(dān)法律責(zé)任；就作品而言，生成式或其他人工智能服務(wù)生成內(nèi)容本身在一定條件下是可以成為作品的，事實(shí)上很多時(shí)候人們很難分辨其是否是AI生成，此時(shí)用戶(hù)如果主張版權(quán)則需要相應(yīng)承擔(dān)責(zé)任；就權(quán)利歸屬而言，目前包括OpenAI在內(nèi)的應(yīng)用平臺(tái)將用戶(hù)輸入信息所生成的輸入內(nèi)容相關(guān)權(quán)益賦予用戶(hù)，因此用戶(hù)理論上說(shuō)可以主張對(duì)該輸出的著作權(quán)，假如其構(gòu)成作品的話(huà)，但是用戶(hù)可能也仍然并不一定能夠承擔(dān)其全部法律責(zé)任，AI服務(wù)提供商如果在輸出內(nèi)容時(shí)數(shù)據(jù)來(lái)源不合法產(chǎn)生侵權(quán)等也可能需要對(duì)用戶(hù)承擔(dān)法律責(zé)任。

五是強(qiáng)調(diào)了生成式人工智能服務(wù)必須注意數(shù)據(jù)安全。目前生成式人工智能技術(shù)服務(wù)中，訓(xùn)練數(shù)據(jù)來(lái)源、數(shù)據(jù)處理過(guò)程、數(shù)據(jù)共享情況仍然并不十分透明。從數(shù)據(jù)要素合規(guī)角度來(lái)說(shuō)，要求數(shù)據(jù)來(lái)源合法，不違背法律強(qiáng)制性規(guī)定包括遵守重要數(shù)據(jù)保護(hù)規(guī)定、個(gè)人信息和隱私保護(hù)要求，同時(shí)保證數(shù)據(jù)質(zhì)量包括數(shù)據(jù)標(biāo)注質(zhì)量，以及數(shù)據(jù)處理模型質(zhì)量，另外還有數(shù)據(jù)存儲(chǔ)傳輸安全等。

從長(zhǎng)遠(yuǎn)看，還是要數(shù)據(jù)收益分配，落實(shí)數(shù)據(jù)產(chǎn)權(quán)基本制度，才可能形成真正健康的良好數(shù)據(jù)價(jià)值生態(tài)。針對(duì)AI訓(xùn)練數(shù)據(jù)問(wèn)題，目前重點(diǎn)關(guān)鍵的可能還是數(shù)據(jù)收集、數(shù)據(jù)共享、數(shù)據(jù)存儲(chǔ)和傳播的透明性和合規(guī)性問(wèn)題。

二、生成式人工智能服務(wù)規(guī)范擬將出臺(tái)，將對(duì)各行各業(yè)產(chǎn)生什么影響？監(jiān)管是否會(huì)阻礙目前大模型的研發(fā)和應(yīng)用？大模型的功能應(yīng)用是否會(huì)受到限制？未來(lái)監(jiān)管將如何走向？

正如前所述，從《生成式征求意見(jiàn)稿》開(kāi)宗明義就可以看到是為了“為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”?！渡墒秸髑笠庖?jiàn)稿》可以說(shuō)是對(duì)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)定框架基礎(chǔ)上針對(duì)生成式人工智能應(yīng)用的有關(guān)問(wèn)題進(jìn)行了相對(duì)明確要求。

簡(jiǎn)而言之，《生成式征求意見(jiàn)稿》對(duì)大廠(chǎng)提出了更高要求，要求評(píng)估、備案和數(shù)據(jù)合法合規(guī)，且承擔(dān)模型合規(guī)、數(shù)據(jù)合規(guī)、內(nèi)容生產(chǎn)責(zé)任和個(gè)人信息保護(hù)責(zé)任；對(duì)其他外接應(yīng)用，要求數(shù)據(jù)合規(guī)和承擔(dān)內(nèi)容生產(chǎn)、個(gè)人信息保護(hù)責(zé)任；對(duì)用戶(hù)，要求實(shí)名；對(duì)其他相關(guān)產(chǎn)品和服務(wù)應(yīng)用，要求尊重知識(shí)產(chǎn)權(quán)、反對(duì)不正當(dāng)競(jìng)爭(zhēng)，以及保障產(chǎn)品服務(wù)質(zhì)量以及保障合法資產(chǎn)權(quán)益等。

監(jiān)管對(duì)于人工智能的行業(yè)競(jìng)爭(zhēng)格局是否會(huì)產(chǎn)生影響？什么樣的公司會(huì)比較受益，或者說(shuō)有足夠的實(shí)力和經(jīng)驗(yàn)去面對(duì)監(jiān)管？目前比較一致的意見(jiàn)是，人工智能自然語(yǔ)言大模型本身因?yàn)樯婕昂Ａ繀?shù)模型開(kāi)發(fā)、海量數(shù)據(jù)訓(xùn)練、巨大算力支持，并非一般小公司可承擔(dān)，從目前實(shí)踐來(lái)看這方面競(jìng)爭(zhēng)甚至主要存在于中美兩國(guó)的互聯(lián)網(wǎng)巨頭之間?？傮w上，互聯(lián)網(wǎng)巨頭們面對(duì)監(jiān)管還是謹(jǐn)慎小心，其自身也有比較強(qiáng)烈的社會(huì)責(zé)任感，總的來(lái)說(shuō)有實(shí)力也有意愿以合規(guī)方式去推進(jìn)研發(fā)和應(yīng)用。

至于未來(lái)受益公司，我們認(rèn)為凡是擁有大數(shù)據(jù)、大算力和大量應(yīng)用用戶(hù)或應(yīng)用場(chǎng)景的公司，還是會(huì)在其中享有很多機(jī)會(huì)的。比如目前以圖片類(lèi)版權(quán)授權(quán)和使用為業(yè)務(wù)模式的公司，雖然會(huì)受到一定影響，但是只要其業(yè)務(wù)模式不斷調(diào)整，基于其擁有的巨量正版圖片數(shù)據(jù)資源，還是會(huì)有很多機(jī)會(huì)。

而針對(duì)一些垂直領(lǐng)域的行業(yè)應(yīng)用，很多初創(chuàng)公司可以有很多機(jī)會(huì)，目前OpenAI和百度等國(guó)內(nèi)廠(chǎng)家也正在朝這個(gè)方面走。但我們也看到，與通用型生成式人工智能技術(shù)應(yīng)用相比，垂直領(lǐng)域的技術(shù)應(yīng)用由于其數(shù)據(jù)庫(kù)來(lái)自相對(duì)專(zhuān)業(yè)領(lǐng)域，其數(shù)據(jù)庫(kù)準(zhǔn)確性相對(duì)較高，匹配準(zhǔn)確性也比較高，如很多人反映生成式人工智能在代碼方面的表現(xiàn)尤其令人印象深刻，因此有理由相信，在垂直領(lǐng)域行業(yè)應(yīng)用中產(chǎn)生的內(nèi)容安全和用戶(hù)合法權(quán)益保護(hù)問(wèn)題，其安全風(fēng)險(xiǎn)和合規(guī)難度應(yīng)該是遠(yuǎn)遠(yuǎn)小于通用型技術(shù)應(yīng)用的。

未來(lái)監(jiān)管走向?qū)?huì)如何呢？正如前所述，對(duì)AI算法來(lái)說(shuō)，總的框架包括對(duì)技術(shù)研發(fā)和產(chǎn)品應(yīng)用兩個(gè)方面。未來(lái)，針對(duì)AI算法模型開(kāi)發(fā)監(jiān)管中的安全、可信等要求會(huì)出臺(tái)一些細(xì)則、標(biāo)準(zhǔn)。主要措施是圍繞增強(qiáng)技術(shù)應(yīng)用的透明度，包括算法安全評(píng)估具體標(biāo)準(zhǔn)、流程、格式要求，算法備案范圍、內(nèi)容、流程、核驗(yàn)等，內(nèi)容標(biāo)識(shí)的技術(shù)方法，與應(yīng)用可能的結(jié)合等，包括預(yù)訓(xùn)練與優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)的合法來(lái)源、共享、儲(chǔ)存、處理、質(zhì)量要求等，以及在所有這些過(guò)程中如何保護(hù)個(gè)人信息等。從算法應(yīng)用方面，針對(duì)內(nèi)容傳播，在內(nèi)容標(biāo)識(shí)基礎(chǔ)上，可能會(huì)進(jìn)一步研究具體標(biāo)識(shí)方式和要求，強(qiáng)化服務(wù)提供者和用戶(hù)各自的責(zé)任；針對(duì)權(quán)益保護(hù)，可能會(huì)就知識(shí)產(chǎn)權(quán)、不正當(dāng)競(jìng)爭(zhēng)，以及用戶(hù)人格權(quán)、個(gè)人信息、隱私等各種權(quán)益通過(guò)配合司法實(shí)踐、其他行業(yè)監(jiān)管等方式進(jìn)行配套。因此后續(xù)監(jiān)管可能會(huì)從細(xì)化和加強(qiáng)算法安全評(píng)估、算法備案，訓(xùn)練數(shù)據(jù)使用和管理，用戶(hù)權(quán)益保護(hù)機(jī)制等角度展開(kāi)。

三、對(duì)辦法征求意見(jiàn)稿若干修訂意見(jiàn)

一是關(guān)于服務(wù)名稱(chēng)。“生成式人工智能服務(wù)”是否準(zhǔn)確？對(duì)類(lèi)ChatGPT技術(shù)應(yīng)用來(lái)說(shuō)，其核心特點(diǎn)是使用來(lái)自人類(lèi)反饋的強(qiáng)化學(xué)習(xí)（RLHF，Reinforcement Learning from Human Feedback ）來(lái)訓(xùn)練的人工智能模型，也就是說(shuō)反饋優(yōu)化是其根本特征，而不僅僅是生成。因此生成式人工智能服務(wù)，是否改為反饋優(yōu)化式人工智能服務(wù)？

二是關(guān)于與深度合成技術(shù)的關(guān)系。根據(jù)本征求意見(jiàn)稿，生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。而根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成技術(shù)服務(wù)管理規(guī)定》深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于文本生成、圖像生成、語(yǔ)音轉(zhuǎn)換。由于涉及到監(jiān)管框架問(wèn)題，是否應(yīng)該明確，“生成式人工智能服務(wù)”也是屬于“深度合成技術(shù)服務(wù)”的一種？總之要直接說(shuō)明二者之間的關(guān)系。

三是關(guān)于預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)合法性。征求意見(jiàn)稿第七條中，規(guī)定了服務(wù)提供者對(duì)數(shù)據(jù)合法性的要求，但是只是規(guī)定了尊重知識(shí)產(chǎn)權(quán)、保護(hù)個(gè)人信息和隱私，以及數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀(guān)性、多樣性，是否還應(yīng)該針對(duì)數(shù)據(jù)來(lái)源、數(shù)據(jù)共享、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)傳輸和出境等，應(yīng)該作出明確要求？

四是關(guān)于反對(duì)用戶(hù)歧視的內(nèi)容整合。征求意見(jiàn)第四條第二項(xiàng)，提到了防止出現(xiàn)歧視性?xún)?nèi)容，而第十二條又提到提供者不得根據(jù)用戶(hù)的種族、國(guó)別、性別等進(jìn)行帶有歧視性的內(nèi)容生成，內(nèi)容似有重復(fù)，至少是不是可以考慮整合到一起？

五是關(guān)于算法監(jiān)測(cè)監(jiān)管要求相對(duì)缺失。征求意見(jiàn)稿第十五條規(guī)定，對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶(hù)舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過(guò)濾等措施外，應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成，這個(gè)規(guī)定可以認(rèn)為是服務(wù)提供者針對(duì)運(yùn)行中出現(xiàn)的內(nèi)容安全問(wèn)題應(yīng)作出的處置要求。但算法監(jiān)管除了安全評(píng)估、算法備案以外，還包括算法安全監(jiān)測(cè)，而安全監(jiān)測(cè)并不僅僅包括內(nèi)容監(jiān)測(cè)，還包括數(shù)據(jù)處理合規(guī)、模型可靠性穩(wěn)定性等安全事件處理要求，是不是可以把這一條整合成為算法監(jiān)測(cè)的全面性要求。

六是關(guān)于內(nèi)容標(biāo)識(shí)的規(guī)定。《互聯(lián)網(wǎng)信息服務(wù)深度合成技術(shù)管理規(guī)定》明確要求對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)，包括一般標(biāo)識(shí)，即深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)，并依法依規(guī)保存日志信息；顯著標(biāo)識(shí)，即提供智能對(duì)話(huà)、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)。但征求意見(jiàn)稿第十六條僅規(guī)定對(duì)圖片、視頻進(jìn)行標(biāo)識(shí)，是否意味著“生成式”服務(wù)無(wú)須對(duì)其他內(nèi)容進(jìn)行標(biāo)識(shí)？第十六條是否改為“提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)”即可，至于文本內(nèi)容無(wú)法標(biāo)識(shí)的問(wèn)題，屬于技術(shù)操作問(wèn)題，可以具體研究成熟后具體實(shí)施。

作者：張烽，萬(wàn)商天勤律師事務(wù)所合伙人，萬(wàn)商天勤數(shù)字法律專(zhuān)業(yè)委員會(huì)主任，上海區(qū)塊鏈技術(shù)協(xié)會(huì)智庫(kù)專(zhuān)家/科技評(píng)價(jià)專(zhuān)家，中國(guó)移動(dòng)通信聯(lián)合會(huì)元宇宙產(chǎn)業(yè)工作委員會(huì)常務(wù)委員，未來(lái)產(chǎn)業(yè)元宇宙50人論壇副理事長(zhǎng)。

本文系未央網(wǎng)專(zhuān)欄作者:張 烽 發(fā)表，內(nèi)容屬作者個(gè)人觀(guān)點(diǎn)，不代表網(wǎng)站觀(guān)點(diǎn)，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

關(guān)鍵詞：