歐盟算法治理又有新動(dòng)態(tài)。

(資料圖片)

近日，歐盟委員會(huì)通過(guò)了《數(shù)字服務(wù)法》（DigitalServices Act，以下簡(jiǎn)稱(chēng)“DSA”）下的第一批確定決議，劃定總計(jì)19個(gè)超大型平臺(tái)，這些平臺(tái)將履行歐盟規(guī)定的一系列義務(wù)。4月底，歐盟宣布成立算法透明度中心（European Centre for Algorithmic Transparency，以下簡(jiǎn)稱(chēng)“ECAT”），為DSA監(jiān)管大型平臺(tái)提供技術(shù)支持。

受訪(fǎng)專(zhuān)家指出，DSA對(duì)超大型平臺(tái)和搜索引擎提出了更加全面的監(jiān)管要求，在算法治理方面的要求也更為直接和明確。DSA的落地施行、算法透明度中心以及劃定超大型平臺(tái)體現(xiàn)了歐盟打造人工智能領(lǐng)域規(guī)范性力量的野心。當(dāng)前，人工智能革命的浪涌給算法透明帶來(lái)了新的影響和挑戰(zhàn)，未來(lái)，監(jiān)管、企業(yè)側(cè)均應(yīng)發(fā)力實(shí)現(xiàn)算法綜合治理。

劃定監(jiān)管范圍、審查算法透明

根據(jù)《數(shù)字服務(wù)法》， 在2023 年 2 月 17 日每月活躍用戶(hù)達(dá)到4500萬(wàn)及以上的平臺(tái)將被認(rèn)為是大型平臺(tái)。此次劃定了17個(gè)超大型在線(xiàn)平臺(tái)(Very Large Online Platforms，以下簡(jiǎn)稱(chēng)“VLOP”)和2個(gè)超大型在線(xiàn)搜索引擎(Very Large Online Search Engines，以下簡(jiǎn)稱(chēng)“VLOSE”)。其中VLOP包括：阿里巴巴全球速賣(mài)通、亞馬遜商店、蘋(píng)果應(yīng)用商店、谷歌地圖、TikTok、推特、維基百科等，而VLOSE則是必應(yīng)、谷歌搜索。

據(jù)悉，在接下來(lái)四個(gè)月內(nèi)，這些平臺(tái)需要履行DSA規(guī)定的多項(xiàng)義務(wù)。包括發(fā)布關(guān)于內(nèi)容審核決策和風(fēng)險(xiǎn)管理的透明度報(bào)告；識(shí)別、分析和緩解平臺(tái)的系統(tǒng)性風(fēng)險(xiǎn)等。

4月底，歐盟還宣布成立算法透明度中心（ECAT），以期“為人們和企業(yè)創(chuàng)造一個(gè)更安全、更可預(yù)測(cè)和更值得信賴(lài)的在線(xiàn)環(huán)境”。

ECAT隸屬于歐盟委員會(huì)聯(lián)合研究中心( Joint Research Center，以下簡(jiǎn)稱(chēng)“JRC”)，JRC則屬于歐盟委員會(huì)，承擔(dān)歐盟專(zhuān)項(xiàng)計(jì)劃研究項(xiàng)目，為制定和執(zhí)行歐盟政策提供科技支持。JRC發(fā)布的2023-2024年的工作計(jì)劃中，打造值得信賴(lài)的人工智能，主持歐洲算法透明度中心工作是任務(wù)之一。

“對(duì)算法的監(jiān)管是一個(gè)復(fù)雜和技術(shù)要求極高的工作?！睆?fù)旦大學(xué)國(guó)際問(wèn)題研究院副研究員嚴(yán)少華解釋道，要對(duì)算法進(jìn)行有效的監(jiān)管，首先要對(duì)算法的運(yùn)行有深入的了解，將算法透明度中心設(shè)置在歐盟聯(lián)合研究中心下，可以借助聯(lián)合研究中心已有的研究力量開(kāi)展工作。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括則指出，對(duì)于專(zhuān)門(mén)的問(wèn)題設(shè)立專(zhuān)門(mén)設(shè)立的機(jī)構(gòu)解決，是歐盟在執(zhí)法方面一貫的思維和立場(chǎng)。ECAT體現(xiàn)了算法的透明度、算法的可解釋性在算法治理、平臺(tái)治理和數(shù)字服務(wù)治理方面的地位。

官網(wǎng)顯示，ECAT由數(shù)據(jù)科學(xué)家、人工智能專(zhuān)家、社會(huì)科學(xué)家和法律專(zhuān)家等多領(lǐng)域?qū)I(yè)人員組成。ECAT將利用技術(shù)、倫理、經(jīng)濟(jì)、法律、環(huán)境等多領(lǐng)域的專(zhuān)業(yè)知識(shí)，集中開(kāi)展以算法透明度為重點(diǎn)的研究，確保數(shù)字服務(wù)的算法決策透明、可解釋?zhuān)⒎螪SA中平臺(tái)風(fēng)險(xiǎn)管理義務(wù)。

ECAT的具體工作包括開(kāi)展平臺(tái)評(píng)估和調(diào)查、科學(xué)研究與前瞻、交流和社群建構(gòu)三個(gè)方面的工作。

平臺(tái)評(píng)估和調(diào)查方面，ECAT將支持歐盟相關(guān)的調(diào)查、檢查；對(duì)算法系統(tǒng)進(jìn)行技術(shù)測(cè)試；對(duì)VLOP和VLOSE提交的透明度報(bào)告、風(fēng)險(xiǎn)評(píng)估和獨(dú)立審計(jì)進(jìn)行分析；定義相關(guān)程序，確保監(jiān)管機(jī)構(gòu)和研究人員的數(shù)據(jù)訪(fǎng)問(wèn)。

科學(xué)研究與前瞻的具體工作則包括識(shí)別和衡量與VLOP和VLOSE相關(guān)的系統(tǒng)性風(fēng)險(xiǎn)和可能產(chǎn)生的新風(fēng)險(xiǎn)，評(píng)估平臺(tái)的風(fēng)險(xiǎn)緩解措施；研究算法的長(zhǎng)期社會(huì)影響以及識(shí)別可能產(chǎn)生的新風(fēng)險(xiǎn)；研究算法的長(zhǎng)期社會(huì)影響。

ECAT還被賦予了促進(jìn)交流和社群建構(gòu)的職責(zé)，未來(lái)將分享相關(guān)領(lǐng)域的科學(xué)發(fā)現(xiàn)和實(shí)踐案例。

數(shù)字服務(wù)法與歐盟的算法治理之路

在嚴(yán)少華看來(lái)，ECAT的建立以及對(duì)算法可信度和透明度的重視是歐盟在人工智能領(lǐng)域打造自身名片的嘗試?！皻W盟在人工智能領(lǐng)域的技術(shù)和產(chǎn)業(yè)發(fā)展相對(duì)滯后，因此會(huì)尋求在制度和標(biāo)準(zhǔn)上發(fā)力，強(qiáng)化對(duì)人工智能相關(guān)規(guī)則的監(jiān)管，打造人工智能領(lǐng)域規(guī)范性力量的形象?！彼€提到，歐盟正在醞釀的《人工智能法案》（AI Act）也是這種努力的一部分。

事實(shí)上，作為數(shù)字立法大國(guó)，歐盟近年來(lái)針對(duì)算法治理推出了多個(gè)規(guī)則、框架。早在2018年，歐盟就通過(guò)并施行了《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，GDPR），對(duì)算法針對(duì)個(gè)人數(shù)據(jù)收集、檢索、使用等處理行為進(jìn)行嚴(yán)格規(guī)制；首次在立法中提出和創(chuàng)設(shè)了“算法解釋權(quán)”，當(dāng)數(shù)據(jù)主體認(rèn)為算法決策得出的結(jié)果與自己預(yù)期不相符合時(shí)，有權(quán)要求獲得算法設(shè)計(jì)以及運(yùn)行（即數(shù)據(jù)的分析處理過(guò)程）的解釋。

2019年，歐洲議會(huì)研究服務(wù)機(jī)構(gòu)發(fā)布《算法問(wèn)責(zé)及透明治理框架》（A Governance Framework for Algorithmic Accountability and Transparency）則在算法相關(guān)權(quán)利確立的基礎(chǔ)上提出了全面的監(jiān)管框架。其中提到，算法及其在自動(dòng)化決策系統(tǒng)中的應(yīng)用應(yīng)受到全面監(jiān)管，并就歐盟人工智能戰(zhàn)略中的“建立適當(dāng)?shù)膫惱砗头煽蚣堋币筇岢稣呓ㄗh與規(guī)制路徑。

2020年12月，歐盟以“為所有人提供一個(gè)更安全、更公平的數(shù)字空間”為宗旨，公布《數(shù)字服務(wù)法》（DigitalServices Act，DSA）和《數(shù)字市場(chǎng)法》（DigitalMarkets Act，DMA）兩份法律的草案。這兩份法案已分別于2022 年 11 月 16 日和2023年5月2日正式施行。

其中，DSA要求平臺(tái)，尤其是VLOP和VLOSE識(shí)別、分析和減輕其平臺(tái)上的一系列系統(tǒng)性風(fēng)險(xiǎn)。其中就包括算法治理方面的義務(wù)，包括但不限于保證算法的透明度，評(píng)估推薦系統(tǒng)和其他相關(guān)算法機(jī)制的設(shè)計(jì)。

嚴(yán)少華指出，GDPR只要求對(duì)用戶(hù)產(chǎn)生重大影響的算法決策機(jī)制做出解釋?zhuān)⒅氐氖怯脩?hù)的隱私保護(hù)和知情權(quán)，而DSA則對(duì)超大型平臺(tái)和搜索引擎提出了更加全面的監(jiān)管要求。

吳沈括則表示，新法案在數(shù)據(jù)保護(hù)領(lǐng)域是繼承和延續(xù)了GDPR的規(guī)定的核心要點(diǎn)，更加突出了算法治理和內(nèi)容治理方面的更為直接和明確的要求。

如何打破“黑箱”，踐行算法透明？

為何算法透明和算法治理如此重要？

“算法透明是技術(shù)性正當(dāng)程序中的重要節(jié)點(diǎn)?！睂?duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣告訴南方財(cái)經(jīng)全媒體記者，所謂技術(shù)性正當(dāng)程序，是指通過(guò)代碼公開(kāi)、開(kāi)發(fā)公眾參與程序、系統(tǒng)軟件測(cè)試等手段優(yōu)化計(jì)算機(jī)程序設(shè)計(jì)以提高自動(dòng)化決策系統(tǒng)的透明性和可問(wèn)責(zé)性。

作為技術(shù)性正當(dāng)程序中的關(guān)鍵一步，算法透明它決定著人的知情權(quán)和參與權(quán)，沒(méi)有它，人們將無(wú)從知曉自動(dòng)化決策做出來(lái)的邏輯和預(yù)期產(chǎn)生的后果；另一方面，如果算法運(yùn)行不具有可解釋性，一旦產(chǎn)生相應(yīng)的侵害和危害，我們無(wú)從了解誰(shuí)需為此負(fù)責(zé)，自然也難以獲得救濟(jì)。

以自動(dòng)駕駛汽車(chē)為例，人工智能系統(tǒng)的運(yùn)行涉及多個(gè)組件和節(jié)點(diǎn)，如果算法不具備解釋性、透明度，那么事故中的責(zé)任分配將會(huì)成為不可破解的難題。

從震蕩藝術(shù)界的AI作畫(huà)到影響全人類(lèi)的GPT-4，AIGC可能引發(fā)的革命性變化受到越來(lái)越多的關(guān)注。

在張欣看來(lái)，ChatGPT及類(lèi)似大型語(yǔ)言模型的研究和投入使用給算法治理帶來(lái)了新的影響。作為一種基于神經(jīng)網(wǎng)絡(luò)的自然語(yǔ)言處理技術(shù)，可解釋性差是大型語(yǔ)言模型天然的缺點(diǎn)。隨著應(yīng)用范圍的擴(kuò)大，算法的研發(fā)者和設(shè)計(jì)者更應(yīng)履行好相應(yīng)的算法透明義務(wù)。使用了何種數(shù)據(jù)、數(shù)據(jù)的處理規(guī)則、如何做好數(shù)據(jù)的糾偏、如何保證算法公平性和多元性等問(wèn)題都需要被關(guān)注和解決。

進(jìn)入數(shù)字化時(shí)代，人類(lèi)的日常生活與算法緊密交織。事實(shí)上，如何打開(kāi)算法系統(tǒng)的“黑匣子”，使系統(tǒng)變得透明、可解釋是一個(gè)受到多方關(guān)注的問(wèn)題。

2022年3月，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（National Institute of Standards and Technology，NIST）發(fā)布《邁向識(shí)別和管理人工智能偏見(jiàn)的標(biāo)準(zhǔn)》，其中指出，人工智能系統(tǒng)需要更易理解和解釋?zhuān)捎诓煌藢?duì)相同輸出結(jié)果的解釋也可能會(huì)存在明顯差異，因此需要一致的透明工具指南。

2020年英國(guó)信息專(zhuān)員辦公室(Information Commissioner"s Office，ICO)和艾倫·圖靈研究所共同編制的《人工智能決策解釋指南》發(fā)布，為算法提供服務(wù)者提供了一個(gè)框架，以便向用戶(hù)解釋使用AI系統(tǒng)做出的決策。

近年來(lái)，我國(guó)也出臺(tái)了一系列針對(duì)算法的規(guī)則，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》等，“算法透明”的概念在其中也屢次被提及。

吳沈括從監(jiān)管、企業(yè)側(cè)給出了建議。他認(rèn)為，監(jiān)管側(cè)需要提升專(zhuān)業(yè)的技術(shù)配備，提高技術(shù)能力，尤其是技術(shù)監(jiān)測(cè)方面的水平；在企業(yè)側(cè)，公司一方面需要積極履行主體責(zé)任，主動(dòng)地提高算法的透明度和可解釋性。另一方面，也應(yīng)當(dāng)積極引入第三方監(jiān)督，運(yùn)用社會(huì)監(jiān)督的力量來(lái)提高各方的信任水平。

關(guān)鍵詞：