全球科技巨頭在AI大模型領域不斷推出新品之際，中國監(jiān)管部門的步伐正迎頭趕上。

4月11日，國家網(wǎng)信辦發(fā)布《生成式人工智能服務管理辦法(征求意見稿)》（下稱《管理辦法》），并向社會公開征求意見，截止期為5月10日。

如果《管理辦法》獲得通過，中國將正式開啟對AIGC（人工智能生成式內(nèi)容）的專門監(jiān)管。

根據(jù)國家網(wǎng)信辦發(fā)布的通知，制定《管理辦法》的目的是促進生成式人工智能技術健康發(fā)展和規(guī)范應用。整體共分21條，涵蓋內(nèi)容監(jiān)管、算法監(jiān)管、數(shù)據(jù)監(jiān)管等維度，其中內(nèi)容安全條款占據(jù)篇幅最多。

有知情人士向財經(jīng)E法透露，《管理辦法》自2022年下半年即開始醞釀，但ChatGPT在今年的火爆“出圈”加速了制定進程。

這與全球主要法域的步伐一致。當?shù)貢r間4月11日，美國商務部就ChatGPT等AI大模型監(jiān)管措施公開征求意見，其中涉及存在潛在風險的新AI模型在發(fā)布前是否要走認證核準程序。根據(jù)財經(jīng)E法此前文章（意大利封禁加拿大調(diào)查，ChatGPT會面臨新“禁令”嗎？），一些歐洲國家正采取針對ChatGPT的風險防控措施，歐盟成員也在提議磋商《人工智能法案》有關生成式人工智能的條款。

那么，《管理辦法》的推出體現(xiàn)了哪些意圖，釋放了哪些信號，又會給產(chǎn)業(yè)界帶來哪些影響？

包含諸多“微迭代”內(nèi)容

隨著中國市場上生成式人工智能玩家相繼入局，監(jiān)管時機也逐步成熟。

《管理辦法》第2條顯示了適用范圍和基本定義：適用于“研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國境內(nèi)公眾提供服務的”；“生成式人工智能”，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術

正如財經(jīng)E法此前文章（科技巨頭搶占ChatGPT風口, 數(shù)據(jù)安全挑戰(zhàn)不可掉以輕心），今年1月，伴隨微軟宣布對研發(fā)了ChatGPT的OpenAI公司進行的一筆大額投資，ChatGPT爆火出圈，席卷全球。隨后，由于ChatGPT上線兩個月即達到上億用戶的規(guī)模，谷歌也迅速跟隨發(fā)布類似ChatGPT的聊天機器人項目，帶動了全球資本市場對這一領域的持續(xù)追捧。與此同時，ChatGPT已經(jīng)開始沖擊全球教育業(yè)，并可能帶來法律、安全、倫理風險，甚至滋生犯罪。

進入4月，中國互聯(lián)網(wǎng)公司開始密集推出各自的AI大模型。目前已上線內(nèi)測的產(chǎn)品除了百度的“文心一言”，還有阿里云的“通義千問”、?商湯科技的“日日新”等。

北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括指出，AIGC等新技術、新應用快速發(fā)展，在全社會引起了高度的、廣泛的關注和突出的風險關切。他認為，《管理辦法》是全球第一款“GPT法”。中國監(jiān)管部門的介入是現(xiàn)實的，《管理辦法》開始征求意見，本身就是一個重大的信號，體現(xiàn)了提前研判、提前介入、提前監(jiān)管的思路。有助于企業(yè)及早構建合規(guī)解決方案，提前布局必要的合規(guī)機制和工具，有效減少風險；同時也為國外參與者進入中國市場的合規(guī)運營提供了明確規(guī)范，有助于各方更好地理解中國的監(jiān)管要求和核心價值訴求，及時調(diào)整和適配自身的產(chǎn)品和服務。

吳沈括分析說，現(xiàn)階段AIGC的中外監(jiān)管思路的明顯區(qū)別是，歐美各國側(cè)重從數(shù)據(jù)安全、數(shù)據(jù)保護、數(shù)據(jù)治理的角度來介入和推動監(jiān)管落地；中國則是一種綜合治理的思路，強調(diào)權益保護、數(shù)據(jù)治理、內(nèi)容治理等多個維度。

對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣認為，在ChatGPT熱潮帶動下，未來的兩三年，中國相關技術將會產(chǎn)生大突破，也會出現(xiàn)成熟的商業(yè)化應用落地。同時，生成式人工智能也會對互聯(lián)網(wǎng)內(nèi)容治理會帶來較大沖擊。

張欣注意到，《管理辦法》體現(xiàn)了技術治理上“小而靈”的立法范式。張欣解釋說，由于技術發(fā)展非?？?，不一定要等所有基礎條件成熟之后再立法，可以在制度設計上及時進行有針對性的、垂直領域的立法，從而實現(xiàn)新興科技創(chuàng)新與治理的雙輪驅(qū)動，避免治理的滯后性。

競天公誠律師事務所合伙人袁立志也認為，《管理辦法》有不少“微迭代”的內(nèi)容。

袁立志舉例說，《管理辦法》規(guī)定了AIGC服務提供者承擔內(nèi)容生產(chǎn)者責任；服務提供者承擔數(shù)據(jù)處理者責任——應當對生成式人工智能產(chǎn)品的預訓練數(shù)據(jù)、優(yōu)化訓練數(shù)據(jù)來源的合法性負責；限制數(shù)據(jù)使用要求——不得根據(jù)用戶輸入信息和使用情況進行畫像；AIGC服務提供者承擔應急處置義務——對于運行中發(fā)現(xiàn)、用戶舉報的違法違規(guī)生成內(nèi)容，除采取內(nèi)容過濾等措施外，還應在3個月內(nèi)通過模型優(yōu)化訓練等方式防止再次生成。

部分條款受關注

雖然監(jiān)管只涉及到“微迭代”，《管理辦法》的部分條款仍引發(fā)關注。

《管理辦法》第4條第4項確立了內(nèi)容真實性要求：利用生成式人工智能生成的內(nèi)容應當真實準確，采取措施防止生成虛假信息。

“這項與AIGC固有屬性可能存在一定沖突。”袁立志認為，防止虛假信息的重點不應在技術前端直接管死，而應著眼于應用層面，避免生成的虛假信息公開傳播誤導輿論。

另外，內(nèi)容責任設置上，《管理辦法》僅針對生成式人工智能服務提供者，但未涉及產(chǎn)品的使用者，袁立志認為，這意味著合規(guī)責任主要由平臺承擔。

《管理辦法》雖重在監(jiān)管，但第三條顯著凸顯鼓勵AIGC行業(yè)發(fā)展的態(tài)度：國家支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

上海大邦律師事務所高級合伙人游云庭認為，AIGC產(chǎn)業(yè)涉及國家競爭力，出臺監(jiān)管辦法，是為了應對可能產(chǎn)生的問題，給產(chǎn)業(yè)一個引導方向，不代表要把這個產(chǎn)業(yè)管死。

為何內(nèi)容監(jiān)管條款占據(jù)篇幅最多？

袁立志表示，著重強調(diào)內(nèi)容安全，有兩方面因素：?一方面，AIGC本身是一款重內(nèi)容的技術，無論中外，內(nèi)容合規(guī)都是AIGC 監(jiān)管的重點。另一方面，還與中國一向重視網(wǎng)絡內(nèi)容安全相關。

財經(jīng)E法注意到，《管理辦法》不少條款都可以在《網(wǎng)絡安全法》《數(shù)據(jù)保護法》《個人信息保護法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等法律法規(guī)中找到出處。

比如，《管理辦法》第9條明確了用戶實名制要求，上位法為《網(wǎng)絡安全法》第24條；第16條要求服務提供者對生成的圖片、視頻等內(nèi)容進行標識，依據(jù)是《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第16至18條。

此外，《管理辦法》還寫入多個算法公平條款。《管理辦法》第4條規(guī)定，在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視；第21條再次明確，AIGC服務提供者不得根據(jù)用戶的種族、國別、性別等進行帶有歧視性的內(nèi)容生成。

張欣表示，以往，中國在算法及人工智能相關立法中對于“算法公平”的強調(diào)偏弱。2022年3月1日起施行的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，在征求意見稿階段曾經(jīng)包含以下表述：“不得設置歧視性或者偏見性用戶標簽?！钡罱K版本刪除了這一表述。

此前，已有金融領域行業(yè)協(xié)會發(fā)布針對ChatGPT等工具的倡議行動。

4月10日，中國支付清算協(xié)會明確指出，“ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風險?！辈l(fā)出“謹慎使用ChatGPT等工具”的倡議，該倡議強調(diào)支付行業(yè)從業(yè)人員要提高思想認識，依法依規(guī)使用ChatGPT等智能化工具，正確認識相關工具的機遇和風險，全面評估使用ChatGPT等工具處理工作內(nèi)容的風險；倡議支付行業(yè)從業(yè)人員在使用ChatGPT等工具時，要嚴格遵守國家及行業(yè)相關法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、不上傳非公開的資料及數(shù)據(jù)、客戶資料、支付清算基礎設施或系統(tǒng)的核心代碼等內(nèi)容；倡議各會員單位要進一步健全信息安全內(nèi)控管理制度，開展有針對性的數(shù)據(jù)風險防控工作，加強宣傳和引導，提升員工的風險防范和數(shù)據(jù)保護意識，切實維護國家金融及支付行業(yè)安全。