事關生成式人工智能服務 國家網信辦出手 數據安全產業(yè)發(fā)展政策規(guī)范

• 李波 2023年4月12日 來源：中研普華集團、央視財經、中研網 965 60
• 繁體

據國家互聯網信息辦公室官網消息，為促進生成式人工智能技術健康發(fā)展和規(guī)范應用，根據《中華人民共和國網絡安全法》等法律法規(guī)，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)，其中提出生成式人工智能產品提供服

據國家互聯網信息辦公室官網消息，為促進生成式人工智能技術健康發(fā)展和規(guī)范應用，根據《中華人民共和國網絡安全法》等法律法規(guī)，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)，其中提出生成式人工智能產品提供服務前需申報安全評估。

生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術。《征求意見稿》要求，利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規(guī)定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

《征求意見稿》指出，國家支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數據資源。

提供生成式人工智能產品或服務應當遵守法律法規(guī)的要求，尊重社會公德、公序良俗，符合以下五方面要求。

一是：利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。

二是：在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中，采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。

三是：尊重知識產權、商業(yè)道德，不得利用算法、數據、平臺等優(yōu)勢實施不公平競爭。

四是：利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。

五是：尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

此外，《征求意見稿》提出， 提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。

目前，各大科技巨頭陸續(xù)推出相關數據大模型，產品涵蓋語言、礦業(yè)、制造、電商、搜索引擎等多個領域。有機構指出，隨著各類大模型逐步落地，對應的數據需求有望持續(xù)增長，擁有數據的相關公司有望受益。

此外，國家網信辦近日也發(fā)布了《生成式人工智能服務管理辦法(征求意見稿)》，數據要素生態(tài)得到進一步完善。受消息提振，數據要素、數據確權等相關數據產業(yè)鏈個股今日大幅走強。

生成式人工智能服務管理辦法發(fā)布 我國數據安全產業(yè)發(fā)展政策規(guī)范

隨著AI在各行業(yè)滲透率不斷提升，各國均加快對相關領域的政策規(guī)范，目前，各類大模型不斷涌現，其所使用數據的安全性和合法性也成為監(jiān)管的關鍵要點。

近年來，我國數據安全相關政策也陸續(xù)落地，今年年初，工業(yè)和信息化部、國家網信辦、國家發(fā)展改革委等十六個部門聯合發(fā)布《關于促進數據安全產業(yè)發(fā)展的指導意見》，文件中明確，到2025年，數據安全產業(yè)基礎能力和綜合實力明顯增強。

國家互聯網信息辦公室發(fā)布《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱“《征求意見稿》”)對生成式人工智能服務提供者及其產品提出了多項規(guī)制。

一天前，中國支付清算協會發(fā)布《關于支付行業(yè)從業(yè)人員謹慎使用ChatGPT等工具的倡議》(以下簡稱“《倡議》”)，倡議相關單位不上傳關鍵敏感信息，包括國家及金融行業(yè)涉密文件及數據、公司非公開的材料及數據、客戶資料、支付清算基礎設施或系統的核心代碼等。

此前，全球范圍內發(fā)生了多起因使用ChatGPT導致的數據泄露事件。意大利、加拿大等國監(jiān)管機構先后宣布將關注ChatGPT及其背后公司OpenAI帶來的數據安全風險，并將開啟監(jiān)管調查。

對于近期生成式人工智能引發(fā)的數據安全問題，受訪專家建議，應關注人工智能領域的新興監(jiān)管工具;同時，可以考慮將代表性人工智能公司納入治理體系，同監(jiān)管機關合作開發(fā)與技術發(fā)展和市場競爭相適應的監(jiān)管框架。

根據中研普華研究院《2023-2028年中國數據安全服務市場深度分析及發(fā)展趨勢預測報告》顯示：

數據安全是數字經濟產業(yè)的基石之一。

數據安全產業(yè)鏈主要包括上游安全芯片等軟硬件供應商，中游防火墻、VPN、商用密碼、數據要素等產品與解決方案提供商，下游應用則涵蓋政府、國防、電信、金融、能源等關鍵領域。

我國十分重視數字技術發(fā)展，同時也關注人工智能發(fā)展過程中的風險和問題。2023年1月份，工業(yè)和信息化部等十六部門聯合印發(fā)《關于促進數據安全產業(yè)發(fā)展的指導意見》提出，提升產業(yè)創(chuàng)新能力，加強核心技術攻關。

到2025年，我國數據安全產業(yè)規(guī)模超過1500億元，年復合增長率超過30%，將建成5個省部級及以上數據安全重點實驗室，培育若干具有國際競爭力的龍頭骨干企業(yè)、單項冠軍企業(yè)和專精特新“小巨人”企業(yè)。

從網絡安全法、數據安全法、個人信息保護法相繼實施，到去年《中共中央 國務院關于構建數據基礎制度更好發(fā)揮數據要素作用的意見》(以下簡稱“數據二十條”)出臺，近年來，我國數據信息保護的制度“籬笆”不斷扎牢，充分回應了廣大群眾的共同關切。

中國電子技術標準化研究院黨委書記、副院長，中國網絡安全產業(yè)聯盟(CCIA)秘書長楊建軍表示，國家、社會、企業(yè)在數據安全與更新保護方面做了大量工作，法律法規(guī)、政策文件、標準規(guī)范逐年增加完善。

但同時，隨著社會、技術、產業(yè)及新興技術應用的發(fā)展，數據安全問題也正在不斷演進，需要更創(chuàng)新的治理模式和方法。

針對如何解決“數據看不見、風險搞不清、監(jiān)管欠細化”等問題，北京理工大學法學院教授洪延青強調，要從動態(tài)的角度去理解數據安全的概念。

“動態(tài)就是隨著情況的變化，很多原本沒有問題的事情也會發(fā)生問題?！彼赋觯荒芎唵蔚匕褦祿踩斫獬蓴祿谋Ｃ苄?、完整性、可用性，應該形成包括合規(guī)在內的“大安全”概念，在“數據二十條”的背景下，從動態(tài)的角度實現“關系型安全治理”，即在管理規(guī)則基礎上，用技術支撐管理規(guī)則落地，保障管理規(guī)則可視、可控、可干預。

“落實數據安全和個人信息保護，各個主體行動缺一不可?！敝袊茖W院信息工程研究所工程師李敏表示，從相繼實施的國家法律層面可以看出，維護數據安全和個人信息保護需要政府、企業(yè)、相關行業(yè)組織共同參與，維護網絡空間良好生態(tài)。

多位行業(yè)從業(yè)者還指出，目前互聯網企業(yè)正面臨一個數據安全風險事件頻發(fā)的大環(huán)境，數據泄露、個人信息違規(guī)使用與違規(guī)收集事件頻繁發(fā)生。這從另一方面要求相關企業(yè)從產品自身設計上加強用戶權益保障，積極參與行業(yè)標準建設，積極推動合規(guī)要求落地。

《2023-2028年中國數據安全服務市場深度分析及發(fā)展趨勢預測報告》由中研普華研究院撰寫，本報告對該行業(yè)的供需狀況、發(fā)展現狀、行業(yè)發(fā)展變化等進行了分析，重點分析了行業(yè)的發(fā)展現狀、如何面對行業(yè)的發(fā)展挑戰(zhàn)、行業(yè)的發(fā)展建議、行業(yè)競爭力，以及行業(yè)的投資分析和趨勢預測等等。報告還綜合了行業(yè)的整體發(fā)展動態(tài)，對行業(yè)在產品方面提供了參考建議和具體解決辦法。

• 相關深度報告REPORTS

  

  2023-2028年中國數據安全服務市場深度分析及發(fā)展趨勢預測報告

  隨著數據安全服務行業(yè)競爭的不斷加劇，大型企業(yè)間并購整合與資本運作日趨頻繁，國內外優(yōu)秀的數據安全服務企業(yè)愈來愈重視對行業(yè)市場的分析研究，特別是對當前市場環(huán)境和客戶需求趨勢變化的深入研...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡