收藏
國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局近日發布《生成式人工智能服務管理暫行辦法》（下稱《辦法》），對生成式人工智能服務進行了框架性規范。《辦法》自2023年8月15日起施行。
包容審慎、分類分級監管
生成式人工智能，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。
《辦法》明確，對生成式人工智能服務實行包容審慎和分類分級監管，要求國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。
在促進發展具體措施上，《辦法》明確鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系；支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作。
《辦法》還鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定；推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。
“生成式人工智能技術將帶來最重要的一次生產力革命。從這個角度來講，中國亟須加快發展。《辦法》強調保護、鼓勵創新，這樣的管理思路很有必要。”中國電子商會元宇宙專委會副理事長刑杰對上海證券報記者說。
使用具有合法來源的數據
雖然生成式人工智能技術正在或即將引發生產力變革，但其產生的風險和挑戰不容忽視。
《辦法》要求，生成式人工智能服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。
《辦法》還提出，提供和使用生成式人工智能服務應當堅持社會主義核心價值觀；在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視。
同時，《辦法》要求提供和使用生成式人工智能服務要尊重知識產權、商業道德，保守商業秘密；尊重他人合法權益；基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
科技企業須守好“安全底線”
防止生成式人工智能濫用，在充分發揮政府監管職能的同時，也需科技企業提前布局，發揮技術能力守住“安全底線”。
《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。
《辦法》規定提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施并采取模型優化訓練等措施進行整改。明確提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取有關處置措施，保存有關記錄，并向有關主管部門報告。
“比如信息檢測技術，國外已經布局，我們的安全技術專家、安全技術企業也應盡快提出相應的技術方案。”中國科學技術大學網絡空間安全學院副院長張衛明認為，要實施更全面的人工監管，時刻關注技術的安全性，確保其不會被濫用，才能充分發揮人工智能的潛力。
