ChatGPT 已成為全球最熱門的話題之一。 這樣的人工智能係統被稱為“生成式人工智能”，它可以根據算法、模型和規則生成文本、圖像、語音、媒體、代碼和其他材料，以響應用戶輸入或需要的內容。 生成式人工智能可能會被應用在各種場景中，並推動一些行業的變革，因此備受關注。 針對生成式人工智能的發展，國家互聯網信息辦公室（以下簡稱“網信辦”）印發《生成式人工智能服務管理辦法（徵求意見稿）》 [1]11 年 2023 月 XNUMX 日（“生成人工智能服務管理辦法（徵求意見稿）”，以下簡稱“管理辦法草案”）。
1.重點
《管理辦法》草案共21條，涵蓋以下重點事項。
1）適用範圍：域外管轄
本辦法適用於在中國境內創新或利用生成式人工智能並提供服務的任何人（提供者）（第二條）。 這意味著《徵求意見稿》具有域外效力。 這種域外效力的依據是效果主義和客觀屬地主義。 一方面，Generative AI生成的內容可能會影響中國的社會秩序或其他關係，從而在中國產生影響。 另一方面，Generative AI 將被在領土內的用戶使用，Generative AI 的運行位於領土內，這提供了客觀領土學說的基礎。
2) 提供者的義務
根據《徵求意見稿》，服務提供者承擔以下責任。
（1）內容
提供商應對人工智能生成的內容負責。 內容應合法、準確、真實。 它不應該是侵權的、歧視性的、虛假的、反社會的、反政府的、反國家的、恐怖主義的、極端的、暴力的、色情的以及擾亂經濟和社會秩序的。 提供者應主動或應用戶要求刪除不當內容，改進或優化AI。
(2) 用途
第一，供應商應遵守商業道德，不得實施不正當競爭行為。 其次，提供商不得侵犯他人的權利，包括知識產權、個人信息、隱私和商業秘密。 第三，提供商不應歧視性地生成內容。
(3) 創新
《管理辦法》還對生成式人工智能的創新提出了要求。 提供者應對投稿者制定明確、具體、可操作的說明，對投稿者進行培訓，一旦需要人工標註，應確保內容的正確性。
(4) 與當局的合作
提供者應積極配合法規或行政代理人要求的行政管理。 首先，提供商應根據互聯網服務相關規定對生成式人工智能進行註冊或安全評估報告。 其次，提供者應根據Deepfake服務規範對生成的圖像和視頻進行標記。[2] 第三，提供商應應行政代理人的要求提供可能影響用戶選擇的基本信息。
(5) 用戶管理
提供商應管理生成式 AI 的用戶。 首先，提供商應要求用戶提供身份信息。 其次，提供商應明確和宣傳其服務對象，並採取措施防止用戶沉迷於人工智能提供的內容。 第三，提供商應指導用戶適當使用生成內容，如果用戶非法或不道德地使用人工智能，則應暫時或永久禁止用戶。
2。 評論
1) 積極影響
《管理辦法》徵求意見稿是中國對生成式人工智能趨勢的快速反應。 它是對人工智能監管框架的重要補充。 它有幾個積極的影響。 首先，它涵蓋了生成式人工智能帶來的大部分法律問題，包括人工智能的責任歸屬、知識產權威脅、有害內容、不正當競爭和侵犯隱私等，並提供對人工智能的全生命週期監管。生成人工智能，從創新到利用。 第二，《管理辦法》第三條明確表示政府支持和鼓勵人工智能的創新、應用和國際合作，表明了我國對人工智能發展的支持態度。 第三，《管理辦法》是人工智能分類監管框架的重要組成部分，該框架由針對不同類別人工智能的若干法規組成。
2) 法律地位
行政辦法草案不是法律，因為它是由 CAC 發布的，
國務院辦公廳． 根據中國立法法，法律只能由全國人民代表大會制定。 因此，網信辦只能發佈在我國立法層次體系中處於較低層次、不能與法律相抵觸的行政規章或規範性文件。 但是，這種法律地位在一定程度上保證了靈活性和效率。 一方面，與法律相比，制定或修改行政規章或規範性文件的要求不那麼嚴格。 另一方面，各行政代理人在認為必要時，可以在各自的行政權限範圍內發布規範性文件，保證了對監管需求的快速反應。
3) 風險
需要注意的是，《徵求意見稿》還可能帶來一些其他風險。 雖然第3條宣示了政府的支持態度，但不得不承認的是，該行政法規顯著增加了Generative AI Providers的負擔。 生成式 AI 的技術遠未成熟。 因此，供應商是否有能力履行《徵求意見稿》規定的所有義務值得懷疑，或者至少會增加合規成本。 例如，《管理辦法》徵求意見稿要求提供者防範虛假內容。 但從技術上講，現階段的內容很難做到100%真實。 供應商履行此類義務可能會花費很多。 因此，高合規負擔可能在一定程度上阻礙了生成式人工智能的發展和創新。
綜上所述，《徵求意見稿》體現了中國對人工智能監管的積極態度。 它對擬提供生成式人工智能服務的實體提出了較高的合規要求。 這種態度有助於 Generative AI 的健康發展，儘管可能會擔心合規成本過高。 總體而言，《徵求意見稿》的效果還是值得觀察的。
[1] 參見 http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm。
[2] 中國國家互聯網信息辦公室、中國工業和信息化部以及中國公安部，《深度偽造服務條例》第 12 號條例。
封面照片作者： 星雲群 在Unsplash
提供者： Jidong Lin 林濟東
