中國司法觀察員

中司觀察

英語阿拉伯語簡體中文荷蘭人法國德語印地語意大利日語韓語葡萄牙語俄語西班牙語瑞典希伯來語印度尼西亞越南語泰語土耳其馬來語

中國如何解決算法決策中的平台責任問題?

28年2021月XNUMX日,星期日
分類: 透視
責任編輯: 黃帥黃帥

頭像

 

關鍵要點:

  • 中國立法者已經意識到算法在互聯網平台運營中的核心作用,並在 20 年 2021 月 XNUMX 日頒布的《個人信息保護法》(PIPL)中將其定義為“自動決策”,首次對該技術進行了規範。
  • 在PIPL下,平台應事先評估算法的影響,並對事後的決策結果負責。
  • PIPL擴大了平台用戶的知情權,要求平台打破算法個性化推薦給用戶所形成的“信息繭”。


中國個人信息保護法(個人信息保護法)於 2021 年 XNUMX 月頒布,為互聯網平台通過算法進行自動化決策劃定了界限。

Ⅰ. 背景

中國互聯網平台,典型的是字節跳動的 TopBuzz 和 TikTok,廣泛使用推薦算法向用戶推送內容和產品。

然而,此類算法涉嫌干擾用戶自由決策權,從而造成道德風險,受到公眾和監管機構的質疑。

中國立法者已經意識到算法在此類平台運營中的核心作用,並在 20 年 2021 月 XNUMX 日頒布的《個人信息保護法》(以下簡稱“PIPL”)中將其定義為“自動決策”,該法對該技術進行了規範。第一次。

根據PIPL,自動化決策是指通過計算機程序自動分析和評估個人的行為習慣、愛好或財務、健康和信用狀況並據此做出決策的活動。 (第 73 條)

在此之前,對於平台對自動化決策的責任存在分歧。 例如,有人認為平台不應對其自動決策算法的結果負責,這本質上是一種中立的技術。 然而,PIPL 澄清了相反的情況。

Ⅱ. 平台限制

1. 監管機構直接審查算法

平台作為個人信息處理者,應當定期對其處理個人信息的行為符合法律、行政法規的情況進行審核。 (第54條)

這需要平台定期審核其算法自動化決策和其他信息處理活動。

根據規則,監管機構還可以對平台算法的運行情況進行內部審計,而不是僅對平台的行為和後果進行外部監督。

相應地,監管者將算法作為直接監管對象,使監管者能夠干預自動化決策的技術和細節。

2.平台提前評估算法的影響 

平台作為個人信息處理者,如將個人信息用於自動化決策,應提前進行個人信息保護影響評估,並記錄處理信息。 (第55條)

平台評估應包括以下內容:

A. 處理個人信息的目的、方式或其他方面是否合法、合法和必要;

B. 對個人權益的影響和風險程度; 和

C. 採取的安全保護措施是否合法、有效並與風險程度相適應。

因此,平台應在自動決策算法上線之前進行預先評估。 風險評估包括算法自動化決策的合法性和必要性,以及其影響和風險。

平台有缺陷的算法自動化決策可能會損害公民的財產和人身權利,甚至危害公共利益和國家安全。

因此,負面後果可能會影響成千上萬的用戶。 屆時,即使平台被追究責任,也可能難以挽回已經造成的損失。

為防止出現這種情況,法律對平台算法建立了事前評估制度,試圖對算法進行事前干預。

3、平台對事後決策結果負責

平台對自動化決策的結果承擔以下義務(第二十四條):

A.平台應確保結果公平公正

個人信息處理者對個人信息進行自動化決策的,應當保證決策的透明度和結果的公平公正,不得在交易價格或者其他交易條件方面對個人進行不合理的差別對待。

B. 平台應為其用戶提供不針對個人特徵的自動化決策選項。

以自動化決策方式向個人推送信息或者商業營銷的,應當同時向個人提供不針對個人特點的選項或者簡單的拒絕接收方式。

C、平台對決策結果進行說明。

以自動化決策方式作出對個人權益有重大影響的決定的,個人有權要求個人信息處理者作出說明,並有權拒絕作出個人信息處理者僅通過自動決策做出的決定。

該規則要求平台對自動決策的結果負責,包括:

A. 該規則不承認平台使用的“技術中立”防禦。 平台應對算法自動化決策的結果負責,並保證結果的公平合理。

B、規則擴大了平台用戶的知情權。 用戶可以要求自動決策結果的透明度以及在“重大影響”的情況下來自平台的解釋。

C、規則要求平台打破算法個性化推薦給用戶形成的“信息繭”,要求平台保護用戶的知情權。

三, 我們的評論

中國在PIPL方面取得了突破,為平台的自動決策算法增加了法律規則。 但是,它仍然需要進一步完善。 例如,法律沒有明確:

A. 平台啟動算法評估的條件。

B. 平台對其算法進行評估後,是否以及在何種程度上公開評估報告,以及 

C. 平台應如何對其算法自動決策造成的損害負責。

我認為中國監管機構仍在探索制定一系列具體法規以進一步實施 PIPL 的可能性。

 

照片由 與 Raj 的公路旅行 on Unsplash

 

 

 

 

 

提供者: 國棟杜杜國棟

另存為PDF

中國法律門戶網站上的相關法律

你可能還喜歡

案例研究:人臉識別行政處罰

對 400 多起行政處罰案件的研究揭示了中國政府目前對面部識別的態度,並提供了一個情景,以評估如果今天發生這些案件,中國的個人信息保護法將如何適用。

中國法律援助法怎麼說?

什麼是值班律師? 誰將擔任法律援助人員? 可以提供什麼樣的法律服務? 以下是了解中國法律援助法需要回答的關鍵問題。

中國安全生產法(2021)

《安全生產法》於29年2002月2009日頒布,分別於2014年、2021年和1年修訂。 最新修訂於 2021 年 XNUMX 月 XNUMX 日生效。