以反壟斷法規(guī)制“大數據殺熟”，企業(yè)如何做到算法合規(guī)？

關于算法歧視，目前最廣為人知的表現形式為“大數據殺熟”。國務院反壟斷委員會將“大數據殺熟”界定為“社會公眾對互聯網平臺利用大數據和算法對用戶進行‘畫像’分析，從而收取不同價格等行為的概括性說法。”[3]

參考上述界定，算法歧視可理解為平臺等在為用戶提供‘量身定制’的商品、服務時，基于其所收集的用戶數據（大數據），利用算法技術對用戶進行“畫像”分析,并基于該“畫像”結果有針對性地對不同用戶實施差別待遇或歧視待遇，其中包括價格歧視或交易條件歧視、身份或性別歧視、就業(yè)歧視、教育歧視、信貸歧視等。

關于平臺實施算法歧視的具體表現形式，結合《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》（國反壟發(fā)〔2021〕1號，以下簡稱“平臺反壟斷指南”）第十七條，具體包括：（一）基于大數據和算法，根據交易相對人的支付能力、消費偏好、使用習慣等，實行差異性交易價格或者其他交易條件；（二）實行差異性標準、規(guī)則、算法；（三）實行差異性付款條件和交易方式等。

算法歧視的產生與互聯網技術的興起有著直接關系。特別是隨著平臺經濟、數字經濟的到來，以算法為代表的人工智能與大數據相結合的自動化決策技術在各個領域得到廣泛使用，算法日益滲透到我們生活的方方面面。平臺廣泛收集各種個人信息，根據消費者過去對特定商品的瀏覽時間、關鍵字的使用、搜索頻率及購物歷史等“足跡”、利用算法準確預測消費者的價格預期與興趣偏好，為不同消費者推薦不同商品、確定不同價格，從而提升個性化數字購物體驗、節(jié)省了選購時間。 

同時，對于平臺等經營者而言，算法定價也具有相當的優(yōu)勢，不僅大幅降低了復雜定價、變更價格的成本，而且顯著提高了定價決策的質量，實現商業(yè)利益的最大化。如果沒有算法技術，經營者往往無從判斷買家的支付意愿和心理預期，而借助大數據、算法技術，經營者便可通過海量數據分析了解客戶具體需求和預期，針對性地為客戶提出目標商品與目標定價方案，應客戶需求變化優(yōu)化定價策略，實施動態(tài)價格管理，最終促成交易并將定價成本降至最低。

正是由于算法具有上述優(yōu)勢，導致其在各個領域的應用日益擴大。但隨著大數據、人工智能、算法的結合，其在產生積極作用的同時，也正在改變著許多市場和行業(yè)的競爭格局，引發(fā)了價格歧視等各種問題。

算法歧視的產生、發(fā)展有其自身的原因和背景。首先，算法具有預設的價值取向，算法無法完全擯棄設計者自身的價值取向、意圖或者局限，難以完全實現中立、客觀。其次，作為算法計算基礎的“數據”也可能存在瑕疵，這會從根本上影響算法的計算結果。最后，技術本身的發(fā)展也具有不可預期性，特別是隨著深度學習技術的發(fā)展，從輸入數據到輸出結果的全過程都可能形成外界無法獲知的“算法黑箱”，這可能也會加劇算法歧視等問題。

隨著利用算法的自動化決策在金融信貸、投保、招聘篩選、公共服務等越來越多的場景中得到運用，如果對算法歧視等問題予以放任，除了可能對消費者的知情權、選擇權和公平交易權造成侵害外，還可能導致并加劇其他經濟、社會問題，引發(fā)社會結構固化、資源流動受阻、加劇社會不公等。

因此，如何在充分利用算法自動化決策積極作用的同時，降低或消除算法歧視等消極作用，是現今各國加強算法規(guī)制所面臨的共同背景和挑戰(zhàn)。

我國對算法歧視的規(guī)制體系，總體而言，可分為國家戰(zhàn)略規(guī)劃、相關法律法規(guī)、技術標準等三個層次。

關于國家戰(zhàn)略規(guī)劃，如2017年發(fā)布的《國務院關于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》明確提出“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”、“建立健全公開透明的人工智能監(jiān)管體系，實行設計問責和應用監(jiān)督并重的雙層監(jiān)管結構，實現對人工智能算法設計、產品開發(fā)和成果應用等的全流程監(jiān)管。促進人工智能行業(yè)和企業(yè)自律，切實加強管理，加大對數據濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度。”此外，國家網信辦等九部門最新發(fā)布的《關于加強互聯網信息服務算法綜合治理的指導意見》（國信辦發(fā)文〔2021〕7號）進一步提出，利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

在法律法規(guī)層面，除《反壟斷法》相關規(guī)定外，《電子商務法》、《個人信息保護法》等多部法規(guī)都對算法規(guī)制作出規(guī)定，具體如下表所示：

除了上述規(guī)定外，我國還頒布了大量的實施細則、政策規(guī)定。2019年12月15日發(fā)布的《網絡信息內容生態(tài)治理規(guī)定》第十二條明確要求，網絡信息內容服務平臺采用個性化算法推薦技術推送信息的，應當設置符合法律要求的推薦模型，建立健全人工干預和用戶自主選擇機制等。2020年8月20日發(fā)布的《在線旅游經營服務管理暫行規(guī)定》第十五條明確規(guī)定，在線旅游經營者不得濫用大數據分析等技術手段，基于旅游者消費記錄、旅游偏好等設置不公平的交易條件，侵犯旅游者的合法權益。

在技術標準體系層面，我國目前已發(fā)布《國家新一代人工智能標準體系建設指南》、個人信息及信息技術安全等一系列國家標準體系及認證監(jiān)管體系。以個人信息為例，國家標準《GB/T 35273—2020信息安全技術 個人信息安全規(guī)范》對個人信息、用戶畫像使用等作出明確限制。按其規(guī)定，個人信息控制者在業(yè)務運營或對外業(yè)務合作中使用用戶畫像，不應侵害公民、法人和其他組織的合法權益……除為實現個人信息主體授權同意的使用目的所必需外，使用個人信息時應消除明確身份指向性，避免精確定位到特定個人。例如，為準確評價個人信用狀況，可使用直接用戶畫像，而用于推送商業(yè)廣告目的時，則宜使用間接用戶畫像。

總體而言，由于算法技術仍在不斷發(fā)展，因此，相關法律規(guī)定也處在動態(tài)的變化之中，仍需持續(xù)關注。下文，我們將主要從反壟斷法角度就我國算法歧視相關規(guī)制予以說明。

目前，我國關于算法歧視反壟斷規(guī)制最具體的規(guī)定為平臺反壟斷指南第十七條。該條規(guī)定專門就平臺利用自動化決策機制實施差別待遇作出規(guī)定，并列明了具體的表現形式。

按照平臺反壟斷指南的規(guī)定，具有市場支配地位的平臺經濟領域經營者通過大數據和算法對交易條件相同的交易相對人實行差別待遇，如差異性定價或其他交易條件、實行差異性標準、規(guī)則、算法或實行差異性付款條件和交易方式，可能屬于濫用市場支配地位、排除和限制競爭的行為，并受到反壟斷法的規(guī)制。但并非所有的差異性定價、差別待遇均屬于濫用市場支配地位的違法活動。在下列情形下，平臺經濟領域經營者實施差別待遇行為可能具有一定的正當性：根據交易相對人實際需求且符合正當的交易習慣和行業(yè)慣例，實行不同交易條件；針對新用戶在合理期限內開展的優(yōu)惠活動；基于平臺公平、合理、無歧視的規(guī)則實施的隨機性交易；能夠證明行為具有正當性的其他理由。

結合上述規(guī)定來看，合法、正當地利用算法進行用戶畫像、自動化決策并區(qū)別對待仍然為法律所允許、鼓勵。但是，超過合法、正當的范圍，則可能會受到反壟斷法的規(guī)制。

截止目前，我國反壟斷執(zhí)法機構已對多起涉及網絡平臺的濫用市場支配地位案件進行了查處，比如在最近國家市場監(jiān)管總局查處的阿里巴巴案、美團案中，都涉及利用算法、大數據及技術優(yōu)勢實施濫用市場支配地位的行為。

同時，在上述案件中，反壟斷執(zhí)法機構除作出相應的處罰決定外，還發(fā)布了《行政指導書》要求企業(yè)整改，其中特別要求：“不得利用技術手段、平臺規(guī)則和數據、算法等，實施壟斷協議和濫用市場支配地位行為，排除、限制市場競爭。”“依法為消費者提供全面、真實、準確、及時的交易信息，不得違法收集個人信息和違法實施算法推薦，依法保護消費者個人信息和隱私，維護消費者利益。”

總體而言，對于網絡平臺經濟領域算法歧視等濫用市場支配地位的查處，和其他類型的濫用市場支配地位一樣，也遵循大體相同的規(guī)制思路，即界定相關市場并確定當事人具有市場支配地位，然后再分析是否存在市場濫用行為以及是否存在正當理由等抗辯事由。

在大數據和算法時代，濫用市場支配地位實施差別待遇行為的形式愈發(fā)多樣、手段愈發(fā)隱蔽，導致今后對其的規(guī)制需要更多地考慮算法規(guī)則、自動化決策過程等技術性問題，這也加大了反壟斷執(zhí)法機構的查處難度。但這些問題并不會從根本上降低相關違法違規(guī)行為被查處、處罰的風險。

相反，考慮網絡平臺算法歧視對市場競爭的重大危害，反壟斷執(zhí)法機構日益關注這一領域的壟斷行為。平臺反壟斷指南的頒布以及我國《反壟斷法（征求意見稿）》都體現了這一點。因此，通過建立反壟斷合規(guī)制度、確保算法合規(guī)，有助于平臺企業(yè)在日常經營中預防、減少壟斷行為，最大程度降低壟斷法律風險和成本。                                         

對于算法合規(guī)的原則和方法，國家網信辦于今年8月27日發(fā)布了《互聯網信息服務算法推薦管理規(guī)定（征求意見稿）》，對應用算法推薦技術[5]提供互聯網信息服務的基本原則、基本管理制度作了較為全面而系統(tǒng)的規(guī)定。這也可以作為企業(yè)建立算法合規(guī)的一個重要參考，現將其主要內容整理如下：

當然，上述互聯網信息服務算法推薦管理規(guī)定（征求意見稿）》并非最終發(fā)布的正式規(guī)定，對其后續(xù)立法動態(tài)還需關注。