大數據和人工智能技術日新月異，也使用戶畫像、算法推薦、精準推送等定製化服務日益流行。但是，這些新技術和新應用在為人們提供便利化服務的同時，也成為侵害消費者權益的熱點領域。個人信息過度採集和濫用、“大數據殺熟”等問題，成為近些年來人們廣泛關注的議題，也成為《個人信息保護法》（草案）的重點關注問題。
8月17日，十三屆全國人大常委會對個人信息保護法草案進行三審。草案對個人信息處理規則作出了進一步完善，並對應用程序（App）過度收集個人信息、“大數據殺熟”等問題作出了有專門規範。全國人大常委會法工委發言人臧鐵偉指出，此次三審將明確界定利用個人信息進行自動化決策的概念，規定其應遵循的基本原則，並明確個人信息處理者應當採取的措施和遵循的要求。
草案指出，用戶畫像、算法推薦等自動化決策是指“通過程序自動分析、評估個人的行為習慣、興趣愛好或者經濟、健康、信用狀況等，並進行決策的活動”。比如，短視頻平台根據用戶的瀏覽記錄等數據，為其精準推送他們最可能感興趣的短視頻，就是一種典型的自動化決策。
草案規定，自動化決策應當遵循合法、正當、必要、誠信、目的明確、最小化處理、公開透明、信息質量、責任等個人信息處理原則，並以充分告知和知情同意作為應用前提。草案明確，自動化決策應堅持透明、公平、公正，不得在交易價格等交易條件上對個人實行不合理的差別待遇。與此同時，草案賦予個人選擇的充分權利，個人有權拒絕是否採用自動化決策，而個人信息處理者不得以用戶不同意為由拒絕提供產品或服務。
如何防範“大數據殺熟”？
互聯網時代使個人信息成為整個社會關注的焦點，無論是個人隱私泄露還是“大數據殺熟”，都反映了個人信息保護的至關重要性，也使《個人信息保護法》（草案）的每次修訂和審議都萬眾矚目也備受爭議。
一方面，自動化決策為企業追求商業模式創新提供了巨大空間，也使消費者可以獲得更加精準高效的產品和服務。另一方面，一些企業“科技向惡”，濫用自動化決策服務於商業逐利，嚴重侵害了消費者權益。在如“巨獸”般的互聯網巨頭面前，用戶個人的力量是微弱的，所以來自法律的救濟也是必要的。因此，我們樂見《個人信息保護法》（草案）對個人信息過度收集、“大數據殺熟”等問題予以針對性規範，儘可能使個人信息保護的天平向消費者一端傾斜。
在大數據、人工智能技術等尚未普及的時代，商家“欺生”還是“殺熟”，往往取決於買賣雙方的信息不對稱、討價還價能力以及市場競爭格局等因素。比如火車站、高速公路“路邊攤”等商家，往往認定消費者是“一鎚子買賣”，加之判斷他們人生地不熟，所以會以次充好、質次價高和坑蒙拐騙。
與之相比，對於以“回頭客”為主的商家來說，考慮到多次博弈的可能性，就不敢如此放肆。從企業推廣獲客的角度來說，為新用戶提供折扣等優惠活動是可以理解的，但是對老用戶“殺熟”卻是站不住腳的。“殺熟”之所以會發生，就在於企業利用了客戶對它的信任，所以一定程度上是一種不道德的商業行為，也很難長久下去。
在商業世界也有所謂的“看人下菜”，就是根據潛在消費者的購買力來定價，進而實現利潤最大化。雖然“人不可貌相”，但是商家卻精於以貌取人，通過人們的穿着打扮、舉手投足、交通工具等來判斷並差別化對待。
新技術使得商家可以設計更加複雜的算法，更加隱蔽地對用戶進行欺詐，因此“殺熟”等差別化對待就成為可能，並且日益呈現系統化、規模化和泛化的趨勢。比如，一些用戶反饋某些網購平台會根據用戶的使用年限、消費記錄等數據，為其“量身定製”過高的價格。
一些消費者反映使用蘋果手機購物的價格偏貴，就是一種低級的“大數據殺熟”。這是因為App可以輕鬆判斷用戶使用的是蘋果手機還是其他高端手機，據此推測用戶的購買力和價格敏感度，並有針對性地調高價格而賺取超額利潤。
諸如此類的新應用看似是商業模式創新，實則是一種“皇帝的新衣”，和過去的“欺生”或“殺熟”相比“換湯不換藥”，只不過其應用的技術和手段更加隱蔽和複雜罷了。換句話說，當“計算”淪為“算計”時，科技就難以向善。考慮到“大數據殺熟”是一種隱匿性很強的欺詐，其背後的“算法黑箱”往往難以揭開，因此需要採取更加有效的措施進行打擊，才能避免科技進步帶來的道德滑坡和福利損失。
首先，“大數據殺熟”是一種主觀故意的精巧設計，因為採取了系統化、自動化、批處理的方式來執行，任何人都可能是潛在的受害者，並可能因使用App而遭遇“算計”。
因此，這意味着需要內部人的配合和舉報，才能發現“大數據殺熟”是否存在，並搜集可以將違規者繩之以法的有效證據。所以，《個人信息保護法》應考慮建立“吹哨人”制度，效仿金融監管領域的重獎制度，鼓勵企業內部人舉報“大數據殺熟”等違規行為。
其次，“大數據殺熟”之所以會浮出水面並廣受關注，同顧客的警覺和覺醒有關。一些人多次使用某種App后發現了背後的“貓膩”，甚至自費搜集證據來揭露“大數據殺熟”。這意味着要加強App相關的消費者權益保護，特別是通過宣傳教育來提升消費者的維權意識和能力，使他們能夠拿起法律武器來維護自己的合法權益。與此同時，在治理“大數據殺熟”的初期，“職業打假人”可能也有利於對相關企業形成震懾，使他們不敢越雷池一步。
此外，要發展點評、比價、測評等第三方獨立監督機構，強化其對“大數據殺熟”等違規行為的外部監督，使之成為政府監管的有力補充。比如，最開始電商網店往往注重“打新”而不顧顧客的權益，但是顧客點評機制建立以後，顧客反饋會影響商家的商譽、獲客和復購，所以倒逼商家更加以顧客為中心。消費者自覺吃虧而維權，但是往往因為“大數據殺熟”的專業性強而難以成功。一些比價和測評網站推出的專業服務，則使消費者可以貨比三家不吃虧，也反過來倒逼App潔身自好。
最後，很多企業會以身試法地採取“大數據殺熟”等違規行為，同成本收益的理性計算有關。“大數據殺熟”有很強的隱蔽性，被發現的可能性較低，但是獲取的超額利潤卻很高，這使一些企業屢試不爽。為此，要提高《個人信息保護法》對“大數據殺熟”等違規行為的處罰力度，使他們能夠敬畏和尊重消費者權益。考慮到這種系統化和自動化的差別化待遇會對所有用戶帶來負面影響，因此應提高量刑和處罰水平，通過一些標誌性案例的“天價罰單”形成行業警示效應。
（作者馬亮為中國人民大學國家發展與戰略研究院研究員、公共管理學院教授，研究方向為政府創新、數字治理與績效管理，出版有《目標治國：官員問責、績效差距與政府行為》《公共治理的向度》等著作。）