上海消保委谈“大数据杀熟”：呼吁促进平台算法公平

https://news.sina.com.cn/c/2021-03-14/doc-ikkntiam1208337.shtml

中新经纬客户端3月14日电 上海市消保委近日在官网发文，呼吁健全数字规则，尽快出台算法规制，促进平台算法公平，保护消费者合法权益。

　　文章称，在大数据场景中，交易越来越多地依靠算法完成。互联网平台通过不断优化的算法和不断提升的算力，向消费者提供更为高效、丰富、精准的全领域优质服务，带给广大消费者极大的便利。但在交易效率不断提高的同时，算法的不透明性与难解释性也给消费者权益保护与反不正当竞争带来新的挑战。

　　“熟客卖高价”是初代“大数据杀熟”的典型特征

　　上海市消保委介绍，初代的“大数据杀熟”，依靠的是算法的简单判断。比较典型的就是“熟客卖高价”，比如平台对新客展示的是低价，因为新客通常会在不同平台比价。而如果你是老顾客，习惯已经养成往往不会货比三家，那自然价格就会高一些。和“熟客卖高价”相类似的还有“新人插队”，比如打网约车时，算法会判断你是不是购买了代金券？如果你买了券，自然会忍受更长的等待时间（因为券不用会过期作废）。算法就会把没买过券的乘客插队排在你前面。

　　上海市消保委指出，其实差别定价不是错事，多年前洋快餐经常在店门口发优惠券，对价格比较敏感的顾客会把优惠券藏在钱包里，下回买汉堡的时候可以“便宜2块钱
”。插队也不一定就错，比如银行的VIP客户就有权优先办理业务。消费者对于“大数
据杀熟”的厌恶其实就在于平台的欺骗。老顾客不会奢望打折，但也不愿意被套路。购买了代金券的乘客一直打不到车也以为是高峰时打车人多。基于欺骗达成的交易自然就没有公平性可言。

　　个性化推送下的“千人千面”与“千人千价”

　　上海市消保委谈到，由于人工智能等新技术的运用，算法快速迭代，再加上平台对消费者个人信息的全方位收集，个性化推送就成为了平台主要的营销手段，而竞争的核心就是推送精准度。

　　其一是内容推送，基本方法就是这个人喜欢什么就给他看什么，投其所好。算法如果再聪明点，还能潜移默化地固化或是改变他的认知。比如说，某人曾经搜索过“白芝麻黑芝麻”，那么他会在很多APP里接收到关于芝麻的信息推文。如果他曾经在网上买
过两次白芝麻，那么大概率能经常看到关于“白芝麻比黑芝麻好”的各种文章。如果他正好40岁，可能就会看到“40岁以后应该吃白芝麻”的“知识科普”。

　　其二是产品匹配，就是根据个人信息匹配相关的产品广告或产品。比如，2020年下半年，上海市消保委曾使用多个手机终端模拟不同收入群体的消费者使用相同的APP，
并进行一段时间的虚拟人设操作。测试发现，不同手机接收到的广告差异度极大，模拟低收入人群的手机高频度收到各类低价劣质商品和网络贷款广告。又如，上海复旦大学教授孙金云带领团队做了一项“手机打车软件打车”调研，报告显示，苹果机主更容易被专车、优享这类更贵车型接单。

　　其三是价格组合，相较于初代“大数据杀熟”显而易见的欺骗性差异化定价而言，基于复杂算法的价格组合更为隐蔽，也更能被合理化解释。上海市消保委在不同平台测试了订房、买菜等业务，不同账号的价格差异比以前更大，但与以前不同的是，现在的“千人千价”是由原价与各种优惠券所组成的。这些券并不是账号钱包里原有的，而是算法临时生成的。算法也为这些优惠券说明了各种不同的理由，比如“上个月你打过车”“前天你买过菜”等等。

　　算法公平性是平台消费者权益保护的核心问题

　　上海市消保委的文章指出，在数字经济时代，“数据赋能”已经成为最为主要的经济驱动力。随着数据竞争日趋白热化，也暴露出一些值得关注的问题，比如二代“大数据杀熟”。二代大数据杀熟中的“熟”，已经不是“熟客”，而是被平台充分掌握个人信息的“熟人”。杀熟的方法就是歧视性算法，杀熟的结果就是以消费者的权益换取平台数据价值的最大化兑现。

　　首先，基于算法的个性化内容推送客观上会扩大个体间的认知偏差，而平台出于商业目的的算法歧视，可能打造信息茧房，侵害了消费者的知情权。其次，基于歧视性算法的产品匹配，本质上是平台对算法权力的滥用。消费者因为缺乏免受算法决策支配的“退出”的权利，从某种程度上被剥夺了依法享有的选择权。其三，基于歧视性算法的价格组合，究其实质就是对消费者公平交易权的侵害。算法从接受输入数据到输出决策结果的全过程，形成外界无法获知的“黑箱”，算法在其中进行数据的处理、评估及分析，并根据具体场景作出决策。算法“黑箱”的非透明性导致二代大数据杀熟行为更加隐蔽、难以察觉。

　　上海市消保委呼吁，健全数字规则，尽快出台算法规制，促进平台算法公平，保护消费者合法权益。