广受期待的《个人信息保护法》新近于全国人大通过后，加大保障个人隐私安全的行业法规正在有序酝酿出台。而近年来饱受诟病的算法技术，成为最新一轮的监管目标。
8月27日，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称《意见稿》)，对科技企业滥用算法推荐损害用户权益提出多项限制要求。其中，关注度最高的意见稿第15条提出，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。
这条意在让用户拥有关闭算法推荐权利的条文，将矛头直指目前所有对用户提供算法推荐服务的互联网科技公司。后者通过人工智能算法，深度分析用户的浏览习惯、喜好及消费等特征数据，从而向用户推送个性化的内容、商品及广告。
《中国经营报》记者注意到，意见稿发布后，多家互联网巨头都在公共平台保持了沉默。记者就此联系并询问了其中多家企业，截至发稿，只有字节跳动方面向记者做出回应。对方表示，此前抖音和今日头条已经进行过系统升级，为用户明确提供了个性化推送的关闭选择，后续也会不断优化产品功能，不断提高用户信息保护水平。
根据《意见稿》，征询反馈的截止期限为9月26日，而新规实施后，监管部门将对相关企业的算法进行检查，一旦发现问题就会要求企业立即整改。对拒不改正或情节严重的，将责令其暂停信息更新，并处5000元以上30000元（人民币）以下罚款。构成违反治安管理行为的，将依法给予治安管理处罚。对构成犯罪的，将追究刑事责任。
精准投喂的背面
算法推荐技术在国内为大众熟知，始于今日头条的崛起。2012年，乘着中国移动互联网市场爆发的东风，成功孵化出“内涵段子”“搞笑囧图”的字节跳动开始进军内容分发市场，并于同年8月上线今日头条App。这个能根据用户阅读口味与浏览习惯而推荐新闻的App很快在手机应用市场霸榜，上线仅3个月，用户数便突破1000万，次年8月突破5000万，2014年6月超过 1.2 亿，成为中国移动端新闻资讯领域增长最快的App。随后，尝到甜头的张一鸣又带领字节跳动在2016年先后推出了火山小视频、西瓜视频和抖音三款短视频 App并大获成功，其背后依靠的，个性化的算法推荐功不可没。
头条系产品的走红很快有了带动效应。算法推荐随即成为科技舆论场的显学，使用算法推荐的互联网公司也越来越多，除资讯、短视频外，社交、出行、求职、电商、搜索引擎等平台和互联网应用几乎都使用到了算法推荐技术，厂商在营销产品时也乐于将“个性化”“定制化”“智能化”作为竞争力标签。
技术红利催生的繁荣下，公众开始看到硬币的另一面，算法推荐遭到滥用的负面事件越来越多。工信部赛迪智库网络安全研究所副所长闫晓丽在《算法滥用的社会危害及监管建议》一文中指出，滥用数据分析和算法推荐导致的主要危害包括致瘾性推荐、大数据杀熟以及影响误导消费者三类。
此外，不断推荐用户感兴趣的内容，从而使用户沉迷成瘾，是算法推荐大行其道后遭遇最多的质疑。而其延伸出的最主要危害之一，也被称为“信息茧房”效应，即由长期“偏好”性地获取资讯与知识，造成认知视野局限，导致用户对于信息内容接触面越来越狭隘、单一和固化。
中国信息通信研究院互联网法律研究中心研究员杨婕撰文指出，一旦身处“信息茧房”中，用户会不自觉地失去社会行动力，满足于被动的知识积累，从积极地参与事件转变为消极地认识事件，很难再接受不同的观点，甚至在不同群体、代际间竖起阻碍沟通的高墙，极易造成个体与社会的隔离。
而相比致瘾以及“信息茧房”等软性危害，北京中伦律师事务所合伙人陈际红律师则向记者表示，算法推荐会给用户带来实质权益损害的是误导消费者以及个人隐私泄露。
“通过分析用户的浏览及消费数据，依据其消费习惯，预测用户购买喜好，针对性地向用户推荐商品，进而影响用户的购买决策，这会降低用户选择的可能性，损害用户知情权。”陈际红称。
另一方面，陈际红指出，为了提高算法推荐的精准程度，很多企业也会倾向于从用户身上挖掘和搜集更多数据，从而侵犯用户的个人隐私权，如果其中一些掌握大量用户关键信息的数据一旦泄露，甚至会危害国家安全。
一家社交App公司的产品经理向记者透露，在前几年社交软件竞争激烈的时期，用户使用App的时长曾是其岗位绩效考核的重要指标之一，而为了增加用户停留时间，就必须为用户推荐更精确的社交信息，因此也会在产品中增加更多获取用户性格、社交习惯、日常活动区域等个人隐私信息的方式。
新规影响几何
算法推荐泛滥导致的纷繁乱象，也让此次《意见稿》的出台成为舆论焦点。尤其是在国家法规层面首度要求用户享有算法推荐的自由关闭权，带来的影响也将有着多重意义。
第一大亮点是涉及范围和力度之广。陈际红表示：“从《意见稿》第二条来看，凡是在中华人民共和国境内应用算法推荐技术提供互联网信息服务都将适用新规，这也意味着目前所有的互联网和科技公司都被囊括在内，比此前2019年的规定范围提升了不少。”
记者查阅发现，2019年12月，网信办曾推出《网络信息内容生态治理规定》。其中第十二条明确规定，网络信息内容服务平台采用个性化算法推荐技术推送信息的，应当设置符合要求的推荐模型，建立健全人工干预和用户自主选择机制。
“当年的‘网络信息内容服务平台’针对的主要是今日头条等内容提供商，没有包括电商、社交这类公司，而这次的规定显然提升了一个台阶。”陈际红表示。
而根据新规《意见稿》给出的定义，记者注意到，应用算法推荐技术指的是应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。
在一家电商平台工作的算法工程师张林告诉记者，上述五类算法涵盖目前市面上所有的App企业。“受到影响最大的应该会是短视频和电商，这两类是目前采用用户画像和算法推荐最多的公司。”
法学博士、上海汉盛律师事务所高级合伙人李旻律师告诉记者，《意见稿》是《网络安全法》《数据安全法》《个人信息保护法》颁布后实施的必要延伸。“该算法规定是对三大数据法规范互联网数据及经营问题的有效补充。”
记者注意到，近日通过的《个人信息保护法》明确规定：“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。”
此外，陈际红认为，新规代表中国在全球算法治理层面走在了前列。“包括欧盟《通用资料保护规范》（GDPR）、美国的州立法《生物信息隐私法案》，虽然有涉及算法的内容，但本质还是数据与个人隐私安全层面的法律，像中国一样专门针对算法立法还是首次。”
而在新规将起到的作用方面，记者注意到，在一项由新浪科技官方微博发起的调查显示，有55%的用户认为，可选择关闭算法推荐将“多一些安全感”，34%的用户选择了“信息更加多元”。
这也意味着，相比于拥有更多选择，个人隐私安全是更受用户关注的因素。李旻认为，对个人用户而言，新规实施后使用App过程中，用户可选择关闭算法推荐服务，包括是否接受推荐服务、推荐种类、模式等，能够有效防止用户被App“偷听”。
但张林认为，仅从用户可关闭算法推荐的单条规定来判断，很难说一定能降低企业搜集用户数据的积极性。“对企业来说，符合规定只需在产品界面增加一个选项按钮。但获取用户数据依然会是公司增加和分析客流的重要手段。”张林表示，长期来看，还是需要《数据安全法》《个人信息保护法》等综合实施来实现对企业的约束。
（注：应受访者要求，文中张林为化名。）
https://finance.sina.com.cn/tech ... tzqtyt2994782.shtml
| 
发表于 2021-8-30 15:37:10
