消费日报网 > 权威发布

保护个人信息,护航数字经济发展

给“算法应用”立规矩

时间:2022-04-06 09:35:11 来源:人民日报海外版

王 琪作(新华社发)

  3月28日,在位于四川省重庆市大渡口区的“大众创业万众创新示范基地”内,大学毕业生和青年人才正在大数据公司工作。

  新华社记者 唐 奕摄

  使用某个应用程序后,它就能“猜”到你喜欢什么,并且精准推送相关内容,滋生“信息茧房”、大数据“杀熟”等问题。这样的情况最近终于开始有了改变。随着国家网信办等4部门联合发布的《互联网信息服务算法推荐管理规定》近日正式施行,很多APP先后上线算法关闭键,允许用户在后台一键关闭“个性化推荐”。专家表示,要继续压实平台责任,促进算法应用向上向善,让算法更好地为用户服务,推动信息服务行业长远、健康发展。

  可一键关闭“个性化推荐”

  通过参考互联网上的“攻略”,北京的王女士最近终于将一款社交应用中的“个性化推荐”服务选项关闭,“再打开这个APP,感觉安心不少”。

  王女士之所以下决心关掉“个性化推荐”服务,源于此前遇到的一些糟心经历。她在这款应用里曾发表过皮肤干燥的言论,此后便在各个平台不断收到面部“保鲜”秘笈的文章、美容产品的推销广告,让王女士不堪其扰。

  在移动互联网时代,每一个人都在生产“数据”。此前,这些“数据”被平台以各种方式采集,然后通过算法分析出用户行为、习惯和喜好,进而精准地提供信息、娱乐、消费等各类服务。这种基于算法的技术创新在为用户提供精准信息服务的同时,也滋生出不少问题。

  《互联网信息服务算法推荐管理规定》(以下简称《管理规定》)近日正式施行,将算法推荐服务全面纳入监管。《管理规定》提出,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。

  《管理规定》出台后,多家平台先后上线算法关闭键,允许用户在后台一键关闭“个性化推荐”。用户关闭“个性化推荐”后,平台会根据内容的热门程度进行分发,推送内容更加体现应用特色。很多网友表示,以前总是被“安排”看一些内容,关闭“个性化推荐”后,感觉看到了更广阔的世界。

  记者在体验后发现,目前多数APP还是默认打开“个性化推荐”,要找到“个性化推荐”关闭键并不太容易。以一款电商应用为例,需先后点击进入数个页面,然后在呈现的10多个选项里找到“个性化推荐”的关闭按钮。有用户认为,这样的设置方式难言“便捷”,其目的是让用户“知难而退”。

  关闭个性化推荐,是否意味着算法推荐技术走到尽头?中国人民大学信息学院教授程絮森分析,随着新规实施,如何使个性化推荐更加规范,是很大的挑战,但也相应促进了各互联网平台的技术发展进步,有利于加速推进相关行业的数字化转型与平台经济的健康发展。

  合力推动产品向善

  同样的订单,熟客比新客多付钱,被用户质疑平台利用算法模型进行大数据“杀熟”。《管理规定》提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

  中国信息安全研究院副院长左晓栋认为,大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的。解决这类问题首先要在治理违法违规收集用户个人信息上下功夫,其次要保障用户的选择权、删除权等权益。

  “刷短视频、玩游戏的时候,没感觉时间过得很快,但每次放下手机,发现已经几个小时过去了。”在上海一家企业工作的陈先生感慨,每次拿起手机娱乐时,感觉像中毒一样停不下来。另有不少网友抱怨,当自己反复浏览某件商品时,平台就会显示一连串促销优惠信息,很多人因此盲目下单。

  《管理规定》提出,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

  北京大学中国社会与发展研究中心主任邱泽奇对记者说,社会学把人们偏好的内容区分为两个理想类型,一类是理性的,类似于对人对事物的观点,这种对“自我”的偏好是人类认知偏好的一部分,容易形成“信息茧房”效应或“回音壁”效应;另一类是感性的,类似于对人对事物的情感,人们在情感上容易受到他人的感染,易产生“情绪传染”效应。

  邱泽奇认为,在数字时代,诸多产品都是动态产品,需要根据交互数据对产品不断进行优化迭代,通过产品升级、算法升级以满足用户需求。基于人类认知偏好的复杂性,企业除了承担产品责任,还要承担起相应社会责任,把用户纳入产品的开发、生产与服务中,通过政府、企业和用户共同参与、建立相应规则,不断推动产品向善、科技向善。

  实现负责任的创新

  近年来,一些企业利用算法注册虚假账号、雇佣网络“水军”,鼓动“饭圈”粉丝互撕谩骂、刷量控评;操纵干预热搜、榜单或检索结果排序;向未成年人推送不良内容……针对这些问题,《管理规定》提出“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度”“提供算法推荐服务,应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德”等措施。

  从更深层意义看,因算法技术创新而衍生的一系列问题涉及科技伦理。中共中央办公厅、国务院办公厅近日印发的《关于加强科技伦理治理的意见》提出,加强源头治理,注重预防,将科技伦理要求贯穿科学研究、技术开发等科技活动全过程,促进科技活动与科技伦理协调发展、良性互动,实现负责任的创新。

  中国社科院信息化研究中心主任姜奇平表示,从技术创新层面看,应推动算法技术回到正常轨道,比如单纯基于人们的偏好推荐阅读内容,错误之处在于对人的理解不足,把人理解成机器,没有考虑到人还具有自由意志。从价值伦理层面看,哲学上的善和伦理的本质都源于自由意志,因此应该在技术创新过程中把人之为人的一面、人和人的关系摆进技术里考虑。

  专家认为,数字时代的算法技术创新应是一种负责任的创新,要进一步压实平台责任,确保科技活动符合科技伦理。只有坚持把消费者对信息服务的评判权置于采集权之上,才能更好把握个性化信息服务业态的发展方向,促进数字经济高质量发展。


消费日报网版权及免责声明:
1. 凡本网注明“来源:消费日报网” 的所有作品,版权均属于消费日报网。如转载,须注明“来源:消费日报网”。违反上述声明者,本网将追究其相关法律责任。
2. 凡本网注明 “来源:XXX(非消费日报网)” 的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3. 任何单位或个人认为消费日报网的内容可能涉嫌侵犯其合法权益,应及时向消费日报网书面反馈,并提供相关证明材料和理由,本网站在收到上述文件并审核后,会采取相应措施。
4. 消费日报网对于任何包含、经由链接、下载或其它途径所获得的有关本网站的任何内容、信息或广告,不声明或保证其正确性或可靠性。用户自行承担使用本网站的风险。
5. 基于技术和不可预见的原因而导致的服务中断,或者因用户的非法操作而造成的损失,消费日报网不负责任。
6. 如因版权和其它问题需要同本网联系的,请在文章刊发后30日内进行。
7. 联系邮箱:xfrbw218@163.com  电话:010-67637706

标签:
编辑: 乔娇阁
相关新闻

国家广电总局拟出台新规:禁止开展收视率点击率等虚假宣传

  中新社北京8月8日电(记者 高凯)近日,中国国家广播电视总局发布关于就《广播电视和网络视听节目制作经营管理规定(征求意见稿)》公开征求意见的通知。  该通知称,在对《广播电视节目制作经营管...

新增强制性国标 读写台灯抽查实施细则首次发布

  消费日报讯(记者王薛淄)近日,记者从市场监管总局网站处看到,在6月29日发布的“关于发布童车等76种产品质量国家监督抽查实施细则的公告”中,涉及读写台灯、防爆灯具2项照明产品。其中,《读写台...

四部门: 网络平台应禁止宣传销售含金银箔粉食品

  消费日报讯7月12日,市场监管总局、农业农村部、国家卫生健康委、海关总署联合制定并发布《查处生产经营含金银箔粉食品违法行为规定》。  《规定》提出,网络食品交易第三方平台应当严格落实主...

交通运输部集中发布45项行业标准

  消费日报讯近日,交通运输部聚焦交通运输行业安全生产、绿色低碳发展、提升运输服务智慧化水平,以及推进多式联运等方面,批准发布45项行业标准,推动行业高质量发展。  在落实强化安全生产要求...