诱导用户沉迷、过度消费？促进算法应用向上向善

设置诱导用户沉迷、过度消费的算法模型，已成为备受诟病的网络消费和娱乐现象。

“有的游戏你玩不过去它就给你放点水，导致你像中毒一样停不下来；或者看你反复浏览某件商品，它就显示两件八折、三件七五折这样的优惠，让你尽可能多买。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲说。

规定提出，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

中国政法大学数据法治研究院教授王立梅认为，算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求。规定提出不得设置诱导用户沉迷、过度消费等算法模型，正是将科技向善理念落实为具体业务要求的体现。

“规定提出了要防范出现此类情形，需要相关企业切实做好算法的评估工作，从算法推荐的逻辑、面向的用户群体、浏览和消费行为等多个角度出发进行综合分析。”何延哲建议，为防止算法导致的沉迷或过度消费，必要时还应引入第三方进行评价和评议，以保证评估的中立性。

刷量控评影响网络舆论？确保算法公开透明

利用算法注册虚假账号、雇佣网络“水军”，实施虚假点赞、转发等流量造假，或者鼓动“饭圈”粉丝互撕谩骂、刷量控评；屏蔽信息、过度推荐，操纵干预热搜、榜单或检索结果排序……一些算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时，还存在影响网络舆论的现象。

根据规定，算法推荐服务应遵循公开透明的原则，鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度，不得利用算法操纵榜单、控制热搜等干预信息呈现。