随着网络信息技术的高速发展,大数据、云计算、算法与人工智能等技术广泛应用于社交、购物、旅游、医疗、求职及视频等各类平台和应用场景。互联网新兴业态为人们带来极大便利,塑造了人们新的生活方式。同时,由于信息技术更新迭代速度快、发展形式多样、新兴业态越来越复杂,大数据挖掘与算法通过用户行为分析,以及历史的数据进行挖掘,给用户的个性化服务带来了便利,也为经济社会发展注入新动能。然而,算法歧视、“大数据杀熟”、诱导沉迷、违法和不良信息推荐等算法不合理应用也触及了用户信息安全与权益保护等问题,并深刻地影响了正常的传播秩序、市场秩序和社会秩序,给我国现有法律法规与监管治理体系带来新的挑战。

为了规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起施行。《规定》的出台和施行将有效加强国家对互联网信息服务提供者算法推荐的规范化监管,有利于营造积极健康、向上向善的互联网信息服务环境,形成良好的信息传播秩序,进一步提升我国社会治理能力。

一、以社会主流价值为导向,强调舆情管理与引导

《规定》强调算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。《规定》着眼互联网信息服务中潜在的算法影响网络舆论、算法诱导用户沉迷或过度消费、算法共谋和不正当竞争等算法应用风险,由此引出治理对象,通过算法规制规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益。《规定》指出具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。

二、重点强调用户权益保护,维护未成年人和老年人等群体合法权益

《规定》强调算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者向未成年人提供服务的,应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息。《规定》指出,算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。《规定》指出,算法推荐服务提供者向老年人提供服务的,应当保障老年人依法享有的权益,充分考虑老年人出行、就医、消费、办事等需求,按照国家有关规定提供智能化适老服务,依法开展涉电信网络诈骗信息的监测、识别和处置,便利老年人安全使用算法推荐服务。

三、建立完备可行的监管体系,明确服务提供者的法律责任

《规定》强调网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度,根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。《规定》指出算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条规定,法律、行政法规有规定的,依照其规定;法律、行政法规没有规定的,由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

四、构建算法治理落地支撑体系,强化企业的社会责任

《规定》的出台,具有较强的探索性和前瞻性,也是算法推荐管理的新起点。然而,算法综合治理目前仍处于起步阶段,缺少算法推荐管理的实践经验和技术支撑体系,加快推进算法治理的尽快落地实施,结合当前的新技术体系,修正落地实施过程中遇到的新问题,是切实保障算法综合治理工作有力有序推进的关键。另外,在管理落地过程中,相关企业的自律及社会责任也是影响落地的重要因素。建议加强如下工作:

(一)构建算法管理与监测的技术体系,促进网络治理持续发展

围绕构建算法治理与监测的技术体系,鼓励高校设置并加强算法安全相关专业学科建设,并注重交叉学科建设和学生培养,引导高校院所建立相关科研机构,强化算法治理研究方向,组建相关人才队伍,建立研究机构与相关主体企业的联动机制,运用研究机构的科研能力,结合企业技术积累和服务体系,开展治理的示范应用,并培养一支高素质算法监管人才队伍。

(二)激发信息服务企业的社会责任感,形成行业自律风气

除了完善法律法规,构建监管机制,企业的社会责任感至关重要。首先,通过行业协会组织签订互联网平台算法推荐自律公约,就数据搜集与算法使用等做出合理规定与制约,并按要求公开相关算法和程序,建立用户监督机制。国内相关知名和头部企业要发挥示范引领作用,鼓励其他中小企业,从而在行业内部形成互相监督、自觉守约、合规经营的治理机制。其次,互联网平台企业要自觉承担社会责任,学习并遵守国家法律规范和商业道德,遵循诚信交易原则,提高公信度,靠品质与口碑盈利。最终,依靠企业自身力量,从源头上阻断算法推荐乱象的发生,为维护用户合法权益,共同守护健康向上的互联网秩序凝聚力量。(作者:沈浩 中国传媒大学媒体融合与传播国家重点实验室大数据中心,首席科学家)

推荐内容