眼下正值暑期,未成年人上网时长增加,在获取知识的同时也面临不良信息接触等风险。近日,中央网信办开展为期两个月的“清朗·2023年暑期未成年人网络环境整治”专项行动,重点整治有害内容隐形变异、网络欺凌、隔空猥亵、网络诈骗、不良内容、网络沉迷、新技术新应用风险问题。为孩子上网保驾护航,需要全社会的共同努力。
数字时代,网络成为未成年人获取知识的重要渠道,同时,不良信息接触、网络沉迷成瘾、个人隐私泄露等风险也如影随形。根据《2021年全国未成年人互联网使用情况研究报告》,2021年小学生的互联网普及率达95.0%,未成年人接触互联网的低龄化趋势明显,青少年模式的使用比例和满意比例均不足五成。
进入暑假,青少年上网时间增加,如何治理好涉未成年人网络乱象,成为全社会关注的热点问题。近日,中央网信办开展为期两个月的“清朗·2023年暑期未成年人网络环境整治”专项行动,重点整治有害内容隐形变异、网络欺凌、隔空猥亵、网络诈骗、不良内容、网络沉迷、新技术新应用风险问题。
有害内容隐形变异、新技术新应用风险增多
电脑前,中学生李刚(化名)向记者展示了他从某论坛学来的检索技巧。
“AI换脸”“一键换装”……经过检索,一个个充满低俗意味的店铺图片和文案映入眼帘。进入店铺,记者发现,这是一家出售AI图像生成工具的网店,可生成低俗的人物形象,甚至还能生成未成年人形象。“很多同学都知道如何使用‘擦边关键词’搜索,购买这类AI生成工具。”李刚说,购买时,店家也不会询问自己是否成年。
传播有害信息的网络乱象,借助“AI换脸”“AI绘图”等新兴技术,沉渣泛起。一些处于监管灰色地带的应用软件,则将隐秘的手伸向未成年人。
前段时间,市民李阳(化名)发现读中学的儿子正在使用某款密聊软件,屏幕上有几张“阅后焚毁”状态的图片、几个英文字母简写。出于关心,他上网搜索了几个英文简写,发现都是低俗用语的缩写。
通过“二创视频”、表情包、外链浮窗等隐蔽形式,色情低俗、迷信暴力等向青少年传播;有的青少年则沉迷于实名制要求宽松的短视频平台;某些儿童智能设备APP中,语音、文字搜索结果中存在不良内容……
除了新形式的不良信息传播,实施网络诈骗、隔空猥亵、盗骗个人信息等违法犯罪等,也时有发生。
“你想不想‘破解’青少年模式?无限畅玩,价格便宜。”
沉浸在游戏中的张晓(化名)收到了这样一条私信。听说可以“破解”青少年模式,张晓一时心痒难耐,“反正没多少钱,试试看!”
当晚,张晓的父母发现银行卡里少了3800元钱,询问后才知道,张晓遭遇电信网络诈骗,手机被植入了“木马”,还被盗取了个人信息。
“当前,在未成年人网络生态环境治理中,未成年人面临的网络风险大致可以分为不良信息接触风险、网络沉迷成瘾风险、个人隐私泄露风险、网络违法侵害风险等类型。”中国政法大学教授王贞会介绍,与时俱进,加强未成年人网络环境管理,势在必行。
网络技术降低违法成本,增加隐蔽性
涉未成年人的互联网乱象为何屡禁不止,又屡屡改头换面?
数字时代奔涌向前,不断更新迭代的网络技术,极大地降低违法成本、增加违法行为的隐蔽性。
生成式人工智能等技术快速发展,给未成年人带来此前不曾有的不良信息风险,且普通的监测手段有时无法奏效。某电商平台工程师黄舒介绍,所谓的“密聊软件”,具有极大的逃避监管、向未成年人传播不良信息的风险。
“网络内容在隐形变异、安全风险以及诱导沉迷等方面的表现形式都在快速迭代,国家立法、政府监管、学校管理、家长知识结构都存在滞后的风险。”北京青少年法律援助与研究中心主任佟丽华说。
技术的进步是大势所趋。各方管理需要及时改进,才能有效避免涉未成年人的网络乱象。
“进、退青少年模式只需要一串密码,还只有4位。”北京市民李南(化名)举着手机,指着其中一款软件说,“输入密码就能解除限制,太简单了,这很难起到严格防止未成年人沉迷的效果。”
监护人自身网络素养参差不齐,也是涉未成年人网络乱象的成因之一。
“父母或其他监护人缺乏网络素养,会直接影响对其子女上网的管理效果,进而在教育子女使用网络过程中出现简单粗暴等行为。”王贞会说。
此外,个别监管部门也存在落实法律法规政策不到位、政策制度更新不及时等情况,加剧了相关问题的出现。
立规矩、管长远,建章立制需与时俱进
“对未成年人的网络保护,不能单靠政府、企业、家庭、学校中的任何一方。”佟丽华说,多方共治、久久为功,才能营造风清气正的网络环境。
网络平台是信息内容管理的第一责任人,在未成年人保护方面起到重要作用。在收到包括李刚父母在内的举报之后,该电商公司立刻采取了相关措施,例如识别和严格处置类似商品,坚决剔除AI绘图技术应用中的不良倾向。同时,提升“擦边词”的识别,增加380余条关联识别词,不断提升相关词汇关联的商品是否传播低俗内容的研判能力。
“一方面,互联网平台应做好内部自律,主动加强防沉迷机制,严格打击侵害未成年人合法权益的内容和行为。”王贞会说,“另一方面,互联网平台还应充分发挥对未成年人数字成长的赋能作用,让数字技术助力未成年人的健康发展。”
令人欣喜的是,不少平台对未成年人保护愈发重视:暑假前夕,多家国内游戏厂商集体发布“关于暑期未成年人游戏限玩的通知”;快手对于涉未成年人不良信息从深从细整治、从严从重处置;抖音也陆续推出《十万个为什么》系列短视频等精品内容,发起青少年科普创作计划等,提供优质精神文化内容。
社会有期盼,监管有回应。
为进一步帮助未成年人减少网络沉迷和不良信息影响,国家网信办8月2日发布了《移动互联网未成年人模式建设指南(征求意见稿)》并公开征求意见,将未成年人网络保护的覆盖范围由APP扩大到移动智能终端、应用程序、分发平台,把“青少年模式”升级为“未成年人模式”。
立规矩、管长远,建章立制更需与时俱进。近日,司法部、国家网信办专题研究审议《未成年人网络保护条例(草案)》。“加快推动出台该条例是推进网络空间法治建设的重要举措,对于健全未成年人网络保护制度体系、构筑未成年人网络安全屏障、切实保护未成年人身心健康、保障未成年人合法权益具有重要意义。”司法部有关负责人表示。
“监管部门既要鼓励互联网平台的健康发展,也要根据技术创新背后可能存在的风险,合理运用建议、约谈等方式明确监管底线和平台经营红线。”王贞会说。
此外,公安和司法机关的打击治理也卓有成效:公安机关曾联合网信部门开展专项行动,7个月间处置涉未成年人电信网络诈骗案件1.2万余起;2020年至2022年,检察机关起诉涉嫌利用电信网络侵害未成年人犯罪达7761人。
“提升父母或其他监护人的网络素养水平,是营造健康安全网络环境的关键。”王贞会建议,在日常的法治宣传中,有关部门可以结合“进社区、进家庭、进学校”等活动,提高监护人对未成年人网络保护的风险防范意识和实际保护能力。
“治理并非对未成年人的网络行为进行管制,而是从保障未成年人权利的角度,尊重他们发展、成长的权利,合理引导他们正确地认识、使用网络。”中国政法大学副教授、未成年人事务治理与法律研究基地副主任苑宁宁说。