互联网

网易易盾助力未成年人网络保护,让花朵在“清朗”中健康成长

来源:互联网    作者:      2023年08月11日 16:35

导语:

随着互联网的普及,未成年人的触网率不断攀升,触网年龄也日益降低。互联网为这个数字化时代成长起来的未成年人群提供了更加便捷的学习和娱乐途径,但同时也带来了一些问题和风险。为了应对这些问题和挑战,我国一直在积极推进未成年人网络保护工作。

《2021年全国未成年人互联网使用情况研究报告》显示,2021年,我国未成年人网民达1.91亿,未成年人互联网普及率达96.8%。在互联网这个虚拟而又隐蔽的世界里,一些问题逐渐浮出水面。尤其是未成年人,他们在网络上接触到的内容常常不够健康,难以得到有效的监管。不仅如此,他们的个人信息还容易被泄露,带来身份盗用的风险。

第一,不良和有害信息问题。比如说低俗色情、血腥暴力、炫富拜金,这些都影响青少年身心健康成长。还有网络欺凌、人肉搜索这些现象严重侵害未成年人的合法权益。以上种种不良内容在未成年人的成长环境中,将对未成年人价值观的塑造造成极大负面影响。

第二,网络沉迷问题。对网络沉迷问题的治理,总体已见成效,但也还存在不少短板问题。比如一些网站平台,功能设计还不够合理,保护机制还不够健全。2019年以来,各大视频、短视频、社交、游戏等网络平台陆续推出的“青少年模式”,在帮助未成年人减少网络依赖和网络不良信息方面发挥了积极作用,但仍有一些瓶颈问题亟待解决。《2021年全国未成年人互联网使用情况研究报告》显示,尽管85.9%的未成年人和91.6%的家长都知道“青少年模式”,但设置过“青少年模式”的未成年人和家长均不到五成,有31.9%的未成年网民使用家长账号玩过游戏。

第三,诱导和实施违法犯罪的问题。有一些人利用互联网教唆和引诱未成年人实施暴力、诈骗甚至自杀,有的对未成年人实施性引诱、网络猥亵等违法行为,性质非常恶劣。据最高检统计,2020年至2022年,检察机关受理审查逮捕未成年犯罪嫌疑人数分别为37681人、55379人、49070人,受理审查起诉未成年犯罪嫌疑人数分别为54954人、73998人、78467人,未成年人犯罪总体呈上升趋势。

01.

花朵需要在“清朗”空间下成长

如何守护好未成年人上网的清朗空间,成为构筑网络安全的重要课题,针对以上种种问题,国家有关部门逐年在制定新的政策,开展相关行动进行专项治理。

· 2020年10月,《未成年人保护法》修订:增设“网络保护”章节。

· 2021年、2022年连续两年,网信办等部门开展“清朗”暑期未成年人网络环境整治专项行动。

· 2022年起,由全国“扫黄打非”办公室组织开展“护苗”专项行动。

· 近日,为进一步强化未成年人网络保护,营造健康安全网络环境,司法部、国家网信办专题研究审议《未成年人网络保护条例(草案)》,进一步修改完善后,将加快推动条例立法进程。 

未成年人的网络保护是一项需要长期且复杂投入的重大工程,这需要政府、网络平台、家庭和学校等各方面形成强大的合作力量,共同守护未成年人在网络世界中的安全。从监管的角度看,包括最高法、最高检、司法部、网信办等部门在内,都在持续完善监管体系,加大监管力度。而对于企业来说,他们应该切实承担起主体责任,不断完善未成年人防沉迷、青少年模式等管理系统,提高系统的辨识度,优化算法推荐的内容,切实提升未成年人的网络保护能力和水平,最大程度地阻断不良和消极负面信息。

未成年人是祖国花朵,是未来的希望,创造一个阳光的成长环境,社会中的每一个主体都需要参与。

02.

未成年人的网络保护“盾”

网易是国内最早搭建未成年人保护体系的企业之一,从技术拦截、社会共治、网络素养等三大维度出发,持续在守护未成年人健康成长的道路上探索新模式、新经验。

作为网易集团旗下一站式数字内容风控品牌,网易易盾依托网易26年的先进技术沉淀和一线实践经验,为面向数字化业务的客户提供专业可靠的安全服务,推出了完善的未成年人网络保护专项解决方案,从内容安全、业务安全、移动安全三大领域全面助力互联网企业建立完善的未成年人网络保护机制。

01 未成年人识别

平台青少年模式、防沉迷系统已基本普及,但在平台认证环节中依然存在较多漏洞,未成年人可以轻松绕过。同时也存在未成年人租赁买号、冒充家长成人、充值消费等,对平台的良性运营也提出了挑战。因此,鉴别账号背后人的真实年龄是平台防范的第一步,也是非常重要的一步。平台可根据账号真人年龄进行防沉迷等功能限制,同时也可标记未成年人用户标签,保护未成年人的隐私信息,有效防止不法分子通过未成年人信息获取侵害机会。为此,易盾可提供全周期行为的未成年身份识别。

02 涉未成年人内容检测

网络世界充斥着大量对未成年人的有害和负面内容,如低俗色情、血腥暴力、炫富拜金,甚至有一些不法分子利用互联网教唆和引诱未成年人实施暴力、诈骗甚至自杀,有的对未成年人实施性引诱、网络猥亵等违法行为,性质非常恶劣。因此,清理平台涉未成年人的有害信息是每年“清朗”行动非常关注的一面,并且将进行严厉打击。易盾主要通过机审+人审的组合策略,在所有涵盖文本、图片、音视频的多个业务场景,实现对侵害未成年人的不良内容风险全覆盖,有效阻隔不良信息对未成年人造成的伤害。

在AI智能检测能力中,易盾对色情引诱、性暗示、低俗视频等问题有着很强的检测力,且对儿童形象软色情包做深度识别;同时,针对不同行业和类型的平台,易盾可提供专门的未成年策略集配置,有效防止各种不同有害信息内容的传播。

除了联合网络平台企业共同助力未成年人网络保护体系治理以外,网易易盾还持续在技术、模式等方向持续探索和创新针对未成年人保护的手段和措施。

·  2020年,针对未成年人专项,增加涉价值观、性感低俗、恶心等检测分类,

同时细化二级分类,增强涉未成年人内容识别能力;

·  2021年,上线未成年人“人脸检测”和“声纹分析”模型,

易盾积累了2万+首敏感歌曲/片段,20+敏感人物声纹识别能力,提供多个娇喘模型精准召回不同场景色情内容,支持未成年人音频识别,有效防止未成年人参与直播;

·  2022年,上线“风险画像”产品,

可通过业务行为识别未成年用户;上线“未成年人保护专项策略”,提供针对未成年人的全流程解决方案。

数据显示,对于未成年网络保护来说,有大量未成年用户参与的游戏、娱乐社交、教育等行业是重要阵地,在这些行业,网易易盾也推出了深度定制化的创新举措。

在游戏行业中,游戏沉迷是未成年人比较突出的一个问题。易盾依托网易的技术能力与丰富的游戏行业经验,搭建未成年人游戏平台保护体系。易盾在用户注册、游戏服务与游戏处置过程中均进行了深度的识别检测和风险控制,落实未成年人游戏防沉迷要求,同时也可有效解决未成年人租售游戏账号等问题。娱乐直播行业里,随着短视频、直播的社会影响力逐渐增大,未成年人用家长手机给主播打赏的现象屡见不鲜,易盾可通过用户识别和内容检测等技术手段为平台标识未成年人用户,降低运营风险。在教育行业中,教育行业主要典型的问题是不良内容的传播,比如谩骂、色情、违禁接龙、不良价值观导向等问题,易盾可通过多方式综合性审核未成年人可接收到的数据内容,对不良信息进行有效拦截,创造良好的网络环境,保障儿童身心健康发展。

03.

全球共识,因为也是地球的未来

让未成年人拥有更清朗、健康的网络环境是世界各国的广泛共识。

在第七届北大-斯坦福互联网法律与公共政策论坛上,中、美、英、韩四国专家共同探讨了未成年人网络保护热点、难点问题的解决思路,分享了各国在未成年人网络保护领域面临的问题和具体实践,对国内企业和行业在相关领域的发展也提出了一些建议。

美国家庭网络安全研究所创始人分享:“FOSI创立的目的是希望让网络世界更安全,通过政策启发大家,使父母能够保证孩子们安全地享受网络。很多国家都在针对互联网、青少年制定一些法律,亚马逊、雅虎、腾讯谷歌等公司也都加入了这个行列。在立法方面,美国既探索制定了《儿童在线保护法》《儿童在线隐私保护法》和《儿童互联网络保护法》等专门性立法,也在《通信规范法》《梅根·梅尔网络欺凌预防法》和《网络免税法》等网络相关立法中强化对未成年人的保护力度。”

我国更是高度关注未成年人的网络保护,各个立法层级、监管执法部门都在开展政策制定、专项行动等,并取得了积极的进展,同时加快形成系统完备的治理体系,为全球的未成年人网络保护提供中国治理思路和参考。

可以说,让未成年人拥有更清新、更健康的网络环境是全球的广泛共识,这是各国共同利益和关注的焦点。全球都在努力推进互联网治理,而未成年人网络保护也是各国在互联网治理上的最大公约数,具有高度一致的利益和关切。

同时,我们还需要加强对人工智能、5G、大数据等新技术新应用背景下未成年人网络保护问题的研究,以确保全球未成年人在网络空间中能够安全、健康地成长。我们需要为未成年人打造一个充满法治和公正的网络环境。

我们常说,少年志则国志,少年强则国强。未成年人是我们的未来,保护、关爱未成年人不仅是监护人或家长的责任,更是全社会的责任。从企业视角来看,为未成年人创造一个绿色温暖的网络环境是每一家互联网企业义不容辞的责任与义务,网易易盾作为数字内容安全管理领域的领军者,正在身体力行地践行自身的社会责任。

让花朵们在阳光下健康成长,我们每一个人既是责任人,也是受益人。

(文章为作者独立观点,不代表艾瑞网立场)
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 合作伙伴| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号