互联网

数美科技CTO梁堃受邀出席澎湃2021外滩新媒体峰会

来源:互联网    作者:      2021年07月23日 17:53

导语:

7月22日,由澎湃新闻网主办的“新潮·澎湃”2021外滩新媒体峰会在上海拉开帷幕。数美科技CTO兼联合创始人梁堃受邀参加了《新技术助力网络内容生态治理》圆桌论坛,针对AI识别违规内容所面临的挑战及机器识别涉政违规信息等内容做了分享。

1.jpg

网络安全,是国家数字化战略的“底盘”。内容安全,是国家数字化战略的“方向盘”。对于文字、图片、音频、视频等多种形态的网络信息,我们在审核时面临哪些挑战?

数美科技CTO梁堃表示,通过AI识别违规内容面临三个挑战:

第一个挑战是内容量大,如何提高机审效率是头一个挑战。比如,每天数美科技AI实时审核的音频累计时长超过100年。这就对平台的处理效率、稳定性提出了挑战;

第二个挑战是内容安全定义比较“泛”,需要识别的维度非常多。比如,数美科技视频/图片产品以标签的形式定义了上千个不同的违规类型,背后有27个不同的视觉AI模型在识别这些标签;

第三,做违规内容识别时,发布人可能存在“对抗性”。对于“对抗性”,梁堃解释道,“比如姓名的变体、影射,或者是在漫画和视频中涂抹、修改,或通过影子和镜子来传达信息”。

梁堃表示,这就需要在识别算法上不断改进。目前,数美科技不仅有用于识别风险内容的人工智能技术,还有用于对抗黑产的基于行为画像的全栈式实时智能风控引擎“天网”,通过内容+画像的组合拳,才能够达到更好的识别效果。

针对当前涉政违规信息机器识别率相对不高的问题,梁堃表示,“涉政”的概念是比较宽泛的,模型对一个文本、图片是不是涉及到政治可以识别的很好。对于涉政内容的各种变体,数美科技研发了专门的变体引擎,也基本上解决了这类问题。目前,模型面临的挑战——“导向是否正确”,针对这个挑战我们研发了正负向标签,有望解决这些问题。目前最好的解决方案是机器先审核,再通过人工判断导向是否正确。

如今网络空间每天新增的信息数以亿计,网络内容生态治理不容忽视。2021外滩新媒体峰会上,数美科技CTO梁堃与数位业界专家围绕《新技术助力网络内容生态治理》展开精彩研讨,为广大行业从业者提供了更多落地的参考方向和思路。未来,数美科技将以AI力量持续赋能网络内容生态治理,清朗网络空间,践行时代担当。

(文章为作者独立观点,不代表艾瑞网立场)
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 广告赞助| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号