互联网

AI开始做事,安全怎么办?

来源:互联网    作者:      2026年11月13日 18:23

导语:

在近期举办的 2026 年世界互联网大会“互联网之光”博览会上,网易智企正式对外发布了基于双向 AI 安全架构的易盾“AI 原生安全产品体系”,并一举斩获博览会含金量极高的“首发成果证书”。

昨日,科技媒体「云数智观察」发布深度观察文章《跨越内容到行为:AI 原生安全体系织就多层风险防御网》,对话网易智企副总经理、易盾业务负责人朱浩齐,深度拆解了这套安全体系背后的顶层设计与实战硬核能力。

随着 AI 从单纯的对话问答,演进为可以调用工具、操作系统的智能执行体(Agent),企业面临的安全风险已经彻底换了赛道。

面对这一行业巨变,易盾交出了一份怎样的“AI 原生”答卷?

image.png

风险换了赛道

“手机导航走错了,重新规划就好;自动驾驶开错了路线,后果就完全不同。”在「云数智观察」的报道中,朱浩齐用这一比喻精准点出了 AI 风险的本质演变。

过去,AI 停留在纯信息域,说错一句话最坏的结果是返工;而当 AI 接入营销、客服、研发、知识库等核心业务系统,具备了真实世界反馈与长链路执行能力后,一次误判就是一次真实的越权操作或数据外泄。

此时,风险的形状不再是单一的,而是沿着“内容风险—交互风险—身份风险—业务操作风险—执行行为风险”排开。

传统守住门口的单点工具已经失灵——内容审核管不了越权调用,人脸活体管不了 Agent 外传数据,设备指纹也拦不住一句精心构造的提示词越狱。

产业亟需一套覆盖 AI 运行全链路的体系化原生方案。

image.png

什么是真正的“双向 AI 安全架构”?

面对行业里满天飞的“AI 原生”概念,易盾给出了极为克制且硬核的定义。

朱浩齐认为,把燃油车拆掉发动机装上电机,虽然能跑,但传动轴和变速箱还在,这叫“打补丁”;真正的新能源车必须从零设计。

易盾的“AI 原生安全体系”同样推倒了传统规则累加的旧思路,构建了独特的“双向 AI 安全架构”:

对内(AI for 安全):从“人工写规则”到“训练安全 Agent”

面对 AI 驱动的低成本、高速度黑产攻击,人工调参早已跟不上节奏。易盾将二十余年的安全专家经验抽象为标准流程,训练进安全智能体中。

由 AI 自动分析攻击样本、生成策略模型并自我验证召回率,安全专家则从繁琐的“写规则”退到幕后的“验收结果”,真正实现“用魔法打败魔法”。

对外(安全 for AI):把防线嵌进模型与执行链路

就像动能回收装置必须生于新能源车,大模型安全围栏、Agent Guard 等能力,也只有深度嵌入模型调用与工具执行的链路中才能生效,死死守住 AI 应用的合规与可控底线。

“内容理解”与“行为治理”成为贯穿这一双向闭环的基线:只有理解内容,才知道模型在看什么、说什么;只有理解行为,才知道 Agent 该不该做。

image.png

三层布局织成一张网

如果说“双向架构”回答了安全能力如何生长,那么易盾的“三层布局”则回答了如何精准防御。

易盾将 AI 安全划分为层层递进的三张网:AI 内容与数据安全、AI 交互与身份安全、AI 模型与智能体安全。

这三层并非业务的简单拼盘,而是顺应风险放大顺序的精密协同——内容是交互入口,身份是信任前提,行为是执行终点。

前一层的结果直接成为后一层的判断条件,从而以最低的算力与运营成本,守住最长的业务链路。

image.png

在这张立体防御网上,易盾落子了三大核心利器:

1. 内容层|CMA 审核智能体:大小模型路由,把“人海”换成“人机”

每天面对百亿级数据,如果全量送入大模型审核,企业算力成本将不堪重负。易盾 CMA(Content Moderation Agent)采用“分层治理”思路:

技术破局: 垂类小模型做初筛挡掉 95% 以上的正常内容,内容安全大模型结合多模态、上下文与千万级 RAG 案例库做深度研判,再配合多 Agent 策略自动进化调优提示词,形成“研判-分流-处置-反馈-优化”闭环。

实战成效: 在某月均 250 万单的客户投诉工单场景中,“CMA 智能初审 + 人工复核”将平均出审时长从 35.7 分钟大幅压缩至 12.3 分钟,准确率达 99.2%,复核效率提升超 200%;在日审 10 万分钟以上的短剧场景,审核效率提升 70% 以上,风险召回率提升 21.4%。

2. 身份层|DeepGuard 人脸鉴伪:从被动“找痕迹”到主动“学常识”

面对换脸、3D 面具、摄像头劫持、视频注入等复合型攻击,传统依赖边缘异常、肤质纹理的“找痕迹”模式极易随生成算法更新而失效。

技术破局: 易盾转换思路,让模型深入学习真实人脸规律、结构关系与物理常识——“只学正常人是什么样,任何违反规律的都是异常”,从而对未知伪造手法保持高泛化能力。同时结合 Deepfake 检测、AI 水印识别、静默活体、注入环境检测四路信号联合决策。

实战成效: DeepGuard 已斩获中国信通院“可信 AI”人脸鉴伪专项评测最高级别的“卓越级”认证,屏幕翻拍与怼屏召回率达 99%,黑边类摄像头劫持识别率达 95.4%,AI 水印人脸图识别率达 98.6%。

3. 行为层|AI 应用与智能体安全:五道关卡管住意图、权限与“影子 AI”

当 Agent 开始读资料、调工具,恶意指令往往会伪装在网页、API 或 MCP 组件的返回内容中。易盾必须帮企业回答四个终极问题:接收了什么?理解成什么?被允许做什么?实际做了什么?

五道关卡: 依托“内容安全大模型 + 专项小模型矩阵”,易盾布下五道防线——大模型安全围栏(守输入输出)、Agent Guard(意图校验、工具调用检测、权限与行为拦截)、供应链安全(Skill 扫描、MCP 组件检测与资产发现)、防外泄(PII 与密钥检测)以及持续评测监控。

治理“影子 AI”: 针对员工私自接入模型、部门自建 Agent 或引入外部 Skill 带来的盲区,易盾从资产与运行双维度进行纳管,让企业内部的 AI 真正做到可见、可管、可追溯。

让 AI 安全像“空开”一样润物无声

“内容层的错,代价是声誉;身份层的错,代价是欺诈;行为层的错,可能是物理世界不可撤回的损失。”正如「云数智观察」在文末所言,风险每往上一层,企业纠错的余地就少一分。

易盾 AI 原生安全体系的核心价值,不仅在于每一层都有能打的硬核单品,更在于当风险沿着“内容—身份—行为”逐级放大时,企业的判断、拦截与追溯始终咬合在同一条链路上。

就像电力普及后,保险丝与空开成为了隐形的生活标配。当 AI 真正演进为数字时代的水电煤,易盾这套从底层生长出来的 AI 原生安全体系,正在成为护航企业智能化跃迁的“无感安全底座”。


(文章为作者独立观点,不代表艾瑞网立场)
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 联系我们 | 申诉流程

Copyright© 沪公网安备 31010402000581号 沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号