生成式AI人脸造假套路多,怎么办?
现在,专门用于DeepFake的综合性产品上新了——
ZOLOZ Deeper,蚂蚁数科ZOLOZ出品。我们日常的支付宝刷脸支付,正是依托于他们技术支撑。
值得注意的是,这可不仅仅是简单的AI检测算法,而是一套覆盖全链路的技术产品体系——
它能够有效应对系统、服务器、应用等多环节Deepfake安全威胁。
而为了不断精进它的能力,内部实验室每个月都会对他进行超过20000次“攻击”测试。
甚至,ZOLOZ还对外拿出百万奖金池,邀请“白帽黑客”参与找Bug。
蚂蚁数科DeepFake产品上新
AIGC时代,DeepFake已经不再简单替换技术来生成,还有像活化(Animation)、编辑(Editing)以及合成(Synthesis)等攻击手段。
攻击形式,DeepFake也从简单的呈现式攻击朝着更为复杂的注入式攻击转变。
呈现式攻击,顾名思义,也就是在摄像头前放一张假脸,来突破检测技术。注入式攻击则是从系统层面来劫持摄像头,注入准备好的图片/视频,替换摄像头画面。
这也就给检测技术带来了不少的挑战。
ZOLOZ Deeper则是专门针对注入式、活化等复杂攻击手段的产品。
现在,ZOLOZ Deeper主要用于在用户刷脸场景中拦截 “AI换脸”风险。
从身份安全切入之后,他们还将进一步扩展到内容合规AIGC防控、金融诈骗场景、社交诈骗场景、舆情AIGC风险等多个实践中去。
如何实现?
最直接的思路是,用魔法打败魔法。
据透露,在技术实现上,ZOLOZ主要采取攻和防两条路线。
防这方面,ZOLOZ Deeper 搭建了端云一体的全链路技术体系,能应对系统、服务器、应用等多环节的安全威胁。
前端通过精密的传感器校验与多维特征动态风控,对摄像头状态、设备及网络环境、输入图像等进行严格审查,确保软硬件环境安全无风险,采集到的生物特征数据真实无篡改;
在用户操作过程中,运用深度学习模型对用户面部动态进行细致入微的分析,捕捉微表情、肌肉纹理、眼神流转等细微特征,精准判断其是否为真人实时互动。
攻则是借助天玑实验室来进行自动化攻防测评。
此前量子位曾探访过,这是一个高自动化的生物识别安全实验室。
天玑实验室投入大量的科研资源,自主研究生成了当下黑产攻击人脸安全的“道具”,定义了上百种不同级别的攻击方法和假体制作工艺。
此次,天玑实验室则是通过GAN模型生成超30万测试样本,来交给ZOLOZ Deeper 进行判别训练。
除此之外,每个月还会对它进行超过20000次的攻防测评,模拟上百种伪造攻击情况。
谁是ZOLOZ?
ZOLOZ是由蚂蚁数科孵化出来的科技品牌,主攻生物识别技术。最早在2015年支付宝上线的刷脸和支付,背后技术正是由他们来支撑。
2019年,他们就启动了DeepFake相关算法研发。当时还主要针对是一些简单的人脸攻击,比如将图片、视频、面具等Fake内容呈现在摄像头面前,攻破人脸识别系统。
而随着攻击手段逐渐复杂,ZOLOZ技术与产品也在不断升级迭代之中,ZOLOZ Deeper正是应对当下AIGC时代下的产品。
这样的研发实力,得到了市场和权威组织的认证。
比如在服务印尼某头部银行时,其产品上线一个月时间内实现了 Deepfake 风险“0 漏过”。
除此之外,ZOLOZ在2020年,作为亚太第一家,获得iBeta国际生物安全认证组织最高等级Level2认证。
另外在2023 年,ZOLOZ通过了中国信通院深度伪造视频检测服务能力检验,满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。
上个月,有20年风险管理经验的赵闻飙担任蚂蚁数科 CEO。支付宝和蚂蚁集团的核心风控体系就是他牵头搞的。
ZOLOZ Deeper,也是他上任CEO以来首推的安全产品。
还悬赏百万给新产品找bug
最后,ZOLOZ还联合蚂蚁安全响应中设立了超百万的奖金池,诚邀白帽黑客们来给产品找bug,可以通过“蚂蚁集团安全响应中心”官网提报漏洞。
所以极客们赶紧关注起来~
文章来自微信公众号“QbitAI”,作者 量子位
发评论,每天都得现金奖励!超多礼品等你来拿
登录 后,在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则