「瑞莱智慧」内测首个AIGC实时检测产品RealBelieve｜最前线

6月21日，瑞莱智慧（以下简称「RealAI」）正式发布AIGC检测产品RealBelieve，中文名“尊嘟假嘟”。

这是全球首个可进行AI合成内容实时检测的产品。与此前采用被动上传检测的检测产品不同，尊嘟假嘟RealBelieve面向终端用户，不仅提供有文件上传检测服务，还可以通过插件的形式、变被动为主动，实时提示页面存在AI合成内容的可能性。

浏览含AIGC合成内容网页实时检测效果

举个例子，当用户进行视频通话时，尊嘟假嘟RealBelieve会及时给用户发出预警内容，提示视频对方的人脸是否存在AI合成的风险，以帮助用户及时调整聊天方式，快速确认对方的身份，减少不必要的损失。

相较被动上传视频的方式，用户无需特地手动录制和上传会议视频，界面使用简单，操作更灵活，方便用户随时随地在AI安全保障下进行视频通话。

视频通话实时检测效果

随着以大模型为代表的AI核心技术取得新突破，AI的广泛应用也给人类社会带来法律法规、道德伦理、社会治理等方面带来新的挑战。除了人像，人们在工作中常见常用的各类文档所产生的图片，也是造假重灾区，如被篡改的资质证书、文案、聊天截图等，常常被用于散播谣言、经济诈骗。

当前，AI诈骗等AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。我国AI诈骗案件数量及涉案金额均呈现指数级增长，仅2023年，我国被公开报道的AI诈骗案涉案金额就达到数千万人民币。

今年年初，某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗，仅此一案就已导致该公司受损2亿港币。

此次「RealAI」发布的尊嘟假嘟RealBelieve，提供了文本、图片、视频和音频等多种模态内容的检测服务。

「RealAI」联合创始人、算法科学家萧子豪透露，该产品背后的检测模型基于贝叶斯深度学习技术开发，团队构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性推理决策。

文本、图片、视频和音频多模态文件拖拽上传即可检测

自2018年成立以来，「RealAI」专注AI合成检测技术研究和产品研发，先后推出了AIGC检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品，已服务百余家政务、金融等领域客户。

目前，尊嘟假嘟RealBelieve已开启内测招募。

文章来自于“36Kr”，作者 “黄楠”