近日,达晨完成对伪造检测领域头部企业中科睿鉴近亿元的独家投资。本轮融资将用于业务线的拓展,保障AI鉴伪产品的规模化落地。
| AI伪造再度升级?用魔法打败魔法
前段时间,AI生图工具Flux掀起了全网风暴,其生成的TED演讲和情侣合影照几乎与相机拍摄效果无异,无论是人物表情动作、皮肤毛发光泽,还是光线细节都近乎完美,逼真程度让人感到恐惧,一举将AI图像生成技术推向新高度!
AI模型不仅生成效果惊人,进化速度同样超乎想象,未来世界将充斥着大量肉眼难辨的生成数据。AI真的要失控了吗?
很多人认为肉眼效果越逼真,真伪就越难鉴定。其实,视觉上的逼真程度与真伪鉴定难度并不直接相关。
AI算法在生成数据时更关注生成后的整体视觉效果达到“肉眼逼真”的表象,从而掩盖其在光学、物理等方面的内在不合理性,而人眼对这些深层的异常往往不太敏感。而睿鉴自研的伪造检测大模型“睿鉴图灵”如同X射线检测仪,可以透过伪装的“视觉”表象,从高阶语义、光学特征、成像原理、物理噪声等维度,检验AI生成内容与真实数据分布的差异性,发现其生成痕迹。
自2020年起,中科睿鉴就致力于运用AI技术赋能数字内容安全。目前,围绕全类型伪造检测、多模态数据生成、内容合规审核等核心技术,中科睿鉴布局了“模型-数据-算力”的AI基础设施,面向国家、行业、个人安全场景,提供音视图文全栈全类型鉴伪技术和产品服务。
中科睿鉴能力全景图
| 新技术的伪造能检测吗?底座平台是核心
大模型技术持续升级迭代,生成内容愈发逼真,进入2024年,几乎每个月都会出现新的、效果更惊艳的生成技术。这暴露出原本针对垂直领域的传统检测小模型的致命缺陷:泛化能力差,无法应对层出不穷的新型AI伪造内容。
解决针对新生成技术的广谱检测和快速响应难题,关键是摒弃“来一个打一枪”的事后思维,重视检测能力的基座化。为此,中科睿鉴自2023年初率先布局,打造了集模型、数据、算力一体的体系化能力底座,实现对新型伪造技术的快速响应、精准检测。
通过模型、数据、算力三者深度结合,每当新的伪造技术面世,“睿鉴图灵”基础模型便可达到80%以上的检测精度。在基础模型上微调1-2周,便可取得90%以上的检测精度,大幅提高了对新型伪造技术的响应能力。
| 真实场景中如何落地伪造检测?全技术栈布局是关键
现实世界中,虚假信息的形式是多样的,最新的电诈骗术已经综合利用实时人脸替换、语音合成等多种伪造技术,让人防不胜防。为此,中科睿鉴研发了全栈全类型检测技术:图像视频检测方面,支持检测AI生成、深度合成、PS篡改等多种伪造;音频检测方面,能够检测合成、换声等多种伪造人声;文本检测方面,支持多领域、多语种、跨模型的AI生成文本检测。通过深度整合多模态伪造检测能力,检测系统已实现各类伪造风险场景有效防御。
此外,随着大模型的应用和生成数据的增加,利用AI手段侵害企业利益、骗取公众财产的案件进入高发期,伪造技术的潜在风险正飞速向企业和个人扩散,伪造检测的需求不再局限于国家安全。中科睿鉴面向国家、行业、个人安全场景展开全面布局,推出针对性解决方案:在ToG方向,推出专用系统和全国产化适配的专用设备,实现敏感任务安全处理;ToB方向,基于企业多元化业务需求,提供轻量灵活的SaaS服务;面对个人安全需求,推出终端设备和SDK等产品类型,并持续通过“睿鉴AI”微信小程序将最新检测能力面向公众免费开放。
| 实战深耕:成为头部企业的必经之路
不同于学术研究的理想场景,在现实场景实现有效伪造检测并非易事。
一方面,业界研究普遍依赖封闭且有限的数据集,而实际网络环境中的伪造数据为躲避审核,往往通过压缩、模糊等对抗处理。这就容易出现检测技术在实验环境表现优异,但在实际应用中效果大打折扣的结果,难以实现有效的工程化部署。
另一方面,面对美颜、影视创作等非恶意的生成内容,“一刀切”无疑会影响用户体验,提高监管成本,如何在数量庞大的生成数据中区分筛选有害伪造内容,是另一大难题。
对此,中科睿鉴的应对方法是,通过大规模实战深耕打磨检测技术。目前,中科睿鉴已经在实战场景中部署了近300台设备,稳定运行两年,模型累计运行超400亿次,有效检出有害伪造数据千万条。该设备也是国内首个经过大规模实战验证的伪造检测产品,奠定了中科睿鉴在数字内容安全领域的领先地位。
未来,以数字内容伪造检测技术为核心的中科睿鉴,将成为应对人工智能技术发展安全风险与挑战,推动国家人工智能安全基础设施建设的中坚力量;通过持续探索和拓展技术边界,为“AI+”全行业场景应用提供安全保障,将持续推动ToG、ToB、ToC业务的全面发展,实现产品在全行业的规模化应用。秉持着“用技术让世界更可信”的理念,中科睿鉴将积极推动中国人工智能产业安全发展,共同构建有利于技术创新、合规应用、伦理引领、人才支撑和国际合作的良好生态。
达晨财智执行董事姜铭表示:
过去两年,AIGC能力爆发,公开可用的AIGC算法和应用层出不穷,使得人工生成逼真的图像、音视频变得易如反掌。无论国家、行业还是个人的安全都面临挑战,需要强大的深伪检测能力来对抗风险。鉴伪技术也正在成为守护人工智能行业安全的刚需,决定了生成技术的应用边界。
深伪检测行业具备极高的技术门槛,中科睿鉴和曹老师团队在这个领域有多年的深耕和积累,打造了体系化的能力基座,技术前沿性和实战性均居于国内头部,并在诸多重点行业和应用场景中率先做了布局。我们看好这个专注的团队,期待睿鉴可以借助本轮融资加快发展步伐,不断打磨技术、迭代产品,成为守护人工智能安全的标杆企业。
* 本文转载自亿欧
收藏
登录后参与评论