数字经济时代, 以「Deepfake」为代表的深度换脸技术更加智能化和高度真实化
全球知名权威科技刊物《麻省理工科技评论 (MIT)》最新发布报告显示, 数字经济时代, 以「Deepfake」为代表的深度换脸技术更加智能化和高度真实化。当前, 深度伪造技术被非法用于经济、政治、社会等领域, 形成严重危害, 深度伪造检测面临更大挑战。研究发现, 相比传统防伪技术,来自中国的马上消费技术团队的防伪大模型,已成为大模型时代深度防伪新机遇。
2025 年,AI 深度伪造很可能成为「全球首要风险」。今年年初世界经济论坛发布《2024 年全球风险报告》预测,AI 生成的错误信息和虚假信息被列为「未来两年全球十大风险」之首, 其会使本就两极分化、冲突频发的全球形势进一步恶化。
马上消费人工智能研究院院长陆全近期表示,Sora 无疑是技术领域的一次重大突破, 但也会降低 AI 伪造门槛, 潜在引发 Deepfake 等黑色产业链滋生蔓延。防伪大模型为金融黑产提供了先进武器。据测算,2023 年, 国内黑产欺诈引发的经济损失达 1149 亿元, 金融业务欺诈金额达 75 亿元, 国家监管机构持续预警, 金融机构声誉严重受损, 金融客户合法权益不时受到侵害。
聚焦到金融行业,Deepfake 主要构成身份欺诈, 即通过深度伪造的虚假图像和视频来冒充他人, 骗过金融信贷流程中的身份核验系统, 进而实施盗刷、恶意注册等。得益于防伪大模型的技术突破, 金融行业目前对 Deepfake 有了比较成熟的解决方案。
一方面, 源于Chain of thought 思维链技术。防伪大模型拥有前所未有的编码能力, 通过编码进行概念延申和推理, 充分掌握图片细节所蕴含的内在信息。在关于图像输入的因果推理能力的测试中,Gemini Pro 和 GPT-4 在未经过防伪专项增强时, 能够对伪造人脸指出其毛发、皮肤、背景等诸多细节问题, 如「福尔摩斯」一般, 这代表大模型对图片理解能力的显著提升。
另一方面,Scaling law 规模效应显现。防伪大模型具有大模型的一般特点, 即数据的有效增长可以促进模型能力的同步提升。随着深度伪造数据的积累和录入, 防伪大模型的域外能力在显著增强, 这种增强相较于传统专家模型是数以百倍的提升。
马上消费技术专家认为, 防伪大模型构建顶级的多模态生物核验与防伪平台, 具有巨大潜力和实用价值, 不仅提升了安全性和效率, 还为千行百业的发展和用户体验带来了积极变化。同时, 马上消费已将防伪大模型引入日常风控反欺诈管理流程中, 呈现迭代周期短、拦截性能强、可解释性强等特性, 大幅提升用户体验, 实现了人机协同的金融防伪新应用模式。
来源：互联网
