2023年以来，伴随各类生成式超大模型爆发，“通过AI换脸和拟声技术佯装熟人实施诈骗”等AI新型骗局频繁登上新闻头条，引发广泛社会关注。
除了提高全民反诈意识，还有哪些方法可以预防“新科技”骗局？
推动AI可信，强化新技术安全治理。针对“AI深度伪造（DeepFake）内容”在全球范围内病毒式传播，商汤科技从技术源头出发，针对性打造两把技术盾牌，并快速应用于各类AI产品中。
深伪检测+数字水印， 让AI诈骗显行
商汤在涉及隐私保护、数字取证及伪造检测等领域的人像合成技术有着广泛积累，并逐步开发了基于生成、鉴伪和溯源三位一体的综合鉴伪解决方案。
为在伪造鉴别这场“攻防战”中夺得先机，商汤打造了高效的对抗体系。
包括自建囊括数十种先进攻击手段的伪造生成平台，为鉴伪检测和溯源提供丰富多样的攻击案例和海量数据支持。并可通过持续集成先进伪造算法，在zero/few-shot场景下快速响应难例样本和长尾类型，帮助提升鉴伪算法的泛化性。
“防”的层面，商汤训练的伪造检测大模型，可充分利用面部表情一致性、动作序列连贯性，并结合频谱、声音和文字等多模态信息，准确鉴别包括PS、换脸、活化以及各种先进扩散模型（如：Stable Diffusion）合成的高清人像。主流评测数据集上算法检测精度可达到99%以上，在应对新技术复合伪造方法上（如：通过MidJourney），检测能力也高出行业同类产品20%以上。
作为伪造鉴别中的最后一环，溯源可追踪伪造数据的数据物料源头、伪造过程以及核心伪造方法。商汤通过自研基于解耦-重建的伪造检测算法，能够从伪造数据中分离出真实内容及伪影痕迹。在针对10余种主流伪造算法溯源上，准确率超过90%，同时还可给出数据中的相关伪造痕迹，提高检测算法的可解释性和可信度。这一技术为行业首创，并作为数字取证技术成功落地司法领域。
目前，商汤综合鉴伪解决方案已投入实战，为十余家银行的安全系统提供服务，对各类灰黑产攻击拦截成功率超行业同类产品20%以上，有效防范了灰黑产身份盗取、支付盗刷等网络诈骗。
在AIGC技术大爆发时代，每天都会出现新的生成方法，仅仅依靠深伪检测技术存在一定漏检风险，从生成平台源头加入数字水印技术可以构成强力双保险。
商汤数字水印结合频域分析、深度学习、扩散模型等技术，将特定信息嵌入到数字载体中，同时不影响载体的使用价值，也不易被人的知觉系统察觉，只有通过特定的解码器和专属密钥才能提取，可实现篡改内容的检测且水印不可窃取。
数字水印技术可在AIGC相关产品发布时加入，能够有效增强深伪检测的可靠性，甚至进一步影响生成效果，从源头上遏制深度伪造，实现主动防御。
具体应用中，商汤数字水印技术可用于版权保护，防伪溯源等场景，支持图像、视频、音频、文本等各种模态的数字载体，在不同程度的干扰下(裁剪、压缩等)能保证99%+的水印提取精度，且不影响数据本身质量(如高清图画质)，在保证水印信息容量大(256位)以及安全性(通过密钥加密)的同时具备足够的隐蔽性以及鲁棒性。此外，数字水印技术也响应了《生成式人工智能服务管理办法（征求意见稿）》监管要求。
目前，商汤数字水印技术已服务于“商汤秒画SenseMirage”、 “商汤如影SenseAvatar”等多个产品，以及内容创作、大数据客户。
持续推进可信AI体系化建设
提升AI安全治理水平、推动AI可持续发展，是行业健康成长的根基，也是商汤科技的责任。
多年来，商汤积极释放在可信AI领域的技术沉淀和实践经验，产生一系列成果：
构建“商汤AI安全治理开放平台”，提供可持续发展的AI安全公益平台；
参与国家人工智能标准化总体组和全国信标委人工智能分委会组织编写的《人工智能伦理治理标准化指南（2023版）》，助力人工智能研发及应用更健康发展；
成为新加坡“人工智能验证基金会”（AI Verify Foundation）一员，促进新加坡可信AI建设，树立具有积极社会影响力的国际实践标杆；
荣获隐私信息管理体系认证全部三项认证，并获评中国人工智能产业发展联盟（AIIA）颁发的“可信AI 2022年突出贡献企业”；
波澜壮阔的人工智能发展浪潮中，AI技术将不断带来巨大的创新和改变，但只有可信、符合伦理的AI产品才能造福人类。
该文观点仅代表作者，本站仅提供信息存储空间服务，转载请注明出处。若需了解详细的安防行业方案，或有其它建议反馈，欢迎联系我们。
