换脸、假语音犯罪激增信也科技呼吁加强深度伪造识别技术引导科技向善
2019年，一名诈骗者利用AI语音模仿软件假扮公司高层，成功骗取一家英国能源公司总经理22万欧元。大模型时代，这样的深度伪造将慢慢的变频繁。
信也科技近日启动第九届“信也科技杯”全球AI算法大赛，旨在共同解决语音深度鉴伪的挑战。信也科技副总裁、大数据及AI负责人陈磊日前表示，“我们期望AI在语音鉴伪技术领域能够与大型模型应用技术齐头并进，形成有效的对抗机制，以保护公众的信息安全和权益。”
深度伪造是一种利用深度学习和人工智能技术生成高度逼真的虚假内容的方法。大模型的兴起为深度伪造带来了土壤，只需输入提示词，AI系统就会输出图片、视频、音频，真假难辨。
以虚假语音为例，陈磊说，大模型能够生成多种虚假语音，这些虚假语音更真实、拟人，对话流畅，为虚假语音识别带来更大的挑战。虚假信息一旦泛滥，将造成严重后果。尤其在金融科技领域，犯罪分子可以通过合成语音冒用他人身份牟利，给用户和机构造成巨额损失。
近年来，国内外多份调研报告指出，与AI相关的黑产活动近来明显上升。根据身份验证提供商Sumsub最新年度报告，2022年至2023年期间，全球多国与深度伪造相关的身份欺诈案件激增，例如菲律宾的诈骗企图数量同比增长4500%。
“在一些高价值场景里，往往会发生AI生成语音欺诈。”但陈磊表示，语音鉴伪技术的发展却滞后于语音合成技术。这是因为声音是一维的连续信号，同时包含了口音、语调、方言等多种个人特征信息，语音处理也易受外界干扰。虚假语音的分析处理比二维图像更复杂、门槛更高，使得业界对语音鉴伪的关注度较低。
目前，信也科技已具备语音合成能力、语音识别能力、声纹识别能力，这些算法落地金融业务，提供测算和风险辅助分析功能。为了对抗虚假语音，信也科技于近日启动第九届“信也科技杯”全球AI算法大赛，在全球范围内招募人工智能专家和爱好者，共同攻克语音深度鉴伪难题。
大赛鼓励参赛者运用深度学习和人工智能对抗技术，开发出能够准确识别黑白盒数据集中虚假语音的模型。
信也科技算法科学家吕强介绍，本次比赛将利用目前大范围的应用的语音处理技术和最新的文本转语音（TTS）模型来生成数据，构建黑白盒数据集。在复赛阶段，黑盒数据集将特别加入由最新的大型模型生成的假语音，以此增加比赛的独特性和难度。“我们期望在比赛中看到参赛者提出更多能够识别新型假语音、特别是大模型生成的假语音的方法，并希望这些成果能够应用到实际生产中，借助AI创造商业经济价值，并实现更精细化的决策。”
“在大模型时代，任何技术领域不能离开大模型的支撑。”吕强表示，如果仅仅依赖传统方式来识别由大模型生成的虚假语音，将越来越困难，例如将海量数据喂给传统模型会丢失细节，但大模型可以轻松避免这一问题。因此虚假语音的识别方式必将升级到大模型识别，才能精细化捕捉虚假语音的细微特征。
绝大多数人在说谎或受到有关情绪词的影响时，会产生一些生理反应，测谎仪通过捕捉这些变化达到测谎效果。吕强介绍，AI大模型识别虚假语音与此类似，将“测谎仪”精细捕捉生理反应的能力模型化，随后在海量真实数据流中捕捉那些微小的虚假片段，再将片段连成字段，最后根据量化的字段判断是否为伪造的。
“大模型时代并不只有矛而没有盾。我们大家都希望利用虚假语音的识别模型提高盾的能力，来提升数据安全，保护用户隐私。”吕强说。
为了提高虚假语音识别率，信也科技将持续构建真假语音数据集，逐步积累黑产数据库，不断迭代大模型，提高反黑产、反欺诈能力。
“我们也会积极拥抱开源，用脱敏数据形成开源数据集，推进产学研合作。‘信也科技杯’结束后我们会开源比赛数据。”吕强表示，这是一个万物互联的时代，不但可以利用语音本身来识别，未来还能借助视频、文字等多模态辅助识别，提高虚假语音识别率，尤其在金融科技领域，语音鉴伪不能脱离场景。
目前，信也科技与上海、福建等地公安系统合作，共享黑产数据库，辅助识别黑产。面对各类虚假信息造成的欺诈，由于金融业务环节的相似性，金融科技出海后，国内建立起来的AI鉴伪能力未来也可以迁移到国际业务中。信也科技已在海外落地假脸、假证件识别，以及声纹识别算法。在APP内植入声纹服务后，能结合人脸识别反欺诈、声纹鉴定假声音等AI技术识别非法冒用者、辅助风险团队。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
又一合资SUV“大降价”！当年卖20万排队提车，现在仅售8万却无人识货
一名矿工独自挖出3.3枚比特币！链上数据：可能性仅为0.0000000738%
2024年金球奖排名：罗德里夺魁 维尼修斯第2 姆巴佩第6 亚马尔第8
《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律