根据Gartner公司的预测,到2026 年,30%的企业将因为人工智能(AI)生成的人脸生物识别深度伪造攻击而认为此类身份认证和验证解决方案不再能够起到可靠的作用。
Gartner研究副总裁Akif Khan表示:“过去十年在AI领域出现的几个拐点使创建合成图像成为了可能。这些人工生成的真实人脸图像被称为深度伪造,恶意行为者可利用这个手段骗过生物识别身份验证或令其失效。其后果是,企业可能会因为身份认证和验证解决方案无法分辨被验证者的脸是真人还是深度伪造,而开始质疑它们的可靠性。”
目前,使用人脸生物识别技术的身份认证和验证流程依赖于呈现攻击检测(PAD)评估用户的真实性。Khan表示:“数字注入攻击已经开始利用目前能够通过AI生成的深度伪造,而当前定义和评估PAD机制的标准与测试流程并未涵盖此类攻击。”
Gartner的研究表明,虽绕呈现攻击是最常见的攻击载体,但注入攻击(IAD)在2023年增长了200%。为防范此类攻击,需要结合使用PAD、IAD与图像检测。
通过结合使用IAD与图像检测工具减少深度伪造威胁
为帮助企业防范能够骗过人脸生物识别技术的AI生成深度伪造威胁,首席信息安全官(CISO)与风险管理领导人必须选择能够证明自己具备超越当前标准的能力和计划,并且正在对这些新型攻击进行监视、分类和量化的厂商。
Khan表示:“企业应该与专门投资于使用IAD和图像检测技术减少这种新型深度伪造威胁的厂商合作,开始制定最低的控制标准。”
在制定战略和最低标准后,CISO和风险管理领导人必须添加设备识别、行为分析等额外的风险和识别信号,以便提高检测到身份验证流程受到攻击的几率。
最重要的是,负责身份和访问管理的安全与风险管理领导人应该行动起来,通过选择能够验证真人的技术和落实防止账户接管的措施来降低AI深度伪造攻击所带来的风险。
好文章,需要你的鼓励
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。