遇过成功或企图实施的深度伪造欺诈,还有更多的公司因网络安全措施过时而容易受到攻击。
以下是该研究的其他发现: 尽管人工智能日益重要,但大约四分之一的公司领导者对深度伪造技术知之甚少。 31% 的企业领导者认为深度伪造并没有增加他们的欺诈风险。 32% 的领导者不相信他们的员工能够深度伪造欺诈企图。 超过一半的领导者表示,他们的员工没有接受过任何关于识别或应对深度伪造攻击的培训。 61% 的高管表示,他们尚未在公司内部制定任何应对深度 阿联酋电报数据 伪造风险的协议。 商业领袖在很大程度上低估了 Deepfake 的威胁 如今,利用人工智能制作深度伪造视频的能力已经变得如此广泛和简单,甚至连拥有足够强大设备的青少年都可以制作深度伪造视频。
2024 年,诈骗者利用高度复杂的深度伪造技术从香港一名金融工作者手中骗取了 2500 万美元。据 CNN 报道,这名工作人员参加了一场视频会议,他认为会议的参与者是他的同事,但视频是伪造的。他同事的伪造视频非常逼真,以至于他向诈骗者汇了数百万美元。 deepfake 表 尽管存在财务风险,但大约四分之一的公司领导几乎或根本不熟悉深度伪造技术,该技术可用于制造来自高管的欺骗性代言。这些虚假代言会误导消费者并损害品牌声誉。
深度伪造会破坏信任和消费者信心,并滥用既定声誉来获取非法利润。它们会降低在线信任度,降低用户参与度并导致内部错误信息,从而导致决策失误、沟通中断以及企业和股东的财务损失。 除了商业领域,深度伪造还会对个人造成情感伤害。最近,名人泰勒·斯威夫特和盖尔·加朵的人工智能色情图片被制作并在网上传播,高中生使用易于访问的智能手机应用程序生成同学的裸照。 操纵音频已被用来影响美国大选:一通利用乔·拜登声音的人工智能自动电话在新罕布什尔州流传,错误地要求选民跳过初选。