深度伪造、勒索和生成式人工智能的危险
Dangers of Deepfakes, Ransomware, and Generative Artificial Intelligence
生成AI的能力正在迅速加速，但虚假视频和图像已经导致了真正的伤害，Ceartas io的创始人丹·普尔塞尔写道。
联邦调查局最近发布的一项公共服务公告警告了AI深度伪造对在线隐私和安全的危害。已知网络犯罪分子通过将图像数字化并制作成明确的伪造品，对个人进行利用和勒索，并威胁要在网上公开发布这些图像，除非支付一笔款项。
这些措施和其他正在采取的步骤从根本上来说是件好事。然而，我认为这个问题已经比任何人意识到的都更普遍，新的努力来对抗它是迫切需要的。
为什么深度伪造如此容易被发现？
对我来说，有关有害深度伪造的令人不安之处在于其易于被发现。它们并不隐藏在互联网的黑暗、阴暗角落中，而是存在于我们大多数人手机上已经拥有的主流社交媒体应用中。
一项将分享他人深度伪造性图像刑事化的法案
5月10日星期三，明尼苏达州的参议院通过了一项法案，该法案在获得批准后将使分享他人深度伪造性图像而没有事先同意的人面临刑事处罚。该法案几乎一致通过，还包括那些分享深度伪造图像以过度影响选举或损害政治候选人的人。
加利福尼亚州、弗吉尼亚州和德克萨斯州等其他州也通过了类似的立法。
我对这项法案的通过感到高兴，并希望它不久就能完全成为法律。然而，我认为在所有美国州和全球范围内需要更严格的立法。欧盟在这方面处于领先地位。
明尼苏达州参议院和联邦调查局的警告
我对明尼苏达州参议院和联邦调查局的坚决行动表示乐观，这将引发一个关于这个关键问题的全国性辩论。我的理由既是专业的，也是深层次的个人原因。几年前，我的前任合作伙伴在未经我的事先同意的情况下上传了我亲密性的图像。
对受影响个人没有保护 – 至今如此
这些照片在我发现之前在线上存在了大约两年的时间，当我发现时，这个经历既令人尴尬又令人心理创伤。对我来说，这样的行为居然可以毫无后果地实施，对受到此类行为影响的个人没有保护，这完全令人不安。然而，这成为我未来业务的催化剂，我发誓要开发一种解决方案，以追踪、定位、验证并最终删除非自愿内容。
引起全球关注的深度伪造图像
最近引起全球关注和注意的深度伪造图像包括被捕的前唐纳德·特朗普、教皇方济各时尚的白色羽绒服以及法国总统埃马纽埃尔·马克龙在垃圾收集员的工作。后者是在法国养老金改革罢工高潮时期。对这些照片的最直接反应是它们的逼真程度，尽管很少有观众被愚弄。令人难忘？是的。有害？还没有，但潜力是存在的。
拜登总统已经提到了这个问题
拜登总统最近在白宫与科技领导人讨论了人工智能的危险问题，今年4月他本人成为深度伪造的争议焦点。在宣布他将参加2024年美国总统选举后，共和党全国委员会以完全由AI生成的图像制作的YouTube广告对总统进行了攻击。视频左上角有一个小小的免责声明，证明了这一点，但这个免责声明如此之小，以至于某些观众可能会错误地认为这些图像是真实的。
如果共和党选择采取不同的方式，集中关注拜登年龄的增长或行动能力，以养老院或轮椅中的AI图像可能会影响选民对他是否适合连任四年的评估。
图像操纵具有严重危险性的潜力
毫无疑问，这种图像的操纵具有严重危险性。第一修正案应该保护言论自由。但是随着深度伪造技术的出现，理性、深思熟虑的政治辩论现在面临危险。我可以看到2024年的政治攻击变得越来越混乱。
如果美国总统在保护自己的诚信、价值观和声誉方面处于如此脆弱的位置，那么全球其他公民还有什么希望呢？
在我的职业生涯中，我发现并不仅仅是高级计算机工程师参与了深度伪造的制作。一台笔记本电脑和一些基本的计算机知识几乎就足够了，而且还有很多在线信息来源。
了解真假视频的区别
对于我们直接从事技术工作的人来说，区分真假视频相对容易。但广大社区辨别深度伪造视频的能力可能并不简单。2022年的一项全球研究显示，57%的消费者声称他们能够识别深度伪造视频，而43%的人声称他们无法区分深度伪造视频和真实视频之间的差别。
这个群体无疑包括投票年龄段的人。这意味着，如果涉及到政治候选人的视频可以说服人，深度伪造视频有可能决定选举结果。
生成式人工智能
音乐家和词曲创作人Sting最近发表了一份声明，警告说词曲创作人不应对与生成式人工智能系统竞争而心安理得。我能理解他的观点。一群名为“人类艺术运动”的人目前正在进行一项在线请愿活动，旨在将人类表达“置于创作过程的核心，并保护创作者的生计和作品”。
请愿书声称，人工智能永远不能替代人类的成就和创造力。TDM（文本和数据挖掘）是人工智能模仿音乐家的声音或创作风格的几种方法之一，它涉及对大量数据进行训练。
人工智能可以让我们受益。
虽然我能理解人工智能对我们人类的好处，但我对组织内部生成式人工智能的适当治理所涉及的问题感到担忧。这些问题包括缺乏透明度、数据泄露、偏见、有害语言和版权问题。
我们必须有更强的监管和立法。
如果没有更强的监管，无论公众人物与否，生成式人工智能都将威胁到个人。在我看来，这种技术的快速发展将使这种情况变得更加严重，最近FBI的警告也反映了这一点。
随着这种威胁的持续增长，人工智能研究和开发所投入的时间和资金也在增加。目前，全球人工智能市场价值接近1000亿美元，并预计到2030年将飙升至近2万亿美元。
这是一起新闻报道中的真实事件，KSL今天报道。
– 请阅读以保护您的孩子 – 尤其是青少年。
在这里阅读。
父母最近公开发布了这些信息，以帮助我们所有人。
前三个类别是身份盗窃和冒名诈骗
技术已经足够先进，一个深度伪造视频可以从仅有的一张图片生成，而一个能够通过几秒钟的音频复制一个人的声音的版本也足够逼真。相比之下，在去年提交的数百万份消费者报告中，前三个类别是身份盗窃和冒名诈骗，导致2022年损失高达88亿美元。
回到明尼苏达州的法律，记录显示有一个独立代表投票反对使分享深度伪造性爱图像的行为成为犯罪。我想知道他们这样做的动机是什么。
我自己也曾是受害者！
作为一个受害者，我对这个问题非常直言不讳，所以我认为这是一个相当明确的问题。当这种事情发生在我身上时，我感到非常孤独，不知道该向谁寻求帮助。幸运的是，自那时以来事情已经取得了飞跃。我希望这种积极的势头能够继续下去，这样其他人就不会经历我曾经经历过的创伤了。
Dan Purcell是Ceartas DMCA的创始人兼首席执行官，Ceartas DMCA是一家领先的AI版权和品牌保护公司，与世界顶级创作者、代理机构和品牌合作，防止未经授权使用和分发他们的内容。请访问www.ceartas.io了解更多信息。
精选图片来源：Rahul Pandit; Pexels; 谢谢！
