“🤔 深偽電話來自已故孩童，是否合法？”
美国立法者接收死亡儿童报告，使深度伪造技术的合法性复杂化
美国议员收到亡童来电。
💥 AI深度伪造在美国引发法律问题的争议
📅 最后更新时间：2024年2月15日
美国议员陷入了一个相当奇怪的困境——接到亡童的电话。这些电话是使用AI深度伪造技术制作的，旨在引起对枪支安全的关注，并倡导更严格的枪支法律。然而，除了枪支管制这个情感话题之外，这种现象还引发了关于使用深度伪造与死者交流的合法性和伦理影响的重要问题。
帕克兰学校枪击案的受害者之一Joaquin Oliver现在又可以听到他的声音了，感谢AI。他的声音已经使用深度伪造技术重新创造，用于传达重要信息。在他们家里拍摄的一次采访中，Joaquin的父亲Manny Oliver通过说，“如果我们需要使用令人毛骨悚然的东西来解决问题，那就欢迎来到令人毛骨悚然的世界。”表达了情感激烈的父母为解决枪支暴力问题所采取的不顾一切的措施。
但是，这些深度伪造电话是如何制作的，以及它们的目标是什么呢？这些亡童父母在一个非营利性网站上建立了一个平台，用户可以从六个由AI生成的来电中选择，输入他们的邮政编码，然后呼叫他们所选的议员。这是一个让受害者的声音被听到的方式，即便是在墓地之外。这些深情款款的来电提醒议员们在枪支管制问题上采取行动的紧迫性。
- 苹果的AI驱动的应用程序开发工具：创造性改变中的重要转变
- TikTok引入了适用于Apple Vision Pro的新应用程序，使您的观看体验更加...
- 注意那些使用你的资金来支持犯罪活动的赌博网站上的恶意软件
❓ 来自亡者的声音应该说什么？
有人对替别人说出话来表示质疑，特别是当他们已经去世无法为自己的立场辩护时。在Joaquin Oliver的案例中，他的父母按照他之前在社交媒体上分享的指示进行制作。Joaquin曾表达了他保护儿童免受枪支和学校枪击的愿望，他的父亲认为制作深度伪造是实现儿子要求的一种方式。对于这些父母来说，这些深度伪造是巩固他们子女遗产，为保护处于风险中的儿童倡导的方法。然而，并不是所有在枪击案中失去孩子的父母都选择参与其中，他们担心制作出“机器人”版本的孩子。
与任何强大技术一样，对深度伪造技术的滥用存在合理的担忧。想象一下，如果这些声音被用于传播仇恨言论或虚假信息。联邦通信委员会已经明确表示，在骗局电话中使用音频深度伪造是非法的，因为曾经有人被熟悉的声音欺骗。此外，已经出现了未经授权的已故名人（如罗宾·威廉姆斯和乔治·卡林）的深度伪造在互联网上流传，这遭到了他们家人的不满。
关于深度伪造技术及其可能产生的利弊的辩论远未结束。我们可以预见在该问题的两方面都会出现激烈且支持性的论点，因为我们努力解决这种新兴技术的法律和伦理影响。
🌟 深度伪造和人工智能融合的未来
AI深度伪造技术的崛起及其在与死者交流中的应用凸显了人工智能在我们生活中日益增长的作用。虽然这项技术主要与娱乐和媒体有关，但其在社会影响和倡导方面的潜力正变得明显。
随着AI深度伪造技术的不断进步，建立清晰的法律指南和伦理框架来管理其使用将至关重要。在言论自由和防止操纵和伤害之间保持平衡将是一个具有挑战性但必要的任务。
展望未来，我们可以预料到将进一步展开辩论和监管行动，以应对AI深度伪造的潜在风险和利益。对于社会来说，处理这些复杂问题，以确保对AI等先进技术的负责和有益整合至关重要。
🎥 参考资料:
🔎 问与答
问：什么是Deepfakes？ Deepfakes是使用人工智能创建的合成媒体，涉及将一个人的脸或声音叠加到另一个人的身体或录音中。它们因其欺骗和操纵观众的潜力而声名鹊起。
问：Deepfakes是否合法？ Deepfakes的合法性因司法管辖区和用途而异。尽管一些Deepfakes用途受到言论自由的保护，但其他用于欺诈或骚扰等目的的Deepfakes可能是非法的。立法仍在努力应对Deepfakes带来的挑战。
问：Deepfakes的潜在风险是什么？ Deepfakes可以用于传播虚假信息，操纵公众舆论或欺骗个人。它们破坏了对视听证据的信任，对个人的隐私、安全和声誉构成威胁。人们担心Deepfakes可能被用于恶意目的，比如勒索或干扰选举。
问：我们如何检测Deepfakes？ 检测Deepfakes可能具有挑战性，因为它们背后的技术不断改进。然而，研究人员正在积极开发方法和工具来识别被篡改的媒体。这些方法包括分析面部不一致性和不自然的眼动，以及利用人工智能算法进行检测。
问：有哪些措施正在采取来规范Deepfakes？ 政府和科技公司越来越意识到需要制定法规和对抗措施来应对Deepfakes。一些国家已经提出了专门针对恶意Deepfakes使用的法律，而像Facebook和Twitter这样的平台也已经实施了打击Deepfakes内容传播的政策。此外，研究人员和组织正在开发用于检测Deepfakes和认证的工具。
在情感和技术的交汇处，使用AI Deepfakes与已故者沟通引发了关于合法性和伦理边界的有趣问题。我们可以确定的是，关于Deepfakes的讨论和探索正在继续进行。分享您对这个有争议话题的看法并加入对话！💬
✨ 如果您认为这篇文章发人深省，请不要忘记在社交媒体上分享，以使更多人参与到这个重要的讨论中去。我们一起可以塑造人工智能的未来，影响我们的生活！🌐
