可能使用了ElevenLabs技术，用于模仿乔·拜登的深度伪造自动讯息
上周，深度伪造的乔·拜登自动电话投给新罕布什尔州选民，被归因于由人工智能初创公司ElevenLabs开发的工具
深度伪造拨号：人工智能技术如何撼动政治
人工智能初创公司ElevenLabs的工具被指责为最近针对新罕布什尔州选民的深度伪造拨号浪潮的幕后黑手，这引发了公民和专家对人工智能技术在政治中潜在滥用的担忧。
数字声音中的危险
该州的一些选民声称接到了来自美国总统本人的电话，敦促他们不要参加初选。尽管目前尚不清楚直接负责这些欺骗性电话的人是谁，但两队音频专家指向了ElevenLabs，声称他们关于拨号的声音复制技术可能是该骗局的幕后。
专门从事合成音频识别的安全公司Pindrop分析了这些电话，并找到了将其与ElevenLabs或类似系统联系起来的有力证据。该公司的人工智能工具最初是用于有声读物和视频游戏，现在可以被公众利用来通过提交音频样本来克隆任何人的声音。尽管ElevenLabs鼓励用户在克隆某人的声音之前获得许可，但他们允许非商业目的的无限制克隆，包括“为公众辩论做出政治性言论”。
作为对这些指控的回应，ElevenLabs的首席执行官Mati Staniszewski发表了一份声明，强调该公司致力于防止音频人工智能工具的滥用，并承诺与当局合作采取行动来应对对其技术的滥用。
驳斥深度伪造趋势
不幸的是，这种事件不是ElevenLabs的工具首次涉及到深度伪造政治宣传。去年，发现使用人工智能生成声音的TikTok账户，包括巴拉克·奥巴马的声音，正在使用ElevenLabs的技术传播阴谋论。这些事件突显了人工智能生成内容的黑暗面，并引发了对该行业监管日益增长的担忧。
上周，泰勒·斯威夫特的色情深度伪造图片在互联网上疯传，引发了在线平台迅速采取行动，封锁搜索并限制这些有害图片的传播。随着深度伪造技术的不断发展，并对个人隐私和公众人物声誉构成威胁，像参议员汤姆·基恩提出的更严格监管要求在保护个人免受人工智能生成内容潜在伤害方面开始获得动力。
展望未来：深度伪造的未来
虽然深度伪造的兴起无疑令人担忧，但它也为我们更好地理解和应对人工智能技术所带来的挑战提供了机会。涉及ElevenLabs工具的事件突显了亟需制定平衡保护个人免受伤害和促进人工智能领域创新的监管框架的紧迫性。
随着技术的不断进步，立法者、行业专家和整个社会必须密切关注新兴趋势并预测潜在风险。通过投资研究和制定有效的保护措施，我们可以减轻与深度伪造相关的风险，并利用人工智能技术的力量带来积极变革。
🤔 问与答内容
问：如何对深度伪造技术进行监管？ 答：监管深度伪造技术需要采取多方面的方法，包括法律框架、技术进步和公众意识。立法者必须制定法律，对恶意使用深度伪造技术进行处罚，同时保护言论自由。技术解决方案，如深度伪造检测算法和认证方法，可以帮助识别被操纵的内容。此外，向公众提供关于深度伪造存在和潜在危险的教育至关重要，以确保负责任地消费和传播数字媒体。
问：深度伪造技术能用于有益的目的吗？ 答：尽管深度伪造技术因其欺骗和操纵的潜力而受到关注，但它也具有积极应用的潜力。例如，在娱乐行业中，深度伪造可以用于在电影中复活历史人物或创建逼真的虚拟角色。此外，该技术在医学领域有着有前途的前景，可用于改善患者沟通和加强具有沟通障碍的人群的言语治疗。
Q：个人如何保护自己免受深度伪造骗局的影响？ A：要保护自己免受深度伪造骗局的影响，有两个关键是必需的，即保持对数字内容持怀疑态度和验证任何可疑音频或视频信息的来源。同时，避免分享未经验证的信息，并且在通过电话或其他媒体提供个人信息时要谨慎。实施强大的安全措施，如使用双因素认证并定期更新密码。保持对新兴深度伪造趋势的了解，并学会识别操控迹象，这些都将帮助您避免成为目标。
参考资料
- Tech Palestine Launches to Provide Tools to Help Support Palestinians (TechCrunch)
- Wired Headphones in Mini Revival (ENBLE)
- Boeing 737 Max Crisis Reignites Arguments on Infant Safety in Planes (ENBLE)
- Startup Uses AI to Give Speech-Impaired People Voices Back (ENBLE)
- YC’s Tom Blomfield to Talk About Raising Money and Tech Regrets (TechCrunch)
James Jones
自由撰稿人
James Jones 是一位经验丰富的记者、播客和数字出版专家，拥有10多年在体育和科技行业的各种在线出版物上创作引人入胜的内容的经验。他在领先的在线出版商工作并出现在知名媒体机构。James 凭借新闻学学位和丰富的成就组合继续通过他在 ENBLE.com 上的文章向读者传递最新的行业动态。
喜欢这篇文章吗？在社交媒体上分享您的想法，传播这个消息！让我们讨论深度伪造技术对政治和人工智能在我们社会中的未来产生的影响。📢🌐
注意：本文中附带的原始图片已包含在内。
