如果我们现在不采取行动，人工智能将如何在2024年愚弄选民
如果我们现在不立即采取行动，2024年人工智能将如何欺骗选民？
回到九月，我调查了生成AI对我们选举可能产生的影响。其中最大的惊喜之一是，生成AI对地方选举可能会产生多大的影响。
在阅读了这篇文章后，罗伯特·克罗斯勒教授联系我讨论了我们数字中心化社会中选举问题的议题。克罗斯勒是华盛顿州立大学（Washington State University）信息系统副教授，他在《政府信息季刊》（Government Information Quarterly）上发表的最近一篇文章研究了政治取向、平台和虚假新闻消费对选民对选举过程的关注程度的影响。
克罗斯勒的工作得到了美国国家科学基金会和国防部的资助。他曾担任2019年至2020年间AIS信息安全和隐私专业兴趣小组的主席。他还因在信息隐私方面的工作而被授予2013年信息系统学会的设计科学奖。
我和克罗斯勒通过电子邮件进行了一次非常有趣的讨论。以下是我们的讨论内容，我的问题以粗体字显示，唯一的编辑是为了标点。
- 我的最爱的机器人吸尘拖地器仍在Cyber Monday后降价350美元
- 由于持续的网购星期一优惠，您可以节省400美元购买Roborock S8 Pro Ultra
- 这款机器人草坪割草机真的很好用，而且在网络星期一之后仍然享受7折优惠
ENBLE：生成AI可以通过哪些方式影响选民或选举结果？在这种情况下，可能存在的风险是什么？
罗伯特·克罗斯勒：生成AI可以被利用来进一步极化选民。如果有一个问题，一个政党想说服另一个人支持该论点，那么生成AI可以用来创造支持这个论点的叙事。潜在风险是选民会相信一个不真实的事情，但会强烈认为它是真实的，因为他们看到了非常逼真的支持他们原本认为正确的观点的材料。
生成AI有潜力根据人们公开透露的容易获取的知识，将通信针对性地发送给特定的人群。从网络安全的角度来看，我们已经看到这种技术被用于社会工程攻击。
利用生成AI，可以根据生成AI轻松确定的选民兴趣和动机因素定制政治信息。能够在大规模上做到这一点，有潜力将目标从基于人口统计学的目标，转变为更加精细理解用户的目标。
另外：如何使用Bing Chat（以及它与ChatGPT的区别）
ENBLE：在选举过程中使用生成AI有哪些伦理考虑？决策者和公众应如何应对这些问题？
RC：我希望我知道这个问题的答案。但这正是应该提出并回答的问题。从伦理角度来看，我认为技术不应该被用于歪曲事实，或者更好地说是虚构替代事实。然而，在确立和执行在不断变化的技术中的伦理考虑方面，采取政策是一个难题。
虽然在使用生成AI方面，有可能让政治家们达成伦理标准的共识，但我不确定这在离政治家们越远的地方如何适用。例如，政治行动团体，这对他们有何影响？
限制他们使用这项技术会对他们的第一修正案权利产生什么样的影响？我不是法律学者，但每当政府试图告诉人们可以说什么不能说的时候，我开始感到担忧。
ENBLE：您的研究发现了哪些对技术在民主进程中发挥作用的更广泛理解具有影响的发现或洞见？
RC：我的研究中的一个发现是社交媒体，尤其是Facebook，在传播虚假消息方面的作用。因此，我不使用Facebook，并且对我在其他社交媒体环境中阅读的内容持怀疑态度。我鼓励其他人不要根据社交媒体上所看到的东西陷入特定思维方式。
这尤其重要的原因是社交媒体使用的算法。这些算法是编写用来显示您与之互动的内容更多，与之不互动的内容更少。结果就是一种回音室，其中同样的信息被证实，但相反的信息未必被分享。
此外：Facebook禁止政治竞选使用其新的AI支持的广告工具
ENBLE：外国参与者在虚假新闻和生成的AI方面扮演什么角色？
RC：微软发布的信息支持了中国正在利用人工智能在社交媒体上影响美国选民的论点。中国和俄罗斯正在使用生成的AI假深度视频来控制有关乌克兰战争的叙述。我们看到人工智能被用来试图控制哈马斯和以色列冲突的叙述。
根据微软报道的内容以及外国参与者在战争叙事方面使用生成的AI的情况，可以合理地推断，在我们逼近2024年选举日时，这种情况将会加剧。
ENBLE：外国参与者对我们的选举过程构成多大威胁？他们是否专门使用生成的AI来增加他们的影响力或效果？
RC：我认为外国参与者对我们的选举过程构成巨大威胁。外国参与者一直希望让某些人掌权，这些人更加符合他们的议程。宣传一直是这个过程的一部分。生成的AI提供了一种工具，可以实现更加有针对性和具体的信息传递，其影响力很可能超过传统宣传方法。
在我们审视选举过程和外国参与者（甚至是国内参与者）的潜在影响力时，我认为一个相关的问题值得考虑，那就是政治竞争者不愿意参与辩论。如果政客们不愿意站到公众广场上进行对话，那么人们将寻求其他渠道获取信息。人们离开信息的主要来源越远，他们所接收到的信息就越有可能被生成的AI工具操控。
此外：人工智能伦理学家表示，如果不立即采取行动，人工智能的蓬勃发展将加剧社会问题
ENBLE：在选举活动期间，您如何个人区分合法的政治沟通和由AI系统生成的可能具有操纵性的内容？
RC：由于上一次选举和选举周期中的虚假信息问题，我已开始做两件事。首先，我会三角测量我所接收到的信息。也就是说，我希望从多个来源获取信息，这些来源在报道中可能具有不同的偏见。我越能三角测量信息，就越有信心该信息的真实性。
第二件我喜欢做的事情是，在最初了解到一个新问题时，故意不形成意见。当这个信息与我已知的信息不同，或者可能具有政治重要性时，这一点尤为重要。等待形成意见可以让我有足够的时间通过其他信息进行三角测量，以确认（或否认）最初的信息。
ENBLE：在选举背景下，是否有特定类型的生成的AI技术更为普遍或具有影响力？
RC：我从媒体丰富度的角度来看待这个问题，对于丰富度更高的上下文来说，其影响力更大。例如，视频比纯文本更丰富。使生成的AI世界更加有效的是多种类型的生成内容能够一起被利用。
虽然视频可能是一种与人们进行沟通并且非常有说服力的丰富媒介，但当视频搭配一个创建的文本时，它有助于为人们三重确定所试图传达的信息。
此外：实时深伪检测：英特尔实验室如何使用人工智能打击虚假信息
ENBLE：如何更好地告知公众关于选举中生成式人工智能的使用以及媒体和教育机构在促进意识方面的作用？
RC：生成式人工智能的使用大约一年前被强力推行，在2022年11月至今，仍在发生根本性变化。我鼓励公众多疑，并寻求与人们面对面的互动，而不是相信他们在网上看到的东西。
我相信这是媒体能够站出来对一切保持怀疑态度，并利用他们的调查工具揭示真相的时候。正确报道事实的重要性应该比第一个报道出来更为重要。当媒体机构以揭示真相而建立声誉时，无论他们可能带来的偏见如何，这将为选民提供一个可依赖的出口。我希望能看到媒体机构将这作为自己的新闻报道方式。第一个发布可能很可能导致错误和信誉损失。
教育机构应该将此作为鼓励学生批判性思考的领域。在我们进入新的总统选举周期时对新闻进行批判性评估将有助于培养更加知情的选民。我还希望看到更多的文明对话出现，让持不同观点的人与他人讨论他们所看到的，而且可以在公共场合进行。这其中的关键是文明对话，如果我们能够找到提供这样的环境的方法，它只能有助于澄清选举过程中的真相。
ENBLE：在未来几年中，您如何看待技术、民主和选举的交织关系的发展？您预期可能出现的挑战或机会是什么？
RC：我认为随着技术的进步，我们辨别真相的能力将变得更加困难，包括民主和选举。我有些担心我们是否开始远离技术以便能够辨别真相。这将减少我们在评估所发生的事情时提供的信息。
然而，技术让那些没有发声的人揭示了他们所处世界的真相。我们在全世界都看到了这一点，特别是通过社交媒体，人们能够分享其他人可能想要压制的信息。结果，发生了变化。
需要解决的最大挑战，也许是由拥有生成式人工智能技术的人来解决的，就是在使用该技术创建某些东西时，如何通知世界。如果不知道是使用这种技术创建的内容，人类将越来越难以区分事实和虚构。
ENBLE：在2024年选举之后，生成式人工智能将如何继续影响选举过程？
RC：我相信我们将在2024年选举周期中看到生成式人工智能的一些最有创造力的应用。完成后，这些技术很可能会得到增强和改进。我希望我知道如何防止这种情况或它将会产生何种影响。
我希望这成为我们的政客参与的一个讨论，因为我认为这是一个各方可以团结起来的领域。生成式人工智能的操控力对每个人的影响都是相等的。因此，通过汇聚最聪明的头脑，我希望有能力利用这些技术中好的那一面，并限制那些有害的影响。
此外：不要被假ChatGPT应用程序骗了：看看有哪些注意事项
ENBLE：关于生成式人工智能和选举，您最担心的是什么？请解释为什么您最关注此问题。
RC：我对生成式人工智能最担心的是选择代表美国的决策在事后会带来后悔。据我所知，没有一种机制可以让美国人轻松地撤消选举日所做的选择。如果一个声音能找到方法来操纵和控制选举结果，然后通过治理工作让人们意识到发生了什么，人们该如何作出回应？
为什么我对此感到害怕？通过社交媒体对投票过程中的人们进行观察，影响他们的能力已经被证明非常有效。生成式人工智能有潜力以令人难以置信的方式放大这种影响力。是否有一个影响力级别的点会导致人们以意想不到的方式做出反应，从而引发抗议？
在过去的四年中，我们一直看到这种情况发生，而且这种情况也正在欧洲发生。紧张局势是否足够高度，会进一步升级？有时候感觉是这样。
ENBLE：生成式人工智能在美国选举中是否有任何积极用途？
RC：生成式人工智能在选举过程中有很大的潜力提高效率。从管理的角度来看，它可以使沟通处理更加有效。我想生成式人工智能可以被用来帮助候选人为面试做准备，通过一个智能代理人向他们提问，为辩论做准备。可以有很多方法来改善情况。
我最近了解到的一项技能是使用生成式人工智能将耸人听闻的新闻故事转化为乏味的新闻报道。我期待在选举季节使用这个技能，以消除政治新闻经常伴随的耸人听闻的色彩。
您有什么想法？
“消除耸人听闻的色彩。” 这似乎是一个好的结束点。我想感谢罗伯特抽出时间与我进行一次引人入胜的对话。如果您有任何问题、评论或意见，请在下面的评论中留下您的想法。
您可以通过社交媒体关注我的日常项目更新。请务必订阅我的每周更新通讯on Substack，并在Twitter上关注我：@DavidGewirtz，在Facebook上关注我：Facebook.com/DavidGewirtz，在Instagram上关注我：Instagram.com/DavidGewirtz，以及在YouTube上关注我：YouTube.com/DavidGewirtzTV。
