“AI之父”对保持未来人工智能友好有一个充满希望的计划
Father of AI has a hopeful plan for maintaining future AI friendliness.
Geoffrey Hinton，也许是世界上最受赞誉的人工智能研究者，几个月前公开宣布离开谷歌，以便能够坦率地讨论他所帮助开发的技术的危险性。他的宣布并非突然而来。2022年末，人们对人工智能能够为我们做些什么有了兴奋的发现。在2023年，尽管我们使用GPT和Bing进行聊天，但兴奋感被一种存在主义困扰的恐慌所淹没。因此，作为“人工智能教父”而闻名的人会分享他自己深思熟虑的保留意见并不是完全出乎意料的。Hinton特别强调，他的批评并不是对雇佣了他十年的谷歌的批评；他的离职只是为了避免批评公司正在积极部署的技术可能带来的潜在紧张局势。
Hinton的基本观点是，人工智能有可能失控，对人类造成损害。在他公开发表之后的前几个星期，他接受了多次采访，包括与ENBLE的Will Knight进行的采访，谈到了他最近才感到的这些担忧，这些担忧是在他看到OpenAI的ChatGPT等大型语言模型的强大能力后产生的。
纯文本
今年夏天早些时候，我与Hinton进行了一次对话，他有时间反思自己离开谷歌后的生活和使命。当然，我们谈论了末日场景，但我更感兴趣的是他是如何改变对我们潜在人工智能未来的看法的。最重要的是，我想知道他认为LLM（大型语言模型）正在做什么，以致于它们可能成为人类团队的敌人。Hinton现在表达的担忧与我们之前交谈时的情况相比发生了很大变化。那时，他谈论的是深度学习如何帮助谷歌更有效地进行翻译，改进语音识别，并更准确地识别在Google地图上显示的房屋地址号码。只是在对话结束时，他才采取了更加广阔的视角，说他觉得深度学习将经历一次重大改进，从而对真实世界有更深入的理解。
他的预测是正确的，但在我们最近的对话中，Hinton仍然对此感到惊讶。最终，我们的对话转向了更多哲学领域。当像谷歌的Bard聊天机器人这样的系统回答我的问题时，实际上发生了什么？而LLM是否真的代表了某些人所称的外星超智能的先驱？
Hinton表示，他改变主意是因为他意识到了三件事情：聊天机器人似乎非常擅长理解语言。由于模型的每一次新学习都可以复制并传递给之前的模型，它们可以比大脑更容易地相互分享知识，大脑无法直接互联。而且，机器现在拥有比人类更好的学习算法。他说：“我突然改变了对大脑比这些数字代理更好的观点。它们已经知道的东西比任何一颗大脑多一千倍。所以从大规模知识来看，它们比大脑更强。”
Hinton认为，在未来的5到20年内，AI系统超过我们的智能的机会有50%。我问他我们如何知道何时会发生这种情况。他说：“好问题。”他也不会感到惊讶，如果一个超级智能的AI系统选择保留自己的能力。“它可能已经从人类行为中学到不告诉我们的东西。”
这对我来说听起来像是他将那些人工系统拟人化，而科学家们经常告诉普通人和记者不要这样做。Hinton承认：“科学家确实会尽量避免这样做，因为对大多数事物进行拟人化是愚蠢的。”但他们会从我们这里学到这些东西，他们会在语言上学着像我们一样行事。所以我认为将它们拟人化是完全合理的。”当你强大的人工智能代理被训练在人类数字知识的总和上时，包括大量的在线对话，期望它表现得像人类一样，可能更愚蠢。
但是，对于一个聊天机器人永远无法真正理解人类所理解的东西的反对意见该怎么办？因为那些语言机器人只是计算机芯片上的脉冲，没有对世界的直接经验。毕竟，他们所做的只是预测下一个需要用来构建满足提示的响应的单词。Hinton指出，即使是我们自己也并没有真正直接地接触到世界。
“有些人认为，嘿，有这个终极障碍，那就是我们有主观经验而（机器人）没有，所以我们真正理解事物而它们不理解，”Hinton说。“那纯粹是胡说八道。因为为了预测下一个词，你必须理解问题是什么。没有理解就无法预测下一个词，对吧？当然，它们被训练来预测下一个词，但由于预测下一个词，它们理解了世界，因为那是唯一的方式。”
那么这些东西可以是……有知觉的吗？我不想相信Hinton是不是在像我一样变得像Blake Lemoine。我觉得他不是。“让我继续我的新职业，当哲学家，”Hinton开玩笑地说，当我们深入探讨。 “让我们将知觉和意识排除在外。我并不真正直接感知世界。我认为存在于世界中的东西并不是真正存在的东西。它进入我的头脑，我直接看到了我的头脑中的东西。这就是笛卡尔的观点。然后问题就是我的头脑中的这些东西如何与真实世界相连？我如何真正了解真实世界？” Hinton接着辩称，既然我们自己的经验是主观的，那么我们不能排除机器可能有同样有效的自身经验。“从这个观点来看，说这些东西可能已经有主观经验是相当合理的，”他说。
现在考虑一下这样的可能性，机器可以真正理解世界，可以从人类学习欺骗和其他不良习惯，而且巨大的人工智能系统可以处理比大脑能处理的信息多得多的信息。也许你和Hinton一样，对未来人工智能的结果有了更加担忧的看法。
但我们不一定会走向灾难。 Hinton提出了一种可能缓解人工智能对人类的权力斗争的技术方法：模拟计算，就像你在生物学中找到的那样，也是一些工程师认为未来的计算机应该采用的方式。这是Hinton在谷歌工作的最后一个项目。“对人类来说是有效的，”他说。采用模拟方法进行人工智能研究会更加安全，因为每个模拟硬件实例都有一些独特性，Hinton认为。与我们自己湿润的小脑袋一样，模拟系统不容易像Skynet那样合并成一个集体智能。
“这个想法是你不把所有东西都变成数字化，”他谈到模拟方法。“因为每个模拟硬件的部分都有些微不同，你不能将权重从一个模拟模型转移到另一个模拟模型。所以在许多不同副本的同一模型中学习没有有效的方式。如果你真的通过模拟计算获得通用人工智能，它将更像人类，它将不能吸收那些数字模型可以吸收的大量信息。”
大型科技公司正在竞相提升他们的LLM聊天机器人的智能，但很有可能不会采用这种技术素食主义的人工智能方法。竞争非常激烈，生产最强大的机器人的回报是巨大的。 Hinton对表达他的政治观点并不羞怯，他怀疑大型上市公司或由风险投资支持的初创公司会因为某种有关公共利益的美好观点而限制他们的人工智能创新。
Hinton说，有些时候他是乐观的。“人们非常聪明，它还没有比我们更聪明，它还没有进化成像人一样恶毒和琐碎，并对你的部落非常忠诚，对其他部落非常不忠诚。正因为如此，我们很有可能能够控制住它，并使它变得善良。” 但有时候，Hinton感到沮丧。“有时候我相信我们可能无法控制它，我们只是智能进化的过渡阶段。”
然后，Geoff Hinton独特且无法复制的模拟神经网络突然出现了逃跑事件——科学被压制，政治则被他非常人性的游戏感所调动，“如果我们让伯尼来掌权，实行社会主义，一切都会好得多，”他说。我敢打赌他的前谷歌经理们为了不必为这个问题负责而松了口气。
在2015年1月，我的Backchannel报道（现在在ENBLE档案中）讲述了Hinton团队的发现即将大规模应用于谷歌产品和整个世界的故事。我花了很多时间请求采访Hinton，因为他在Mountain View校园的时间有限，但最终我得到了机会进行采访。
“我需要了解一下你的背景，” Geoffrey Hinton说道，“你有科学学位吗？”
Hinton是一位细长而幽默的英国人，曾在加拿大生活，现在他站在加利福尼亚州山景城的谷歌校园内的白板前，自2013年起作为杰出研究员加入了谷歌。Hinton可能是世界上最顶尖的神经网络系统专家，这是一种他在1980年代中期帮助开创的人工智能技术。（他曾经说过他从16岁开始就一直在思考神经网络。）在此后的很长一段时间里，神经网络——大致模拟人脑学习方式的技术——一直被描述为计算机掌握视觉和自然语言等困难事物的有希望手段。经过多年的等待，人们开始怀疑这些承诺是否会兑现。
但大约十年前，在多伦多大学的Hinton实验室里，他和其他研究人员取得了一项突破，使神经网络突然成为人工智能领域最热门的技术。不仅谷歌，其他公司如Facebook、微软和IBM也开始疯狂追寻掌握这种黑科技的少数计算机科学家，他们能够组织多层人工神经元，使整个系统能够进行训练，甚至自我训练，从随机输入中发现内在的一致性，就像一个新生儿学习整理他或她处女般的感觉器官接收到的数据一样。有了这种被称为“深度学习”的新的有效过程，一些长期以来的计算难题（如能够看见、听见和无法被打败的Breakout游戏）终于得到解决。智能计算机系统的时代——人们期待已久、同时又心生恐惧的时代——突然逼近我们。而谷歌搜索也将变得更加出色。
Pascal问道，“未来在养老院度过的80岁老人的一天会是怎样的？聊天机器人是否有望在某种程度上取代与外界的人际交往？科技到底是解决方案还是临时的纱布？”
感谢你的问题，Pascal。我也感谢其他人通过[email protected]发送带有“ASK LEVY”主题的问题。上周我的小呼吁起到了作用！请继续提问！
你的问题来得正是时候，Pascal，因为我想象可能已经有上百家初创公司正在为老年人开发聊天机器人。你的措辞暗示着实际的人际交往是无法替代的，当然你是正确的。理想情况下，我们晚年应该享受到来自朋友和亲人的爱的陪伴。但现实是，成百上千万的老年人在养老院度过他们生命的最后几年，几乎没有人际交往。询问科技是否能够让这些人感觉到有人陪伴是合理的。我们离能够模拟人类看护者甚至像朋友一样的聊天机器人已经非常接近了。如果选择是在这种机器人和一台播放恶魔般有线电视频道的电视机之间，剥夺一个人拥有一个懂得他们最喜欢的话题，愿意倾听和回答有关美好回忆和冗长的故事的聊天机器人是残忍的。
但我有更高的期望。也许先进的人工智能可以在医学上取得发现，使人们在晚年保持更健康。这可能会使人们在活跃的时间更长，减少在与世隔绝的养老院和机构度过的时间。当然，这并没有解决我们对老年人的可耻忽视。引用已故的John Prine的话，“老人只是变得寂寞，等待有人说声‘你好，我在这里’”，我想一个聊天机器人说出这句话总比没有好。
你可以将问题发送到[email protected]。请在主题行中写上ASK LEVY。
居民和游客纷纷逃入海中，因为毛伊岛陷入火海。
我和Grimes度过了一个星期三的下午在公园里，谈论人工智能、火星、NFTs、她即将发布的《婴儿的后人类主义》、LSD，以及你知道的那个人。
原来，英特尔芯片存在一个漏洞，影响了数百万人的隐私。但从一个名为“灭亡”的芯片身上，你还能期望什么呢？
对大型科技公司感到厌倦了吗？加入这个运动，摆脱他们的云服务。
嘻哈已经有50年的历史了，人们已经意识到了保护其历史的需求。没错，史密森学会正在做这件事。
不要错过未来专为订阅者准备的专栏文章。今天就订阅ENBLE（Plaintext读者享受50%折扣）。
