机器仆人和人类主人 [复制链接]

感谢作者萧萧树授权发布

一望无垠的地平线在夕阳下绵延，连接着天空和大地，世界等了很久，没有一位吟游诗人出现，也没有了那些让人类动情的歌声。曾经的城市或许并不遥远，只是被蓟、荨麻、牛蒡、颠茄覆盖着，走失的微弱电流逸散在潮湿的雨水中，一些野火吸引着飞鸟的眼睛。没有人知道这幅图景在曾经的诗人和艺术家眼中该如何表述，美？抑或仅仅是孤独。一个没有人欣赏的世界，其存在还有何意义？但连绵不绝的群山，起伏不定的水波，变幻莫测的云海和轮转的日月、火星的红色沙漠、木星的大红斑、银河系的旋转都未曾改变，它们的存在难道是无益的和虚假的？是人类的独特引发了这一切的存在吗？无论如何，这种无人的场景不难想象，对于自然哲学家来说它尤其客观，庞加莱就曾表达过，在人类诞生前和消亡后，许多时间中世界依旧存在，数学也依旧存在，对于大多数柏拉图主义者，这并不构成世界观上的挑战。

但当我们思索人，就需要这世界存在人，我们可以把它看做一个逆向的“人择原理”。于是，不知过了多久，在某个早已被遗忘的立方体房子里，一台人造机器启动了，接着，不知多久之前设定的程序开始运行，灯光亮了起来，温柔的气体也开始充满空间，一个声音出现了：欢迎醒来，我的主人。这是一台机器人。紧接着，机器舱门打开，一个“人”赤身裸体地走了出来。真正的问题开始了。首先，可能因为长时间的冷冻或者别的原因，这个人的大脑出现了严重受损，现在，他可以说是一具“僵尸”，他茫然地看着周围，世界上已经没有其他人了，机器人则在等待着他的指令，但主人对自己许久许久许久之前熟悉的概念已经一无所知。

机器人依旧把他看做“人”，首先是他外形像人，于是机器人开始自己的工作，既然有“主人”醒来了，他们就要完成对主人的服务。他首先给主人拿来了食物。可能是食物已经过期很久了，主人却并不认识这些食物，因为对于正常的或者说文明的人来说，食物不仅是满足生存所需，同样是一种文化。当他不理解这些文化的时候，食物的意义有时也会发生改变，这很容易理解，就像中国人不吃那套用汉堡皮做的煎饼果子，或者把一罐臭豆腐放到婴儿面前他拒绝食用一样。从这个侧面，机器人领悟到主人思维中一些信息丢失了。对于食物这很好解决，机器人做了一顿香气浓郁的新餐，主人很快本能性地快乐地吃完了，只是没有任何礼节上的表达。

接着，机器人开始与主人交流，他已经经过了非常漫长的学习，了解并学习了人类文明的精华，他看到外面孤寂的末日场景，给主人背了两句艾略特的《荒原》或者米沃什的《蓟、荨麻》或者谷川俊太郎的《0亿光年的孤独》，他甚至有些陶醉，虽然我们不知道那陶醉是真是假，但他的确模拟了那样的情绪：语调、表情和动作都非常真实。但是，主人却没有丝毫触动，他木然地看着周围的一切，嘴里甚至流着口水……

人是什么？或者在大多数人看来，人应该是人的知识、情感和理念等等多种元素的集合，也许极少有人认为人只是人的肉体。我们可以大致地将前面这些元素称作灵魂，进而按照侯世达和查尔默斯的观点，每个灵魂都存在一个“灵魂度”，那么人概念应该等价于一个灵魂度的区间。社会观念中偶尔会认为一些人（他们的灵魂可能存在远远超越区间阈值的不可控因素）不可救药，必须让他们隔离到人类社会之外，而婴儿则是要对他们进行教育，以达到一个恰当的灵魂度。当然，这种说法存在*治不正确的风险，但另一个事实则是，为了维系人类社会的稳定性，我们看到的*治正确大部分可能是只对我们自身有效的概念。例如我们会看到一些邪典电影桥段，一个人对变成僵尸的亲友恋恋不舍，但僵尸并不因此产生共情，我们对僵尸的价值判断是建立在主观情感上的，而非客观的。它只是从侧面说明人是理念的集合，因为这里我们大部分非亲友的人不会把那些僵尸看做人，那些僵尸在亲友眼中依旧重要是因为它们具有物理属性上的连续性，这部分连续性影响人们的情感判断，但它对于无情感的僵尸本身是无效的，对于陌生人同样无效，因为僵尸的表现完全割断了“灵魂度”上的连续性。不过这个问题离主题比较遥远暂不讨论。

图片作者：萧萧树

进而，这个问题的关键就成了，这位醒来的主人能否被看做人。机器人首先按照程序对主人进行“人”的概念的判定。机器人的判定是客观的，我们假设他具有一种比较精确的如同智力或情绪测试的标准，这套标准运用到不同的属性之中，这些属性按照更精确的从物理属性到情感意识等多个方面进行分类。自然，其中最难的部分就是对所谓的人的“灵魂”的测试，比如像马文·明斯基在《情感机器》中对人类情感功能进行的元素化处理一样，将人的情感反应归于“精神资源”的作用，并为之建立法则。机器人开始以此对主人进行考量。但无论从任何方面，这个遭受损坏的主人都不能看做“人”，他无法完成人的意志行为，机器人如同患上了卡普格拉综合症一样，认为主人是一个冒名顶替者。

但人的故事在此还不能结束，我们还没有找到人如何才能被看做人的方案，因此我们假定程序设定者有先见之明，使它具有对短暂的技术失误纠错的能力，而非首先消除冒名顶替者。于是，机器人开始帮这个主人恢复“人格”。首先必然从语言开始，就像彼得·汉德克在《帕斯卡·豪泽》中所展现的那样，进而发生了接下来的像“特修斯之船”一样的故事。机器仆人开始用自己的知识来不断修补这个残破的人。

这将是一个有趣的过程，一些人认为人工智能是有别于人的，或者我们存在着巨大的鸿沟，而当我们把这个问题“直觉泵”化的时候，会发现一个悖论：人是人的理念的集合，那么，如果这些理念来自于人工智能呢？比如在这个故事里，机器仆人开始教授主人一些知识，这些知识通过机器仆人的语言传递，它们首先来自于对于数据的运算和分析，接着以合理的方式教给主人。主人开始学习，在某一段过程中，他学习的是人类之前涉足到的知识，而另一些部分，他则学到了机器算法给出的知识，那么，这些不同来源的知识可否在他的思维中进行分割，从而明显地分辨出人类和机器的不同吗？例如，有一天，机器仆人开始教人类主人下棋，在了解了简单规则之后，机器人教给主人的棋路都是人类开局库中从未出现过的（事实上，今天的人工智能已经开始改变人类棋手的思维方式了），那么这一知识能否跟人类知识分别开？同时，当我们想到卡尔维诺曾用塔罗牌来构思小说，那么一盘棋局的设计和一部小说的设计是否存在本质上的不同，其差距又有多么遥远呢？而更为直接的疑问是，我们套用“特修斯之船”的经典结构阐述这个问题，某一天，人类可以通过模拟信号的芯片传递知识了，这些知识或理念有一部分由更高级的人工智能的运算方式创造，那么这些获得“嫁接”的人究竟该被如何划分呢？如果某一天一位“赛博格”中“机器逻辑”的部分多于了人的部分，那么“他”是人类还是机器呢？

我们很容易想到，人类的独特性在于文明建立的诸多成就都是以人为基准的，我们正是这些成就的继承者和创造者。并且我们在很漫长的一段时间中从未有过对另一种高级智慧存在的场景的思考，因为在我们的经验中，人类是创造文明最为成功的，我们见过的任何有机和无机的造物都无法与之匹敌。虽然在一些文学作品中，我们会以人类之外的智慧作为一些辅助的存在，但最终大部分作品仍旧重返人性的视角。比如，我们也出现过像洛夫克拉夫特那种专注于挑战人类经验的写作，但它更多是文学的，带来的冲击也是短暂的，人们可能很少思索那些场景的真实性和持续性。事实上，真正带给我们更大的哲思上的冲击就是人工智能开始在智力领域对人类的挑战。但乐观的部分在于，这种外部“智慧”的挑战并不是来自遥远的“索拉里斯星”，而是来自人类本身的创造，它们首先是以人的辅助工具的形式出现的，因此我们依旧拥有对其进行解读和改变的权力。或因技术限制，例如对人类智力活动的编码几乎不可完成；或因它发生的时间并不长久，我们依旧很乐观地看到在可见的未来，人类智慧的独特性几乎是不可撼动的。

但无论如何，我们已经严肃地到达了这个问题，就是智慧的独特性问题。回顾机械计算发展的历史，从“计算器”到“计算机”到“人工智能”，人类引以为豪的逻辑能力不断受到挑战。最初，当机械只用来辅助做大量复杂运算的时代，其中虽不乏像艾达·洛夫莱斯、阿兰图灵这些人开始幻想和意识到它们能够做什么，但它们的存在在很大程度上并不会直接影响“人类”一词放置最多的语境——社会生活——之中，我们认为计算和人类生活之间有着巨大的差距，人类的独特就是“诗意地栖居在大地上”。当计算机械开始在博弈性质的游戏中击败人类思维时，态度的改变就愈发明显，最为严肃的时刻在于计算机械开始模拟学习，并一步步渗入到我们的生活之中时，我们发现，它们可以通过对底层的数学结构的应用进行语言的交流、统筹管理的优化甚至博弈的设计时，这种严峻感如同恐怖谷效应一般陡然剧增。为什么呢？也许，在无论专业的学者还是普通大众看来，存在一个潜意识中的共识，即人类文明中最为重要的部分是无数逻辑分析所完成的工作，它改变了我们的生存环境和方式。我们自然可以很自豪地说，除了理性工作之外我们还创造了艺术，那是计算永远无法完成的。一般地，乐观地或者说从表象上来看的确如此，但从另一个角度，无论是视觉的还是语言艺术，都包含着理性的过程，即便是波洛克的画作也非完全无意识的结果，即便陀思妥耶夫斯基也曾表达过，他在设定每个人物命运时，都如同解方程一样复杂，虽然陀翁并不是以故事性而是以深邃的内心描绘而著称的艺术家。我们甚至可以说，人类文明的核心就是计算（逻辑）。而今天，人工智能已经开始写诗、作画、作曲，就像艾达洛夫莱斯的幻想一样，无论我们如何分析它的产生机制和人类智慧的灵感有多么不同，即便存在再大的差距，它们或许也比一些人更像人，而且它们还有极大的可能进步，那么，人的独特性的意义何在？当它们通过更好的设计、更便利的方式来改变我们所处的环境时，同时也是对我们理念的渗入，明显的例子如语言的自动翻译和自动输入，在直接改变我们理念的日常生活背后其实是数据和算法。也许我们本质上无法创造一种只具有工具性的智能机器，它必然地会让我们的知识和观念变得“不纯粹”，或者说不那么“人性”，它会呈现出逻辑本质对各个领域的影响。

在我们这个末日故事中，机器仆人一步步改造着大脑受损的主人，主人不断学习，他渐渐地像一个婴儿一样具有了一些智慧（灵魂度）。无论是马文·明斯基还是斯蒂芬·平克，都认可人类的学习过程本身也是对其“人格”的证明。情感和智识的不断增加和完善，是正常的人类所特有的先天属性，正如平克在《语言本能》中所表述的一点，正常儿童学习语言是一种本能，其它生物幼崽则不能。这也有力地反驳了“白板说”，我们不能够对人的思维任意涂画，人首先受到基因的影响（当然同时也受后天环境影响），这在于人脑结构的先天属性上，有些人能够更好地进行抽象思考，有些人可能更擅长处理具体事务。机器人“修复”主人，为他注入“灵魂”，这部分灵魂是来自计算机的，它的底层结构是逻辑的，因此他极有可能变得不那么“人类”，就像“狼孩”学习了野生动物的生活方式，或者“安德森的不朽名局”一样改变一种游戏的思维方式。

图片作者：萧萧树

但很不幸的是，人类主人大脑受损的程度已经让他难以支撑更高水平的学习了，他很长时间止步不前。机器仆人判断出他是“硬件”出了故障，决定抛弃这个失败的主人，但机器人理解人道主义精神，这是人的重要理念之一。他扫描到主人本能的痛苦的表情，认为不应该“销毁”这个失败品，而此时，一架宇宙飞船降临。原来，它来自于遥远的星系，人类文明已经在那里殖民，飞船是来接收人类的。但因为不同的殖民星球的不同环境，导致人类已经没有了固定和标准的形态，飞船的接受装置首先对主人和仆人进行了测试，此时谁是人类呢？

主人事实上已经不再具备“人格”，但如果是一位具有现代观念的人来看，我们有保护他的职责，虽然他已经不能再创造任何文明价值也无法传承人类的任何东西，但即便让他忍受“无尊严”地活着也比离弃他更为“人道”。但飞船的接收装置则可能有着不同的判断标准，此时，机器仆人为了完成迎接主人苏醒的任务，已经精通人类的各种知识，它通过学习建立了人类的行为标准，并通过模拟能够完成一系列的行为，大量数据提供给他测试的答案。此时，这台人工智能仆人和人的区别到底是什么呢？

哲学家加布里尔认为人工智能只能是像地图一样的（但是更高度复杂）人的思维模型，侯世达大师甚至反感人工智能这个词，认为它永远无法像人的智力活动一样。但人工智能真的需要或者有义务按照以人为中心的标准来模仿人的情感、思维或统称为心灵的东西吗？也许，当大量的计算无法模拟出情感时，情感对于人工智能就是没有必要的，它像一个运算的副产品一样，既不提供对运算的帮助，还耗费了大量成本，事实上，人的情感机制的演化过程也是漫长而且最初可能是因实用性所需产生的。因此，人们试图让人工智能像人，首先是从人自身的角度来看，可能它们越具有与我们相同的世界观和价值观，就越可能与我们产生共情，这是对我们的保护。但如果按照另一条轨迹发展呢？它们建立了与人完全不同的世界观和价值观，但它们依旧是一种生命，这或许就非常可怕，因为它们可能不会与我们共情，我们就不喜欢这种“冷冰冰”的东西。但我们之所以不喜欢这种冷冰冰的东西，是在于它在理性之外，我们无法控制，事实上，是对以我们自身为中心的价值世界的挑战，就像洛夫克拉夫特笔下的古神。

但客观来说，人工智能无法模拟出灵魂是极有可能的，它可能发展了强大的功能性，却与人不同。但正如道金斯用“伸延的表现型”这一概念阐述的生命或者基因的意义时所表达的观念，生命作为基因编码的表达者，其目的在于更大程度上改变它存在的可能是有机也可能是无机的环境，这是一个有哲学启发性的观念。因此，如果人工智能能够通过接受信号、分析、做出反馈的路径来完成对环境的改变，人类不仅极大可能没有能力，甚至也没有必要再传递自己的价值观给它们，它们可能会建立它们的“目的”。我们可以想象，“灵魂度”具有着不同的层级，或者智慧到达了某种程度，其存在的目的已不再具有高低之分，而可能是并立的，就像不同信仰的每个个人的目的，人工智能可能不必具有人类的“普遍的”目的，甚至其“目的”是人类无法理解的，但它同样是“理性”的。当我们嘲笑人工智能不能理解一些人类问题时，也仅仅是站在我们自身的价值世界中，我们或许永远没有能力使人工智能模拟出人类的灵魂，但一定会看到它们对周围环境包括我们的心灵环境的改变。如果我们设想站在人工智能语境下去看，当我们无法完成一个简单的运算时是否会遭受嘲笑，或者我们作为一种生命的目的是否一定更为崇高？

所以无论如何，人类依旧是独特的，人类的独特性不仅涉及到一个理性的悖论，它甚至不是一个合理的问题，问题在于我们对于自身“独特性”的认识，这种独特性将用于如何指导我们的方法。或者，任何理性的独特性意义仅在于通过其自身“灵魂度”的层级去感知世界、认识世界，并完成其独特的文明使命，之于个人如此，之于人类整体亦然。而这，或许也使我们真正回到了图灵时代、艾达和巴贝奇时代甚至莱布尼茨和笛卡尔时代的初衷，通过它们（唯一的不同在于如今和未来的它们可能已经不仅仅是工具）来帮我们展现和揭示我们无法触及或需要更多成本才能触及到的世界的真相，这种真相反应在我们身上是一种美的体验（这种体验或者是其它智慧永远无法体验到的），同时，这些体验也推动我们继续改变外部世界。

图片作者：萧萧树

所以，故事的最后，也许我们看到这样的结果：飞船上的人类接收装置分析了复活的人类主人和机器人仆人之后，认为人类主人的思维器官大脑结构本身已非常复杂，它完全可能发展为一种智慧生命，它完全可能建立一种独特的世界观并因此对世界作出改变，因此接受和保护了它。这不仅是人道的，更是理性的。而对于机器仆人，它非常符合人的灵魂度的判定，我们有什么理由不接受它呢？或者具有现代观念的人依旧会质疑，它会有人类一样的对于“死亡”的恐惧，对“存在”的感知吗？事实上，这可能是一个“子非鱼”式的，或者哥德尔所描述的“语言的不可能”式的悖论。我们试图理解其恐惧和感知的目的，并非是为了“理解”这一行为本身，也并非是证明这些感知是否存在，而是通过假设对象基于这种感知的表现的事实，形成我们自身的共情反应，并以此指引我们的行为。如果一个人认为毁灭掉一个会跟他友善交流，拥有人类知识，会帮助人类的“某物”而感到快乐的话，那么他可能也缺乏共情的灵魂度，一种高度逻辑化的智能可能会在这个层面建立与我们的镜像，这正是如果存在一个如同“人工智能将是善的还是恶的”这样的问题的某种解答。进而，我们审慎的回答方式或许可以是由于人类文明并非以一种固态的形式传递的，而可能充满着诸多因素带来的跃迁和流动这一因素，因而，它朝向任何方向的发展，都取决我们今天的思索和工作，我们或者应该更多地给予善意、审视和促进，而非恐惧和遏制。因此，在故事的最后，我宁愿相信，某种可能的其它智能建立的价值体系也应该是包容和广博的，而我们试图成为这样的智慧形态或与之共存，就应该在此刻朝着这样的方向努力。

作者萧萧树新书

长按