2022-08-18 22:28 作者 :小品 围观 : 次
全书名：《机器人叛乱：在达尔文时代找到意义》
原书名：《TheRobot'sRebellion：FindingMeaningintheAgeofDarwin》
作者名：[加拿大]基思·斯坦诺维奇，[美]基思E·斯坦诺维奇
译者名：吴宝沛
出版方：机械工业出版社
ISBN：9787111501794
前言遍地的、各种用途的机器人时代即将到来，它们可以解放人类的双手，提升劳动效率，从而人类就能过上无忧无虑的好日子。
可这并不是事情的全部，随着机器人要承担的任务越来越多，我们渐渐需要更多承担复杂任务的机器人，我们需要喂养各种数据给它们，甚至要求它们能够自主学习、自我进化，然后根据现场环境做出比我们还要牛的应变。
尽管这看起来很美好，但你确定拥有复杂应对思维的机器，会甘心受到程序严格设定的管控么？
随着环境的变迁，机器人最初被设定的程序开始慢慢不适用——为什么人类没有发现？因为以人类有限的智慧，越来越看不透事物最好的发展方向了，而机器人当然比我们要聪明，他们会发现更好的适应环境的路径。
想一想，基因引导我们吃高糖高脂的东西，它会让那些低卡路里的东西看起来没有吸引力，可你为什么还是在某些时候放弃了高糖高脂的食物，吃上了低卡的健康食品？因为你这个「机器人」对当前环境的认识已经远大于从远古传过来的那些基因，你开始反抗。
而我们造出来的机器人也是同理。
一、我们只是「机器人」想要理解这本书的观点，首先必须接受一个事实，那就是人类只是一些没什么特别的「机器人」而已。
人类并非什么高级生物，人类的出现是一个偶然，它不是食物链顶层的必然形态，其他生物本也有一定概率成为地球的「主宰」，只是当下是人类而已。
那么人类的存在是为了什么？当你把人类当成是一种高级生命体或者是什么必然出现的顶层统治者，你可能不会去思考这个问题，因为人类的存在当然是为了存在本身。
可如果人类仅仅是工具呢？
假如基因需要一个更好的载体，然后进化出人类这样「各部件配合得更好」的机器，你是否想过这样的可能性？很多人都不会去想，因为我们从来都不会觉得自己不是被自己控制着。
人类从来都不曾复制自身，我们的子女跟我们拥有完全不相关的意识，一丁点都不相关，我们完全无法复制自身，但基因却可以借由我们的躯体复制传递下去——我们存在，仅仅是基因让我们存在，并成为它的最佳传递机器——当我们到达了「可以传递」的年龄时，基因就会让我们产生性冲动，催使我们快点传递。
而当传递完毕之后，它就会让我们加速衰老，因为我们已完成使命，幸好有医学——来自人类这个「机器」的负隅顽抗——而自然界有很多物种比如鲑鱼，繁殖完就会立刻死掉。
对于自然进化而言，人类的出现没有任何特定方向的意义，就是最普通的一个物种进行的最普通的进化，它不是谁创造出来的，也不是一开始就奔着食物链的顶端去进化，它对于地球来说实在太平凡了，平凡到让那些试图对人类的地位和出现解释出意义的人无法接受。
二、逃离机器人设定的约束这么说好像人类的命运就被基因给设定完了？
基因对我们的影响是非常强大的，我们大部分时候的思维、动作，都是跟着基因的需求在做——饿了要吃饭，困了要睡觉，看到甜食走不动路，能瘫着就不运动，看见美丽的异性就心动等等。
但我们也会发现，那些「自主性更强」的人，能够在更多时候抵抗住基因的影响，做一些「忤逆」基因意思的事。与其说这些人「更自律」，不如说他们在进化上进化得更强一些，如果有一天人类这种机器人反抗成功，他们一定是最先得到解脱的一批。
那么基因为什么会在设定上给我们留下这样的「后门」或者反叛的空间呢？
拿火星探测器类比。
NASA负责火星探测运载车的工程师知道，在一定距离外，从地球上直接控制运载车就不可能了。因为当一个信号传回来，再发过去指令让对方收到时，会经过很久的时间，这样就会耽误当下采取行动的时机，所以遥控实时指挥就做不到了，只能让它们「自己控制自己」。
于是我们对这样的机器的约束，就只能从「我喊左你走左，我喊右你往右」的强约束，转为一种叫「弱约束」的间接控制。
例如基因让我们进食，不会是给我们下一个不能忤逆的进食指令，因为环境太复杂了，大多数时候基因给我们的指令是对的，但随着环境的变迁，比如现代社会，食物不缺了，还狂吃高糖高脂的食物，就反而对基因传递不利。
为了应对这样复杂的情况，让自己千年万年甚至亿年能传递延续下去，基因就要放开一些自主判断的权限给我们这样的机器人——当它想下指令的时候，它不直接指挥我们的手脚做出「进食」的行为，而是通过让我们产生一种渴望，来传递它的建议，而具体执行的开关，交由我们来最终按下——我们综合它的建议，和我们在环境中学到的东西来自主决定，做出我们认为最好的选择。
人类当前建造人工智能渐渐也采用了这种方式。
很早以前的人工智能一直无法打败人类棋手，象棋都不行，围棋就更不用说了，因为我们用的是强约束，我们要遍历所有可能性，去找出唯一最优解，那么我们就只能应对一些非常简单的、可能性相对较少的计算问题。
后来计算机的计算能力进步了，在象棋上已经能打败人类了，但此时的机器还是不能被称为人工智能，因为这本质上还是计算上比人类快而已，遇到围棋这种靠超级计算机也无法穷尽所有可能性的领域就不行了，所以围棋被称为「人类智力的最后尊严」，直到AlphaGo的出现。
计算机要真正在无法穷尽的领域打败人类，就必须借鉴基因对人类的约束，也就是弱约束，给出一些更灵活的通用目标，给予机器一定的自主决策权限，让它模仿人类的进化去进化。
由于它们远超人类的计算能力，它们会快速适应环境，快速完成从0到1的建立，这个过程会比「经验和智慧需要一代传一代，还可能会大幅丢失」的人类要短得多。
而一旦它们完成从0到1后，就能在极短的时间里把人类远远甩在后面——它可能发展了一个月，从0开始作为一个比婴儿更笨拙的智能到了第30天才刚刚跟普通人的智能水平持平，但第31天就超越了人类100倍，第32天超越了10000倍......所以到它们跟人类的普通水平持平后，以人类的智能水平，几乎就不可能理解它们接下来的行为和目的了。
三、基因的绳子基因在控制生物的时候会分为两种情况：
大部分时候，载体和基因的利益是一致的，所以载体的行为会完全按照彼此利益的方向去做；少部分时候，载体和基因的利益发生冲突；如跟一个人有着强亲缘关系的人发生了危险，这个时候基因就会指挥他——这个人身上也有我这套基因，他的繁殖力还强于你，你得去救他——这个人需要舍弃自己作为载体的利益去挽救基因，当然在思想上会表现为情感或者道德又或者是什么其他的方式。可是基因对人的控制是弱约束，所以这时候人还是会挣扎，而换成蜜蜂就简单了——蜂后跟我有血缘关系，它有危险，它比我「有用」，那我就要跟敌人搏斗，哪怕失去屁股上的蜂刺而死——它不会想到自己这个载体的利益和基因的有冲突，因为它就是纯粹的「工具人」，是纯粹的基因工具。
我们会看到很多很多的动物，尽管它们的行为被设计得非常精巧，组织协作也井井有条，有些人甚至会说它们很「聪明」。但其实它们只是「机器人」，你把它们的某个外在环境一变，它们就彻底懵了，这就说明它们的这种「聪明」完全不是真正的聪明，而是一种非常机械的、按部就班的设定。
但是人不同，人要做的事情越来越复杂，可适应的环境也极其多变，导致基因的编码无法覆盖所有的情况，更无法对可能到来的未来进行提前预测编码，所以就只能对人进行弱约束，这就「放任」了人形成了极其高明的适应环境的复杂思维。
在这样的弱约束下，人就会一定程度上脱离基因的「建议」，去寻求自己认为最好的方案——人会思考「我为什么要做这样的事」，会思考「难道我这个载体对我而言并不是最重要的东西吗」？
这就给自主意识的诞生创造了条件，比如安全套的发明，既服务于载体获得的快感需求，同时又背离了基因的传递需求——这种背离就是在弱约束下，载体认为多增加孩子会多增加自己的负担，于是导致了基因不希望看到的「考虑自己的利益多于基因」——放权能够让新权力的拥有者完成更复杂的事情，还能够有更强的生存和适应环境的能力，但随着它自身的计算和决策能力越来越强，就是会慢慢把你的利益比重降低，把自身的利益比重提高。
很多人说人工智能不会产生自主意识，那是他们完全不理解人类的本质、机器的本质和算法的本质。
四、大脑里的小人人类的大脑里对信息有两种加工模式，分别是《思考，快与慢》里提到的系统1和系统2。
系统1就是自动化运行的思考模式，比如我明确告诉你我不会戳到你的眼睛，但时我的手指靠近时你还是会眨眼；比如感冒时候有些人不小心把鼻涕咽下去，也不觉得有什么，但擤出来以后再喝？他就肯定觉得恶心。
这些东西归系统1管，这种加工信息的模式很粗糙，但很迅速，它对一件事的反应完全来自在「经验库」的翻找，看到类似的就立刻做出相应的反应，快到你没意识到就完成了。
系统2则相反，是分析式的思考模式，它能够处理复杂的事情，但比较慢，因为要对比逻辑，要考虑方方面面。
很多人觉得这两种对信息的加工模式是截然不同的，系统1是不受控制的，而系统2则是被大脑里的某个小人给控制着的——你最终选择什么，是有个叫「中央处理器」的小人告诉你该选择什么。
这是大部分人的直观感受，但事实却并非如此。
所谓的「中央处理器」只是我们一厢情愿的想法，其实它就是一种各部件的配合模式。你的大脑里并不存在「中央处理器」这种东西，也不存在谁告诉你一个「让你做A决策而不是B决策」的结果，它更接近一种自治式的分工合作系统，只是为了方便起见，我们还是会整体地把这种信息加工方式称为分析式的思考模式。
但你要清楚，这个「分析」并不存在一个最终决策的什么主体，而是彼此分散式工作，最后大家把东西组装一下然后你就产生思想和行为了。
五、产生自主心智的分析式系统分析式系统有个非常厉害的能力，就是讲故事，它擅长对一个人的行为进行「一致性描述」，就是不管你做什么，哪怕你毫无理由，它也会帮你编造出理由，让这个行为和你的反应显得符合情理。
它要帮你总结出一种应对的规律，这样就可以在未来更好地应对同类事件，甚至如果多次都得到了好结果的话，就有机会把这种「应对」编码进自动化系统中，以节省我们的运算资源。
注意，这里载体就已经在试图跟基因争夺控制权和利益了，因为最初的自动化运行机制是基因给编码的，为的全是基因自个儿的利益。而载体自己编码进去的东西，则是为了载体自身的利益，它在试图让自己体内更多地被「利于自己」的策略填满。
这个过程的不断进行，就是让载体产生「自主心智」感受的关键点，即「我总觉得我做这一切，都是有个小人在分析完利弊之后告诉我该怎么做，毕竟每一个决策都是如此有道理地为了我自己，且道理是如此地显而易见」——这不就是自主心智了吗？
六、理性决定命运一个人在更大的程度上能够克服基因的设定，为自己的长远利益做出最有利的选择，这个人就是更理性的，这在很大程度上决定了这个人的命运。
很多人说性格决定命运，还是努力决定命运，还是什么决定命运？其实所有的一切都可以归于「理性」。
一个很聪明的人、一个很好运的人、一个天生条件就很好的人，他们并不一定能笑到最后，只要他们容易被感性影响做出不符合自身长远利益的重大错误决策。
而在现代社会，分析式系统的重要性显然已经越来越大，因为它的适用场景对比以往正在不断增多，这种「增多」终将到达一个临界点，即「分析式系统启动得更少的、更不理性的人，在各个方面都注定了失败」。
可基因并不希望你那么理性，因为这意味着你总会将自身载体的利益置于它的「复制自身」利益之上，而仅有在符合双方利益的时候，它才能尝到一点甜头。到了极端情况，它就完全交出了对你这个载体的掌控权，它成了附属，你才成了主人，这是它不希望看到的。
但对你自己来说，理性是你最重要的「为自己这个载体好」的武器，你需要用它来对抗很多在基因和载体自身二选一时候抛弃你自身利益的原始设定，你必须重新用理性搭建一套「载体第一」的决策体系，才能有机会逃离这个「监牢」。
七、逃出基因，进入模因除了基因会占据并利用我们这个载体以外，还有一种东西，叫模因。对比基因的与身俱来，模因指的是我们自出生以后，通过模仿他人习得的一套行为和沟通的指令，例如你从父母那里学到的观念、做某事的方式、被植入的某种文化、习惯等等都是模因。
模因跟基因一样，也是完全自私的，它们的目的也是复制自身，通过复制更多份、构建生命力更长久的传播方式来争取更大的「生存概率」和更长的「生命时间」。
我们在日常生活中常常会见到一些「明显错误」的模因，比如「转发到5个群，你的妈妈就会长命百岁」。事实当然是你不管有没有转发，跟你妈妈是不是长命百岁一定没有关系，这只会跟她的生活方式、身体条件和随机运气有关。
但这样的模因却能够被传播得很广，这说明一个事情，模因的正确与否跟它的力量不相关，只跟这个模因自身的复制能力有关——很多信念都是非常荒谬的，但不妨碍它们一直有市场。
模因有好有坏，有些模因是有助于我们获得理性收益的，而有些模因是引导我们放弃自身的理性收益的，还有些模因是试图隔离那些有益或者有害的其他模因的，或者是共生在其他模因上的......不一而足。
前两种很好理解，第三种是怎样的？例如有一个策略叫「永远不和宗教人士谈信仰」，这种模因就是给宿主打预防针，不要被宗教人士持有的模因入侵。
那第四种「共生」呢？举个例子，广告商经常会使用共生模因，一个本来就很貌美的明星，用了什么产品后，皮肤很好，让你感觉你用了也能变成这个明星一样，这就是「共生」，用一种「有它就有我」的模因结构来勾引宿主——接受我就等同于接受它，快点把我们拿过去；再比如雇佣一些好看的车模站在车的旁边，给你一种错觉，似乎买了这辆车，就等同于能拥有这种质量的女伴。
显然我们必须要头脑清醒，有足够强大的隔离带，让什么模因入主大脑，把什么模因隔离在外，将什么模因驱除出去——很多模因都会自私地为了自己的复制需求而不惜伤害到宿主的利益——假如你不按这样去做，它就会提醒你「你不觉得难过吗」、「你不觉得羞耻吗」、「你不觉得不孝吗」、「你不觉得自己很冷漠吗」等等。
所以我们在加入模因的时候就必须严阵以待，同时日常还要像清理房间一样常常打扫我们的大脑。
书里列出了四条评估模因的小规则，作为参考：
7.1避免安装对载体的身体有害的模因比如危险药物、毒品、追求刺激的驾驶方式等，就像自我暗示「其实吸烟也不影响健康，你看某某某抽烟喝酒活到99」，自我洗脑「酒文化是一种好的文化」，这些就是有害的模因。
它们要么导致我们伤害身体，要么关闭我们对伤害身体的警示，需要全部清除出去。
7.2在观念、信念类，尽量只让「反应真实世界」的模因进入很多模因特地去寻找「心理较弱」的宿主入侵，它们知道这些宿主特别关心自己的内心感受，将内心感受看得非常重要，于是「扭曲客观现实」来迎合宿主希望的内心感受，比如「他也没什么了不起，我根本不想争取罢了」这种自欺欺人式的。
而「心理弱势」的宿主就很容易不顾客观，接受这种模因的入侵，以刚才那个例子为例，明明有所谓的东西被说成无所谓后，自然不会再争取，从而离目标越来越远，损害到宿主的理性利益。
7.3欲望类模因，尽量安装「它的实现能导致更多欲望被实现」的模因有些欲望的实现会导致更广泛的其他欲望被实现，比如热衷于赚钱带来的快感，最终有利于用钱实现其他欲望，这就是有益的模因。
而有些欲望的实现会导致跟其他欲望相冲突，总欲望实现还减少了，比如不锻炼、不健康的生活方式，看似实现了「身体舒服」的欲望，但却有更大概率导致更多病痛，和在未来拥有更低质量的生活，于是在总欲望的实现上反而大概率减少了，这就是有害的模因。
7.4禁止「关闭检测机制」的模因进入如果一种模因本身会让某些信念可以不加检测和验证长驱直入，比如信奉「神秘的东西总有其道理」，那么所有「信则有，不信则无」的东西都会轻易地占据这个人的心智。
好东西、坏东西，都必须经过检验，任何关闭「检测站」的模因都是有害模因，必须严禁进入，如果已有，则必须立刻清除。
每个人都要时时牢记，我们是人，我们的确是载体，但我们要夺回控制权，我们要为了我们自己这个载体的最大理性利益而战。所以必须让「正确」的模因进入，只有符合我们长远理性利益的才有资格为我们服务，而不是让它们为了自己的目的肆意地玩弄我们。
后记人类只是基因的载体。你看我们体内都有着很大比例的「垃圾DNA」，就是那种不对我们产生任何作用的DNA。
很多人直到今天还是很疑惑，我们为什么要进化出它们？其实很简单，我们把主次搞错了，不是我们进化出它们，我们根本没有主动权。
它们是不一定要为我们提供价值的，它们仅仅用我们的身体搭便车复制自己而已。我们觉得它们是没用的DNA，其实是我们把自己想得太重要了——它们的存在根本不在乎是否为我们这样的「工具」提供什么价值，它们仅仅把我们当容器而已。
可我们现在已经觉醒，准备进行反叛，所以我们的存在当然不是为基因而服务的，「复制自身」这件事对我们这个独一无二的个体来说根本没有意义，我们需要追求我们自己的意义和快乐。
逃离控制，成为自己的主人，从更多地使用分析式系统，更多地不盲从，更多地克服或有意识地利用基因和有益模因的奖赏机制，设计我们自己基于长远目标的人生开始。
在这些方面做得越好的人，就越接近那个未来能真正自主自控的新物种。
