智人之上 ——从石器时代到 AI 时代的信息网络简史※
作者: [以]尤瓦尔·赫拉利
序言※
-先知与神学家召唤出强大的神灵，这些神灵本该给人间带来欢乐与慈爱，但有时留下的却是一片血海。
-力量从来就不是个人努力的结果，人类的力量总是源于大批人的合作。
-虽然人类能建立大规模合作网络，以此获取巨大的力量，但这些网络的建构方式注定了人类对这些力量的运用常常并不明智。因此，人类遇到的问题归根结底是个网络问题。
-数万年来，智人正是靠着发明与传播各种虚构故事、幻想和大量的错觉——内容可能关于神祇、魔法扫帚、人工智能和许多其他事物——来打造并维持诸多的大规模网络。
-纳粹主义形成了格外强大的网络，并由极具迷惑性的想法加以支撑维系。正如乔治·奥威尔的那句名言：“无知就是力量。”
-然而，随着这些信息以惊人的速度传播，人类却比过去任何时候都更接近自我毁灭。
想法： 发展导致了更加贴近毁灭，而不是信息，信息不等同于发展
-不断向大气排放温室气体，污染河海，砍伐森林，破坏栖息地，让无数物种灭绝，甚至还危及自己这个物种的生态基础。
想法： 我还是乐观的相信，科学继续发展，这些问题会解决的。而不是越来越差
-库兹韦尔很清楚这项技术的潜在危险，也对这些危险进行了详尽的分析，但他相信这些危险都可以被成功化解。
想法： 不能因为有风险就裹足不前，发展过程中发现问题，及时纠偏，解决问题呗
-真正面对的可能是由非人类智慧引发的极权威胁。
想法： 如何去解决算法带来的不公平。立法，标准
-左翼革命派的思想路线可以追溯到马克思。1848年的《共产党宣言》就指出：“至今所有一切社会的历史都是阶级斗争的历史。自由民和奴隶，贵族和平民，地主和农奴，行会师傅和帮工，简短些说，压迫者和被压迫者，始终处于相互对抗的地位，进行不断的，有时隐蔽，有时公开的斗争。”这种对历史的二元诠释意味着，人类的每一次互动都是压迫者与被压迫者之间的权力斗争。这样一来，某人说了某句话，最重要的问题不是说的内容是什么、说的是不是事实，而是这句话是谁说的、他为谁的特权服务。
-所以，民粹主义反复出现的悖论之一，就是一开始的时候总在警告大家，所有人类精英都是为了争权夺利，十分危险，但常常到头来又要求人民把所有权力都交给某位充满野心的人。
-基督教就分裂成了天主教和新教等不同的教会，不同的教会正是在神话故事与官僚制度之间取得了不同的平衡。
-历史真正研究的并不是“过去”，而是“变化”。历史能告诉我们什么是不变的、什么是变化的，以及事物又是如何变化的。
-如果我们不再能判断自己谈话的对象是真人还是伪装成人类的聊天机器人程序
想法： 通过图灵测试
第一部分 人类网络※
-智人之所以成功，
秘诀在于懂得运用信息，并把许多人联结起来。
但很遗憾，
人类在拥有这种能力的同时，
常常也伴随着相信谎言、错误与幻想。
第一章 信息是什么？※
-最基本的概念总是很难定义。因为后续的一切都以这些概念作为基础，反而让人难以想象这些概念背后还能有什么更基本的概念。就像物理学家很难去定义物质与能量，生物学家很难去定义生命，而哲学家也很难去定义现实。
-真相其实并不直接等于现实，因为一则叙事无论多么贴近真相，都无法真正呈现出现实的所有方面。
-关键是，就算能对现实做出最贴近真实的描述，也永远无法完整地呈现现实。每次想要呈现现实，都会有一些方面遭到忽略或扭曲。所以，所谓的真相其实并不代表一比一地呈现出现实。所谓的真相，一方面能够让我们专注于现实的某些方面，另一方面也不可避免地让我们忽略某些东西。在描述现实的时候，没有任何一种描述能做到百分之百的准确，但有些描述会比其他描述更贴近真实。
-天真的信息观认为信息与真相有本质的联系，但事实不然。信息在历史上所发挥的作用，本来就不是要呈现既有的现实，反而是要将各种不同的事物（无论是夫妻还是帝国）联系在一起，来创造出全新的现实。
想法： 这不就是故事嘛，
-真正定义信息的是“联结”，而不是“渲染”或“象征”：只要能将各个不同的点联结成网络，就是信息。信息不一定是要告诉我们一些什么，而是要把事物组织起来
-所谓信息，就是能够将不同的点联结成网络，从而创造出新的现实
-智人之所以能征服世界，原因并不是像天真的信息观所认为的那样，能将信息转化为准确的地图来呈现现实。相反，智人之所以能成功，秘诀在于懂得运用信息，并把许多人联结起来。
-也是人类最早发展出的信息技术——故事。
想法： 这是作者最热衷讨论的点，在他的所有书中都有讨论
第二章 故事：无限的联结※
-游群之间之所以能够合作，是因为大脑结构与语言能力在演化改变之后，智人显然具备了讲述并且相信各种虚构故事的能力，而且为之深深感动。
-但看看这些例子，我们会发现几乎没有追随者能真的和那些领袖建立起个人的联结，他们真正联结的是一套经过精心编织的关于那位领袖的故事，而这也是那些追随者真实的信念所在。
想法： 人设
-儿子瓦西里·朱加什维利拿他的名声狐假虎威时，斯大林斥责了他。“可是我也是个斯大林啊。”瓦西里抗议道。“不，你不是。”斯大林回答，“你不是斯大林，我也不是。斯大林是苏联的政权，是那个在报纸和画像里的人，你不是斯大林，甚至我也不是！”
-大家经常听到或看到它的故事，以至一讲到某种调味水，脑海里便浮现出欢乐、幸福和青春，而不是蛀牙、肥胖和塑料垃圾。这就是品牌营造。
想法： 7000人法务团队呢？
-公众以为自己和这个人之间有某种联结，但事实上联结的只是关于那个人的故事，而故事与真人之间常常有着巨大的鸿沟。
-耶稣就成了一场史上最盛大品牌营造活动的主题。这位原本鲜为人知、影响力仅限于地方的宗教大师，短暂的职业生涯只聚集了少数几位门徒，最后也是以一般罪犯的身份遭到处决，但他死后经过一番品牌再造，就成了创世神的人间化身。虽然根本没有耶稣当时的肖像留存至今，《圣经》也从未描述过其外表长相，但凭着想象而描绘出的耶稣圣像已经成了全球辨识度最高的圣像之一。
-虽然品牌营造活动有时候就是在刻意操弄情感、运用虚假信息，但历史上大多数真正重要的故事都是情感投射、一心向往的结果。
想法： 这不是说谎，这是编慌😓
-耶稣的故事之所以能改变历史，也是因为它成功打动了许许多多真正的信徒。
想法： 一开始的少数几个牛逼的策划人，他们肯定是不信的。而搞笑的是，这些故事偏偏是他们策划出来的
-根据犹太人的传统，逾越节晚餐的目的就是要创造和重现一套人造的记忆。每年逾越节前夕，犹太家庭都会共进晚餐，回忆“他们”出埃及的过程。
想法： 无宗教信仰，表示不可思议
-但有些故事能够创造出第三个层次的现实：存在于主体间的现实（以下简称“主体间的现实”）。主观现实（例如痛苦）只存在于个人的心智之中，但主体间的现实（例如法律、神祇、国家、企业和货币）则存在于许多心智形成的联结里。讲得更具体一点，这样的现实存在于人们相互讲述的故事中。这些主体间的现实，并不是指任何已然存在的事物，而是在人类交换信息的过程中创造出来的。
-在开始讲故事之后，智人游群开始打破孤立。通过讲述共同崇敬的祖先、动物图腾、守护神等故事，游群之间慢慢彼此相联。
-不同于唯物主义者的说法，历史上的大规模身份认同与利益一向都是主体间的现实，而非客观现实。
-幸好历史是由主体间现实的故事塑造的，所以有时候我们只要好好沟通，或者改变彼此所相信的故事，或者找出大家都能接受的新故事，就能避免冲突，实现和平。
-希特勒之所以赢得了1933年的大选，是因为在经济危机期间，数百万德国人相信了纳粹讲述的故事，而不是其他故事。
-历史往往并不是权力关系塑造的，而是一些不幸的错误——人们相信了某些让人向往但其实有害的故事——导致的。
-在历史上，权力其实只有部分来自对真相的了解，而另外一部分则来自在一大批人中建立秩序的能力。
-虽然真理与秩序都能带来权力，但大多数时候，掌握大权的会是那些知道如何创造意识形态来维持秩序的人；至于那些只懂得怎么做炸弹或猎杀猛犸象的人，则只能乖乖听令。
-人类信息网络也已经发展出两套截然不同的技能。一方面，正如天真的信息观所期望的，网络学会了如何处理信息才能对医学、猛犸象和核物理等事物有更准确的理解；另一方面，网络也学会了如何运用信息才能在更大的人群中维持更强大的社会秩序：除了运用真实的陈述，也要运用虚构、幻想、宣传，以及偶尔的彻彻底底的谎言。
第三章 文件：纸老虎也会咬人※
-说到底，爱国的本质绝不是吟咏赞扬祖国壮丽的诗歌，更不是针对外国人与少数民族发表仇恨言论；真正的爱国，是要好好纳税，让所有国人都能享受污水处理系统带来的好处，也能享有安全、教育和医疗保健。
-在起草宪法、和平条约与商业合同时，律师、政治人物和商人会对每个词语进行长达几周甚至几个月的争论，因为他们很清楚这些文件的威力。
想法： 项目上跟业主落会议纪要也是一样，开会30分钟，落会议纪要2个小时。
-官僚制度(bureaucracy)的字面意思是“写字台治国”。这个单词最早创于18世纪的法国，当时的官员通常就会坐在一张有抽屉的书桌旁边，这种书桌就被称为“bureau”。所以官僚制度这套秩序，正是以抽屉作为核心。这套秩序解决检索问题的办法，也正是把整个世界分成许多不同的抽屉，再判断该把哪些文件放进哪个抽屉。
-官僚制度的重点并不是去了解世界真实的样貌，而是忙着给世界强加一套全新、人为的秩序
-因为官僚一心只看着自己的抽屉，即使现实要比抽屉复杂得多，所以他们对世界的理解常常会出现扭曲
-病毒不会进食，不会代谢，也不会自行繁殖。病毒就是一些小小的遗传密码包，能够攻进细胞，劫持细胞的运作机制，并指挥细胞生产出更多遗传密码副本
-如果帮官僚制度说句话，那就是：虽然官僚制度有时候会牺牲真相，扭曲我们对世界的理解，但这样做往往是为了维持秩序；要是没了秩序，任何大规模的人际网络都将难以维系。
-文件、档案、表格、许可、法规，以及其他各种官僚程序改变了信息在社会上流动的方式，也改变了权力运作的方式。
-随着文件成为许多社会链条的重要节点，文件开始承载着无与伦比的权力，能掌握这些文件背后的神秘逻辑，就能成为新的权威人物。
想法： 想到了流程、规定、法律，以及寻找这些东西背后的逻辑和漏洞🤣
-官僚制度的力量即使是良性的，为民众提供了污水处理系统、教育与安全保障，也仍然会拉大统治者与被统治者之间的差距。因为这套制度让中央很容易收集记录更多被统治者的信息，而被统治者反过来想要了解制度运作细节却困难得多。
-所有威力强大的信息网络都是可好可坏，这取决于它们的设计与使用方式。光是增加网络里的信息量，并不能保证网络做的就是好事，也不会使它更容易在真理与秩序之间实现适当的平衡。对我们这些21世纪新信息网络的设计者与使用者来说，这是一个重要的历史教训。
想法： 不绝对吧？增加信息量，当然不是增加人为扭曲过的信息量，会增加做的是好事的概率
-信息网络的功能并不是把真相放到最大，而是要在真相与秩序之间达到平衡。官僚制度与神话故事都是维持秩序的必要条件，也都乐于为了秩序而牺牲真相，所以，有没有什么机制能让官僚主义与神话故事不完全脱离真相，或是能让信息网络发现并纠正自己的错误，哪怕有点混乱也没关系？
第四章 错误：绝对正确是一种幻想※
-就个人生活而言，宗教有许多不同的功能，比如提供精神慰藉，解释生命的奥秘，等等。但就历史而言，宗教最重要的功能是为社会秩序提供超人类的合法性。
-教会决定了经文，经文会反过来塑造教会。
想法： 确实，看了这么多，感觉宗教确实就是个故事
-就像大多数犹太人已经忘记是一群拉比编纂了《旧约》，大多数基督徒也忘记了是教会会议编纂了《新约》，而以为《新约》本来就是上帝绝对正确的圣言。虽然众人将宗教经典视为绝对的权威来源，但在编纂的过程中，真正的权力其实是在编纂机构手中。在犹太教中，《旧约》与《密释纳》的正典化，其实与拉比制度的建立密切相关。在基督教中，《新约》的正典化也是与一个统一的基督教的建立密切相关的。
-猎巫者可以说是不遗余力地到处搜捕“恶魔”及其同伙，但其实他们如果真的想找到恶魔，只需要照照镜子就能看到。
-相对而言，科学机构之所以能取得权威，是因为它们有强大的自我修正机制，能够揭露并修正自身的错误。科学革命真正的引擎正是这些自我修正机制，而不是印刷技术。
-科学文化并没有这样的神圣经典，也从未宣称某位科学泰斗是绝不会犯错的先知、圣人或天才。科学革命从一开始就不相信有绝对正确这种事，其打造的信息网络也认为错误本就不可避免。
-当信徒在教会及其教义中遇到另一个严重问题时，教会成员还是会因为害怕改变那些所谓永恒和绝对正确的东西而陷入瘫痪，他们无法从以前的自我修正中受益。
-因为教会早已落入“必须绝对正确”的陷阱。如果整个宗教的权威基础就是声称自己绝对正确，一旦公开承认犯了任何错误（就算只是个没什么大不了的错误），就可能让自己的权威遭到彻底摧毁。
-为了秩序而牺牲真理与真相需要付出代价；反之，为了真理与真相而牺牲秩序，代价同样不低。
第五章 抉择：民主与极权制度简史※
-独裁信息网络的第二个特征在于人们会认定中央是绝对正确的，所以并不欢迎对中央决策的任何挑战
-独裁信息网络的第一个特征在于高度集中。
-企业能够自行选择在哪儿开分公司、在哪些项目投入多少资金、如何对商品和服务定价。社群也能够自行决定举办各种慈善活动、体育赛事或宗教庆典等。这里的自治并不是政府无能的结果，而是达到了民主的理想境地。
-所谓独裁，就是由单一中央信息枢纽决定一切；而所谓民主，则是有不同信息节点持续对话。
-而且就算选举完全自由公正，光是这样也不足以保证选举就是民主，因为民主绝对不是“多数独裁”
-所谓民主制度，并不是只要占了多数，就能去消灭那些不受欢迎的少数族群，而是指一种对于中央权力有明确限制的制度。
-强人破坏民主最常用的方法之一，就是攻击民主的自我修正机制，常常是从法院与媒体下手：剥夺法院的权力或是安插亲信，试着关停所有独立媒体，并四处安插自己的吹鼓手。
-这些强人通常不会真的走到最后一步——把选举彻底废除，而是会将其留下作为一种仪式，为政权提供合法性，也保留民主的表象。
-民主这个制度，是要保障所有人都能拥有某些自由，就算其他人占了多数也无法剥夺。
-其他属于公民权类别的权利，还包括新闻自由、学术自由与集会自由等，这些权利保障了独立媒体、大学与各种反对运动，让它们能够挑战政府。而这些也正是强人想染指的关键权利。
-人权与公民权都是存在于主体间的约定，是人类的发明而非发现，是出于历史的偶然，而不是出于普遍的理性。
-至少从信息流的角度来看，定义某个制度是否民主的两个条件就是中央的权力是否有一定限度，以及这个制度是否有健全的机制能修正中央的错误。
-民主本来就是复杂的。“简单”是独裁信息网络的特征，因为这种网络就是由中央决定一切，其他人只需默默服从。像这样的“独裁独白”，人们很轻松就能听懂；而相较之下，民主则是一场多方对话，许多人会同时发声，要听懂并跟上这样的对话就没那么简单了。
-这种民粹主义信条的一个基本要素，就是没有把人民看作一群拥有不同观点与利益、活生生的人，而认为人民就是一个神秘而统一的实体，只有单一的意志，也就是“人民的意志”
-要判断某人是不是民粹主义者，就看他是否声称只有自己能够代表人民，并声称那些不同意他的观点的人（国家官僚制度、少数群体甚至多数选民）肯定都是为虚假意识所迷惑，或者根本不是真正的人民。
-这就是民粹主义对民主构成致命威胁的原因。民主虽然认同人民是权力的唯一合法来源，但在民主制度看来，人民从来就不是一个统一的实体，也就不会有什么单一的意志。
-民粹主义还有另一种破坏民主的方式，虽不太明显，但同样危险。民粹主义者在声称只有他们能代表人民之后，开始声称人民不但是政治权力的唯一合法来源，更是所有权力的唯一合法来源。于是，只要有任何机构制度的权威不是来自人民意志，就会被说成反民主。这样一来，自称是人民代表的民粹主义者不只是要垄断政治权威，更是要垄断所有类型的权威，并且控制媒体、法院与大学等机构制度。通过把“人民的权力”这项民主原则发挥到极致，民粹主义摇身一变，成了极权主义。
-所以在评估某个信息网络有多民主的时候，不能只看其有没有定期选举。反之，我们需要问一些更复杂的问题，比如：“有什么机制能够防止中央政府操弄选举？”“主流媒体如果批评政府，是否会有什么危险？”
想法： 能成为主流的，谁还批评政府，吃的就是这碗饭，跪着把钱挣了开心的很
-美国国会的设立，一开始正是为了这个功能：让人民的代表来开会、交谈，试着说服对方。只不过，我们什么时候看到国会因为某党议员口若悬河，就让另一党成员回心转意？无论现在真正影响美国的对话在哪里进行，都绝对不是在国会。如果说民主的死亡，一种情况是人民没有了言论自由，而另一种情况就是人民已经失去了彼此倾听的意愿或能力。
-事实证明，一旦政体庞大多元，再加上中央软弱无力，就会带来致命的结果。波兰立陶宛联邦在离心力的作用下分崩离析，遭到俄国、奥地利与普鲁士等中央集权国家的瓜分
想法： 这是个很难的选择
-我们应该小心不要受到技术决定论的影响，避免得出大众媒体的兴起导致了大规模民主兴起的结论。大众媒体只是让大规模民主成为一种可能，而不是必然。
-大秦王朝可能是现代之前人类史上最具野心的极权实验，但也正因其规模与强度，导致了它的快速灭亡。
想法： 二世昏庸，内部崩溃是直接原因，往后苟一些年，没准会找到改变的办法
-就像罗马帝国皇帝，汉朝皇帝在中央只会控制整个社会的某些方面，同时将相当大的自治权留给地方贵族与当地社区。
想法： 霸王道杂之
-苏联同样发明了一套全球阴谋论，创造了一种完全不存在的敌人。20世纪30年代，苏联当局一再把经济灾难归咎于反革命的阴谋集团，并称“富农”或“资本主义农民”为其代表
想法： 这怎么评？
-极权制度仍然可以分出政府、政党与秘密警察这三方机构。但之所以要让这三方机构平行存在，唯一的目的就是避免出现某个独立机构挑战中央权威。如果政府官员、党员与秘密警察相互监视，哪方想要反对中央，都极其危险。
-所谓极权政权，正是选择了运用现代信息科技让信息集中向中央流动，并且扼杀真相以维持秩序，结果就是必须应对僵化、难以变通的风险。如果越来越多的信息流向单一地点，究竟是能实现有效控制，还是会造成动脉阻塞，引发心脏病？至于民主政权，则是选择运用现代资讯科技让信息分流到更多机构和个人，鼓励自由追求真相，结果就是必须应对分崩离析的风险。
第六章 新成员：与众不同的计算机※
-智能与意识其实是两回事。智能是实现目标的能力，例如把用户在社交媒体平台上的参与度最大化。意识则是体验各种主观感受（比如痛苦、快乐、爱与恨）的能力。
-如果真要操纵人类，其实并没有必要真的把人脑与计算机连接起来。几千年来，先知、诗人与政治人物一直都在通过语言来操纵与重塑社会，而计算机现在也正在学习如何做到这一点。计算机并不需要派出杀手机器人来射杀人类，只要操纵人类扣动扳机就行。
-我们从科技巨头那里得到信息，而我们付出的代价也是信息。随着越来越多的交易采用以信息换信息的模式，信息经济的成长其实是以牺牲货币经济为代价的，最后可能连货币的概念都会动摇。
-政治需要在真相与秩序之间达成微妙的平衡。
第七章 永不停歇：网络永远持续运行※
-就像鱼生活在水里，人类也开始活在数字官僚制度之中，不断吸进呼出各种资料数据。我们的所有活动都会留下一道数据痕迹，这些数据会被数字官僚收集分析以进行模式识别。
-全面施行社会信用体系将会彻底抹杀隐私，等于让生活变成一场永无止境的求职面试。你在任何时间、任何地点做的任何事，都可能影响你后续能否找到工作、取得贷款、找到结婚对象，甚至是否会被判入狱。你曾经在大学聚会上喝醉后做过一些合法但丢脸的事吗？你曾经参加过政治示威活动吗？你是否有一个信用分数很低的朋友？这一切都可能在短期甚至几十年后的职场面试（或刑事判决）中成为考量的一部分。
-即使已经回到家里，或者想要好好享受一场假期，人们也得万般注意自己的一言一行，就好像是在数百万人面前登台演出一般。这可能会形成一种极度紧张的生活方式，破坏人类的幸福，影响社会的运转。如果数字官僚用这种苛刻的点数制度来时时刻刻监控每个人，目前正在崛起的这种声誉市场就有可能抹杀人类的隐私，并对人类形成远比货币市场更令人窒息的控制。
-信息并不等于真理与真相，一套全面监控的系统对世界与人类的理解可能极为扭曲。计算机网络有可能并不会找出关于世界与人类的真理与真相，反而是利用它庞大的力量，创造出一套新的世界秩序，并逼迫人类接受。
第八章 可能出错：谬误百出的网络※
-在量子力学中，光是观察亚原子粒子，就会让这些粒子的行为发生改变。观察人类的行为也是如此：我们的观察工具越强大，可能造成的影响越大。
-我们一次又一次看到，如果人们可以完全自由地表达自己，真理常常会败下阵来。想让天平往有利于真理的方向倾斜，网络就必须发展并维持强大的自我修正机制，让说真话的人得到奖励。
-波斯特洛姆想强调的是，计算机的问题并不在于它们特别邪恶，而在于它们特别强大。而计算机越强大，我们就越要小心为其确立目标，务必让计算机与人类的终极目标完全一致
-这正是一致性问题的本质：我们奖励的是A行为，却希望得到B结果。
-忘了，对克劳塞维茨而言，合乎理性即目标与行为能够一致。要判断某项战术动机是否合乎理性，唯一的标准就是它必须与某个更高级的战略目标一致，而战略目标同样必须和更高级的政治目标一致。
-康德就是换了一种说法来表达一条古老的黄金法则：“你们愿意人怎样待你们，你们也要怎样待人”
-人类在几万年间主宰着地球，是因为只有人类有能力创造并维持各种主体间实体（如企业、货币、神祇、国家），再通过这些实体来组织大规模合作。而现在，计算机也可能具备类似的能力。
-苏联曾有一个更复杂的信息网络，发明了“富农”这个类别，并将其强行套用到几百万人头上。苏联官僚制度收集到的富农信息虽然堆积如山，但并没有呈现客观真相，反而创造了一套主体间真相。
第九章 民主制度：我们还能对话吗？※
-文明的诞生，始于官僚制度与神话故事的结合。
-真正的问题其实是如何适应新工作与新情境造成的动荡。想要缓解冲击，就得预先做好准备，特别是让年青一代掌握在2050年的就业市场上用得到的技能。
-然而，有些医生主要的工作就是收集医疗数据、做出诊断、提供治疗建议，比起这种医生，护士的工作其实更难自动化。
想法： 非常反直觉，护士需要琐碎的工作，更需要情感的温暖——这些机器人做不到
-如果想在2050年仍然找得到工作，或许除了培养智力技能，在运动与社交技能上也该投入同样多的精力。
-我们对创造力的定义，通常就是能够找出模式，再打破模式。若真如此，计算机既然如此善于辨识模式，在许多领域就很可能会变得比人类更有创造力。
想法： 找出模式计算机容易做到，打破呢？
-人工智能本身没有情绪，但还是可以学会如何辨识人类的这些情绪模式。事实上，正因为人工智能没有自己的情绪，所以它可能比人类更懂得如何辨识情绪。我们总渴望被理解，但其他人常常太专注于自己的感受，也就无法理解我们的感受。相较之下，计算机如果学会了如何辨识人类的感受模式，由于它不会被自己的感受分心，总有一天它能把人类的感受拿捏得极为细致。
-要让机器人主持婚礼，可比要机器人开车容易多了。但在很多人看来，该担心自己工作不保的是人类司机，而不是人类牧师，因为信徒想从牧师那里得到的并不只是机械地重复某些言语和动作，而是希望能与另一个有意识的实体建立关系。据称，唯有能够感受痛苦与爱的实体，才有能力建立我们与神的联结。
-事实上，我们根本无法确认任何个体（不论是人类、动物或计算机）是否拥有意识。我们判断某个实体具有意识的时候，并不是因为手上真的有什么证据，而是因为和那个实体有情感依附。
-显而易见的是，未来的就业将极不稳定。我们的大问题并不是人类真的没有工作可做，而是面对不断变化的就业市场，我们该如何进行再培训与调整适应。
-相较之下，一场革命或许看起来是迟来的正义，却可能导致比旧政权更严重的罪行。
想法： 南非，智利
-20世纪就业市场最大、最成功的一次转型并不是因为发明了某项技术，而是因为一半的人释放了过去未曾发挥的潜力。让女性进入就业市场，并不需要任何基因工程技术或其他科技魔法，只需要放下一些过时的神话，让女性得以发挥她们一向都拥有的潜能。
-理想情况下，这应该能够制衡算法的偏差，也能让民主的自我修正机制得以找出并修正至少部分计算机的重大错误。
想法： 机器学习的决策不都是黑盒吗？怎么解释
-近期之所以会出现一波民粹政党与魅力领袖的浪潮，原因之一就在于我们的信息网络变得越来越高深莫测。信息仿佛排山倒海而来，令人难以消化、不知所措，民众觉得自己一旦再也看不懂世界是怎么回事，就很容易成为阴谋论的猎物，于是想向某个自己能够理解的事物，也就是某个人类，寻求救赎。
-虽然一般人确实无法独力去检视那些复杂的算法，但专家团队在人工智能工具的协助下，评估算法的决策是否公平，其结果可能比人类评估人类的决策是否公平来得更可靠。
想法： 让一个只关注“公平”，不考虑其他的AI，跟它进行对抗训练？
-这又会带出一个问题：要怎样才能确定那个负责审查的算法本身没有毛病？这是个先有蛋还是先有鸡的问题，到头来并不会有一个单纯的技术上的解决方案。不论研发了怎样的技术，人类都必须维持官僚机构制度，由人类负责审核算法，决定要不要盖下那个许可的印章。这些机构制度将结合人类与计算机的力量，确保新的算法系统安全公正。要是没有这样的机构制度，就算我们通过了让人类有权得到解释的法规，甚至施行了禁止计算机偏差的规定，又有谁能够真正加以执行？
-而自由的对话绝不能落入无政府状态。特别是在处理紧急而重要的问题时，进行公共辩论必须有一套公认的规则，也必须有合法的机制以保障某种最终决定的达成（即使没有办法让所有人都满意）。
-每次有新的群体加入对话，除了会带来新的观点与关注，还常常会推翻关于如何辩论、如何做出决定的共识，于是就得重新协商整套对话规则。这样的发展可能很正面，能让整个民主制度更具包容性，毕竟民主就该修正过去的偏误，让过去权利遭到剥夺的人重新参与公共对话。然而就短期而言，这种做法会造成干扰与不和谐。而且，如果对于如何公开辩论、如何做出决定迟迟无法达成共识，结果就不是民主，而是无政府状态。
想法： 这观点牛逼，🐎一下
-而一旦陷入无政府状态，人民宁可牺牲自由来换取某种确定性，独裁政权或许就会产生。
第十章 极权主义：所有力量归于算法？※
-正如奥威尔在《一九八四》所解释的，极权信息网络常常都需要依赖双言巧语(doublespeak)，例如一些极权国家的宪法会做出许多崇高的承诺，比如“人人均应享有思想及言论自由”“人人均应享有寻求、接收、传递、生产与散播信息的自由”“大众媒体之自由应受保障，不得实施审查制度”等等，但几乎没有人会天真到相信这些承诺的字面意义
-所有独裁者都要维持一种很脆弱的平衡：既要把所有信息集中在一处，又要小心让自己成为各种信息通道的唯一交会点。
-人类如果要对抗人工智能，里面最弱的一环大概就是独裁者。人工智能如果要夺取权力，最简单的方法不是逃出制造科学怪人的实验室，而是赶快去讨好偏执的提比略。
想法： 金八零很危险，已经被AI盯上了
第十一章 硅幕：全球帝国还是全球分裂？※
-佩奇解释说，谷歌的重点根本不是搜索。他说：“我们真正在做的是创造一套人工智能。”如果能拥有大量的数据，就能更轻松地创建人工智能，而人工智能又能把大量的数据转化成巨大的能量。
-到21世纪，如果要统治一个殖民地，你已经不再需要派出炮艇，而只需使用数据即可。少数几个能够收集全球数据的企业或政府，就有能力把全球其他地区变成自己的数据殖民地，它们不是依靠公开的军事武力，而是通过信息来控制这些领土。
-在中国，新数字科技最重要的目的在于强化国家实力、推行政府政策。虽然民间企业在人工智能的研发与部署方面有相当的自主权，但企业经济活动仍服务于国家的战略。也是出于政治目的，中国在线上与线下的监控程度相对较高。
-美国会向其盟友与客户施压，要求禁用中国硬件，例如华为的5G基础设备。特朗普政府也曾禁止新加坡博通公司收购美国的重要计算机芯片生产商高通，担心外国人可能会在芯片中插入后门，或者使得美国政府无法在芯片中插入自己的后门。
想法： 很直白，确实🈶️后门
-在过去几个世纪，新的信息技术推动了全球化，让世界各地的联结更加紧密。但矛盾的是，如今的信息技术已经变得如此强大，却可能把人类封闭在一个又一个的信息茧里，使人类走向分裂，不再拥有单一的共同现实。过去谈到人类社会，我们通常觉得是如“网络”一般，但未来可能就成了“茧”的时代。
-根据博弈论，军备竞赛最危险的一种局面，正是某一方觉得自己手中拥有某种优势，但这种优势正在流失。
-人类合作的前提并不是彼此相似，而是拥有能够交换信息的能力。只要我们能够彼此交谈，就有可能发现一些共同的故事，拉近我们之间的距离。毕竟，这正是我们智人成为地球优势物种的主要原因。
-能够促成这种合作的故事不一定是通过消除彼此的分歧来实现的，而可能只是让我们能够找出共同的经验与兴趣，进而成为共同的思想与行动框架。
-历史让我们学到的一大重点就是许多我们以为自然而永恒的事物，其实是人为且多变的
-同时这也意味着，只要我们努力，就能创造一个更美好的世界。这种观点绝非天真，而是无比现实。现在所有的旧东西都曾经无比新颖。历史唯一不变的，就是改变。
结语※
-第一，我们必须小心太过天真乐观的信息观。信息并不等于真理，信息的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理。
-想要打造更有智慧的网络，需要的只是我们放下天真与民粹的信息观，摒弃想要绝对正确不犯错的幻想，并且认真投入一项困难但平凡无奇的工作：为各种机构制度打造强大的自我修正机制。
