读千脑智能笔记10_人类智能存在的风险.png

1. 人类智能存在的风险

1.1. “末日时钟”

1.1.1. 核战争引发的大火列为地球毁灭的主要原因

1.1.2. 气候变化列为人类自我毁灭的第二大潜在原因

1.2. 除非我们刻意加入自私的驱动力、动机或情感，否则智能机器并不会威胁到人类的生存

1.2.1. 人类在不远的将来会创造出更多的威胁

1.3. 人类智能并不是良性的

1.3.1. 人们早已意识到，人类的行为可能会导致自身的灭绝

1.4. 两个和人脑息息相关的基本的系统性风险

1.4.1. 第一个风险和我们大脑中的旧脑联系密切

1.4.1.1. 人类大脑中有30%的部分进化得更早，并创造了我们的原始欲望和行为

1.4.1.2. 大脑中的新皮质发明了强大到可以改变整个地球的技术，然而控制这些技术的人类行为往往是由自私且短视的旧脑所主导的

1.4.1.3. 人类的血统可追溯到数十亿年前

1.4.1.3.1. 在跨度如此之大的时间长河里，衡量一个物种成功的终极标准，或者说唯一标准，就是将自己的基因传递下去

1.4.1.4. 只有当大脑能够提高拥有此脑的动物的存活概率和繁殖能力时，这个大脑才是有益的

1.4.1.5. 大脑中的第一个神经系统很简单，它只控制反射反应和身体功能，其设计和功能完全由基因决定

1.4.1.6. 即使我们拥有智能，旧脑仍然在发挥作用

1.4.1.6.1. 它仍然按照数亿万年来形成的地球生存法则工作

1.4.1.6.2. 旧脑所指导的行为是对环境的成功适应

1.4.1.7. 如今，旧脑代表一种生存威胁，因为大脑中的新皮质已经创造了可以改变甚至摧毁整个地球的科技

1.4.1.7.1. 旧脑的短视行为，当与新大脑改变地球的技术相结合时，已经成为人类的生存威胁

1.4.2. 第二个风险与新皮质、智能有着更为直接的联系

1.4.2.1. 新皮质可能会受到欺骗，从而对世界的基本原理形成错误的信念

1.4.2.2. 基于这些错误的信念，我们会采取违背自身长期利益的行动

2. 人口增长与气候变化

2.1. 生命源于一个极简单的想法：基因尽可能多地复制其本身

2.2. 对基因有益的东西并不总是对个体有益

2.2.1. 让个体尽可能多生孩子的基因会有更大的成功概率，即使这样做会导致死亡和痛苦

2.3. 从基因的角度来看，动物一直尝试去新的地点生活是最好的，即使这些尝试经常会失败

2.4. 基因一无所知

2.4.1. 成为基因并不会令它们感到喜悦，当它们无法复制时也不会感到痛苦

2.4.2. 它们只是能够进行复制的复杂分子而已

2.5. 大脑新皮质了解了更为全面的情况

2.5.1. 人类才预见，如果地球上的人口不受控制、持续增长，人类必将承受痛苦和磨难

2.5.2. 大脑新皮质可能知道吃蛋糕对我们有害，它会导致肥胖、疾病甚至早逝

2.5.3. 旧脑处于控制之中，而旧脑是从一个很难获得卡路里的时代进化而来的

2.5.4. 在旧脑和新皮质之间的战斗中，旧脑通常会获胜

2.5.4.1. 我们会吃掉蛋糕

2.6. 一种简单的共识是，如果地球上的总人数少一些的话，地球就不太可能经历某种由人类造成的退化和系统崩溃

2.7. 人口不可能永远增长，许多生态学家认为现有的人口已经是不可持续发展的

2.7.1. 一个是生活在地球上的人口总数，另一个是每个人类个体造成了多少污染

2.8. 即使对于地球来说，20亿人无法可持续发展，人类也有足够的时间调整其行为，找到一种可持续发展的方式

2.9. 人类至少在50年前就已经认识到人口增长带来的威胁，而在这段时间里，人口数量几乎变成了原来的3倍

2.9.1. 这种增长的根源是旧脑结构和它们所服务的基因

2.10. 人类的智慧已经创造了奇迹：在人口数量几乎变为50年前3倍的这个时代，我们减少了饥饿和饥荒

2.10.1. 这也是不可持续的

2.10.2. 要么人口增长停止，要么在未来的某个时候，地球上将出现巨大的人类灾难

3. 新皮质如何挫败旧脑

3.1. 在旧脑和新皮质之间的战斗中，旧脑总是获胜

3.1.1. 节育技术的发明显示了新皮质是如何利用其智慧来取得优势的

3.1.2. 新皮质不是在与旧脑对抗，而是既让旧脑得到它想要的东西，也阻止不良结果的发生

3.2. 对性的渴望是为了满足基因利益而进化出的行为

3.2.1. 即使我们不想要更多的孩子，也很难停止性生活

3.2.2. 让旧脑在不创造更多孩子的情况下满足对性的渴望

3.2.3. 旧脑没有智慧，它不明白自己在做什么或为什么

3.2.4. 新皮质有自己的世界模型，可以看到拥有太多孩子的坏处，也可以看到推迟成家的好处

3.3. 简单而巧妙的解决方案就是确保每个女性都有能力掌握自己的生育权，并且她有能力做出是否生育的选择

3.3.1. 根据几乎所有的客观标准判断，赋予女性权利会造就一个更可持续的世界，减少人类的痛苦

3.3.2. 从外部视角看，阻止女性获得平等的权利似乎适得其反

3.3.2.1. 我们可以把这种困境归咎于旧脑顽固、如病毒式的错误信念

3.4. 新皮质使我们能够成为一个“科技物种”

4. 错误信念带来的风险

4.1. 新皮质尽管有着惊人的能力，但也会被愚弄

4.2. 三个基本要素

4.2.1. 不能直接体验

4.2.1.1. 错误的信念几乎总是与我们不能直接体验的事情相关

4.2.1.2. 如果不能直接观察某些东西，比如听不见、摸不到或看不见，那么我们就必须依靠别人告诉我们的东西

4.2.1.3. 是谁告诉了我们这些内容，决定了我们相信什么

4.2.2. 忽视相反证据

4.2.2.1. 为了维持一个错误的信念，你必须摒弃与之相悖的证据

4.2.2.2. 大多数错误的信念都规定了忽视相反证据的行为和理由

4.2.3. 病毒式传播

4.2.3.1. 病毒式的错误信念规定了鼓励向其他人传播这种信念的行为

4.3. 示例错误信念：有来世

4.3.1. 不能直接体验

4.3.1.1. 没有人可以直接观察来世

4.3.1.2. 它在本质上是不可观察的

4.3.2. 忽视相反证据

4.3.2.1. 与其他错误信念不同，没有科学研究表明来世不是真的

4.3.2.2. 反对来世存在的论点主要是基于证据缺乏，这使得信徒们更容易忽视来世不存在的说法

4.3.3. 病毒式传播

4.3.3.1. 对来世的信仰是病毒式的

4.3.4. 对来世的信仰，本身不一定是坏事

4.3.5. 若你相信来世比现在的生活更重要，这种信仰就会产生威胁

5. 生存威胁

5.1. 第一，旧脑仍在掌控人类的行为，使人类无法做出有利于长期生存的选择，如减少人口或消除核武器

5.2. 第二，我们创造的全球性技术很容易被持有错误信念的人破坏或滥用，如启动核武器

5.3. 人类的智慧给我们这个物种带来了成功，也可能为人类的灭绝埋下了种子

5.4. 我们的大脑由旧脑和新皮质组成，而这种结构便是问题的根源

5.5. 在进化道路上的某个地方，新皮质使人类获得了语言、智慧和灵巧的双手

5.6. 语言使知识的分享成为可能

5.6.1. 也播下了错误信念的种子

6. 困在身体里

6.1. 死亡很奇怪，我们的旧脑被设定为害怕死亡，我们的身体却被设定为终会死亡

6.2. 生物进化不是与物种的生存有关，而是与基因个体的生存有关

6.2.1. 从基因的角度来看，我们需要活得足够久，才能生育后代，才能复制基因

6.3. 基因只关心它们能否进行复制

6.3.1. 基因不在乎个体的存活

6.3.2. 基因不在乎人类社会的存亡

6.3.3. 大部分基因甚至不在乎人类这个物种是否会走向灭绝

6.3.4. 基因通常存在于多个物种中

6.4. 为什么我们被安排死去？

6.4.1. 为了给别的基因组合腾出空间，但要等我们有了孩子以后再死去

6.5. 人类新生的智慧带来了一个不是很符合基因最佳利益的结果

6.5.1. 在地球的生命史上，人类第一次明白了世间万物的运行规律

6.6. 作为智慧个体的我们希望实现永生，人类这个群体一直存在

6.6.1. 我们想要摆脱人类进化力量的控制

7. 人类如何将大脑和计算机结合以避免人类的肉体消亡或种族灭绝

7.1. 将人脑上传至计算机中

7.2. 将人脑与计算机融合

8. 将你的大脑上传至计算机

8.1. 需要记录大脑的所有细节，然后借助这些细节在计算机上模拟大脑

8.2. 将精神上具有智能的“你”与你的肉身分开

8.3. 你便可以获得永生，包括在远离地球这个客观环境的计算机中

8.3.1. 即使地球变得不再适合居住，你仍将永存

8.4. 是一种逃脱方法

8.4.1. 这能让我们避开生物的混乱状态从而以计算机模拟自我的形式长生不老

8.4.2. 上传你的大脑可以让你长生不老

8.5. 这一方案的基础实现方法是我们制作一个包含了每个神经元和突触的地图，然后在软件中重建所有的结构

8.5.1. “你”将活着，但“你”会在一个计算机脑中而不是在你从前的生物脑中

8.6. 我们不可能在不严重破坏某些东西的情况下消除大脑或身体的某些部分

8.7. 如果我们上传新皮质，那么它会有你身体每个部分的表征

8.7.1. 仅仅是表征一个大脑所需要的数据量就远超现有的计算机系统的承受力

8.8. 你的生物大脑被设计为利用肺部和喉咙特定的肌肉组织发出声音，并学会使用眼睛上特定的光感受器的排列去看东西

8.8.1. 上传的大脑不需要身体或眼睛，模拟就足够了

8.9. 生物的你每一天都有可能因意外死亡而失去永生的机会

8.10. 生物的你和计算机里的你可能形成不同的道德和政治立场

8.10.1. 生物的你可能后悔创造了计算机里的你，而后者可能不喜欢某个老的生物人声称是他自己

8.11. 上传你的大脑”具有误导性，你实际上是把自己分成了两个人

8.11.1. 他们最初可能拥有同样的大脑和记忆，但是他们立即就会变成不同的人，从此过着不同的生活

8.12. 这些场景就像生孩子

8.12.1. 最大的不同当然是在你的孩子出生时，你没有把你的大脑上传到他们的大脑里

8.12.2. 通过将你的大脑上传到计算机来获得你的复制体，不会比生育一个孩子更能实现永恒

8.13. 复制你自己只是一个岔路口，而不是道路的延伸

8.13.1. 在岔路口后会有两个意识体存在，而不是一个

8.13.2. 一旦你意识到这一点，上传你的大脑的吸引力就会消退

9. 将你的大脑与计算机融合

9.1. 需要将大脑中的神经元与计算机中的硅基芯片相互连接

9.2. 让你的大脑与机器融合，你便可以拥有超人的力量

9.3. 电极被放进你的大脑中，然后连接到计算机上

9.3.1. 现在你的大脑能直接从计算机接收信息，计算机也能直接从你的大脑接收信息

9.4. 必须克服极大的技术挑战

9.4.1. 现在我们有了一种能够精确控制数百万神经元的方法，并且无须手术或植入

9.5. “脑机融合”的方案可能会实现有限的目标，但达不到大脑与计算机的完全融合

9.5.1. 脑机融合仍然保留了生物的大脑和身体，而它们会衰弱并死去