超级智能 路径、危险性与我们的战略PDF电子书下载

第一章 人工智能：昨日成就与今日现状 3

增长模式和宏大历史 3

大预期 6

希望与绝望并存 8

技术发展水平 16

对未来机器智能的看法 22

第二章 通往超级智能之路 30

人工智能 30

全脑仿真（whole brain emulation） 37

生物认知 43

人脑—计算机交互界面 52

网络和组织 56

总结 58

第三章 超级智能的形式 64

高速超级智能 64

集体超级智能 65

素质超级智能 67

直接和间接范围 69

数字智能的优势来源 70

第四章 智能大爆发的动力学 77

智能爆发的时间和速度 77

反抗度 81

最优化力与爆发 89

第五章 决定性战略优势 98

领先者会取得决定性战略优势吗？ 98

成功的项目会有多大？ 102

从决定性战略优势到单一体 106

第六章 超级认知能力 112

功能与超级能力 112

人工智能夺权的场景 115

对自然和智能体的影响力 120

第七章 超级智能的意愿 129

智能与动机的关系 129

工具性趋同 133

第八章 结局注定是厄运吗？ 143

存在性灾难是智能大爆发的默认后果吗？ 143

背叛转折 145

恶性失败模式 148

第九章 控制问题 161

两个代理问题 161

能力控制方法 163

动机选择方法 174

第十章 神谕，精灵，主权，工具 183

神谕 183

精灵和主权 187

工具性人工智能 190

比较 195

第十一章 多极情景 202

马与人 202

算术经济下的生活 209

后过渡时代下单一体的形成 221

第十二章 获取价值观 233

价值观加载问题 233

进化性选择 236

强化学习 237

联合累积的价值观 238

动机性支架 240

价值观学习 241

仿真调节 252

体制设计 253

总结 258

第十三章 确定选择标准 263

间接规范方法的必要性 263

一致推断意愿 266

道德模式 273

按照我的意思做 276

设计选择清单 278

第十四章 战略图景 290

科学技术战略 290

路径与促成因素 302

合作 310

第十五章 关键时刻 323

哲学面临最后期限 323

应该做些什么？ 325

人性中最优秀的部分 328

致谢 331