第一章 人工智能：昨日成就与今日现状 3
增长模式和宏大历史 3
大预期 6
希望与绝望并存 8
技术发展水平 16
对未来机器智能的看法 22
第二章 通往超级智能之路 30
人工智能 30
全脑仿真（whole brain emulation） 37
生物认知 43
人脑—计算机交互界面 52
网络和组织 56
总结 58
第三章 超级智能的形式 64
高速超级智能 64
集体超级智能 65
素质超级智能 67
直接和间接范围 69
数字智能的优势来源 70
第四章 智能大爆发的动力学 77
智能爆发的时间和速度 77
反抗度 81
最优化力与爆发 89
第五章 决定性战略优势 98
领先者会取得决定性战略优势吗？ 98
成功的项目会有多大？ 102
从决定性战略优势到单一体 106
第六章 超级认知能力 112
功能与超级能力 112
人工智能夺权的场景 115
对自然和智能体的影响力 120
第七章 超级智能的意愿 129
智能与动机的关系 129
工具性趋同 133
第八章 结局注定是厄运吗？ 143
存在性灾难是智能大爆发的默认后果吗？ 143
背叛转折 145
恶性失败模式 148
第九章 控制问题 161
两个代理问题 161
能力控制方法 163
动机选择方法 174
第十章 神谕，精灵，主权，工具 183
神谕 183
精灵和主权 187
工具性人工智能 190
比较 195
第十一章 多极情景 202
马与人 202
算术经济下的生活 209
后过渡时代下单一体的形成 221
第十二章 获取价值观 233
价值观加载问题 233
进化性选择 236
强化学习 237
联合累积的价值观 238
动机性支架 240
价值观学习 241
仿真调节 252
体制设计 253
总结 258
第十三章 确定选择标准 263
间接规范方法的必要性 263
一致推断意愿 266
道德模式 273
按照我的意思做 276
设计选择清单 278
第十四章 战略图景 290
科学技术战略 290
路径与促成因素 302
合作 310
第十五章 关键时刻 323
哲学面临最后期限 323
应该做些什么？ 325
人性中最优秀的部分 328
致谢 331