1.1 语音与语言处理中的知识 1
第1章 导论 1
1.2 歧义 3
1.3 模型和算法 4
1.4 语言、思维和理解 4
1.5 学科现状与近期发展 6
1.6 语音和语言处理简史 7
1.6.1 基础研究：20世纪40年代和20世纪50年代 7
1.6.2 两个阵营：1957年至1970年 8
1.6.3 四个范型：1970年至1983年 8
1.6.5 不同领域的合流：1994年至1999年 9
1.6.4 经验主义和有限状态模型的复苏：1983年至1993年 9
1.6.6 多重发现 10
1.6.7 心理学的简要注记 10
1.7 小结 11
1.8 文献和历史说明 11
第一部分 词汇的计算机处理 13
第2章 正则表达式与自动机 14
2.1 正则表达式 14
2.1.1 基本正则表达式模式 15
2.1.2 析取、组合与优先关系 18
2.1.3 一个简单的例子 18
2.1.4 一个比较复杂的例子 19
2.1.5 高级算符 20
2.1.6 正则表达式中的替换、存储器与ELIZA 21
2.2 有限状态自动机 22
2.2.1 用FSA来识别羊的语言 22
2.2.2 形式语言 25
2.2.3 另外的例子 26
2.2.4 非确定FSA 27
2.2.5 使用NFSA接收符号串 28
2.2.6 识别就是搜索 31
2.2.7 确定自动机与非确定自动机的关系 32
2.3 正则语言与FSA 33
2.4 小结 34
2.5 文献和历史说明 35
第3章 形态学与有限状态转录机 36
3.1 英语形态学概观 37
3.1.1 屈折形态学 38
3.1.2 派生形态学 40
3.2 有限状态形态剖析 41
3.2.1 词表和形态顺序规则 41
3.2.2 用有限状态转录机进行形态剖析 44
3.2.3 正词法规则和有限状态转录机 48
3.3 把FST词表与规则相结合 50
3.4 与词表无关的FST：PORTER词干处理器 52
3.5 人是怎样进行形态处理的 53
3.6 小结 54
3.7 文献和历史说明 54
第4章 计算音系学与文本-语音转换 56
4.1 言语语音与语音标音法 57
4.1.1 发音器官 58
4.1.2 辅音：发音部位 60
4.1.3 辅音：发音方法 61
4.1.4 元音 62
4.1.5 音节 63
4.2 音位和音位规则 64
4.3 音位规则和转录机 65
4.4 计算音系学中的一些高级问题 68
4.4.1 元音和谐 68
4.4.2 模板式形态学 70
4.4.3 优选理论 70
4.5 音位规则的机器学习 74
4.6 TTS中从文本映射到语音 75
4.6.1 发音词典 75
4.6.2 词典之外的查找：文本分析 77
4.6.3 基于有限状态转录机（FST）的发音词典 79
4.7.1 韵律的音系学性质 82
4.7 文本-语音转换中的韵律 82
4.7.2 韵律的语音和声学性质 83
4.7.3 语音合成中的韵律 83
4.8 人处理音位和形态的过程 84
4.9 小结 85
4.10 文献和历史说明 85
第5章 发音与拼写的概率模型 87
5.1 关于拼写错误 88
5.2 拼写错误模式 89
5.3 非词错误的检查 90
5.4 概率模型 90
5.5 把贝叶斯方法应用于拼写 92
5.6 最小编辑距离 95
5.7 英语的发音变异 97
5.8 发音问题研究中的贝叶斯方法 101
5.8.1 发音变异的决策树模型 104
5.9 加权自动机 105
5.9.1 从加权自动机计算似然度：向前算法 106
5.9.2 解码：Viterbi算法 109
5.9.3 加权自动机和切分 112
5.9.4 用切分来进行词表的自动归纳 113
5.10 人类发音研究 114
5.11 小结 116
5.12 文献和历史说明 116
第6章 N元语法 118
6.1 语料库中单词数目的计算 119
6.2 简单的（非平滑的）N元语法 121
6.2.1 N元语法及其对训练语料库的敏感性 126
6.3 平滑 128
6.3.1 加1平滑 129
6.3.2 Witten-Bell打折法 131
6.3.3 Good-Turing打折法 134
6.4 回退 135
6.4.1 回退与打折相结合 136
6.5 删除插值法 137
6.6.1 上下文有关的错拼更正 138
6.6 拼写和发音的N元语法 138
6.6.2 发音模型的N元语法 139
6.7 熵 140
6.7.1 用于比较模型的交叉熵 142
6.7.2 英语的熵 143
6.8 小结 144
6.9 文献和历史说明 144
第7章 HMM与语音识别 146
7.1 语音识别的总体结构 147
7.2 隐马尔可夫模型概述 150
7.3 再谈Viterbi算法 152
7.4 先进的解码方法 157
7.4.1 A*解码算法 158
7.5 语音的声学处理 162
7.5.1 声波 162
7.5.2 怎样解释波形 163
7.5.3 声谱 163
7.5.4 特征抽取 166
7.6 声学概率的计算 166
7.7 语音识别系统的训练 169
7.8 用于语音合成的波形生成 171
7.8.1 音高和音延的修正 171
7.8.2 单元选择 172
7.9 人的语音识别 173
7.10 小结 174
7.11 文献和历史说明 175
第二部分 句法的计算机处理 177
第8章 词的分类与词类标注 178
8.1 大多数英语词的分类 179
8.2 英语的标记集 185
8.3 词类标注 186
8.4 基于规则的词类标注 187
8.5 随机词类标注 189
8.5.1 说明问题的一个例子 190
8.5.2 实际的HMM标注算法 191
8.6 基于转换的标注 193
8.6.1 怎样应用TBL规则 193
8.6.2 怎样学习TBL规则 194
8.7 其他问题 196
8.7.1 多重标记和多项词 196
8.7.2 未知词 197
8.7.3 基于类的N元语法 197
8.8 小结 198
8.9 文献和历史说明 199
第9章 英语的上下文无关语法 201
9.1 组成性 202
9.2 上下文无关规则和树 203
9.3 句子级的结构 207
9.4 名词短语 209
9.4.1 在中心名词前的成分 209
9.4.2 名词后的成分 210
9.5 并列关系 212
9.6 一致关系 212
9.7 动词短语和次范畴化 214
9.8 助动词 216
9.9 口语的句法 216
9.9.1 不流畅现象 217
9.11 有限状态语法和上下文无关语法 218
9.10 语法等价与范式 218
9.12 语法和人的语言处理 219
9.13 小结 220
9.14 文献和历史说明 221
第10章 基于上下文无关语法的剖析 223
10.1 剖析就是搜索 224
10.1.1 自顶向下剖析 225
10.1.2 自底向上剖析 225
10.1.3 自顶向下剖析与自底向上剖析的对比 227
10.2 基本的自顶向下剖析 227
10.2.1 增加自底向上过滤 230
10.3.1 左递归 232
10.3 基本的自顶向下剖析的问题 232
10.3.2 歧义 233
10.3.3 子树的重复剖析 236
10.4 Earley算法 238
10.4.1 预测 240
10.4.2 扫描 240
10.4.3 完成 240
10.4.4 示例 240
10.4.5 从线图中检索剖析树 242
10.5 有限状态剖析方法 243
10.7 文献和历史说明 246
10.6 小结 246
第11章 特征与合一 248
11.1 特征结构 249
11.2 特征结构的合一 251
11.3 语法中的特征结构 255
11.3.1 一致关系 256
11.3.2 中心语特征 258
11.3.3 次范畴化 259
11.3.4 其他词类的次范畴化 262
11.3.5 长距离依存关系 263
11.4.1 合一的数据结构 264
11.4 合一的实现 264
11.4.2 合一算法 266
11.5 带有合一约束的剖析 270
11.5.1 把合一结合到Earley剖析器中 270
11.5.2 复制的必要性 274
11.5.3 合一剖析 275
11.6 类型与继承 277
11.6.1 类型的扩充 279
11.6.2 合一的其他扩充 280
11.7 小结 280
11.8 文献和历史说明 280
第12章 词汇化剖析与概率剖析 282
12.1 概率上下文无关语法 283
12.1.1 PCFG的概率CYK剖析 286
12.1.2 PCFG概率的学习 287
12.2 PCFG的问题 288
12.3 概率词汇化的CFG 289
12.4 依存语法 293
12.4.1 范畴语法 295
12.5 人的剖析 295
12.6 小结 300
12.7 文献和历史说明 300
第13章 语言的复杂性 302
13.1 Chomsky层级 303
13.2 怎么判断一种语言不是正则的 304
13.2.1 抽吸引理 305
13.2.2 英语和其他自然语言是正则语言吗 307
13.3 自然语言是上下文无关的吗 309
13.4 计算复杂性和人的语言处理 311
13.5 小结 314
13.6 文献和历史说明 315
第三部分 语义的计算机处理 317
第14章 意义的表示法 318
14.1 意义表示的计算要求 319
14.1.2 无歧义表示 320
14.1.1 可能性验证 320
14.1.3 规范形式 321
14.1.4 推论与变元 322
14.1.5 表达能力 323
14.2 语言的意义结构 323
14.2.1 谓词论元结构 323
14.3 一阶谓词演算 324
14.3.1 FOPC基础 325
14.3.2 FOPC的语义 326
14.3.3 变量和逻辑量词 327
14.3.4 推论 329
14.4 某些与语言学相关的概念 330
14.4.1 范畴 330
14.4.2 事件 331
14.4.3 时间表示 333
14.4.4 体 336
14.4.5 信念表示 338
14.4.6 缺陷 340
14.5 有关的表示方法 341
14.6 意义的其他表示方法 341
14.6.1 作为行动的意义 341
14.7 小结 342
14.6.2 作为真值的意义 342
14.8 文献和历史说明 343
第15章 语义分析 344
15.1 句法驱动的语义分析 344
15.1.1 给上下文无关语法规则扩充语义 346
15.1.2 量词辖域和复杂项的转译 351
15.2 给英语片断附加语义分析 352
15.2.1 句子 352
15.2.2 名词短语 353
15.2.3 动词短语 355
15.2.4 介词短语 357
15.3 把语义分析结合到Earley剖析中 359
15.4 惯用语和组成性 360
15.5 鲁棒的语义分析 361
15.5.1 语义语法 361
15.5.2 信息抽取 363
15.6 小结 367
15.7 文献和历史说明 368
第16章 词汇语义学 370
16.1 词位及其涵义之间的关系 371
16.1.1 同形关系 371
16.1.2 多义关系 373
16.1.3 同义关系 375
16.1.4 上下位关系 376
16.2 WORDNET：词汇关系信息库 377
16.3 词的内在结构 380
16.3.1 题元角色 380
16.3.2 选择限制 385
16.3.3 基元分解 388
16.3.4 语义场 390
16.4 语言的创造性与词典 391
16.4.1 隐喻 391
16.4.2 换喻 392
16.4.3 隐喻和换喻的计算方法 392
16.5 小结 392
16.6 文献和历史说明 393
第17章 词义排歧与信息检索 394
17.1 基于选择限制的排歧 394
17.1.1 选择限制的局限性 395
17.2 鲁棒的词义排歧 396
17.2.1 机器学习方法 397
17.2.2 基于词典的方法 402
17.3 信息检索 403
17.3.1 向量空间模型 403
17.3.2 检索词加权 405
17.3.3 检索词的选择和创造 407
17.3.5 改进用户的查询条件 408
17.3.4 同形关系、多义关系和同义关系 408
17.4 信息检索的其他任务 409
17.5 小结 410
17.6 文献和历史说明 411
第四部分 语用的计算机处理 413
第18章 话语 414
18.1 所指判定 415
18.1.1 所指现象 417
18.1.2 同指的句法和语义约束 419
18.1.3 代词解释中的优先关系 422
18.1.4 代词判定算法 423
18.2.1 现象 430
18.2 文本的连贯 430
18.2.2 基于推理的判定算法 431
18.3 话语结构 436
18.4 所指和连贯的心理语言学研究 438
18.5 小结 441
18.6 文献和历史说明 441
第19章 对话与会话智能代理 443
19.1 什么使对话出现差别 444
19.1.1 话轮和话段 444
19.1.2 对话的共同基础 446
19.1.3 会话隐涵 447
19.2 对话行为 448
19.3 对话行为的自动解释 451
19.3.1 对话行为的计划推理解释 452
19.3.2 对话行为的基于提示的解释 456
19.3.3 要点 460
19.4 对话结构与连贯性 460
19.5 会话智能代理中的对话管理 464
19.6 小结 468
19.7 文献和历史说明 469
第20章 自然语言生成 471
20.1 语言生成导引 472
20.2 生成的体系结构 473
20.3 表层实现 474
20.3.1 系统语法 474
20.3.2 功能合一语法 477
20.3.3 要点 481
20.4 话语规划 481
20.4.1 文本说明图 481
20.4.2 修辞关系 483
20.4.3 小结 487
20.5 其他问题 487
20.5.1 微规划 487
20.5.4 语音生成 488
20.5.3 生成系统评价 488
20.5.2 词汇选择 488
20.6 小结 489
20.7 文献和历史说明 489
第21章 机器翻译 492
21.1 语言的相似性和差异性 494
21.2 转换模型 497
21.2.1 句法转换 498
21.2.2 词汇转换 499
21.3 中间语的思想：使用意义 500
21.4 直接转换 502
21.5 使用统计技术 504
21.5.2 忠实性的量化 505
21.5.1 流畅性的量化 505
21.5.3 输出的搜索 506
21.6 可用性与系统开发 506
21.7 小结 508
21.8 文献和历史说明 508
附录A 正则表达式的算符 510
附录B PORTER STEMMING算法 511
附录C 标记集C5和C7 514
附录D HMM模型的训练：向前-向后算法 519
参考文献 525
术语表 577