计算语言学参考文献清单

本清单按主题分类，涵盖计算语言学（Computational Linguistics）的核心文献，从奠基理论到统计方法、神经网络、大语言模型时代。文献标题可点击访问原文。

一、奠基文献：AI 与形式语言理论

1.1 图灵测试与 AI 起源

• Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433–460.
  关键词：图灵测试（Imitation Game）、"机器能思考吗？"、人工智能哲学基础

1.2 乔姆斯基与形式语言

• Chomsky, N. (1957). Syntactic Structures. The Hague: Mouton.
  关键词：生成语法（Generative Grammar）、转换生成语法、形式语言层级（乔姆斯基层级）
  CL 意义：为计算语言学提供了形式化语法基础——有限自动机、上下文无关文法、图灵机的层级对应

• Chomsky, N. (1965). Aspects of the Theory of Syntax. Cambridge, MA: MIT Press.
  关键词：标准理论（Standard Theory）、深层结构/表层结构、普遍语法

1.3 机器翻译的诞生

• Weaver, W. (1955). Translation. In Machine Translation of Languages: Fourteen Essays (pp. 15–23). Cambridge, MA: MIT Press.
  关键词：Weaver 备忘录（1949 年撰写）、机器翻译（MT）的理论起点、"翻译即解码"思想

• Hutchins, W. J. (2004). The Georgetown-IBM Experiment Demonstrated in January 1954. In The Early History of Computational Linguistics (pp. 131–142). Amsterdam: Elsevier.
  关键词：1954 年 Georgetown-IBM 公开演示、俄语→英语自动翻译 60+ 句、第一次 MT 公开展示

二、统计自然语言处理

2.1 统计机器翻译（SMT）

• Brown, P. F., et al. (1993). The Mathematics of Statistical Machine Translation: Parameter Estimation. Computational Linguistics, 19(2), 263–311.
  关键词：IBM 模型 1–5、对齐模型、EM 算法、统计机器翻译的数学基础

• Koehn, P. (2010). Statistical Machine Translation. Cambridge: Cambridge University Press.
  关键词：短语模型、层次模型、解码算法、SMT 标准教材

2.2 统计 NLP 基础

• Manning, C. D., & Schütze, H. (1999). Foundations of Statistical Natural Language Processing. Cambridge, MA: MIT Press.
  关键词：概率模型、隐马尔可夫模型、信息检索、统计 NLP 奠基教材

• Jurafsky, D., & Martin, J. H. (2009). Speech and Language Processing (2nd ed.). Upper Saddle River, NJ: Pearson Prentice Hall.
  关键词：NLP 标准教材（第 3 版 2026 年 8 月更新中）、涵盖语音识别与 CL

三、神经网络与序列建模

3.1 循环网络与 LSTM

• Hochreiter, S., & Schmidhuber, J. (1997). Long Short-Term Memory. Neural Computation, 9(8), 1735–1780.
  关键词：LSTM、长程依赖、门控机制、序列建模基石
  引用量：160,000+

3.2 序列到序列（Seq2Seq）

• Sutskever, I., Vinyals, O., & Le, Q. V. (2014). Sequence to Sequence Learning with Neural Networks. Advances in Neural Information Processing Systems 27 (NIPS 2014), 2846–2854.
  关键词：编码器-解码器架构、端到端机器翻译、深度学习 MT 的起点
  引用量：32,000+

3.3 注意力机制

• Bahdanau, D., Cho, K., & Bengio, Y. (2015). Neural Machine Translation by Jointly Learning to Align and Translate. Proceedings of ICLR 2015.
  关键词：注意力机制（Attention）、对齐与翻译联合学习、Transformer 的前身
  引用量：30,000+（2025 年获 ICLR 时间检验奖）

四、词向量与分布式表示

• Mikolov, T., et al. (2013). Distributed Representations of Words and Phrases and their Compositionality. Advances in Neural Information Processing Systems 26 (NeurIPS 2013), 3111–3119.
  关键词：Word2Vec（Skip-gram + Negative Sampling）、词向量、语义类比
  引用量：51,000+

• Pennington, J., Socher, R., & Manning, C. D. (2014). GloVe: Global Vectors for Word Representation. Proceedings of EMNLP 2014, 1532–1543.
  关键词：GloVe、全局共现矩阵分解、词向量
  引用量：51,000+

• Peters, M. E., et al. (2018). Deep Contextualized Word Representations. Proceedings of NAACL-HLT 2018, 2227–2237.
  关键词：ELMo、上下文相关词表示、双向 LSTM、预训练语言模型的先驱
  引用量：18,000+

五、Transformer 与预训练模型

5.1 Transformer 架构

• Vaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems 30 (NeurIPS 2017), 5998–6008.
  关键词：Transformer、自注意力机制、多头注意力、位置编码
  引用量：270,000+（NLP 史上引用最高）

5.2 BERT 系列

• Devlin, J., et al. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186.
  关键词：BERT、掩码语言模型（MLM）、双向预训练、11 项 NLP 任务 SOTA
  引用量：183,000+

5.3 GPT 系列

• Radford, A., et al. (2018). Improving Language Understanding by Generative Pre-Training. Technical Report, OpenAI.
  关键词：GPT-1、生成式预训练、Transformer 解码器、语言模型预训练范式开创
  引用量：19,000+

• Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems 33 (NeurIPS 2020), 1877–1901.
  关键词：GPT-3（1750 亿参数）、少样本学习（Few-Shot）、In-Context Learning、大语言模型时代开启
  引用量：82,000+

5.4 开源大模型

• Touvron, H., et al. (2023). LLaMA: Open and Efficient Foundation Language Models. arXiv:2302.13971.
  关键词：LLaMA（7B–65B）、开源基础模型、Meta AI、高效训练
  引用量：30,000+

六、跨语言模型与多语言 NLP

• Conneau, A., et al. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, 8440–8451.
  关键词：XLM-RoBERTa（XLM-R）、100 种语言、跨语言表示学习、MLM 预训练
  引用量：11,000+

• Feng, F., et al. (2022). Language-agnostic BERT Sentence Embedding. Proceedings of ACL 2022, 878–891.
  关键词：LaBSE、109 种语言、跨语言句向量对齐、翻译训练目标
  引用量：1,900+

七、语料库与标注资源

• Marcus, M. P., Santorini, B., & Marcinkiewicz, M. A. (1993). Building a Large Annotated Corpus of English: The Penn Treebank. Computational Linguistics, 19(2), 313–330.
  关键词：Penn Treebank、句法标注语料库、NLP 标准评测资源
  引用量：11,000+

• Tjong Kim Sang, E. F., & De Meulder, F. (2003). Introduction to the CoNLL-2003 Shared Task. Proceedings of CoNLL 2003, 142–147.
  关键词：CoNLL-2003、命名实体识别（NER）标准评测、CONLL 系列任务
  引用量：6,600+

八、大语言模型综述

• Zhao, W. X., et al. (2023). A Survey of Large Language Models. arXiv:2303.18223.
  （2026 年正式发表于 Frontiers of Computer Science, 20, 2012627）
  关键词：LLM 综述、GPT/LLaMA/ChatGLM 等、预训练方法、对齐技术、应用全景
  引用量：8,700+（arXiv 版）

九、教科书与手册

• Jurafsky, D., & Martin, J. H. (2026). Speech and Language Processing (3rd ed. draft).
  关键词：NLP/CL 第一教材、涵盖经典方法与深度学习

• Mitkov, R. (Ed.). (2022). The Oxford Handbook of Computational Linguistics (2nd ed.). Oxford: Oxford University Press.
  关键词：CL 百科全书式手册、38+ 章、涵盖句法/语义/语用/应用
  第一版：2003 年；第二版大幅扩充

• Hutchins, W. J. (1986). Machine Translation: Past, Present, Future. Chichester: Ellis Horwood.
  关键词：MT 历史综述、从 17 世纪到 1980s、学科史标准参考

十、中文信息处理

• 孙茂松, 等. (2006). 中文信息处理研究进展与展望. 中文信息学报, 20(6), 1–10.
  关键词：中文信息处理综述、分词/词性标注/句法分析

• 冯志伟. (2003). 自然语言处理概论. 北京: 中国传媒大学出版社.
  关键词：国内 CL 教材先驱、机器翻译与中文信息处理

附：关键会议与期刊

资料来源说明

• 所有论文信息（作者、年份、期刊/会议、页码）均经搜索核实
• 引用量数据来自 Google Scholar / Semantic Scholar（截至 2026 年 9 月）
• 在线链接均为搜索验证的真实 URL

📖 相关笔记： - 计算语言学与计量语言学——学科对比、高校建制、学会期刊 - 计量语言学参考文献清单——QL 方向核心文献 - 向量计量语言学——研究方法总纲（密码访问） - 语言学的发展阶段——学科史脉络

📝 清单创建：2026-09-27
🔄 更新：2026-09-27