← 全部课程

自然语言处理

上海交通大学 计算机科学与工程系

俞凯老师主讲的研究生《自然语言处理》:从统计语言模型、HMM/CRF 序列标注、句法分析,走到词向量与神经网络语言模型、神经机器翻译,最后落到预训练语言模型、大语言模型与其推理/泛化能力。

课程章节

  1. 1绪论NLP 定义与任务谱、语言学层次、理性主义 vs 经验主义、深度学习范式、评测
  2. 2传统方法:统计与序列模型n-gram 语言模型、HMM 词性标注、CRF 中文分词、句法分析(CFG/CKY/依存)
  3. 3神经网络与表示学习词向量、神经网络语言模型、序列标注(RNN/BiLSTM)、神经机器翻译与注意力
  4. 4预训练与大语言模型预训练语言模型(BERT/GPT)、大语言模型、多语泛化、思考范式(CoT/推理)

题库共 78 题