-
内容大纲
近年来,基于深度学习方法的自然语言处理(NLP)已逐渐成为主流。本书共8章,主要介绍自然语言处理任务中的深度学习技术,包含深度学习理论基础、深度学习的软件框架、语言模型与词向量、序列模型与梯度消失/爆炸、卷积神经网络在NLP领域的应用、Seq2Seq模型与Attention机制、大规模预训练模型、预训练语言模型BERT,还给出了自然语言处理技术的高级应用和开发实例,并收录了基于PyTorch深度学习框架的部分实践项目,本书每章均配有重要知识点串讲视频。
本书既可作为人工智能、计算机科学、电子信息工程、自动化等专业的本科生及研究生教材,也可作为自然语言处理相关领域的研究人员和技术人员的参考资料。 -
作者介绍
-
目录
前言
第1章 深度学习理论基础
1.1 深度学习概况
1.1.1 深度学习的历史
1.1.2 “无所不能”的深度学习
1.2 深度学习神经网络
1.2.1 神经网络
1.2.2 隐藏层
1.2.3 梯度下降
1.2.4 激活函数
1.2.5 权重初始化
1.2.6 正则化
1.2.7 归一化
第2章 深度学习的软件框架
2.1 环境配置
2.1.1 Anaconda
2.1.2 英伟达GPU驱动+CUDA+cuDNN
2.1.3 PyTorch安装
2.1.4 Python IDE选择
2.2 PyTorch 入门
2.2.1 Tensor基本概念
2.2.2 Tensor的运算
2.3 PyTorch自动求梯度
2.3.1 基本概念
2.3.2 Tensor样例
2.3.3 梯度计算
2.4 PyTorch nn模块
第3章 语言模型与词向量
3.1 语言模型
3.1.1 无处不在的语言模型
3.1.2 神经网络语言模型
3.2 词向量
3.2.1 one-hot
3.2.2 word2vec
3.2.3 GloVe
3.3 代码实战
3.3.1 任务1:应用PyTorch搭建Skip-Gram
3.3.2 任务2:基于GloVe的大规模中文语料的词向量训练
第4章 序列模型与梯度消失/爆炸
4.1 循环神经网络
4.1.1 模型结构及计算过程
4.1.2 应用PyTorch搭建并训练RNN模型
4.2 梯度消失与爆炸
4.2.1 产生原因
4.2.2 解决方法
4.3 改进方法
4.3.1 LSTM
4.3.2 GRU
4.4 代码实战:搭建LSTM/GRU的文本分类器
第5章 卷积神经网络在NLP领域的应用
5.1 卷积神经网络的概念
5.1.1 输入层
5.1.2 卷积层
5.1.3 池化层
5.1.4 全连接层
5.2 空洞卷积神经网络
5.2.1 空洞卷积的基本定义
5.2.2 空洞卷积在NLP中的应用
5.2.3 空洞卷积相关代码
5.2.4 多层卷积
5.3 代码实战:CNN情感分类实战
5.3.1 数据处理
5.3.2 程序主干部分
5.3.3 模型部分
5.3.4 模型训练与评估
第6章 Seq2Seq模型与Attention机制
6.1 Encoder-Decoder结构
6.1.1 Encoder
6.1.2 Decoder
6.1.3 Encoder-Decoder存在的问题
6.2 Attention机制
6.3 Seq2Seq训练与预测
6.3.1 模型训练
6.3.2 模型预测
6.3.3 BLEU模型评估法
6.4 代码实战:应用PyTorch搭建机器翻译模型
第7章 大规模预训练模型
7.1 ELMo
7.1.1 模型结构
7.1.2 模型效果
7.1.3 ELMo的优点
7.1.4 利用ELMo+CNN进行分类的示例
7.2 Transformer
7.2.1 Encoder端及Decoder端总览
7.2.2 Encoder端各个子模块
7.2.3 Decoder端各个子模块
7.2.4 其他模块
7.2.5 完整模型
第8章 预训练语言模型BERT
8.1 BERT的基本概念
8.2 BERT的工作原理
8.2.1 BERT的预训练
8.2.2 BERT模型结构
8.2.3 BERT的微调
8.3 BERT的可解释性
8.4 其他预训练模型
8.4.1 XLNet
8.4.2 RoBERTa
8.4.3 ALBERT
8.5 代码实战:预训练模型
参考文献
同类热销排行榜
- C语言与程序设计教程(高等学校计算机类十二五规划教材)16
- 电机与拖动基础(教育部高等学校自动化专业教学指导分委员会规划工程应用型自动化专业系列教材)13.48
- 传感器与检测技术(第2版高职高专电子信息类系列教材)13.6
- ASP.NET项目开发实战(高职高专计算机项目任务驱动模式教材)15.2
- Access数据库实用教程(第2版十二五职业教育国家规划教材)14.72
- 信号与系统(第3版下普通高等教育九五国家级重点教材)15.08
- 电气控制与PLC(普通高等教育十二五电气信息类规划教材)17.2
- 数字电子技术基础(第2版)17.36
- VB程序设计及应用(第3版十二五职业教育国家规划教材)14.32
- Java Web从入门到精通(附光盘)/软件开发视频大讲堂27.92
推荐书目
-
孩子你慢慢来/人生三书 华人世界率性犀利的一枝笔,龙应台独家授权《孩子你慢慢来》20周年经典新版。她的《...
-
时间简史(插图版) 相对论、黑洞、弯曲空间……这些词给我们的感觉是艰深、晦涩、难以理解而且与我们的...
-
本质(精) 改革开放40年,恰如一部四部曲的年代大戏。技术突变、产品迭代、产业升级、资本对接...