Transformer原理与代码精讲【共22课时】_预训练/微调/transformer/算法课程-51CTO学堂

白老师高级讲师讲师评分5.0学员375123课程80

长期从事IT技术研究和开发

畅销套餐
精选套餐

ViT（Vision Transformer）原理与代码精讲

ViT（Vision Transformer）原理与代码精讲

1647人学习

￥38.00

更多 5 门课程

课程介绍
课程大纲

适合人群：

希望学习Transformer原理及实现代码的学员们

你将会学到：

掌握Transformer原理；掌握Transformer的实现代码

课程简介：

Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大。

本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲，来帮助大家掌握其详细原理和具体实现。

原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接（Residual Connection）、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程。

代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读，包括：安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读。

880-课程内容-transformer-tf2.jpg

展开更多

课程大纲-Transformer原理与代码精讲

第1章课程介绍(15分钟1节)
1-1
课程介绍课程介绍
「仅限付费用户」点击下载“课程介绍TR-Tf2.pdf”
[15:21]开始学习
第2章Transformer原理精讲(1小时37分钟8节)
2-1
注意力机制和自注意力机制注意力机制和自注意力机制
「仅限付费用户」点击下载“原理1-注意力机制.pdf”
[33:19]开始学习
2-2
Transformer的架构概述Transformer的架构概述
「仅限付费用户」点击下载“原理2-Transformer.pdf”
[11:22]开始学习
2-3
Transformer Encoder的多头注意力Transformer Encoder的多头注意力
[15:37]开始学习
2-4
Transformer Encoder的位置编码Transformer Encoder的位置编码（Positional Encoding
[10:03]开始学习
2-5
Transformer 残差链接、LayerNorm、FFNTransformer 残差链接、LayerNorm、FFN
[06:15]开始学习
2-6
Transformer DecoderTransformer Decoder
[06:29]开始学习
2-7
Transformer的训练及性能Transformer的训练及性能
[09:59]开始学习
2-8
Transformer的机器翻译工作流程Transformer的机器翻译工作流程
[04:23]开始学习
第3章Transformer代码精讲（Pytorch）(1小时14分钟6节)
3-1
安装pytorch安装Pytorch
「仅限付费用户」点击下载“安装Pytorch.pdf”
[08:31]开始学习
3-2
Transformer的Encoder代码解读Transformer的Encoder代码解读
「仅限付费用户」点击下载“transformer-pytorch.zip”
[13:57]开始学习
3-3
Transformer的Decoder代码解读Transformer的Decoder代码解读
[19:14]开始学习
3-4
Transformer的超参设置代码解读Transformer的超参设置代码解读
[12:09]开始学习
3-5
Transformer的训练示例（人为随机数据）代码解读Transformer的训练示例（人为随机数据）代码解读
[07:05]开始学习
3-6
Transformer的训练示例(机器翻译)代码解读Transformer的训练示例(德语-英语机器翻译)代码解读
[13:19]开始学习
第4章Transformer代码精讲（TensorFlow 2）(1小时17分钟7节)
4-1
安装TensorFlow安装TensorFlow
「仅限付费用户」点击下载“安装tensorflow2.pdf”
[05:41]开始学习
4-2
Transformer的数据集加载与预处理代码解读Transformer的数据集加载与预处理代码解读
「仅限付费用户」点击下载“transformer-tf2.zip”
[15:29]开始学习
4-3
Transformer的位置编码与多头注意力代码解读Transformer的位置编码与多头注意力代码解读
[14:59]开始学习
4-4
Transformer的Transformer类代码解读Transformer的Transformer类代码解读
[13:14]开始学习
4-5
Transformer的优化器与损失函数代码解读Transformer的优化器与损失函数代码解读
[05:51]开始学习