TensorFlow实战BERT

2-1

Transformer_Encoder讲解Transformer_Encoder讲解

3-1

位置向量位置向量

4-1

注意力机制的数学思想注意力机制的数学思想

4-2

SelfAttention解决了什么问题？SelfAttention解决了什么问题？

4-3

SelfAttention计算细节SelfAttention计算细节

4-4

Multi-Head-Attention起什么作用？Multi-Head-Attention起什么作用？

4-5

AttentionMaskAttentionMask

5-1

Transformer架构讲解Transformer架构讲解

5-2

TransFormer_decoder_layer代码讲解TransFormer_decoder_layer代码讲解

5-3

TransForme_encoder_dncoder讲解TransForme_encoder_dncoder讲解

5-4

Transformer类代码讲解Transformer类代码讲解

6-1

BERT预训练BERT预训练及下游任务