Transformer原理与代码精讲

【资源介绍】：

Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大。

本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲，来帮助大家掌握其详细原理和具体实现。

原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接（Residual Connection）、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程。

代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读，包括：安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读。

【资源目录】：

├──01 课程介绍

|   └──01 课程介绍.mp4  39.50M

├──02 Transformer原理精讲

|   ├──01 注意力机制和自注意力机制.mp4  99.60M

|   ├──02 Transformer的架构概述.mp4  34.81M

|   ├──03 Transformer Encoder的多头注意力.mp4  48.62M

|   ├──04 Transformer Encoder的位置编码.mp4  17.06M

|   ├──05 Transformer 残差链接、LayerNorm、FFN.mp4  19.01M

|   ├──06 Transformer Decoder.mp4  20.00M

|   ├──07 Transformer的训练及性能.mp4  36.92M

|   └──08 Transformer的机器翻译工作流程.mp4  6.11M

├──03 Transformer代码精讲（Pytorch）

|   ├──01 安装pytorch.mp4  32.55M

|   ├──02 Transformer的Encoder代码解读.mp4  54.68M

|   ├──03 Transformer的Decoder代码解读.mp4  82.76M

|   ├──04 Transformer的超参设置代码解读.mp4  27.31M

|   ├──05 Transformer的训练示例（人为随机数据）代码解读.mp4  29.27M

|   └──06 Transformer的训练示例(机器翻译)代码解读.mp4  65.15M

└──04 Transformer代码精讲（TensorFlow 2）

|   ├──01 安装TensorFlow.mp4  22.01M

|   ├──02 Transformer的数据集加载与预处理代码解读.mp4  37.64M

|   ├──03 Transformer的位置编码与多头注意力代码解读.mp4  70.30M

|   ├──04 Transformer的Transformer类代码解读.mp4  61.00M

|   ├──05 Transformer的优化器与损失函数代码解读.mp4  24.89M

|   ├──06 Transformer的训练代码解读.mp4  25.30M

|   └──07 Transformer的推理与权重保存代码解读.mp4  50.63M