完整的神经网络训练营:理论、应用
PyTorch 的深度学习和神经网络理论与应用!包括 Transformer、BERT 和 GPT!
讲师:Fawaz Sammani
口袋资源独家Udemy付费课程,独家中英文字幕,配套资料齐全!
用不到1/10的价格,即可享受同样的高品质课程,且可以完全拥有,随时随地都可以任意观看和分享。
你将学到什么
- 了解神经网络如何工作(理论和应用)
- 了解卷积网络的工作原理(理论和应用)
- 了解循环网络和 LSTM 的工作原理(理论和应用)
- 深入学习如何使用 PyTorch
- 了解反向传播算法的工作原理
- 了解神经网络中的损失函数
- 了解权重初始化和正则化技术
- 使用 Numpy 从头开始编码神经网络
- 将迁移学习应用于 CNN
- CNN 可视化
- 了解当今广泛使用的 CNN 架构
- 深入理解残差网络
- 深入理解 YOLO 目标检测
- 可视化神经网络的学习过程
- 了解如何保存和加载经过训练的模型
- 使用注意力机制学习序列建模
- 用注意力构建聊天机器人
- 变形金刚
- 使用 Transformers 构建聊天机器人
- 伯特
- 构建图像字幕模型
要求
- 有一些基本的 Python 经验者优先
- 一些高中数学
描述
本课程是深度学习和神经网络的综合指南。这些理论以深入且友好的方式进行了解释。之后,我们将进行实践课程,我们将学习如何在 PyTorch(一个非常先进且强大的深度学习框架)中编写神经网络!
该课程包括以下部分:
————————————————– ————————————————– —-
第 1 节 – 神经网络和反向传播如何工作
在本节中,您将以友好的方式深入了解神经网络和反向传播算法如何工作的理论。我们将通过一个示例并逐步进行计算。我们还将讨论神经网络中使用的激活函数及其优点和缺点!
第 2 节 – 损失函数
在本节中,我们将介绍深度学习和神经网络中使用的著名损失函数。我们将介绍何时使用它们以及它们如何工作。
第 3 节 – 优化
在本节中,我们将讨论神经网络中用于达到最佳点的优化技术,包括梯度下降、随机梯度下降、动量、RMSProp、Adam、AMSGrad、权重衰减和解耦权重衰减、LR Scheduler 等。
第 4 节 – 权重初始化
在本节中,我们将向您介绍神经网络中权重初始化的概念,并将讨论权重初始化的一些技术,包括 Xavier 初始化和 He 范数初始化。
第 5 节 – 正则化技术
在本节中,我们将向您介绍神经网络中的正则化技术。我们首先介绍过拟合,然后介绍如何使用正则化技术来防止过拟合,包括L1、L2和Dropout。我们还将讨论标准化以及批量标准化和层标准化。
第 6 节 – PyTorch 简介
在本节中,我们将介绍本课程将使用的深度学习框架,即 PyTorch。我们将向您展示如何安装它、它是如何工作的以及为什么它很特别,然后我们将编写一些 PyTorch 张量并向您展示一些张量上的操作,以及在代码中向您展示 Autograd!
第 7 节 – PyTorch 中的实用神经网络 – 应用 1
在本节中,您将应用所学知识构建前馈神经网络来对手写数字进行分类。这是我们将展示的前馈网络的第一个应用。
第 8 节 – PyTorch 中的实用神经网络 – 应用 2
在本节中,我们将构建一个前馈神经网络来对一个人是否患有糖尿病进行分类。我们将在大型糖尿病数据集上训练网络!
第 9 节 – 可视化学习过程
在本节中,我们将直观地展示神经网络如何学习,以及它们在分离非线性数据方面有多出色!
第 10 节 – 使用 Python 和 Numpy 从头开始实现神经网络
在本节中,我们将在不使用任何深度学习库的情况下理解并编码神经网络(仅使用 python 和 numpy 从头开始)。这对于理解底层结构如何工作是必要的。
第 11 节 – 卷积神经网络
在本节中,我们将向您介绍用于图像的卷积网络。我们先给大家介绍一下前馈网络的关系,然后再给大家一一介绍卷积网络的概念!
第 12 节 – PyTorch 中的实用卷积网络
在本节中,我们将应用卷积网络对手写数字进行分类。这是我们要做的第一个 CNN 应用。
第 13 节 – 深入了解 CNN:改进和绘图
在本节中,我们将改进上一节中构建的 CNN,并向您展示如何绘制训练和测试的结果!而且,我们将向您展示如何通过网络对自己的手写图像进行分类!
第 14 节 – CNN 架构
在本节中,我们将介绍在所有深度学习应用中广泛使用的 CNN 架构。这些架构是:AlexNet、VGG 网络、Inception Net、残差网络和密集连接网络。我们还将讨论一些对象检测架构。
第 15 节-剩余网络
在本节中,我们将深入研究残差网络的细节和理论,然后我们将从头开始在 PyTorch 中构建残差网络!
第 16 节 – PyTorch 中的迁移学习 – 图像分类
在本节中,我们将在残差网络上应用迁移学习,对蚂蚁和蜜蜂进行分类。我们还将向您展示如何使用您自己的数据集并应用图像增强。完成本节后,您将能够对您想要的任何图像进行分类!
第 17 节-卷积网络可视化
在本节中,我们将可视化神经网络的输出内容以及它们真正学习的内容。我们将观察每一层网络的特征图!
第 18 节 – YOLO 目标检测(理论)
在本节中,我们将学习最著名的目标检测框架之一:YOLO!本节深入介绍 YOLO 的理论。
第 19 节 – 自动编码器和变分自动编码器
在本节中,我们将介绍自动编码器和去噪自动编码器。然后我们将看到他们面临的问题,并学习如何使用变分自动编码器来缓解它。
第 20 节 – 循环神经网络
在本节中,我们将向您介绍循环神经网络及其所有概念。然后我们将讨论随时间的反向传播、梯度消失问题,最后讨论解决 RNN 所遇到问题的长短期记忆 (LSTM)。
第 21 节 – 词嵌入
在本节中,我们将讨论如何将单词表示为特征。然后我们将向您展示一些词嵌入模型。我们还将向您展示如何在 PyTorch 中实现词嵌入!
第 22 节 – PyTorch 中的实用循环网络
在本节中,我们将在 PyTorch 中使用 LSTM 应用循环神经网络来生成类似于爱丽丝梦游仙境故事的文本!您可以将故事替换为您想要的任何其他文本,RNN 将能够生成与其相似的文本!
第 23 节 – 序列建模
在本节中,我们将学习序列到序列建模。我们将了解 Seq2Seq 模型如何工作以及它们的应用场合。我们还将讨论注意力机制并了解它们是如何工作的。
第 24 节 – PyTorch 中的实用序列建模 – 构建聊天机器人
在本节中,我们将应用我们所学到的序列建模知识并构建具有注意力机制的聊天机器人。
第 25 节 – 保存和加载模型
在本节中,我们将向您展示如何在 PyTorch 中保存和加载模型,以便您可以使用这些模型进行后续测试或恢复训练!
第 26 节 – 变压器
在本节中,我们将介绍 Transformer,它是 NLP 和语言建模任务的当前最先进的模型。我们将详细介绍变压器的每个组件。
第 27 节 – 使用 Transformers 构建聊天机器人
在本节中,我们将实现上一节中学到的所有内容,以使用 Transformer 构建聊天机器人。
本课程适合谁:
- 任何有兴趣学习神经网络和深度学习的人