資料目錄:
01課程安排
02深度學(xué)習(xí)介紹03安裝
04數(shù)據(jù)操作+數(shù)據(jù)預(yù)處理05線性代數(shù)
06矩陣計算
07自動求導(dǎo)
08線性回歸+基礎(chǔ)優(yōu)化算法
09 Softmax回歸+損失函數(shù)+圖片分類數(shù)據(jù)集
09A Windows下安裝CUDA和Pytorch跑深度學(xué)習(xí)
09B使用AWS最便宜的GPU 實例
10多層感知機+代碼實現(xiàn)
10行代碼戰(zhàn)勝90%數(shù)據(jù)科學(xué)家?
11模型選擇+過擬合和欠擬合
12權(quán)重衰退
13丟棄法
14數(shù)值穩(wěn)定性+模型初始化和激活函數(shù)
15 實戰(zhàn): Kaggle房價預(yù)測+課程競賽:加州2020年房價預(yù)測
16 PyTorch神經(jīng)網(wǎng)絡(luò)基礎(chǔ)
17使用和購買GPU
18預(yù)測房價競賽總結(jié)
19卷積層
20卷積層里的填充和步幅
21卷積層里的多輸入多輸出通道
22池化層
23經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)LeNet
24深度卷積神經(jīng)網(wǎng)絡(luò)AlexNet
25使用塊的網(wǎng)絡(luò)VGG
26網(wǎng)絡(luò)中的網(wǎng)絡(luò)NiN
27含并行連結(jié)的網(wǎng)絡(luò)GoogLeNet Inception v3
28批量歸一化
29殘差網(wǎng)絡(luò)ResNet
29.2 ResNet為什么能訓(xùn)練出1000層的模型
30第二部分完結(jié)競賽:圖片分類
31深度學(xué)習(xí)硬件:CPU 和GPU
32深度學(xué)習(xí)硬件:TPU和其他
33單機多卡并行
34多GPU訓(xùn)練實現(xiàn)
35分布式訓(xùn)練
36數(shù)據(jù)增廣
37微調(diào)
38第二次競賽樹葉分類結(jié)果
39實戰(zhàn) Kaggle 比賽:圖像分類(CIFAR-10)
40實戰(zhàn) Kaggle 比賽:狗的品種識別(lmageNet Dogs)
41物體檢測和數(shù)據(jù)集
42錨框
43樹葉分類競賽技術(shù)總結(jié)
44物體檢測算法:R-CNN,SSD, YOLo
45 SSD實現(xiàn)
46語義分割和數(shù)據(jù)集
47轉(zhuǎn)置卷積
47.2轉(zhuǎn)置卷積是—種卷積
48全連接卷積神經(jīng)網(wǎng)絡(luò)FCN
49樣式遷移
50課程競賽:牛仔行頭檢測
51序列模型
52文本預(yù)處理
53語言模型
54循環(huán)神經(jīng)網(wǎng)絡(luò)RNN
55循環(huán)神經(jīng)網(wǎng)絡(luò)RNN的實現(xiàn)
56 門控循環(huán)單元(GRU)
57長短期記憶網(wǎng)絡(luò)(LSTM)58深層循環(huán)神經(jīng)網(wǎng)絡(luò)
59雙向循環(huán)神經(jīng)網(wǎng)絡(luò)
60機器翻譯數(shù)據(jù)集
61編碼器-解碼器架構(gòu)
62序列到序列學(xué)習(xí)(seq2seq)
63束搜索
64注意力機制
65注意力分?jǐn)?shù)
66 使用注意力機制的seq2seq
67自注意力
69 BERT預(yù)訓(xùn)練
70 BERT微調(diào)
71目標(biāo)檢測競賽總結(jié)
72優(yōu)化算法
73課程總結(jié)和進階學(xué)習(xí)【完結(jié)】