【深度學習】李沐《動手學深度學習》的PyTorch實現已完成

這個項目是中文版《動手學深度學習》中的代碼進行整理，用Pytorch實現，是目前全網最全的Pytorch版本。

項目作者：吳振宇博士

簡介

??Dive-Into-Deep-Learning-PyTorch-PDF這個項目對中文版《動手學深度學習》中的代碼進行整理，并參考一些優秀的GitHub項目給出基于PyTorch的實現方法。為了方便閱讀，本項目給出全書PyTorch版的PDF版本。歡迎大家Download，Star，Fork。除了原書內容外，我還為每一章增加了本章附錄，用于對該章節中用到的函數以及數學計算加以詳細說明，除此之外還增加了語義分割網絡（U-Net）的實現，是目前全網最完整的版本。

項目地址為：https://github.com/wzy6642/Dive-Into-Deep-Learning-PyTorch-PDF。

??項目中包含的文件夾有：

code：用于對書中每一章的代碼進行整理，

data：給出書中用到數據的百度云鏈接，

pdf：存放《動手學深度學習》PyTorch版的PDF版本。

??原書作者：阿斯頓·張、李沐、扎卡里 C. 立頓、亞歷山大 J. 斯莫拉以及其他社區貢獻者。

目錄

• 1. 預備知識
• 1.1 數據操作
• 1.2 自動求梯度
• 1.3 查閱文檔
• 1.4 本章附錄
• 2. 深度學習基礎
• 2.1 線性回歸
• 2.2 線性回歸的從零開始實現
• 2.3 線性回歸的簡潔實現
• 2.4 softmax回歸
• 2.5 圖像分類數據集（Fashion-MNIST）
• 2.6 softmax回歸的從零開始實現
• 2.7 softmax回歸的簡潔實現
• 2.8 多層感知機
• 2.9 多層感知機的從零開始實現
• 2.10 多層感知機的簡潔實現
• 2.11 模型選擇、欠擬合和過擬合
• 2.12 權重衰減
• 2.13 丟棄法
• 2.14 正向傳播、反向傳播和計算圖
• 2.15 數值穩定性和模型初始化
• 2.16 實戰Kaggle比賽：房價預測
• 2.17 本章附錄
• 3. 深度學習計算
• 3.1 模型構造
• 3.2 模型參數的訪問、初始化和共享
• 3.3 自定義層
• 3.4 讀取和存儲
• 3.5 GPU計算
• 3.6 本章附錄
• 4. 卷積神經網絡
• 4.1 二維卷積層
• 4.2 填充和步幅
• 4.3 多輸入通道和多輸出通道
• 4.4 池化層
• 4.5 卷積神經網絡（LeNet）
• 4.6 深度卷積神經網絡（AlexNet）
• 4.7 使用重復元素的網絡（VGG）
• 4.8 網絡中的網絡（NiN）
• 4.9 含并行連結的網絡（GoogLeNet）
• 4.10 批量歸一化
• 4.11 殘差網絡（ResNet）
• 4.12 稠密連接網絡（DenseNet）
• 4.13 本章附錄
• 5. 循環神經網絡
• 5.1 語言模型
• 5.2 循環神經網絡
• 5.3 語言模型數據集（周杰倫專輯歌詞）
• 5.4 循環神經網絡的從零開始實現
• 5.5 循環神經網絡的簡潔實現
• 5.6 通過時間反向傳播
• 5.7 門控循環單元（GRU）
• 5.8 長短期記憶（LSTM）
• 5.9 深度循環神經網絡
• 5.10 雙向循環神經網絡
• 5.11 本章附錄
• 6. 優化算法
• 6.1 優化與深度學習
• 6.2 梯度下降和隨機梯度下降
• 6.3 小批量隨機梯度下降
• 6.4 動量法
• 6.5 AdaGrad算法
• 6.6 RMSProp算法
• 6.7 AdaDelta算法
• 6.8 Adam算法
• 6.9 本章附錄
• 7. 計算性能
• 7.1 命令式和符號式混合編程
• 7.2 自動并行計算
• 7.3 多GPU計算
• 7.4 本章附錄
• 8. 計算機視覺
• 8.1 圖像增廣
• 8.2 微調
• 8.3 目標檢測和邊界框
• 8.4 錨框
• 8.5 多尺度目標檢測
• 8.6 目標檢測數據集（皮卡丘）
• 8.7 單發多框檢測（SSD）
• 8.8 區域卷積神經網絡（R-CNN）系列
• 8.9 語義分割和數據集
• 8.10 全卷積網絡（FCN）
• 8.11 樣式遷移
• 8.12 實戰Kaggle比賽：圖像分類（CIFAR-10）
• 8.13 實戰Kaggle比賽：狗的品種識別（ImageNet Dogs）
• 8.14 語義分割網絡（U-Net）
• 8.15 本章附錄
• 9. 自然語言處理
• 9.1 詞嵌入（word2vec）
• 9.2 近似訓練
• 9.3 word2vec的實現
• 9.4 子詞嵌入（fastText）
• 9.5 全局向量的詞嵌入（GloVe）
• 9.6 求近義詞和類比詞
• 9.7 文本情感分類：使用循環神經網絡
• 9.8 文本情感分類：使用卷積神經網絡（textCNN）
• 9.9 編碼器—解碼器（seq2seq）
• 9.10 束搜索
• 9.11 注意力機制
• 9.12 機器翻譯
• 9.13 本章附錄

環境

matplotlib==3.3.2
torch==1.1.0
torchvision==0.3.0
torchtext==0.4.0
CUDA Version==11.0

致謝