深度學(xué)習(xí)入門(mén)教程

1. 引言

在深度學(xué)習(xí)十分火熱的今天，不時(shí)會(huì)涌現(xiàn)出各種新型的人工神經(jīng)網(wǎng)絡(luò)，想要實(shí)時(shí)了解這些新型神經(jīng)網(wǎng)絡(luò)的架構(gòu)還真是不容易。光是知道各式各樣的神經(jīng)網(wǎng)絡(luò)模型縮寫(xiě)（如：DCIGN
、BiLSTM 、DCGAN……還有哪些？)，就已經(jīng)讓人招架不住了
。

因此，這里整理出一份清單來(lái)梳理所有這些架構(gòu) 。其中大部分是人工神經(jīng)網(wǎng)絡(luò) ，也有一些完全不同的怪物。盡管所有這些架構(gòu)都各不相同、功能獨(dú)特，當(dāng)我在畫(huà)它們的節(jié)點(diǎn)圖時(shí)……其中潛在的關(guān)系開(kāi)始逐漸清晰起來(lái)。

把這些架構(gòu)做成節(jié)點(diǎn)圖，會(huì)存在一個(gè)問(wèn)題 ：它無(wú)法展示神經(jīng)網(wǎng)絡(luò)架構(gòu)內(nèi)部的工作原理。舉例來(lái)說(shuō)，變分自編碼機(jī)（VAE ：variational autoencoders ）看起來(lái)跟自編碼機(jī)（AE：autoencoders）差不多，但它們的訓(xùn)練過(guò)程卻大不相同 。訓(xùn)練后的模型在使用場(chǎng)景上差別更大