本文提出在利用 GAN（對抗網(wǎng)絡(luò )）的方法時(shí)，在生成模型G和判別模型D中都加入條件信息來(lái)引導模型的訓練，并將這種方法應用于跨模態(tài)問(wèn)題，例如圖像自動(dòng)標注等。

正則化(Regularization) 是機器學(xué)習中對原始損失函數引入額外信息，以便防止過(guò)擬合和提高模型泛化性能的一類(lèi)方法的統稱(chēng)。正則化是在經(jīng)驗風(fēng)險上面加了一個(gè)正則化項或者懲罰項,正則化函數一般是模型法則度的單調增函數,模型越負責,正則化值就越大.

K近鄰算法，即是給定一個(gè)訓練數據集，對新的輸入實(shí)例，在訓練數據集中找到與該實(shí)例最鄰近的K個(gè)實(shí)例，這K個(gè)實(shí)例的多數屬于某個(gè)類(lèi)，就把該輸入實(shí)例分類(lèi)到這個(gè)類(lèi)中.

監督學(xué)習方法可以分為生成方法和判別方法,所學(xué)到的模型分別為生成模型和判別模型.

在實(shí)際生活中，常常會(huì )出現一部分樣本有標記和較多樣本無(wú)標記的情形，例如：做網(wǎng)頁(yè)推薦時(shí)需要讓用戶(hù)標記出感興趣的網(wǎng)頁(yè)，但是少有用戶(hù)愿意花時(shí)間來(lái)提供標記。若直接丟棄掉無(wú)標記樣本集，使用傳統的監督學(xué)習方法，常常會(huì )由于訓練樣本的不充足，使得其刻畫(huà)總體分布的能力減弱，從而影響了學(xué)習器泛化性能。那如何利用未標記的樣本數據呢？

VARIATIONAL RECURRENT AUTO-ENCODERS 筆記

Auto-Encoding Variational Bayes論文筆記

主要是為了列個(gè)機器學(xué)習相關(guān)的提綱,方便對已經(jīng)學(xué)過(guò)的知識進(jìn)行整理,相同的知識點(diǎn),每次或者每個(gè)階段都會(huì )有不同的想法,而我需要做的就是把自己的想法寫(xiě)下來(lái).

Dropout是用于防止過(guò)擬合和提供一種有效近似聯(lián)結指數級不同神經(jīng)網(wǎng)絡(luò )結構的方法,能夠有效的緩解深度網(wǎng)絡(luò )的過(guò)擬合現象.

和支持向量機一樣， 決策樹(shù)是一種多功能機器學(xué)習算法， 即可以執行分類(lèi)任務(wù)也可以執行回歸任務(wù)， 甚至包括多輸出（multioutput）任務(wù).