1 原理
對于生成對抗網絡GAN,一個簡單的理解是可以將其看做博弈的過程,我們可以將生成模型和判別模型看作博弈的雙方,比如在犯罪分子造假幣和警察識別假幣的過程中:
- 生成模型G相當于制造假幣的一方,其目的是根據看到的錢幣情況和警察的識別技術,去盡量生成更加真實的、警察識別不出的假幣。
- 判別模型D相當于識別假幣的一方,其目的是盡可能的識別出犯罪分子制造的假幣。 這樣通過造假者和識假者雙方的較量和朝目的的改進,使得最后能達到生成模型能盡可能真的錢幣、識假者判斷不出真假的納什均衡效果(真假幣概率都為0.5)。
2 訓練
生成器G的目標是欺騙鑒別器D,其目標是能夠區分真實數據和生成數據。因此,在訓練生成器時,我們希望誤差最大化,同時我們想要使鑒別器的誤差最小化。
2.1 判別模型
目標函數是:
max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))]
其中D(x)是判別模型的輸出結果,是一個0-1范圍內的實數值,用來判斷圖片是真實圖片的概率,其中Pr和Pg分別代表真實圖像的分布與生成圖像的數據分布情況,可以看出目標函數是找到使得后面兩個式子之和最大的判別模型函數D(z),后面兩個式子是一個加和形式,其中:
E_{x-p_r} [logD(x)]
是指使得真實數據放入到判別模型D(x)輸出的計算值和整個式子值盡可能大。
E_{z-p_g } [log(1-D(x))]
指使得造假數據放入到判別模型D(x)輸出的計算值盡可能小和整個式子值盡可能大。
這樣整合下來就是使得目標函數盡可能大,因此在訓練時就可以根據目標函數進行梯度提升。
2.2 生成模型
目標是讓判別模型無法區分真實圖片和生成圖片,其目標函數是:
min_g (max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))])
也就是找到生成函數g(z)使得生成模型的目標函數盡量小。
學習更多編程知識,請關注我的公眾號:
[代碼的路]
-
神經網絡
+關注
關注
42文章
4838瀏覽量
107750 -
GaN
+關注
關注
21文章
2366瀏覽量
82226 -
函數
+關注
關注
3文章
4417瀏覽量
67499
發布評論請先 登錄
PEAK by HMS Networks 全新亮相:形象升級,實力依舊 HMS Networks 將 PEAK 正式納入產品品牌體系
生成式人工智能會讓自動駕駛更靈活嗎?
CHA8107-QCB兩級氮化鎵(GaN)高功率放大器
富士通入選2025年Gartner生成式AI工程新興市場象限領導者
安森美入局垂直GaN,GaN進入高壓時代
Leadway GaN系列模塊的功率密度
探索無限可能:生成式推薦的演進、前沿與挑戰
硅無光束肖特基二極管 - 成對和四成對 skyworksinc
NVIDIA recsys-examples在生成式推薦系統中的高效實踐
增強AlN/GaN HEMT
GaN LLC電源EMC優化技巧
生成式人工智能認證:重構AI時代的人才培養與職業躍遷路徑
功率GaN的新趨勢:GaN BDS
基于RV1126開發板網絡配置方法
GAN:生成對抗網絡 Generative Adversarial Networks
評論