LightWeight-GAN：0.20.0にバージョンアップ、Dual Contrastive Loss やってみました

はじめに

『LightWeight-GAN』が『0.20.0』にバージョンアップしました。
新たに『Dual Contrastive Loss』というオプションが追加されました。
というわけで学習を比較してみました。

新規追加コマンドオプション

Dual Contrastive Loss

A recent paper has proposed that a novel contrastive loss between the real and fake logits can improve quality slightly over the default hinge loss.

You can use this with one extra flag as follows

学習条件

顔の画像1024×1024を約1万枚。
オーギュメンテーションは行っていません。
『Google Colaboratory Pro』を使用して学習を行っています。

結果

学習経過

100itr

500itr

1000itr

5000itr

100000itr

200000itr

300000itr

400000itr

Interpolation

学習開始初期は、『–dual_contrast_loss』の方が、学習が速く思えましたが、
後はあまり変わりないような感じでした。

補足

同じ学習条件でも、『0.17』で作った学習モデルに『0.20』で追加学習は、できませんでした。