Momentum Contrast for Unsupervised Visual Representation Learning #24
Description
概要
特徴比較学習では，同じ画像の異なる変換由来のもの同士を近づけ，異なる画像同士(Negative Pair)は遠ざけるような特徴変換を学習する．
そのときNegative Pairの種類は大きいほど良いため，大規模な辞書に保存して後で引き出して利用できるようにする．しかしながらエンコーダは更新が行われるため，変換のタイミングが異なる特徴量同士を比較すると性能が悪化する．この問題を，モーメンタム法(１つ前のバッチと現在のエンコーダのparams）でエンコーダ更新を行うことで解決した．
論文リンク
https://arxiv.org/abs/1911.05722
著者/所属機関
Kaiming He, Haoqi Fan, Yuxin Wu, Saining Xie, Ross Girshick
- Facebook AI Research (FAIR)
投稿日付(yyyy/MM/dd)
2020/3/23
まとめ
