2021-08-01から1ヶ月間の記事一覧

重み共有40ブロックモデルの学習

ここのところeasy-to-hard論文の再現に執着している。 重み共有をしたResNetで、「学習時のループ回数よりも検証時のループ回数を大きくしたときに、学習データにはないような難しい問題に対する正答率が上がる」ということを主張している論文である。重み共…

PonderNet: Learning to Ponderを読んだ際のメモ

出典 Abst 標準的なニューラルネットワークにおいて、計算量は入力のサイズに伴って大きくなるが、学習する問題の複雑さに対応して大きくなるわけではない。この限界を打ち破るために、PonderNetを提案する。このアルゴリズムは問題の複雑さに応じて計算量を…