2022-02-15から1日間の記事一覧

雑記(ViTをSサイズまで学習した・Weight Decay大きくすると最後に効く)

ViTをSサイズまで学習させた SサイズというのはScaling Vision Transformersに従った分類。 将棋だとパッチ分割のサイズは関係ないので要約すると以下のサイズ。 対局結果 手元の2080tiマシンで計測。vs水匠5(4Thread)、1手1秒 モデル NPS Policy損失 Value…