講演情報
[1Yin-A-28]DualSoftmaxベース特徴マッチングのメモリ効率化
〇加藤 善夫1、田良島 周平1 (1. NTTドコモビジネス株式会社)
キーワード：
画像マッチング、GPGPU、DualSoftmax
DualSoftmaxベース特徴マッチング(DSM)は画像マッチングの分野において特徴量間の対応を取る方法として広く使われている。しかしながら、DSMは内部で類似度行列全体を保持する必要があり、特徴マップの大きさHWに対してO(H^2W^2)のメモリを消費する。この二次関数的な消費量はLoFTRなどの高性能なsemi-denseマッチングモデルにとって厳しいボトルネックとなる。我々は、FlashAttentionのようなメモリ効率の高いattention実装を参考に、類似度行列全体を保持せずDSMの推論処理を行うタイルベースアルゴリズムFlashDSMを提案する。我々のFlashDSMは計算の近似をしないままメモリ使用量をO(H^2W^2)からO(HW)に改善し、1280×720画像の推論においてPyTorch実装に対し50.5倍のメモリ使用量軽減、13.5倍の推論速度改善を達成した。