DSOC研究員の吉村です. 先日, iPhoneXRに機種変更をしました. 合わせてバーコード決済やSuicaを使えるようにしたのですが, 支払いするのも電車に乗るのもスマホだけで完結できるというのは非常に便利ですね.
さて, 今回も前回に引き続き敵対的摂動に対するモデルの頑健性の測り方についての話です. 前回は MLP (Multi Layer Perceptron) や CNN (Convolutional Neural Network) に対する頑健性の評価手法として知られる CLEVER (Cross Lipschitz Extreme Value for Network Robustness) [*1] についての紹介をしました. 前回の記事の「おわりに」の部分でも述べましたが, CLEVERはRNN (Recurrent Neural Network) 系のモデルの頑健性を測定できないことが知られています. そこで, 今回はRNN系のモデルに対しても敵対的摂動に対するモデルの頑健性を測定することが可能となる POPQORN (Propagated Output Quantified Robustness for RNNs) [*2] の紹介をします.
*1:T. W. Weng, H. Zhang, P. Y. Chen, J. Yi, D. Su, Y. Gao, C. J. Hsieh, and L. Daniel, "Evaluating the Robustness of Neural Networks: An Extreme Value Theory Approach," in ICLR, 2018.
*2:C. Y. Ko, Z. Lyu, T. W. Weng, L. Daniel, N. Wong, and D. Lin, "POPQORN: Quantifying Robustness of Recurrent Neural Networks," in ICML, 2019.