三井物産セキュアディレクションとChillStack、AIを守る技術に関する共同研究を開始
- 2020/03/24 11:00
- SecurityInsight
三井物産セキュアディレクションとChillStackは3月19日、AIの開発・提供・利用を安全に行なうためのAIを守る技術に関する共同研究を開始することを発表した。これは、AIに対する攻撃手法には既存システムに対する攻撃手法とは根本的に原理が異なるものが多く、従来のセキュリティ技術で対策することは非常に困難であることからとしている。
この共同研究では、既知の攻撃手法の検証と体系化を行ないながら、新規の攻撃手法と防御技術の研究も同時に進めていく。実証実験の結果等を元に、AIの安全を確保する技術を普及する活動の一つとして、「一からAIの安全確保技術を習得」できるハンズオン・トレーニングを開発・提供する。
今年5月ごろから、下記内容のハンズオン・トレーニングを提供開始する予定。
・AIを騙す攻撃
人間には識別できない小さな変化を加えたデータを使用し、AIを意図的に騙す攻撃手法と対策を学ぶ。
・AIを乗っ取る攻撃
AIが学習するデータセットを汚染し、AIにバックドアを仕込むことでAIに意図した挙動をさせる攻撃手法と対策を学ぶ。
・AIシステムへの侵入
機械学習フレームワークの仕様を悪用し、システムへ侵入する攻撃手法と対策を学ぶ。
ハンズオン・トレーニングの内容を随時アップデートしながら、機械学習未経験者向けやAIセキュリティ上級者向けのトレーニング教材も今後提供していく予定となっている。