カスペルスキー、主要なサイバー脅威に関する年次レポート「今年の話題：サイバーセキュリティにおけるAIの影響」を発表
- 2023/12/21 10:30
- SecurityInsight
カスペルスキーは12月19日、主要なサイバー脅威についてまとめた年次レポート「Kaspersky Security Bulletin」シリーズにおいて、「Story of the year: the impact of AI on cybersecurity（今年の話題：サイバーセキュリティにおけるAIの影響）」を発表した。生成AIがサイバーセキュリティに与える影響をもとに、2024年以降の変化について予測している。その概要は以下のとおり。
・複雑な脆弱性の増加
指示実行型のLLMがより多くの消費者向け製品に統合されるにつれて、ランダム性や確率の概念を組み込んだ確率的生成AIと、従来の予測可能で確定的な結果を生み出す決定論的技術が交わる部分に複雑な脆弱性が新たに出現することになり、サイバーセキュリティ担当者が保護すべき攻撃対象領域も拡大する。
・サイバーセキュリティ専門家を補助する総合的なAIアシスタントの登場
組織のサイバーセキュリティを強化する目的で、実際のサイバー攻撃と同様の模擬攻撃を行うレッドチームのメンバーや調査担当者は、革新的なサイバーセキュリティツールに生成AIを活用しており、LLMや機械学習（ML）を用いたアシスタントが登場する可能性が考えられる。
・詐欺の画像や動画の生成にニューラルネットワークの使用が増える
ニューラルネットワークによって詐欺師の戦術が増強されるかもしれない。AIツールを利用することで、より信頼性のある詐欺コンテンツを作ることが可能になる。信ぴょう性のある画像やビデオを手軽に生成できるため、詐欺や不正行為に関連するサイバー脅威をエスカレートさせるリスクが高くなる。
・AIは2024年のサイバー脅威を取り巻く状況を画期的に変える原動力にはならない
上述のような傾向があるにも関わらず、カスペルスキーのエキスパートたちは依然として、AIが近い将来に脅威を取り巻く状況を大きく変えることには懐疑的。生成AIがサイバー犯罪に使用されていても、サイバー攻撃を防御する側でも同じことが言えるからである。
・増加するAI関連の規制の取り組みと民間セクターの貢献
AI関連の規制の取り組みは増加傾向にある。ハイテク企業といった民間の団体は、AIの開発と利用に関する専門知識を持っているため、AI規制に関する議論において貴重な知見を提供することができる。
・AIで生成したコンテンツへのウォーターマーク（透かし）追加
合成コンテンツにフラグを立てたり識別したりするために、サービスプロバイダーは検知技術に継続的に投資を行い、開発者や研究者も合成メディアにウォーターマークを入れて識別しやすくし、そのコンテンツの出所が分かるような手法に貢献する。