【AIセキュリティ超入門連載】第6話が公開されました

弊社と三井物産セキュアディレクション株式会社様とdip株式会社様が運営するAIニュースメディアAINOW様との連載企画にて、連載第6弾「第6話 – AIシステムへの侵入 – 機械学習フレームワークの悪用」が公開されました。

第6話概要

本コラムでは、事前にAIモデルを細工することによって、AIが稼働するシステム上で「任意のコードを実行」する攻撃手法について取り上げます。

ここで任意のコード実行とは、アプリケーションの脆弱性を突いて攻撃者が設定した任意のプログラムコードを攻撃対象のシステム上で実行できるようにすることを指します。

AIが稼働するシステム(以下、AIシステム)上で任意のコード実行が可能になると、通常のコンピュータウイルスのようにシステム停止や情報流出、サイバー攻撃の踏み台として悪用されるなどの恐れがあり非常に危険です。

本コラムでは攻撃手法の例と対策手法について解説します。