【AIセキュリティ超入門連載】第４話が公開されました

弊社と三井物産セキュアディレクション株式会社様とdip株式会社様が運営するAIニュースメディアAINOW様との連載企画にて、連載第4弾「第4話 – AIのプライバシー侵害 – メンバーシップ推論」が公開されました。

第４話概要

本コラムでは、攻撃者が攻撃対象のAI（以下、標的AI）に正常な入力データを与え、標的AIから応答された分類結果を観察することで、入力したデータが標的AIの学習データに含まれているか否かを推論する攻撃手法である「メンバーシップ推論攻撃（Membership Inference Attacks）」を取り上げます。

仮に標的AIが顔情報や医療情報、ライフスタイルに関する情報といった機微情報を含むデータを学習していた場合、メンバーシップ推論が行われることで、情報漏えいやプライバシー侵害が発生することになります。

そこで本コラムでは、標的AIの学習データを推論するメンバーシップ推論攻撃のメカニズムと防御手法の現状について纏めていきます。