企業に安心な生成AI活用を。不正利用の自動検知で生成AI活用を促進するサービス「Stena AI」をリリース

AIを用いた高精度な不正検知サービスやサイバーセキュリティサービスを開発・提供している株式会社ChillStack（本社：東京都渋谷区、代表取締役：伊東道明、以下「ChillStack」）は、不正利用の自動検知で生成AI活用を促進するサービス「Stena AI」の提供を開始しました。

「Stena AI」は、従業員による個人情報や非公開情報などを含むプロンプト送信を自動で検知・防止する生成AIサービスです。企業独自の利用規則に準拠し、従業員による意図しないルール外の利用を防止。最先端のAI技術がもたらす事業成長の可能性を安心して企業が取り入れられる環境を提供します。

◼️開発の背景・目的

近年、生成AIは業務効率化の強力なツールとして多くの企業で導入が進んでいます。その一方で、情報漏洩や有害情報（差別的表現や不適切な内容）の出力など、さまざまなリスクが指摘されており、企業が安心して生成AIを活用するには、信頼性の高い運用環境の整備が不可欠です。各企業は生成AIの利用についてのルールや規定の構築を進めていますが、従業員に周知し、書面等で同意を得るといった対応だけでは、実効性に不安を感じる声も散見されます。また、企業側が把握しないまま生成AIの個人利用が進んでしまい、情報漏洩リスクが高まる状況も発生しています。

ChillStackが実施した「企業における生成AI利用に関する調査」※によると、80%が生成AIの業務利用に不安を感じていました。また、64%が「従業員による個人情報・社外秘情報の誤入力と情報漏洩リスク」を懸念していることが明らかになりました。

こうした背景を踏まえ、企業が生成AIのメリットを享受し、安心して活用できる環境を提供するために「Stena AI」を開発しました。ChillStackは、生成AIの活用支援を通じて企業のデジタル変革と事業成長を支援してまいります。

※ChillStack調べ「80%が生成AIの利用に不安を抱える一方で、懸念リスクへの対策は後手に回っている実情が明らかに」

https://prtimes.jp/main/html/rd/p/000000056.000046548.html

◼️「Stena AI」について

「Stena AI」は、不正利用の自動検知で生成AI活用を促進するサービスです。世界トップレベルのAIセキュリティ技術で、生成AI利用時の情報漏洩をはじめとした不適切な利用を自動で検知・防止します。ユーザーがリスクのあるプロンプトを送信したり企業の規定に反する利用をしようとしたりすると、「Stena AI」が即座にその利用を防ぎ、機密情報や個人情報の漏洩リスクなどを劇的に低減します。

検知ルールは柔軟にカスタマイズ可能で、各企業のポリシーに基づいて検知・遮断したい通信内容を設定できます。これにより、従業員の生成AI利用におけるリスクを回避し、安心かつ安全に生成AIを業務に活用できる基盤を確立します。

特長

・LLM利活用における多様なリスクへの備え

機微情報の送受信、生成AIを活用するシステム内部での情報漏洩、不正なシステム操作、LLMの悪用・不正利用、意図しない結果の生成など、LLM利活用に伴うリスクや攻撃を防ぐことが可能です。AIセキュリティのスペシャリストが最新論文を調査し、対策を常にアップデートします。

・利用ルールの個別カスタマイズで柔軟な運用

標準ルールをベースに、企業独自のセキュリティポリシーや利用状況に合わせて、検知する内容を詳細かつ簡単に設定できます。電話番号やメールアドレスなどの個人情報パターン検知をはじめ、多言語の利用、財務情報、未公開の製品名といったさまざまなリスクに対応するルールも柔軟に組み合わせることが可能です。全社共通のルール設定に加え、部署やプロジェクトごとの異なるニーズに合わせて個別にカスタマイズすることができます。