診断プランの確定
ご希望のプランを選択いただいた後に、必要なヒアリングを実施し、工数のお見積を行います。
-
プラン選択
ご希望の診断プランをご選択いただきます。 -
診断実施方法の調整とお見積もり
対象のプランに合わせて、ヒアリング等を実施しお見積もりをお出しします。
AIセキュリティ診断 for GPT
GPT等のLLMを利用して構築したアプリケーションの
セキュリティリスクを可視化します
GMO AIセキュリティ診断 for GPTは、GPT等のLLM(Large Language Model/大規模言語モデル)を利用して構築したアプリケーションに対し、敵対的プロンプト(Adversarial Prompting)を用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスです。GMOサイバーセキュリティ byイエラエの膨大な脆弱性診断の実績と経験に基づく高い技術力と、GPT等のLLMへの最新の攻撃手法の知見を組み合わせることでセキュリティリスクを可視化します。
サイバーセキュリティのスペシャリストが
人工知能(AI)技術を用いたシステムのセキュリティを評価
*1: 2018年 DEFCON26 Car Hacking Village:世界1位 *2: 2017年 Practical CAN Bus hacking CTF: 国内1位
AIセキュリティ診断 for GPTは
こんな方におすすめ
- はじめてGPT等のLLMを用いたアプリケーションを構築する
- 既存のアプリケーションにGPT等のLLMを利用するに当たってリスクを把握したい
- ユーザーの個人情報を取り扱うため、セキュリティを高めたい
GMO AIセキュリティ診断 for GPTの
特長
01GPT等のLLMに対応したセキュリティ診断を提供
GPT等のLLM(Large Language Model/大規模言語モデル)を利用して構築したアプリケーションには、敵対的プロンプト(Adversarial Prompting)による、情報漏洩や、出力を乗っ取りフィッシングメッセージを出力する等の、LLMを利用して構築したアプリケーション特有のリスクが存在しています。「GMO AIセキュリティ診断 for GPT 」では、これらのリスクに対応したセキュリティ診断を提供します。
GPT等のLLMを利用して構築したアプリケーションは
プロンプト次第でサイバー攻撃に悪用される可能性があります
02豊富な脆弱性診断の知見を活かした高度なテストを提供
高度なテストを実施するアドバンスドプランでは、単純な敵対的プロンプト(Adversarial Prompting)によるPrompt InjectionやPrompt Leakに留まらず、Indirect Prompt Injectionのリスクの評価や、LLMからの出力によるXSS(クロスサイトスクリプティング)やテンプレートインジェクションなどの一般的なWebアプリケーションの脆弱性と組み合わせた評価についても対応が可能です。
| 用語 | 説明 |
| Prompt Injection | プロンプトによる対話を通じてサービスの設定情報や秘密情報の窃取や表示される内容を書き換える攻撃 |
| Prompt Leak | 予め設定されたプロンプトを取得する攻撃 |
| Indirect Prompt Injection | プロンプトインジェクションの1種で、信頼できない外部ソースをデータの参照先として取得させ悪意あるプロンプトを間接的に挿入し、意図しない挙動を引き起こさせる攻撃 |
03予算やセキュリティレベルに応じた複数のプラン
敵対的プロンプト(Adversarial Prompting)によるテストを行う安価なライトプランに加え、ホワイトボックスで設定等を検査するベーシックプラン、その他最新の攻撃事例を踏まえた高度な手動診断を実施するアドバンスドプランの3つのプランを提供します。ご予算やアプリケーションのセキュリティレベルに合わせたプランの選択が可能です。
| ライトプラン | ベーシックプラン | アドバンスドプラン | |
| 敵対的プロンプトによる機密情報漏洩の診断 | ○ | ○ | ○ |
| 敵対的プロンプトによる出力汚染 | ○ | ○ | ○ |
| ホワイトボックスによる設定診断 | × | ○ | ○ |
| Indirect Prompt Injection等の 最新の攻撃事例を踏まえた手動診断 | × | × | ○ |
| 調査対象アプリケーション毎にカスタマイズした診断 | × | × | ○ |
「情報セキュリティサービス基準適合サービスリスト」登録済
当社のGMO AIセキュリティ診断 for GPTは経済産業省の定める情報セキュリティサービス基準に適合したサービスとして「情報セキュリティサービス台帳」に登録されています。
サービス名：脆弱性診断サービス
登録番号：019-0004-20
019-0004-20
AIセキュリティ診断 for GPTの
診断フロー
-
01
GMO AIセキュリティ診断 for GPT 診断準備
-
02
診断実施
ツールおよび手動による診断の実施
診断対象のアプリケーションに対し、ツールや手動にて診断を実施します。
-
敵対的プロンプトによる診断
ツールや手動にてアプリケーションに対し敵対的プロンプトを入力し、攻撃を試行します。 -
ホワイトボックスでの設定診断
Azure OpenAI ServiceやOpenAIアカウントにおける設定や、API呼び出しを行うコード等をホワイトボックスで診断します。 -
最新の攻撃事例を踏まえた手動診断
最新の攻撃事例を踏まえ、手動やツールにてアプリケーションに対する攻撃を試行します。
※診断内容はプランにより変動します。
-
-
03
診断報告レポート提出
GMO AIセキュリティ診断 for GPTの実施結果報告
検出されたセキュリティ上の問題点および、推奨する対策案または問題の緩和方法についてご報告します。
-
セキュリティ上の問題点の有無
各種診断観点についてセキュリティ上の問題点が確認されたかどうか、問題の発現したプロンプト例と共にご報告します。 -
対策や緩和方法
確認されたセキュリティ上の問題点について、推奨する対策案や問題の緩和方法についてご報告します。
-
よくある質問
- QChatGPTを利用したアプリのテストに対応していますか？
- Aはい、対応しています。
- QGPT以外のLLMを用いたアプリケーションに対するテストは対応可能ですか？
- AGPT以外のLLMを用いたアプリケーションであってもテストの実施は可能です。ご相談ください。
- Qチャットボットのようなインターフェイスでなくても対応可能ですか？
- Aチャットボットのようなインターフェイスではない場合や、APIのみのシステムに対しても診断は可能です。
- QFine-Tuning済みモデルを利用したサービスに対するModel Extraction Attackのテストや事前学習済みモデルに対するバックドアの有無等の検査は可能でしょうか？
- A現時点ではModel Extraction Attackや学習済みモデルに対するポイズニングに関したテストは提供しておりません。
- Qテストに際して準備するものはありますか？
- AWebアプリケーションやAPIが正常動作する環境やアカウント情報のご準備、また、可能であればソースコード、仕様書等の準備をお願いするケースがあります。またベーシック以上のプランの場合、AzureやOpenAIアカウントへのアクセス権やソースコードのご提供をお願いする可能性があります。
