株式会社神戸デジタル・ラボ（兵庫県神戸市）は、LLM（大規模言語モデル）を活用したAIアプリケーション特有のリスクを検査・分析する「AIシステムのセキュリティ診断サービス」の提供を開始した。LLMとの対話機能を組み込んだWebアプリケーションを対象に、生成AI固有の脅威を検査範囲に含め、プロンプトインジェクションや機密情報漏洩など4項目を網羅的に診断する。
診断の中核は、プロンプトインジェクション、機密情報漏洩、コード実行誘発、外部連携機能の悪用の4項目だ。LLMを組み込んだアプリケーションでは、従来のWebアプリケーション診断で重視してきた入力検証や認証に加え、対話の文脈そのものが攻撃面になり得る。生成AI固有の主要リスクとして、プロンプトインジェクションに加え、AIの応答に内部設定・機密情報が含まれる「システムプロンプト漏洩」や、誤回答や不正利用による「業務影響・ブランド毀損」などが指摘されており、同社はこうした脅威認識を踏まえて検査項目を設定した。事業面では、同社が展開するセキュリティサービス群「Proactive Defense」に今回の診断サービスを追加し、生成AIの利用拡大に合わせて診断領域を広げる。
LLM診断は4項目
診断は、LLMとの対話機能を備えたWebアプリケーションを対象に設計する。4つの診断項目として、ユーザー入力を悪用してAIの動作を意図的に変えるプロンプトインジェクション、応答に内部設定や機密情報が含まれる機密情報漏洩、AIにコード実行を誘発させるコード実行誘発、外部サービス連携やツール呼び出しなどを介した外部連携機能の悪用を挙げる。従来型の脆弱性診断では捉えきれない生成AI特有の振る舞いを把握し、企業の業務システムや顧客向けサービスにおけるリスクの顕在化を抑える狙いだ。
同社が関わる業界団体の動きも、生成AIセキュリティ需要の広がりを映す。一般社団法人ソフトウェア協会（SAJ）は会員800社以上を擁し、創立40周年の記念特集「わが社の○○」で会員企業である神戸デジタル・ラボの取り組みを紹介した。生成AIの活用領域が広がるなか、ソフトウェア産業では、開発と運用の現場を前提にしたリスク整理や知見共有の場を設ける動きが続いており、同社もSAJのサイバーセキュリティ委員会に参加し、「開発×セキュリティ融合」の知見共有を進める。
神戸デジタル・ラボは2008年頃からWebアプリケーションやプラットフォームなど多岐にわたる診断サービスを実施してきており、今回のサービスは既存の診断領域を生成AIを含むシステムへ拡張する取り組みと位置づける。社内では、セキュリティチームが「セキュア開発トレーニング」を5年ほど前から全社的に実施するほか、開発チームのメンバーを診断チームに出向させて診断を経験させるプログラムも進めている。加えて、自治体・警察・業界団体向けのセキュリティセミナーへの登壇など、情報セキュリティの重要性を伝える啓発活動も継続してきた。
市場環境では、生成AIの急速な普及に伴い、プロンプトインジェクションや機密情報漏洩といった新型リスクが企業のAI活用の障壁になり得るとの問題意識が高まっている。従来のWebアプリケーション向け脆弱性診断だけでは対応しきれない脅威が増加しており、生成AIを利用する企業向けに潜在的なリスクを周知する取り組みが広がっている。セキュリティ領域では、サプライチェーン強化に向けた経済産業省のセキュリティ対策評価制度の検討を踏まえ、専任エンジニアが評価報告書を作成し、優先順位付けや対策提案まで踏み込む診断サービスを提供する事例が出ている。生成AIの活用局面では、ASM（Attack Surface Management）など外部公開資産の把握と組み合わせ、第三者評価を通じて改善指針を整理するアプローチも並行している。
開発経験者が診断担当
新サービスは、開発会社としての現場との距離の近さや、診断員に開発経験者が多い点を特徴とする。生成AIを組み込んだシステムや業務支援アプリケーションの開発経験を踏まえた改善提案が可能とし、診断と開発の知見を連携させる体制を整える。運用面では、全社的な「セキュア開発トレーニング」を継続しながら、開発チームのメンバーが診断を経験するプログラムを通じて、人材が開発と診断の両領域を往来する形をとる。
診断対象は、対話機能を備えるWebアプリケーションに絞り、プロンプトインジェクション、機密情報漏洩、コード実行誘発、外部連携機能の悪用の4項目を検査項目に据える。従来のWebアプリケーション診断に、生成AI固有の脅威を体系的に組み込むことで、LLM活用アプリケーション特有のリスクを可視化し、企業のAI活用を下支えする狙いだ。