プロンプトインジェクションとエージェントの境界
信頼できないプロンプト、取得したドキュメント、またはツールの出力がアシスタントの承認されたタスクを変更する可能性があるかどうかをテストします。
- 直接および間接的なプロンプト注入
- ツールの権限と承認の境界
- 意図しないアクション、再試行、および副作用
AI SaaS セキュリティ監査 / Rubrex
AI アプリケーション、SaaS 製品、エージェントの LLM セキュリティとデータ処理の評価。アクセス、アクション、顧客データのどこで問題が発生する可能性があるかを特定し、それに基づいて行動できる証拠をチームに提供します。
AI の評価とエンジニアリングが当社の基盤です。セキュリティ評価は、製品の周囲の境界にも同じ規律をもたらします。
01評価
AI SaaS セキュリティ監査では、アプリケーション、その AI ワークフロー、およびそれらが触れるデータを検査します。どのチェックが貴社の製品に適用されるかに同意し、テストされていない領域を明示的に報告します。
信頼できないプロンプト、取得したドキュメント、またはツールの出力がアシスタントの承認されたタスクを変更する可能性があるかどうかをテストします。
ユーザーとエージェントが、そのロールで許可されているレコード、ドキュメント、およびアクションのみにアクセスできるかどうかを確認します。
アプリケーション、モデルプロバイダー、ロギング、分析、ストレージを通じて顧客データを追跡します。
データを受け入れてアクションを実行するインターフェイスなど、モデル周辺のアプリケーションを確認します。
システムがデータを処理するときに、許可された関連証拠を取得し、意味を保持しているかどうかを評価します。
証拠、ツール、プロバイダーが失敗したとき、および提案された修正後に AI ワークフローがどのように動作するかを測定します。
02データの主張、具体化
リクエストの処理、ログの保持、プロバイダーとのデータの共有、トレーニングのためのデータの使用は、別のアクティビティです。有用な評価により、主張、証拠、および限界が特定されます。
| 質問 | 調査すべき証拠 | レポートの特徴 |
|---|---|---|
| 顧客のコンテンツはトレーニングに使用されますか? | データ パス、プロバイダー設定、適用される条件、および利用可能なレコード。 | 観察された構成、契約上の記述、および動作は検査できません。 |
| ある顧客が別の顧客のデータにアクセスできますか? | API、取得、ストレージ、キャッシュにわたる認証テスト。 | アクセスまたはカバレッジのギャップを含む、テストされた役割とパス。 |
| 削除後に何が残るのでしょうか? | 削除ワークフロー、ログ、プロバイダーの保持、バックアップ、および文書化された例外。 | ポリシーまたはサードパーティに依存する削除動作と保持を検証しました。 |
| 抽出または生成されたデータは正しいですか? | 代表的な参考事例、現場レベルのチェック、およびソースのサポート。 | セキュリティとプライバシーの調査結果とは別に、評価セットで測定された品質。 |
03チームが保管しているもの
評価された製品バージョン、環境、承認されたシステム、データ パス、および除外対象。
影響を受けるコンポーネント、再現の証拠、ビジネスへの影響、推奨される修正に関する優先順位付けされた問題。
合意されたケース、観察された動作、構成、未解決の質問、および範囲内で再テストされた修正の結果。
エグゼクティブ サマリー、技術レポート、および次のアクション。同意され、証拠によって裏付けられた場合には、別の公開概要を作成することができます。
04作業の進め方
テストは、書面による承認、ターゲット システム、許可されたアクション、および停止条件から始まります。当社は合成データまたは承認されたデータを使用し、利用可能なアクセスの制限を記録します。
このスコープは、関連するチェックを OWASP ASVS にマッピングし、LLM およびエージェントのリスクに対する OWASP ガイダンスを考慮します。レポートには、実際に使用されたバージョンと要件が記載されています。
評価方法を読むAI ワークフロー、データ フロー、権限、および評価で回答する必要がある質問をマッピングします。
合意されたチェックを実行し、裏付けとなる証拠を調査し、観察された問題を未検証の懸念事項から分離します。
影響を説明し、修正を提案し、更新されたシステムに対する合意された再テストの結果を記録します。
調査結果、残された限界、および実用的な次の行動計画を提供します。
05評価バッジ
Rubrex 評価バッジは、特定のレビュー対象製品を識別し、範囲、日付、証拠の概要、および現在のステータスを含む公的記録にリンクする必要があります。 「ゼロリスク」や「データ使用なし」を表すことはできません。
バッジの適格性は、文書化された基準と再テストの証拠によって決まります。評価対象のシステムに重大な変更を加える場合は、影響を受けるクレームを確認する必要があります。
バッジの要件を読む06始める前に
これは、AI 製品のアプリケーション セキュリティ、モデルとエージェントの境界、顧客データの処理に関する範囲を限定した評価です。 Rubrex は、合意された要件に照らして、検索、構造化データ、および出力品質を評価することもできます。このレポートでは、セキュリティに関する調査結果と品質に関する調査結果が分離されています。
アプリケーションのデータ フロー、関連するプロバイダーの設定、契約、および正確に定義されたトレーニング使用の主張に関する利用可能な技術的証拠を確認できます。プロバイダー ステートメントにはそのようにラベルが付けられます。プロバイダーの未公開の内部動作をアプリケーション テストから証明したり、評価された設定を超えて調査結果を拡張したりすることはできません。
セキュリティ監査の範囲は個別に定められています。スプリントは引き続き 1 つのユースケースを 10 営業日で評価します。両方が必要な場合は、作業を開始する前に、評価ケース、セキュリティ チェック、成果物がどのように組み合わされるかについて合意します。
自動化と AI 支援分析は、合意された作業をサポートできます。調査結果には再現可能な証拠とレビューが必要です。モデルによって生成された判断やスキャナーの出力だけでは、評価の主張を実証するには十分ではありません。クライアントデータを処理するツールは使用前に同意する必要があります。
当社は、ターゲット システム、許可されたテスト、テスト アカウント、タイミング、停止条件、およびデータ条件に書面で同意します。範囲に応じて、有用な入力には、アーキテクチャ、コード、プロバイダー構成、合成データまたは承認済みデータを使用したテスト環境が含まれます。アクセス制限はレポートに記録されます。
いいえ。バッジは、特定の日付の付いた評価と、その範囲とステータスを説明する公的検証記録を参照する必要があります。脆弱性ゼロを約束したり、法的コンプライアンスを確立したり、SOC 2 や ISO 認証の代わりをしたりすることはできません。支払いによって購入されるのは評価であり、合格結果ではありません。
関連研究
プロンプト インジェクション、不正なツール アクション、および自動化されたコスト乱用は、さまざまな境界に影響を与えます。合意された評価では、アクセスの決定、リソースの制限、ツールの結果をモデルの動作とともに調査できます。私たちの実践的なガイドでは、テストを定義し、証拠を収集し、提案された修正を検証する方法を説明します。
07会話を始めてください
あなたが構築しているものと、下す必要がある決定について教えてください。適合する場合は、20 分間の範囲確認の電話を手配するようメールでお知らせします。この最初の会話にはシステム アクセスは必要ありません。