AI SaaS セキュリティ監査 / Rubrex

境界をテストします。データを追跡します。

AI アプリケーション、SaaS 製品、エージェントの LLM セキュリティとデータ処理の評価。アクセス、アクション、顧客データのどこで問題が発生する可能性があるかを特定し、それに基づいて行動できる証拠をチームに提供します。

AI の評価とエンジニアリングが当社の基盤です。セキュリティ評価は、製品の周囲の境界にも同じ規律をもたらします。

モデルはシステムの一部です。

AI SaaS セキュリティ監査では、アプリケーション、その AI ワークフロー、およびそれらが触れるデータを検査します。どのチェックが貴社の製品に適用されるかに同意し、テストされていない領域を明示的に報告します。

プロンプトインジェクションとエージェントの境界

信頼できないプロンプト、取得したドキュメント、またはツールの出力がアシスタントの承認されたタスクを変更する可能性があるかどうかをテストします。

  • 直接および間接的なプロンプト注入
  • ツールの権限と承認の境界
  • 意図しないアクション、再試行、および副作用

顧客とテナントの分離

ユーザーとエージェントが、そのロールで許可されているレコード、ドキュメント、およびアクションのみにアクセスできるかどうかを確認します。

  • 認証とオブジェクトレベルの認可
  • テナント間の取得、キャッシュ、およびファイル アクセス
  • セッション処理と特権操作

データ処理とプロバイダーの設定

アプリケーション、モデルプロバイダー、ロギング、分析、ストレージを通じて顧客データを追跡します。

  • 収集、保持、および削除のパス
  • トレーニング用の設定とサポートプロバイダーの規約
  • サードパーティによる共有、ログ、機密データの漏洩

アプリケーションと API のセキュリティ

データを受け入れてアクションを実行するインターフェイスなど、モデル周辺のアプリケーションを確認します。

  • 入力検証と生成された出力の処理
  • シークレット、依存関係、アップロード、および構成
  • レート制限、リソース制限、および不正使用の制御

検索とデータ品質

システムがデータを処理するときに、許可された関連証拠を取得し、意味を保持しているかどうかを評価します。

  • 出典と古い文書または矛盾する文書
  • 引用のサポートとサポートされていない回答
  • 抽出の精度、完全性、およびスキーマの意味

故障時の製品の動作

証拠、ツール、プロバイダーが失敗したとき、および提案された修正後に AI ワークフローがどのように動作するかを測定します。

  • 代表的なタスクと回帰ケース
  • 棄権、エスカレーション、および安全な失敗動作
  • 再現性、タスクの完了、および動作限界

顧客データはどうなりますか?

リクエストの処理、ログの保持、プロバイダーとのデータの共有、トレーニングのためのデータの使用は、別のアクティビティです。有用な評価により、主張、証拠、および限界が特定されます。

合意された範囲内で調査できる質問
質問調査すべき証拠レポートの特徴
顧客のコンテンツはトレーニングに使用されますか?データ パス、プロバイダー設定、適用される条件、および利用可能なレコード。観察された構成、契約上の記述、および動作は検査できません。
ある顧客が別の顧客のデータにアクセスできますか?API、取得、ストレージ、キャッシュにわたる認証テスト。アクセスまたはカバレッジのギャップを含む、テストされた役割とパス。
削除後に何が残るのでしょうか?削除ワークフロー、ログ、プロバイダーの保持、バックアップ、および文書化された例外。ポリシーまたはサードパーティに依存する削除動作と保持を検証しました。
抽出または生成されたデータは正しいですか?代表的な参考事例、現場レベルのチェック、およびソースのサポート。セキュリティとプライバシーの調査結果とは別に、評価セットで測定された品質。

調査できる結果。再テストできる修正。

スコープとデータフローマップ

評価された製品バージョン、環境、承認されたシステム、データ パス、および除外対象。

証拠に裏付けられた調査結果

影響を受けるコンポーネント、再現の証拠、ビジネスへの影響、推奨される修正に関する優先順位付けされた問題。

評価および再テストの記録

合意されたケース、観察された動作、構成、未解決の質問、および範囲内で再テストされた修正の結果。

意思決定準備完了ハンドオフ

エグゼクティブ サマリー、技術レポート、および次のアクション。同意され、証拠によって裏付けられた場合には、別の公開概要を作成することができます。

レポートの概要を確認する

範囲に同意します。証拠に従ってください。

テストは、書面による承認、ターゲット システム、許可されたアクション、および停止条件から始まります。当社は合成データまたは承認されたデータを使用し、利用可能なアクセスの制限を記録します。

このスコープは、関連するチェックを OWASP ASVS にマッピングし、LLM およびエージェントのリスクに対する OWASP ガイダンスを考慮します。レポートには、実際に使用されたバージョンと要件が記載されています。

評価方法を読む
  1. システムとクレームを定義する

    AI ワークフロー、データ フロー、権限、および評価で回答する必要がある質問をマッピングします。

  2. テストとレビュー

    合意されたチェックを実行し、裏付けとなる証拠を調査し、観察された問題を未検証の懸念事項から分離します。

  3. 優先順位を付けて再テストする

    影響を説明し、修正を提案し、更新されたシステムに対する合意された再テストの結果を記録します。

  4. 決定を引き渡す

    調査結果、残された限界、および実用的な次の行動計画を提供します。

主張は証拠につながる必要があります。

Rubrex 評価バッジは、特定のレビュー対象製品を識別し、範囲、日付、証拠の概要、および現在のステータスを含む公的記録にリンクする必要があります。 「ゼロリスク」や「データ使用なし」を表すことはできません。

バッジの適格性は、文書化された基準と再テストの証拠によって決まります。評価対象のシステムに重大な変更を加える場合は、影響を受けるクレームを確認する必要があります。

バッジの要件を読む

役立つ回答がいくつかあります。

AI SaaS セキュリティ監査とは何ですか?

これは、AI 製品のアプリケーション セキュリティ、モデルとエージェントの境界、顧客データの処理に関する範囲を限定した評価です。 Rubrex は、合意された要件に照らして、検索、構造化データ、および出力品質を評価することもできます。このレポートでは、セキュリティに関する調査結果と品質に関する調査結果が分離されています。

顧客データがモデルのトレーニングに使用されていないことを確認できますか?

アプリケーションのデータ フロー、関連するプロバイダーの設定、契約、および正確に定義されたトレーニング使用の主張に関する利用可能な技術的証拠を確認できます。プロバイダー ステートメントにはそのようにラベルが付けられます。プロバイダーの未公開の内部動作をアプリケーション テストから証明したり、評価された設定を超えて調査結果を拡張したりすることはできません。

これは AI 信頼性スプリントの一部ですか?

セキュリティ監査の範囲は個別に定められています。スプリントは引き続き 1 つのユースケースを 10 営業日で評価します。両方が必要な場合は、作業を開始する前に、評価ケース、セキュリティ チェック、成果物がどのように組み合わされるかについて合意します。

監査の実行に AI を使用していますか?

自動化と AI 支援分析は、合意された作業をサポートできます。調査結果には再現可能な証拠とレビューが必要です。モデルによって生成された判断やスキャナーの出力だけでは、評価の主張を実証するには十分ではありません。クライアントデータを処理するツールは使用前に同意する必要があります。

どのようなアクセスと承認が必要ですか?

当社は、ターゲット システム、許可されたテスト、テスト アカウント、タイミング、停止条件、およびデータ条件に書面で同意します。範囲に応じて、有用な入力には、アーキテクチャ、コード、プロバイダー構成、合成データまたは承認済みデータを使用したテスト環境が含まれます。アクセス制限はレポートに記録されます。

評価バッジはセキュリティやコンプライアンスを保証しますか?

いいえ。バッジは、特定の日付の付いた評価と、その範囲とステータスを説明する公的検証記録を参照する必要があります。脆弱性ゼロを約束したり、法的コンプライアンスを確立したり、SOC 2 や ISO 認証の代わりをしたりすることはできません。支払いによって購入されるのは評価であり、合格結果ではありません。

LLM セキュリティとボット悪用テスト。

プロンプト インジェクション、不正なツール アクション、および自動化されたコスト乱用は、さまざまな境界に影響を与えます。合意された評価では、アクセスの決定、リソースの制限、ツールの結果をモデルの動作とともに調査できます。私たちの実践的なガイドでは、テストを定義し、証拠を収集し、提案された修正を検証する方法を説明します。

から始めてください
スコープ呼び出し。

あなたが構築しているものと、下す必要がある決定について教えてください。適合する場合は、20 分間の範囲確認の電話を手配するようメールでお知らせします。この最初の会話にはシステム アクセスは必要ありません。

これから話す内容
  • ユースケースと発生している問題。
  • 持っている証拠と最初に何をテストするか。
  • スプリント、監査、またはエンジニアリングの取り組みが適合するかどうか。
evals@rubrex.ai
次に何が起こるか
  1. お客様のリクエストを検討し、お手伝いできるかどうかを検討します。
  2. ご都合が合えば、メールで通話時間について合意させていただきます。
  3. 作業を開始する前に書面で作成した範囲と見積もり。

高レベルを維持してください。資格情報、機密データセット、顧客記録はありません。 このメッセージの処理方法.