KI-SaaS-Sicherheitsaudits / Rubrex
LLM-Sicherheits- und Datenverarbeitungsbewertungen für KI-Anwendungen, SaaS-Produkte und Agenten. Finden Sie heraus, wo Zugriffe, Aktionen und Kundendaten schiefgehen können, und geben Sie Ihrem Team dann den Beweis, dass es darauf reagieren kann.
KI-Bewertung und -Engineering ist unsere Grundlage. Die Sicherheitsbewertung bringt die gleiche Disziplin an die Grenzen rund um Ihr Produkt.
01Die Bewertung
Bei einem KI-SaaS-Sicherheitsaudit werden die Anwendung, ihre KI-Workflows und die Daten, mit denen sie in Berührung kommen, untersucht. Wir vereinbaren, welche Prüfungen für Ihr Produkt gelten und weisen explizit auf ungeprüfte Bereiche hin.
Testen Sie, ob nicht vertrauenswürdige Eingabeaufforderungen, abgerufene Dokumente oder Toolausgaben die autorisierte Aufgabe eines Assistenten ändern können.
Überprüfen Sie, ob Benutzer und Agenten nur auf die Datensätze, Dokumente und Aktionen zugreifen können, die ihre Rollen zulassen.
Verfolgen Sie Kundendaten über die Anwendung, Modellanbieter, Protokollierung, Analyse und Speicherung.
Überprüfen Sie die Anwendung rund um das Modell, einschließlich der Schnittstellen, die Daten akzeptieren und Aktionen ausführen.
Bewerten Sie, ob das System zulässige, relevante Beweise abruft und die Bedeutung bei der Datenverarbeitung bewahrt.
Messen Sie, wie sich der KI-Workflow verhält, wenn Beweise, Tools oder Anbieter ausfallen und nach einer vorgeschlagenen Lösung.
02Datenansprüche, konkretisiert
Das Verarbeiten einer Anfrage, das Aufbewahren eines Protokolls, das Teilen von Daten mit einem Anbieter und die Verwendung von Daten für Schulungen sind verschiedene Aktivitäten. Eine sinnvolle Beurteilung identifiziert den Anspruch, die Beweise und die Grenzen.
| Frage | Zu prüfende Beweise | Was der Bericht auszeichnet |
|---|---|---|
| Werden Kundeninhalte für Schulungen verwendet? | Datenpfade, Anbietereinstellungen, geltende Bedingungen und verfügbare Datensätze. | Beobachtete Konfiguration, Vertragserklärungen und Verhalten können wir nicht überprüfen. |
| Kann ein Kunde auf die Daten eines anderen zugreifen? | Autorisierungstests für APIs, Abruf, Speicherung und Caches. | Die getesteten Rollen und Pfade, einschließlich etwaiger Lücken im Zugriff oder in der Abdeckung. |
| Was bleibt nach dem Löschen übrig? | Löschworkflows, Protokolle, Provider-Aufbewahrung, Backups und dokumentierte Ausnahmen. | Verifiziertes Löschverhalten im Vergleich zur Aufbewahrung, die von der Richtlinie oder einem Dritten abhängt. |
| Sind die extrahierten oder generierten Daten korrekt? | Repräsentative Referenzfälle, Prüfungen auf Feldebene und Quellenunterstützung. | Gemessene Qualität im Bewertungssatz, getrennt von Sicherheits- und Datenschutzergebnissen. |
03Was Ihr Team behält
Die bewertete Produktversion, Umgebungen, autorisierte Systeme, Datenpfade und Ausschlüsse.
Priorisierte Probleme mit betroffenen Komponenten, Reproduktionsnachweise, geschäftliche Auswirkungen und empfohlene Korrekturen.
Vereinbarte Fälle, beobachtetes Verhalten, Konfigurationen, ungelöste Fragen und Ergebnisse für Fixes, die innerhalb des Geltungsbereichs erneut getestet wurden.
Eine Zusammenfassung, ein technischer Bericht und die nächsten Maßnahmen. Eine separate öffentliche Zusammenfassung kann erstellt werden, wenn dies vereinbart und durch Beweise untermauert wird.
04Wie die Arbeit läuft
Der Test beginnt mit schriftlicher Autorisierung, Zielsystemen, erlaubten Aktionen und Stoppbedingungen. Wir verwenden synthetische oder genehmigte Daten und erfassen die Grenzen des verfügbaren Zugriffs.
Der Geltungsbereich ordnet relevante Prüfungen dem OWASP ASVS zu und berücksichtigt die OWASP-Richtlinien für LLM und Agentenrisiken. Der Bericht nennt die tatsächlich verwendeten Versionen und Anforderungen.
Lesen Sie die BewertungsmethodeOrdnen Sie den KI-Workflow, die Datenflüsse, Berechtigungen und Fragen zu, die die Bewertung beantworten muss.
Führen Sie vereinbarte Prüfungen durch, prüfen Sie unterstützende Beweise und trennen Sie beobachtete Probleme von unbestätigten Bedenken.
Erklären Sie die Auswirkungen, schlagen Sie Korrekturen vor und zeichnen Sie die Ergebnisse der vereinbarten erneuten Tests mit dem aktualisierten System auf.
Stellen Sie Ergebnisse, verbleibende Einschränkungen und einen praktischen Plan für die nächsten Maßnahmen bereit.
05Bewertungsabzeichen
Ein Rubrex-Bewertungsabzeichen muss ein bestimmtes bewertetes Produkt identifizieren und auf eine öffentliche Aufzeichnung mit Umfang, Datum, Beweiszusammenfassung und aktuellem Status verweisen. Es kann nicht für „kein Risiko“ oder „keine Datennutzung“ stehen.
Die Berechtigung zum Abzeichen hängt von dokumentierten Kriterien und Nachprüfungsnachweisen ab. Jede wesentliche Änderung des bewerteten Systems erfordert eine Überprüfung der betroffenen Ansprüche.
Lesen Sie die Abzeichenanforderungen06Bevor wir beginnen
Es handelt sich um eine umfassende Bewertung der Anwendungssicherheit, der Modell- und Agentengrenzen sowie des Umgangs mit Kundendaten eines KI-Produkts. Rubrex kann auch den Abruf, strukturierte Daten und die Ausgabequalität anhand vereinbarter Anforderungen bewerten. Der Bericht trennt Sicherheitsergebnisse von Qualitätsergebnissen.
Wir können die Datenflüsse der Anwendung, relevante Anbietereinstellungen, Verträge und verfügbare technische Beweise für einen genau definierten Trainingsnutzungsanspruch überprüfen. Eine Anbieteraussage ist als solche gekennzeichnet. Wir können das nicht offengelegte interne Verhalten eines Anbieters nicht anhand eines Anwendungstests nachweisen oder ein Ergebnis über das bewertete Setup hinaus erweitern.
Sicherheitsüberprüfungen werden separat durchgeführt. Der Sprint bleibt eine 10-Geschäftstagige Evaluierung eines Anwendungsfalls. Wenn beides erforderlich ist, vereinbaren wir vor Beginn der Arbeiten, wie die Evaluierungsfälle, Sicherheitsüberprüfungen und Ergebnisse zusammenpassen.
Automatisierung und KI-gestützte Analyse können die vereinbarte Arbeit unterstützen. Erkenntnisse erfordern reproduzierbare Beweise und eine Überprüfung; Modellbasierte Urteile oder Scannerergebnisse allein reichen nicht aus, um einen Beurteilungsanspruch zu untermauern. Etwaige Tools, die Kundendaten verarbeiten, müssen vor der Nutzung vereinbart werden.
Wir vereinbaren die Zielsysteme, erlaubten Tests, Testkonten, Timing, Stoppbedingungen und Datenbedingungen schriftlich. Zu den nützlichen Eingaben gehören je nach Umfang Architektur, Code, Anbieterkonfiguration und eine Testumgebung mit synthetischen oder genehmigten Daten. Zugriffsbeschränkungen werden im Bericht erfasst.
Nein. Ein Abzeichen muss sich auf eine bestimmte, datierte Bewertung und ein öffentliches Verifizierungsprotokoll beziehen, das deren Umfang und Status erläutert. Es kann keine Null-Schwachstellen versprechen, die Einhaltung gesetzlicher Vorschriften gewährleisten oder für eine SOC 2- oder ISO-Zertifizierung eintreten. Durch die Zahlung wird die Beurteilung erkauft, nicht ein bestandenes Ergebnis.
Verwandte Forschung
Schnelle Injektion, unbefugte Tool-Aktionen und automatisierter Kostenmissbrauch wirken sich auf unterschiedliche Grenzen aus. Eine vereinbarte Bewertung kann neben dem Modellverhalten auch Zugriffsentscheidungen, Ressourcenbeschränkungen und Werkzeugergebnisse untersuchen. Unser praktischer Leitfaden zeigt, wie Sie einen Test definieren, Beweise sammeln und einen vorgeschlagenen Fix überprüfen.
07Starten Sie das Gespräch
Sagen Sie uns, was Sie bauen und welche Entscheidung Sie treffen müssen. Wenn alles passt, senden wir Ihnen eine E-Mail, um ein 20-minütiges Scoping-Gespräch zu vereinbaren. Für dieses erste Gespräch ist kein Systemzugriff erforderlich.