Controlli di sicurezza AI SaaS / Rubrex
Valutazioni della sicurezza LLM e della gestione dei dati per applicazioni AI, prodotti SaaS e agenti. Scopri dove l'accesso, le azioni e i dati dei clienti possono andare storti, quindi fornisci al tuo team prove su cui può agire.
La valutazione e l'ingegneria dell'intelligenza artificiale sono le nostre fondamenta. La valutazione della sicurezza applica la stessa disciplina ai confini del tuo prodotto.
01La valutazione
Un audit di sicurezza AI SaaS esamina l'applicazione, i suoi flussi di lavoro AI e i dati che toccano. Concordiamo quali controlli applicare al tuo prodotto e segnaliamo esplicitamente le aree non testate.
Verifica se i prompt non attendibili, i documenti recuperati o gli output degli strumenti possono modificare l'attività autorizzata di un assistente.
Verificare se utenti e agenti possono accedere solo ai record, ai documenti e alle azioni consentite dai loro ruoli.
Traccia i dati dei clienti attraverso l'applicazione, i fornitori di modelli, la registrazione, l'analisi e l'archiviazione.
Esaminare l'applicazione attorno al modello, comprese le interfacce che accettano dati ed eseguono azioni.
Valutare se il sistema recupera prove consentite e rilevanti e preserva il significato quando elabora i dati.
Misura il comportamento del flusso di lavoro dell'intelligenza artificiale quando prove, strumenti o fornitori falliscono e dopo una soluzione proposta.
02Rivendicazioni sui dati, rese specifiche
Elaborare una richiesta, conservare un registro, condividere dati con un fornitore e utilizzare i dati per la formazione sono attività diverse. Una valutazione utile identifica l’affermazione, le prove e i limiti.
| Domanda | Prove da esaminare | Ciò che distingue il rapporto |
|---|---|---|
| I contenuti dei clienti vengono utilizzati per la formazione? | Percorsi dei dati, impostazioni del fornitore, termini applicabili e record disponibili. | Configurazione osservata, dichiarazioni contrattuali e comportamento che non possiamo controllare. |
| Un cliente può accedere ai dati di un altro? | Test di autorizzazione tra API, recupero, archiviazione e cache. | I ruoli e i percorsi testati, comprese eventuali lacune nell'accesso o nella copertura. |
| What remains after deletion? | Eliminazione di flussi di lavoro, log, conservazione del provider, backup ed eccezioni documentate. | Comportamento di eliminazione verificato rispetto alla conservazione che dipende dalla policy o da una terza parte. |
| I dati estratti o generati sono corretti? | Casi di riferimento rappresentativi, controlli a livello di campo e supporto della fonte. | Qualità misurata nel set di valutazione, separata dai risultati di sicurezza e privacy. |
03Ciò che conserva la tua squadra
Versione del prodotto valutato, ambienti, sistemi autorizzati, percorsi dati ed esclusioni.
Problemi prioritari relativi ai componenti interessati, prove di riproduzione, impatto aziendale e soluzioni consigliate.
Casi concordati, comportamento osservato, configurazioni, domande irrisolte e risultati per le correzioni riesaminate nell'ambito.
Un riepilogo esecutivo, una relazione tecnica e le azioni successive. Una sintesi pubblica separata può essere preparata se concordato e supportato da prove.
04Come si svolge il lavoro
Il test inizia con l'autorizzazione scritta, i sistemi target, le azioni consentite e le condizioni di arresto. Utilizziamo dati sintetici o approvati e registriamo i limiti dell'accesso disponibile.
L'ambito mappa i controlli rilevanti per OWASP ASVS e considera le linee guida OWASP per LLM e rischi agenti. Il rapporto nomina le versioni e i requisiti effettivamente utilizzati.
Leggi il metodo di valutazioneMappa il flusso di lavoro dell'intelligenza artificiale, i flussi di dati, le autorizzazioni e le domande a cui la valutazione deve rispondere.
Esegui controlli concordati, esamina le prove a sostegno e separa i problemi osservati da quelli non verificati.
Spiegare l'impatto, proporre correzioni e registrare il risultato dei nuovi test concordati rispetto al sistema aggiornato.
Fornire risultati, limitazioni rimanenti e un piano pratico per la prossima azione.
05Badge di valutazione
Un badge di valutazione Rubrex deve identificare uno specifico prodotto recensito e collegarsi a un registro pubblico con ambito, date, riepilogo delle prove e stato attuale. Non può significare “rischio zero” o “nessun utilizzo dei dati”.
L'idoneità al badge dipende da criteri documentati e prove di ripetizione del test. Qualsiasi modifica sostanziale al sistema valutato richiede la revisione delle richieste interessate.
Leggi i requisiti del badge06Prima di iniziare
Si tratta di una valutazione mirata della sicurezza dell'applicazione di un prodotto AI, dei limiti del modello e dell'agente e della gestione dei dati dei clienti. Rubrex può anche valutare il recupero, i dati strutturati e la qualità dell'output rispetto ai requisiti concordati. Il rapporto separa i risultati sulla sicurezza dai risultati sulla qualità.
Possiamo esaminare i flussi di dati dell'applicazione, le impostazioni pertinenti del fornitore, i contratti e le prove tecniche disponibili per una dichiarazione di utilizzo della formazione definita con precisione. Una dichiarazione del provider è etichettata come tale. Non possiamo dimostrare il comportamento interno non divulgato di un fornitore da un test applicativo o estendere una scoperta oltre la configurazione valutata.
Gli audit di sicurezza hanno un ambito separato. Lo Sprint rimane una valutazione di 10 giorni lavorativi di un caso d'uso. Se entrambi sono necessari, concordiamo il modo in cui i casi di valutazione, i controlli di sicurezza e i risultati finali si integrano prima dell'inizio del lavoro.
L'automazione e l'analisi assistita dall'intelligenza artificiale possono supportare il lavoro concordato. I risultati necessitano di prove riproducibili e di revisione; I giudizi generati dal modello o i risultati dello scanner da soli non sono sufficienti a suffragare una richiesta di valutazione. Eventuali strumenti che elaborano i dati del cliente devono essere concordati prima dell'uso.
Concordiamo per iscritto i sistemi target, i test consentiti, i resoconti dei test, i tempi, le condizioni di arresto e le condizioni dei dati. A seconda dell'ambito, gli input utili includono architettura, codice, configurazione del provider e un ambiente di test con dati sintetici o approvati. Le limitazioni di accesso sono registrate nel report.
No. Un badge deve fare riferimento a una valutazione specifica e datata e a un registro di verifica pubblica che ne spieghi la portata e lo stato. Non può promettere zero vulnerabilità, garantire la conformità legale o sostituire la certificazione SOC 2 o ISO. Il pagamento acquista la valutazione, non un risultato positivo.
Ricerca correlata
L'iniezione tempestiva, le azioni degli strumenti non autorizzati e l'abuso automatizzato dei costi influenzano diversi limiti. Una valutazione concordata può esaminare le decisioni di accesso, i limiti delle risorse e i risultati degli strumenti insieme al comportamento del modello. La nostra guida pratica mostra come definire un test, raccogliere prove e verificare una soluzione proposta.
07Inizia la conversazione
Raccontaci cosa stai costruendo e la decisione che devi prendere. Se c'è una soluzione, ti invieremo un'e-mail per organizzare una chiamata esplorativa di 20 minuti. Per questa prima conversazione non è necessario l'accesso al sistema.