Sicurezza AI SaaS / Metodo di valutazione
Rendere ispezionabili la portata e le prove.
Questo metodo supporta il ns Controllo di sicurezza AI SaaS. L’ambito dell’incarico identifica i test, gli accessi, le prove e i risultati finali applicabili. Questa pagina è una descrizione del processo, non una valutazione di alcun prodotto.
1. Concordare i limiti prima del test
Registra la versione del prodotto, l'ambiente, i domini e le API di destinazione, la configurazione del modello, gli account consentiti e i sistemi di terze parti. Ottieni l'autorizzazione scritta e concorda le finestre di test, le condizioni di arresto, la gestione dei dati e i contatti di escalation.
Utilizzare dati sintetici o approvati e test limitati. L'infrastruttura di terze parti necessita della propria autorizzazione, ove applicabile. La revisione del codice, la revisione della configurazione, il test dell'applicazione e la valutazione dell'intelligenza artificiale sono inclusi solo come concordato; i componenti inaccessibili rimangono una limitazione esplicita.
2. Separate le osservazioni dalle dichiarazioni
- Testato: un input registrato, un ambiente, una configurazione e un risultato osservato supportano la scoperta.
- Recensito: codice, impostazioni o documenti supportano una conclusione più ristretta nell'ambito dell'accesso disponibile.
- Dichiarato: un fornitore o un proprietario di prodotto dichiara una pratica che Rubrex non può verificare in modo indipendente.
- Non valutato: l'assegno è stato escluso, non disponibile o inconcludente. Non deve essere segnalato come passaggio.
Per una dichiarazione di utilizzo della formazione, identificare quali dati, fornitore, configurazione dell'account, termini e periodo di tempo coprono le prove. Una revisione delle impostazioni non può stabilire ogni azione interna di un fornitore esterno.
3. Assegnare priorità, correggere e ripetere il test
Dare priorità ai risultati utilizzando l'impatto dimostrato, gli utenti o i dati interessati, i prerequisiti e l'ambiente valutato. Conservare le prove originali e registrare la correzione, le condizioni di ripetizione del test, il risultato e l'incertezza rimanente. Un rischio accettato rimane visibile come rischio accettato.
Valutare la qualità separatamente utilizzando casi di riferimento e criteri di punteggio concordati. Segnala la copertura del campione e i limiti noti invece di convertire un piccolo set di test in una dichiarazione di precisione universale.
Schema di relazione illustrativa / Audit non concluso
Cosa contiene una relazione di valutazione
Questo schema mostra la struttura prevista. Non contiene risultati del cliente, prodotto valutato o badge di passaggio.
- Riepilogo esecutivo: decisione sostenuta, rilievi significativi e azioni successive.
- Ambito: versione del prodotto, ambiente, date, obiettivi autorizzati, criteri ed esclusioni.
- Mappa del flusso di dati: input del cliente → applicazione → recupero o strumenti → fornitore del modello → output, con percorsi di log, analisi, archiviazione, conservazione ed eliminazione identificati.
- Ricerca di record: identificatore, componente interessato, tipo di prova, comportamento atteso rispetto a quello osservato, impatto, motivazione della gravità e riparazione.
- Risultati della valutazione: casi, metodo di classificazione, risultati di qualità e limiti di copertura.
- Registrazione del nuovo test: versione aggiornata, controlli ripetuti, esito e problemi irrisolti.
- Riepilogo pubblico, se concordato: istruzioni supportate con dettagli di implementazione sensibili rimossi.
I dettagli di riproduzione, i segreti e le informazioni che potrebbero esporre i clienti appartengono alla relazione tecnica riservata, non alla pagina del badge pubblico.
Requisiti per eventuale badge di valutazione Rubrex
La dicitura proposta per il badge è "Pratiche di sicurezza e dati valutate da Rubrex". Un badge non viene rilasciato semplicemente perché è stata acquistata una valutazione. L'emissione richiede una revisione completata e un record di verifica pubblicato.
- L'autorità del productowner e il prodotto/dominio valutato devono essere verificati.
- I controlli richiesti ed i criteri di superamento devono essere concordati prima di conoscere i risultati. I controlli richiesti non possono essere rimossi silenziosamente per ottenere un passaggio.
- Problemi critici o di sicurezza elevata irrisolti impediscono l'attivazione del badge. Altri risultati ed esclusioni devono essere divulgati a un livello di sicurezza.
- Ogni affermazione relativa alla pratica pubblica dei dati deve avere prove a sostegno e un confine chiaramente indicato. Le affermazioni non supportate vengono omesse.
- La correzione deve essere nuovamente testata ove necessario prima che venga confermata l'idoneità. Il solo risultato dell’intelligenza artificiale o dello scanner non è una prova sufficiente.
- Qualsiasi lavoro di ingegneria Rubrex sul prodotto valutato deve essere divulgato. La valutazione non può implicare indipendenza dal lavoro da noi svolto.
Un badge deve collegarsi a un record corrente
Il record di verifica deve identificare il prodotto e il dominio, l'ID della valutazione, l'ambito, la versione valutata, le date, il riepilogo delle prove, le limitazioni, la scadenza e lo stato. Chiunque visualizzi un badge deve essere in grado di controllare quel record su rubrex.ai.
La validità è limitata all'ambito e alla scadenza indicati. Le modifiche ai fornitori, ai flussi di dati, all'autorizzazione, agli strumenti modello o ad altri controlli valutati richiedono la revisione delle affermazioni interessate. Una valutazione scaduta, sospesa o revocata non può essere visualizzata come attiva. Il rinnovo richiede nuove prove, non solo una modifica della data.
Il badge non stabilisce SOC 2, certificazione ISO, conformità legale, zero vulnerabilità o che un prodotto non elabora mai i dati del cliente. Una valutazione è una prova limitata del sistema testato, non una promessa su ogni richiesta futura.
Se è necessario verificare una valutazione Rubrex dichiarata, inviare l'URL del prodotto e l'ID valutazione a evals@rubrex.ai. Non inviare segnalazioni o credenziali private tramite il modulo di contatto pubblico.
Riferimenti utilizzati per definire l'ambito
Queste fonti informano il progetto di valutazione. Non certificano Rubrex o un prodotto valutato. La relazione deve elencare le versioni ed i requisiti applicabili effettivamente controllati.
- Standard di verifica della sicurezza dell'applicazione OWASP 5.0.0: un riferimento per i requisiti di sicurezza dell'applicazione.
- OWASP Top 10 per applicazioni LLM e GenAI: riferimento per la copertura dei rischi applicativi del modello.
- OWASP Top 10 per applicazioni agenti: un riferimento per il comportamento dell'agente, gli strumenti e i limiti dei privilegi.