Auditorias de segurança AI SaaS / Rubrex
Avaliações de segurança e tratamento de dados LLM para aplicativos de IA, produtos SaaS e agentes. Descubra onde o acesso, as ações e os dados do cliente podem dar errado e, em seguida, forneça à sua equipe evidências de que ela pode agir.
A avaliação e engenharia de IA são a nossa base. A avaliação de segurança traz a mesma disciplina aos limites do seu produto.
01A avaliação
Uma auditoria de segurança AI SaaS examina o aplicativo, seus fluxos de trabalho de IA e os dados que eles tocam. Concordamos quais verificações se aplicam ao seu produto e relatamos explicitamente as áreas não testadas.
Teste se prompts não confiáveis, documentos recuperados ou saídas de ferramentas podem alterar a tarefa autorizada de um assistente.
Verifique se os usuários e agentes podem acessar apenas os registros, documentos e ações que suas funções permitem.
Rastreie os dados do cliente por meio do aplicativo, provedores de modelo, registro, análise e armazenamento.
Revise o aplicativo em torno do modelo, incluindo as interfaces que aceitam dados e executam ações.
Avalie se o sistema recupera evidências permitidas e relevantes e preserva o significado ao processar dados.
Avalie como o fluxo de trabalho de IA se comporta quando evidências, ferramentas ou provedores falham e após uma correção proposta.
02Reivindicações de dados, específicas
Processar uma solicitação, reter um registro, compartilhar dados com um provedor e usar dados para treinamento são atividades diferentes. Uma avaliação útil identifica a afirmação, as evidências e os limites.
| Pergunta | Evidências para examinar | O que o relatório distingue |
|---|---|---|
| O conteúdo do cliente é usado para treinamento? | Caminhos de dados, configurações do provedor, termos aplicáveis e registros disponíveis. | Configuração observada, declarações contratuais e comportamento que não podemos inspecionar. |
| Um cliente pode acessar os dados de outro? | Testes de autorização em APIs, recuperação, armazenamento e caches. | As funções e caminhos testados, incluindo quaisquer lacunas no acesso ou cobertura. |
| O que resta após a exclusão? | Fluxos de trabalho de exclusão, logs, retenção de provedor, backups e exceções documentadas. | Comportamento de exclusão verificado versus retenção que depende da política ou de terceiros. |
| Os dados extraídos ou gerados estão corretos? | Casos de referência representativos, verificações em nível de campo e suporte de origem. | Qualidade medida no conjunto de avaliação, separada das descobertas de segurança e privacidade. |
03O que sua equipe mantém
A versão do produto avaliada, ambientes, sistemas autorizados, caminhos de dados e exclusões.
Problemas priorizados com componentes afetados, evidências de reprodução, impacto nos negócios e correções recomendadas.
Casos acordados, comportamento observado, configurações, questões não resolvidas e resultados para correções testadas novamente dentro do escopo.
Um resumo executivo, relatório técnico e próximas ações. Um resumo público separado pode ser preparado quando acordado e apoiado por evidências.
04Como funciona o trabalho
O teste começa com autorização por escrito, sistemas alvo, ações permitidas e condições de parada. Utilizamos dados sintéticos ou aprovados e registramos os limites de acesso disponíveis.
O escopo mapeia verificações relevantes para o OWASP ASVS e considera a orientação do OWASP para LLM e riscos de agente. O relatório nomeia as versões e requisitos realmente utilizados.
Leia o método de avaliaçãoMapeie o fluxo de trabalho de IA, fluxos de dados, permissões e perguntas que a avaliação deve responder.
Execute verificações acordadas, examine as evidências de apoio e separe os problemas observados das preocupações não verificadas.
Explique o impacto, proponha correções e registre o resultado dos novos testes acordados em relação ao sistema atualizado.
Apresentar conclusões, limitações restantes e um plano prático de próxima ação.
05Crachás de avaliação
Um crachá de avaliação Rubrex deve identificar um produto específico revisado e vincular a um registro público com escopo, datas, resumo de evidências e status atual. Não pode significar “risco zero” ou “nenhuma utilização de dados”.
A elegibilidade do crachá depende de critérios documentados e evidências de reteste. Qualquer alteração material no sistema avaliado requer a revisão das reivindicações afetadas.
Leia os requisitos do crachá06Antes de começarmos
É uma avaliação do escopo da segurança do aplicativo de um produto de IA, dos limites do modelo e do agente e do tratamento de dados do cliente. A Rubrex também pode avaliar a recuperação, os dados estruturados e a qualidade da saída em relação aos requisitos acordados. O relatório separa as descobertas de segurança dos resultados de qualidade.
Podemos revisar os fluxos de dados do aplicativo, configurações relevantes do fornecedor, contratos e evidências técnicas disponíveis para uma declaração de uso de treinamento definida com precisão. Uma declaração de provedor é rotulada como tal. Não podemos provar o comportamento interno não divulgado de um fornecedor a partir de um teste de aplicação ou estender uma descoberta além da configuração avaliada.
As auditorias de segurança têm escopo separado. O Sprint continua sendo uma avaliação de 10 dias úteis de um caso de uso. Se ambos forem necessários, concordamos como os casos de avaliação, as verificações de segurança e os resultados se encaixam antes do início do trabalho.
A automação e a análise assistida por IA podem apoiar o trabalho acordado. As descobertas necessitam de provas reproduzíveis e de revisão; os julgamentos gerados pelo modelo ou os resultados do scanner por si só não são suficientes para fundamentar uma afirmação de avaliação. Quaisquer ferramentas que processem dados do cliente devem ser acordadas antes do uso.
Acordamos os sistemas alvo, testes permitidos, contas de teste, tempo, condições de parada e termos de dados por escrito. Dependendo do escopo, as entradas úteis incluem arquitetura, código, configuração do provedor e um ambiente de teste com dados sintéticos ou aprovados. As limitações de acesso são registradas no relatório.
Não. Um crachá deve referir-se a uma avaliação específica e datada e a um registro de verificação pública explicando seu escopo e status. Ele não pode prometer vulnerabilidades zero, estabelecer conformidade legal ou substituir a certificação SOC 2 ou ISO. O pagamento compra a avaliação, não um resultado aprovado.
Pesquisa relacionada
Injeção imediata, ações não autorizadas de ferramentas e abuso de custos automatizados afetam diferentes limites. Uma avaliação acordada pode examinar decisões de acesso, limites de recursos e resultados de ferramentas juntamente com o comportamento do modelo. Nosso guia prático mostra como definir um teste, coletar evidências e verificar uma solução proposta.
07Inicie a conversa
Conte-nos o que você está construindo e a decisão que precisa tomar. Se houver um ajuste, enviaremos um e-mail para você agendar uma ligação de definição de escopo de 20 minutos. Nenhum acesso ao sistema é necessário para esta primeira conversa.