Estabeleça um fluxo de trabalho com limites definidos para o seu teste autorizado antes de solicitar que um modelo de linguagem de grande porte (LLM) analise materiais do cliente. Um modelo de linguagem de grande porte (LLM) gera texto com base em padrões encontrados nos dados de entrada. Em um teste de intrusão, ele pode agilizar a interpretação de tarefas rotineiras; no entanto, não consegue determinar se uma afirmação é verdadeira, permitida ou adequada para entrega ao cliente.
[fontes][/fontes]
Simulação — cenário de engajamento:
Durante uma avaliação contratada para a Redwood Payments, um testador fornece a um LLM o texto de uma varredura que parece identificar uma vulnerabilidade crítica. O modelo elabora uma descrição refinada da descoberta, incluindo o CVE e o impacto nos negócios. O testador verifica os dados brutos da varredura e a versão do alvo, constata que o CVE não se aplica e descarta a descoberta antes que o relatório chegue ao cliente.
O resultado valioso não é apenas uma redação mais rápida. Trata-se de obter evidências fundamentadas, um relatório preciso e a confiança do cliente. Toda contribuição do LLM permanece dentro do escopo do engajamento e passa por uma etapa de verificação humana antes de alterar qualquer descoberta ou item a ser entregue ao cliente. Vamos incorporar essas etapas de verificação ao fluxo de trabalho da Redwood Payments:
[fontes][/fontes]
Um ponto de verificação é o momento em que o testador compara a saída do LLM com evidências primárias antes de utilizá-la. As evidências primárias incluem saídas de ferramentas aprovadas, registros de data e hora, comandos, capturas de tela e detalhes validados do alvo. O testador assume a responsabilidade pela constatação, mesmo quando o LLM organizou o material ou redigiu o texto.
Utilize o LLM para assistência delimitada. Ele pode resumir anotações de reconhecimento, realizar a triagem de resultados de varreduras, explicar uma descoberta validada e redigir partes do relatório. O LLM não deve gerar exploits, ampliar o escopo autorizado nem substituir a prova da existência de uma vulnerabilidade no alvo aprovado. Podemos seguir as verificações necessárias em cada ponto de interação permitido:
Erros de LLMs geram problemas específicos em testes de intrusão (pentests), pois uma redação bem elaborada pode conferir credibilidade a alegações sem fundamento. CVEs inventados, classificações de gravidade incorretas, falsos positivos, expansão não planejada do escopo (scope creep) e vazamento de dados exigem, cada um, um hábito de verificação distinto. Alertar sobre um possível problema só é útil quando o testador consegue reproduzi-lo ou refutá-lo com base nas evidências subjacentes.
[fontes][/fontes]
Evidências em primeiro lugar Trate um rascunho gerado por LLM como uma nota de trabalho. Uma descoberta torna-se passível de relato quando suas evidências, escopo, impacto e referências resistem à revisão do testador.
Dados do cliente estabelecem um limite à parte. Resultados de varreduras, logs, materiais de autenticação e dados pessoais podem conter informações cuja utilização em serviços externos não foi autorizada pelo cliente. Oculte ou não inclua esse material, a menos que haja autorização por escrito abrangendo o serviço e o uso específicos. Podemos associar cada tipo de falha ao hábito capaz de mitigá-la:
[fontes][/fontes]