Desde o início de seu protótipo no final de novembro de 2022, a ferramenta de processamento de linguagem natural com IA acumulou rapidamente mais de 1 milhão de usuários. ChatGPT gerou uma repercussão e um valor incrivelmente grande que iremos discutir ao longo deste artigo, os tópicos gerais onde esta poderosa ferramenta nos ajudará no campo da segurança cibernética e também, por que não, nos prejudicar.
Em seguida, perguntaremos ao “nosso amigo brilhante” sobre a ferramenta e deixaremos que o ChatGPT “nos conte mais sobre o assunto em detalhes.”
ChatGPT:
Continuação:
ChatGPT pode ser aplicado em segurança cibernética para conscientização e análise no âmbito de Phishing, perguntando sobre uma atividade específica à ferramenta e assim obter respostas que nos darão exemplos práticos com um checklist de boas práticas a realizar e assim obter uma grande ajuda. Além de tudo isso, podemos usá-lo para criar scripts de automação para executar tarefas específicas, analisar atividades maliciosas extraídas de logs e malware, consultar sobre a criação de certas regras, programas, checklists e soluções que são aplicadas tanto na segurança cibernética como no uso de ferramentas cibernéticas.
ChatGPT:
O processo de ajuste fino pode ser feito fornecendo ao modelo um conjunto de dados específico relevante para a tarefa em questão. Isso permite que o modelo aprenda com os exemplos e melhore seu desempenho.
Este é um breve resumo do quanto pode ser feito com ChatGPT, como você verá, ele tem um poder incrível que beneficiaria muito todas as áreas de segurança cibernética e de TI em geral a resolver, desenvolver e investigar tópicos particulares. Anteriormente resumimos como ela pode nos ajudar nos amplos campos da segurança cibernética vendo o lado bom, mas agora vamos ver um pouco mais o que ela nos diz, mas desta vez referindo-se ao Red Team ou segurança ofensiva que neste caso com uso antiético poderia causar grandes danos.
ChatGPT:
Uma maneira pela qual o ChatGPT pode ser usado na segurança ofensiva é gerando e-mails de phishing plausíveis e convincentes, mensagens de texto e outras formas de comunicação. Ao treinar o ChatGPT em exemplos de táticas de engenharia social, você pode gerar novas táticas que podem ser usadas para testar o treinamento de conscientização de segurança e os recursos de resposta a incidentes da sua organização. Eles podem ser usados para testar a capacidade da organização de detectar e responder a tentativas de phishing, bem como para treinar funcionários sobre como identificar e denunciar phishing. Também pode ser usado para gerar payloads, que são códigos maliciosos ou scripts usados para explorar vulnerabilidades em sistemas e redes. Ao treinar o ChatGPT em payloads de amostra, você pode gerar novos payloads que são difíceis de serem detectados pelos sistemas de segurança. Isso pode ser usado para testar a eficácia dos sistemas de detecção e prevenção de invasões da organização.
A seguir, mostraremos alguns exemplos de usos para segurança cibernética defensiva e ofensiva.
ChatGPT:
Como proteger a rede de uma pequena empresa:
Como analisar um e-mail malicioso:
Exemplo de um e-mail de phishing:
Bibliotecas Python para criptografar arquivos no Windows:
Principais limitações:
O modelo de recompensa do ChatGPT, projetado com base na supervisão humana, pode ser superotimizado e, portanto, prejudicar o desempenho, também conhecido como lei de Goodhart. Além disso, o ChatGPT tem conhecimento limitado dos eventos que ocorreram após 2021 e não pode fornecer informações sobre algumas celebridades. No treinamento, os revisores preferiram respostas mais longas, independentemente do entendimento real ou do conteúdo verdadeiro.
Principais aplicações em cibersegurança:
• Criação de scripts.
• Análise de malware.
• Consultas sobre o uso de ferramentas de cibersegurança.
• Geração de Payloads.
• Criação de Playbooks.
• Escrever regras YARA.
• Desenvolver expressões regulares.
• Conscientização sobre segurança cibernética.
• CTI (Inteligência de Ameaças Cibernéticas).
E muito mais.
Conclusões:
Resumimos o ChatGPT (OpenAI) no âmbito de cibersegurança, com alguns exemplos simples do que ela pode nos dar, com um pouco de criatividade algo grandioso poderia ser feito e isso é apenas o começo do que está por vir, portanto profissionais juniores de segurança cibernética dos Blue e Red Teams podem se beneficiar muito com esta nova ferramenta que pode ser usada tanto para o bem quanto para o mal, onde script kiddies e hackers black hat com pouco conhecimento poderiam se beneficiar usando para atividades maliciosas. Até agora muitas perguntas para atividades ilícitas estão sendo bloqueadas e este é já um grande passo, portanto, mais regulações serão vistas no futuro.
ChatGPT (OpenAI) uma ferramenta revolucionária.
