Um projeto de pesquisa open-source lançou o "Threat Terminal", um jogo que coleta dados sobre como pessoas identificam e-mails de phishing gerado por IA. O estudo é uma resposta crítica à evolução do threat landscape, onde os sinais tradicionais de phishing (erros gramaticais, formatação ruim) desaparecem com a qualidade dos modelos generativos. O jogo simula uma caixa de entrada e registra tempo de resposta, confiança e comportamentos de inspeção como análise de headers e URLs.
A nova face do phishing: personalização e urgência
A pesquisa foca em técnicas que a IA usa para enganar usuários:
Urgência artificial
criar cenários que demandam ação imediata.
Falsificação de autoridade
imitar CEOs, instituições financeiras ou órgãos governamentais com precisão linguística.
Hiperpersonalização
usar dados vazados ou públicos para tailor mensagens específicas. O jogo coleta dados anonimizados para construir um dataset realista sobre a eficácia desses vetores.
Metodologia científica aplicada à segurança
Diferente de estudos teóricos, o "Threat Terminal" é uma ferramenta de coleta de dados empíricos em larga escala. Os participantes jogam em um ambiente controlado, e suas interações são analisadas para entender quais pistas visuais ou contextuais ainda são eficazes. O projeto é open-source, permitindo que outras organizações o utilizem para treinamento de conscientização ou como base para pesquisa acadêmica.
O impacto é duplo: 1.
Para defensores
gera insights sobre como ajustar treinamentos de segurança, focando nos novos sinais de phishing de IA. 2.
Para pesquisadores
fornece um dataset valioso para treinar modelos de detecção automática, que precisam aprender a identificar a manipulação semântica, não apenas erros superficiais.
Este projeto reflete uma mudança de paradigma: a detecção de ameaças agora exige entender tanto a psicologia humana quanto as capacidades dos modelos de IA. À medida que o phishing gerado por IA se tornar comum, iniciativas como essa serão cruciais para fechar a lacuna de segurança. O jogo é um exemplo de como a comunidade pode colaborar para gerar dados que de outra forma seriam difíceis de obter.