- Unidade 42 alerta que GenAI permite sites de phishing dinâmicos e personalizados
- LLMs geram cargas úteis de JavaScript exclusivas, evitando métodos tradicionais de detecção
- Pesquisadores pedem proteções mais fortes, prevenção de phishing e uso restrito de LLM no local de trabalho
Quando a Inteligência Artificial Generativa (GenAI) surgiu pela primeira vez, os primeiros formadores de opinião discutiam websites dinâmicos – sites que não são concebidos antecipadamente e revelados, mas sim gerados no local, para o visitante, dependendo da sua localização, palavras-chave utilizadas, hábitos de navegação, dispositivo utilizado, intenção, e assim por diante.
A era dos sites estáticos aparentemente estava quase no fim e, em pouco tempo, o conteúdo que veremos na internet será único e feito sob medida exclusivamente para nós.
Embora esse sonho ainda não tenha se concretizado, os pioneiros dessa abordagem provavelmente serão os cibercriminosos.
Não é exatamente teórico
Pesquisadores de segurança da Palo Alto Networks’ Unidade 42 braço descobriram que a técnica pode ser facilmente usada em phishing.
Resumindo, aqui está como funcionaria:
Uma vítima seria vítima de phishing para visitar uma página da web aparentemente benigna. Ele não contém nenhum código malicioso visível, mas, uma vez carregado, envia avisos cuidadosamente elaborados para um computador legítimo. LLM API. O LLM retorna código JavaScript (que é único e diferente para cada usuário), que é então montado e executado diretamente no navegador.
Como resultado, as vítimas são apresentadas a uma página de phishing personalizada e totalmente funcional, gerada sem carga estática entregue pela rede que os pesquisadores poderiam interceptar e analisar.
Embora o método seja hoje principalmente uma prova de conceito, também não é puramente hipotético. A Unidade 42 não disse ter observado tal ataque na natureza, mas deu a entender que os blocos de construção estão sendo usados.
LLMs já estão gerando JavaScript ofuscado, embora offline; o uso do tempo de execução em máquinas comprometidas está em toda parte; As campanhas de malware, ransomware e espionagem cibernética assistidas por LLM estão aumentando em número a cada dia.
As páginas de phishing geradas dinamicamente são o futuro dos golpes, enfatizou a Unidade 42, mas acrescentou que a detecção ainda é possível por meio de rastreadores aprimorados baseados em navegador.
“Os defensores também devem restringir o uso de serviços LLM não sancionados nos locais de trabalho. Embora esta não seja uma solução completa, pode servir como uma importante medida preventiva”, acrescentaram.
“Finalmente, nosso trabalho destaca a necessidade de proteções de segurança mais robustas em plataformas LLM, à medida que demonstramos como uma engenharia cuidadosa e imediata pode contornar as proteções existentes e permitir o uso malicioso.”
O melhor antivírus para todos os orçamentos
Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para receber notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok para notícias, análises, unboxings em formato de vídeo e receba atualizações regulares nossas em WhatsApp também.