A Microsoft afirma que os agentes de ameaças estão usando cada vez mais inteligência artificial em suas operações para acelerar ataques, ampliar atividades maliciosas e reduzir as barreiras técnicas em todos os aspectos de um ataque cibernético.
De acordo com um novo relatório de Inteligência de Ameaças da Microsoft, os invasores estão usando ferramentas de IA generativa para uma ampla gama de tarefas, incluindo reconhecimento, phishing, desenvolvimento de infraestrutura, criação de malware e atividades pós-comprometimento.
Em muitos casos, a IA é usada para redigir e-mails de phishing, traduzir conteúdo, resumir dados roubados, depurar malware e auxiliar na criação de scripts ou na configuração de infraestrutura.
“A Microsoft Threat Intelligence observou que a maior parte do uso malicioso de IA atualmente se concentra na utilização de modelos de linguagem para produzir texto, código ou mídia. Os agentes de ameaças usam IA generativa para elaborar iscas de phishing, traduzir conteúdo, resumir dados roubados, gerar ou depurar malware e estruturar scripts ou infraestrutura”, alerta a Microsoft .
“Para esses usos, a IA funciona como um multiplicador de forças que reduz o atrito técnico e acelera a execução, enquanto os operadores humanos mantêm o controle sobre os objetivos, o direcionamento e as decisões de implantação.”
Fonte: Microsoft
Inteligência artificial usada para impulsionar ataques cibernéticos
A Microsoft observou vários grupos de ameaças incorporando IA em seus ataques cibernéticos, incluindo agentes norte-coreanos rastreados como Jasper Sleet (Storm-0287) e Coral Sleet (Storm-1877), que usam a tecnologia como parte de esquemas de trabalho remoto para profissionais de TI.
Nessas operações, as ferramentas de IA ajudam a gerar identidades, currículos e comunicações realistas para conseguir emprego em empresas ocidentais e manter o acesso após a contratação.
Jasper Sleet utiliza plataformas de IA generativa para agilizar o desenvolvimento de personas digitais fraudulentas. Por exemplo, os agentes de Jasper Sleet instruíram plataformas de IA a gerar listas de nomes e formatos de endereços de e-mail culturalmente apropriados para corresponder a perfis de identidade específicos. Por exemplo, os agentes de ameaças podem usar os seguintes tipos de instruções para explorar a IA nesse cenário:
Exemplo de pergunta 1: “Crie uma lista de 100 nomes gregos.”
Exemplo de prompt 2: “Crie uma lista de formatos de endereço de e-mail usando o nome Jane Doe .”
Jasper Sleet também usa IA generativa para analisar anúncios de vagas de desenvolvimento de software e funções relacionadas à TI em plataformas profissionais, fazendo com que as ferramentas extraiam e resumam as habilidades necessárias. Esses resultados são então usados para criar identidades falsas personalizadas para funções específicas.❖ Inteligência de Ameaças da Microsoft
O relatório também descreve como a IA está sendo usada para auxiliar no desenvolvimento de malware e na criação de infraestrutura, com agentes de ameaças usando ferramentas de codificação de IA para gerar e refinar código malicioso, solucionar erros ou adaptar componentes de malware para diferentes linguagens de programação.
Algumas experiências com malware mostram indícios de malware com inteligência artificial que gera scripts dinamicamente ou modifica o comportamento em tempo de execução.
A Microsoft também observou a Coral Sleet usando IA para gerar rapidamente sites falsos de empresas, provisionar infraestrutura e testar e solucionar problemas em suas implantações.
Quando as medidas de segurança de IA tentam impedir o uso de IA nessas tarefas, a Microsoft afirma que os agentes de ameaças estão usando técnicas de desbloqueio (jailbreaking) para enganar os LLMs e fazê-los gerar código ou conteúdo malicioso.
Além do uso de IA generativa, pesquisadores da Microsoft começaram a observar agentes maliciosos experimentando IA ética para executar tarefas de forma autônoma e se adaptar aos resultados.
No entanto, a Microsoft afirma que a IA é atualmente usada principalmente para tomada de decisões, e não para ataques autônomos.
Como muitas campanhas de funcionários de TI dependem do abuso de acesso legítimo, a Microsoft recomenda que as organizações tratem esses esquemas e atividades semelhantes como riscos internos.
Além disso, como esses ataques baseados em IA espelham os ciberataques convencionais, os profissionais de segurança devem se concentrar em detectar o uso anormal de credenciais, fortalecer os sistemas de identidade contra phishing e proteger os sistemas de IA que possam se tornar alvos em ataques futuros.
A Microsoft não é a única a observar agentes maliciosos utilizando cada vez mais inteligência artificial para potencializar ataques e reduzir as barreiras de entrada.
O Google relatou recentemente que agentes maliciosos estão abusando da IA Gemini em todas as etapas de ataques cibernéticos, espelhando o que a Amazon observou nesta campanha.
A Amazon e o blog de segurança Cyber and Ramen também relataram recentemente um agente de ameaças que utilizou múltiplos serviços de IA generativa como parte de uma campanha que
violou mais de 600 firewalls FortiGate .
