Duas semanas após comprar a startup espanhola Onum por cerca de US$ 290 milhões, a CrowdStrike anunciou, na terça-feira, 16, que planeja adquirir a Pangea Cyber por aproximadamente US$ 260 milhões. Essas aquisições fazem parte da resposta às crescentes preocupações com a segurança das plataformas de inteligência artificial generativa, que estão se expandindo rapidamente em diversas indústrias.

Fundada em 2021, a Pangea, localizada em Palo Alto, Califórnia, monitora as interações dentro de redes corporativas entre sistemas de IA, usuários e software. A empresa se especializa na proteção contra ataques de “injeção de prompt”, uma técnica em que hackers manipulam grandes modelos de linguagem (LLMs) para que eles ignorem suas regras de segurança, expondo dados ou realizando ações prejudiciais.

De acordo com George Kurtz, CEO da empresa, estamos vivendo em um momento da história da tecnologia que lembra um pouco o "Velho Oeste", ou seja, ainda no início dos desafios ligados à IA. A CrowdStrike espera que o acordo seja concluído ainda neste trimestre.

Com a rápida expansão do uso de IA para automatizar tarefas e substituir funções humanas, crescem as preocupações sobre a facilidade com que os modelos de IA podem ser manipulados. Recentemente, a Anthropic, uma das maiores startups de IA, revelou como hackers exploraram a injeção de prompt na sua plataforma Claude, forçando o modelo a ignorar suas defesas e gerar códigos para ciberataques. A empresa detectou e interrompeu a atividade.

Desafios na era da IA

Um exemplo recente registrado pela CrowdStrike envolveu um malware que usava plataformas públicas de IA para encontrar e coletar dados, adaptando-os ao sistema infectado. Outra tática inclui a inserção de campos ocultos em e-mails com prompts maliciosos, que são lidos automaticamente por agentes de IA, um ataque conhecido como "injeção de prompt indireta".

Kurtz também destacou o problema da "shadow AI", quando ferramentas de IA são usadas sem revisão ou autorização de segurança nas empresas. Um estudo do MIT, divulgado em julho, mostrou que mais de 90% dos trabalhadores usam IA comercial em suas funções, enquanto apenas 40% das empresas possuem uma assinatura corporativa.

Enquanto a cibersegurança tradicional focava em dispositivos conectados à internet, agora, segundo o CEO, as empresas precisarão gerenciar e proteger um número crescente de agentes de IA que realizam tarefas de forma independente.