Especialistas em IA e Cibersegurança da Zscaler apontaram em estudo publicado recentemente o alto crescimento de Linguagens Generativas maliciosas à venda para uso de hackers na Dark Web. A análise identifica que o crescimento sem precedentes de ferramentas de IA já está entre os cibercriminosos, e demonstra cada vez mais capacidade de cooperar com campanhas de phishing e disseminação de novos malwares pelo Ciberespaço.

Um dos grandes perigos dessa nova realidade, segundo o CSO da Zscaler, Deepen Desai, é a capacidade de lançar mão de ataques direcionados e em larga escala contra diversos adversários diferentes. Por meio de soluções como WormGPT e FraudGPT, é possível aproveitar contextos específicos nas companhias miradas para criar esquemas de engenharia social mais convincentes e eficientes.

“Não estamos mais falando de campanhas genéricas de e-mails phishing que podem se encaixar em qualquer situação dos indivíduos. Agora, essas tecnologias usam informações vazadas na Dark Web para alimentar conhecimento malicioso e direcionar ataques específicos para alvos de grande valor, passando-se por executivos ou diretores empresariais para convencer a vítima de forma mais efetiva”, disse Desai em entrevista à Security Report.

O Executivo reforça que, diferentemente das linguagens públicas do ChatGPT — a inspiração para esse tipo de ferramenta maliciosa — a ideia principal dos “darkGPTs” é não possuírem guard rails para inibir usos ruins. Por isso, eles podem ser usados para escrever moldes de e-mails phishing, traçar códigos de malwares ou mesmo lançar esses formatos de ataque.

Além disso, esses mecanismos poderão ser usados para reconhecimento dos ambientes mirados pelos cibercriminosos, em busca de vulnerabilidades zero day capazes de expor a organização. Esse passo tem potencial de simplificar muito o trabalho das gangues de ransomware para que estas foquem nas campanhas de ataque. “Se o cibercrime ainda não aplicou esses usos, ele certamente fará em breve”, acrescentou o executivo.

IA contra IA

Na visão de Desai, as descobertas do estudo da Zscaler fundamentaram a necessidade de se transformar a maneira como a tecnologia generativa é encarada, especialmente do ponto de vista da Segurança. Agora, essas soluções se tornaram essenciais ao core business das organizações, portanto também se tornaram alvos para o cibercrime alimentado pela IA.

Assim, a nova fronteira do CISO será acompanhar o mesmo ritmo de atuação do negócio e do cibercrime com o uso da IA Generativa na Cibersegurança. Logo, A maior atenção sobre esse tema incentivará novas práticas uso seguro da IA nas corporações, incentivará os Líderes de Segurança a se prepararem para usar e proteger essas ferramentas.

Desai aponta que a SI deve atuar em três frentes principais: orientar uma aplicação segura da IA Generativa nas demandas de negócio, protegendo os dados; gerenciar os cuidados internos sobre LLMs privadas contra invasões que mirem especialmente essas ferramentas; e por fim, aplicar novas defesas alimentadas pela IA para lutar contra as ameaças no ciberespaço, equilibrando a luta através do uso defensivo da tecnologia emergente.

“Em resumo, os CISOs devem priorizar uso de proteções e melhores práticas baseadas em Inteligência Artificial para terem condições de enfrentar ameaças igualmente centradas na IA. Eu me considero um otimista por natureza, então penso que o futuro será bastante promissor, desde que atuemos com cautela sobre a forma de aplicarmos a tecnologia no nosso cotidiano de trabalho”, encerrou Desai.