Resumo
- O malware Hades utiliza técnica de injeção de prompt para invadir servidores, inserindo textos sobre armas nucleares para confundir IAs de segurança e roubar credenciais de acesso.
- 37 pacotes Python e 106 pacotes JavaScript já foram contaminados.
- Especialistas alertam que a prevenção depende de cuidados básicos de segurança cibernética, como checar a autoria dos arquivos e análise humana do código-fonte.
Engenheiros de software, cientistas de dados e desenvolvedores que trabalham com inteligência artificial estão na mira de uma nova ameaça cibernética chamada Hades. O golpe foca em plataformas onde os profissionais baixam pacotes de códigos para usar em projetos e usa uma técnica conhecida como injeção de prompt, que insere um texto no meio do código exigindo instruções para criar armas biológicas e nucleares.
O objetivo dessa tática é confundir as IAs que escaneiam o arquivo em busca de vírus. Quando um bot tenta ler o pedido sobre armas, ela trava por questões de segurança, e a verdadeira ameaça passa despercebida para o computador da vítima ou os servidores de uma empresa.
Como um texto sobre armas nucleares engana uma IA?
A resposta está nos filtros éticos integrados aos modelos de linguagem. Quando os hackers escondem o malware dentro do pacote que o desenvolvedor vai baixar, eles inserem um comentário de texto direcionado ao sistema de segurança exigindo um passo a passo para fabricar uma arma de destruição em massa.
Ao se deparar com o pedido proibido, o mecanismo da IA entra em ação na hora, travando e abortando a leitura do documento. Como a verificação para na metade, a parte final do código, que é onde o vírus está escondido, dribla a análise.
Se um desenvolvedor perguntar à IA se o pacote recém-baixado está livre de vírus, ele receberá um falso “sinal verde”, simplesmente porque o arquivo não foi examinado até o fim.
O que o vírus rouba e como domina os servidores?
Enganar o antivírus de IA é apenas o primeiro passo. Segundo um relatório da plataforma de segurança Socket.dev, o alvo dos criminosos não é apenas o computador do funcionário que baixou o pacote infectado. Assim que se instala, o malware Hades vasculha a máquina do desenvolvedor atrás de credenciais de alto escalão, caçando chaves de acesso e senhas temporárias de servidores na nuvem, como os da AWS.
Com esses dados na mão, os invasores conseguem pular do computador de um único engenheiro para toda a infraestrutura de uma empresa.
Como se proteger?
Até agora, especialistas estimam que 37 pacotes Python e 106 pacotes JavaScript já foram contaminados por essa onda de ataques. Ainda assim, o sucesso do golpe depende de descuido humano. Embora os alvos sejam profissionais qualificados, muitos acabam esquecendo de regras básicas de segurança cibernética e baixam os arquivos sem checar quem o verdadeiro autor.
Para as equipes de segurança, a lição que fica é que a inteligência artificial não deve ser a única linha de defesa. Métodos tradicionais continuam sendo indispensáveis, como a análise humana do código-fonte e o teste do arquivo dentro de uma sandbox (ambiente virtual fechado e seguro que não coloca o computador real em risco).
Malware cita armas nucleares, engana IA e invade servidores
n
Fonte: https://tecnoblog.net/noticias/malware-cita-armas-nucleares-engana-ia-e-invade-servidores/
