O impacto da IA de código aberto no hacking: o ponto de vista do FBI
Os hackers encontraram uma nova arma para tornar suas atividades ilícitas mais eficazes: a inteligência artificial (IA). De acordo com o FBI, os cibercriminosos estão explorando cada vez mais modelos de IA de código aberto para melhorar suas ferramentas e enganar os usuários da Internet.
Uso de IA por cibercriminosos
Os cibercriminosos utilizam chatbots baseados em modelos de linguagem como ChatGPT, Google Bard ou Claude para facilitar as suas atividades maliciosas. Ao explorar solicitações precisas, conseguem contornar as medidas e restrições de segurança implementadas pelos criadores destas ferramentas. O FBI deu o alarme, mas percebeu que os modelos de IA mais populares entre os usuários da Internet não são os favoritos dos hackers.
Modelos de código aberto, uma ferramenta preferida pelos hackers
Os hackers preferem usar modelos de IA de código aberto gratuitos e personalizáveis, em vez daqueles controlados por empresas. Esses modelos de código aberto, acessíveis a todos na Internet, podem ser facilmente usados para gerar conteúdo ilegal. Além disso, são mais leves e exigem menos poder computacional do que os grandes modelos desenvolvidos pelas gigantes do setor. Portanto, eles podem ser usados localmente em um computador ou até mesmo em um smartphone, uma vantagem para desenvolvedores e cibercriminosos. Também é interessante notar que os criminosos usam modelos personalizados de IA desenvolvidos por outros hackers. Na dark web, existem muitos chatbots projetados por hackers para gerar conteúdo ilegal, como malware. Recentemente, surgiram no mercado negro dois chatbots dedicados exclusivamente a atividades criminosas: WormGPT e FraudGPT. Esses chatbots são projetados para criar e-mails de phishing persuasivos, codificar vírus como ransomware e orquestrar ataques. Eles são vendidos a um preço alto na dark web.
Os diferentes usos da IA pelos cibercriminosos
Os hackers usam a IA de diferentes maneiras para realizar suas atividades ilícitas. Em particular, eles usam IA para criar páginas de phishing que imitam a interface das plataformas oficiais. Além disso, exploram as capacidades da IA generativa para criar vírus polimórficos, capazes de modificar o seu código a cada execução, tornando assim a sua detecção mais complicada para os antivírus tradicionais. Os golpistas também usam tecnologia deepfake para extorquir dinheiro de suas vítimas. Eles geram imagens e vídeos falsificados, retratando seus alvos em situações comprometedoras. Eles então usam esse conteúdo para assediar suas vítimas, publicando-o em redes sociais ou sites pornográficos. Além disso, os hackers não hesitam em usar IA de clonagem de voz para manipular suas vítimas pelo telefone. Ao imitar as vozes dos entes queridos, conseguem convencer os alvos a confiar neles e a dar-lhes dinheiro.
O futuro da IA e do hacking
O FBI prevê um aumento no uso criminoso de IA à medida que a tecnologia se torna mais amplamente disponível. É, portanto, essencial desenvolver estratégias de prevenção e proteção para combater a utilização maliciosa da IA pelos hackers. O esforço deve centrar-se na segurança de modelos de IA de código aberto e na implementação de medidas de segurança mais robustas para evitar a manipulação. A IA tem potencial para beneficiar a sociedade em muitas áreas, mas é imperativo garantir a sua utilização responsável e ética.
Fonte: Garon