Microsoft revela que cibercriminosos usam ChatGPT para aprimorar golpes
Big tech e OpenAI divulgaram que IA generativa é usada por grupos hackers para melhorar cibercrimes. ChatGPT serve de ferramenta para ajudar em golpes
A Microsoft e a OpenAI publicaram um estudo no qual mostram que o ChatGPT é usado por cibercriminosos para melhorar seus golpes. Segundo o estudo, os grupos hackers transformam a IA generativa em um assistente de produtividade para aprimorar os seus ataques. Para combater esse uso indevido do ChatGPT, a OpenAI deletou as contas ligadas aos cibercriminosos.
As empresas explicam no estudo que esses grupos hackers utilizam a IA generativa não só para melhorar seus malwares. O ChatGPT também é usado para aprimorar as técnicas de phishing e spoofing, práticas nas quais os cibercriminosos utilizam de engenharia social para se passar por outra pessoa ou por empresa. Essa técnica exige um bom texto para convencer as vítimas e o ChatGPT permite que essas mensagens sejam feitas rapidamente.
Microsoft e OpenAI removem contas de grupos hackers
Segundo a OpenAI, com a ajuda da Microsoft, as contas de alguns grupos hackers foram deletadas do serviço do ChatGPT. As empresas alegam que essas contas são ligadas aos serviços de inteligência de algumas nações: China, Irã, Rússia e Coreia do Norte.
A investigação das companhias conseguiu detectar quais foram os usos do ChatGPT por esses cibercriminosos. Em sua maioria, os grupos utilizaram a IA generativa para aprimorar scripts e gerar conteúdo para campanhas de phishing. O grupo Forest Blizzard, associado ao órgão de inteligência das forças armadas da Rússia, também usou a IA para analisar códigos abertos de pesquisas por comunicação via satélite.
O ChatGPT possui limitações para impedir que usuários criem malwares ou utilizem-no para ações negativas. Pelo que a OpenAI e Microsoft divulgaram, os grupos hackers contavam com a versão paga da IA. O ChatGPT Plus permite que os clientes utilizem outras ferramentas, como a análise e resume de documentos — a versão grátis entrega apenas a opção de digitar prompts com até 4 mil caracteres.
A Microsoft comenta que, apesar desse uso mal-intencionado do ChatGPT, nenhum ataque com LLMs foi detectado pela divisão de segurança da empresa.
Com informações: Microsoft, OpenAI e The Verge
