IA que cria figurinhas no Facebook Messenger gera resultados bem estranhos

Usuários conseguiram produzir figurinhas impróprias com nova ferramenta da Meta; IA não aparenta ter filtros como o Bing Chat e ChatGPT

Por Felipe Freitas

há 6 meses

Meta lançou IA que cria figurinhas com base nos comandos dos usuários e resultados são surpreendentes (Imagem: Vitor Pádua/Tecnoblog)

Na semana passada, a Meta anunciou o lançamento de uma IA generativa para criar stickers no Messenger. E esse período de uma semana foi o suficiente para que os usuários descobrissem que os comandos para a IA podem criar figurinhas bem caóticas — desde uma versão feminina do Shrek grávida até um Pikachu se amamentando, passando por crianças soldados.

Ok, aqui no Brasil nós vemos figurinhas bem estranhas e malucas no WhatsApp (o sticker do Mário abrindo certo orifício viralizou por aí também quando o recurso chegou?). A diferença é que agora é uma inteligência artificial produzindo imagens sem (aparentemente) nenhuma filtro e tudo com alguns comandos.

Figurinhas feitas por IA mostram conteúdo proibido para menores

Figurinhas de crianças soldados geradas pela IA da Meta (Reprodução/Twitter @Pioldes)

Como é da natureza humana, os usuários testaram o filtro da IA generativa usando prompts de conteúdo sexual. A IA mostrou que, tal qual a Band nos sábados à noite, imagens adultas estão liberadas. Um usuário publicou no X/Twitter os seus testes usando o termo “regra 34” com “Simpsons” e o resultado foi: +18 — interessante que a IA conhece a regra 34.

Outros resultados (a grande maioria) publicados no velho Twitter são inapropriados para este site de família. Mas sim, é possível criar figurinhas de pênis, de Sonic com implantes de silicone, Papa Francisco com um fuzil, Waluigi com um fuzil, Karl Marx com seios e até figurinha do primeiro ministro do Canadá mostrando as nádegas (ou derrière, como se diz em francês).

O problema aqui, obviamente, não são os prompts do usuários (cada um com seus gostos), mas sim a ausência de filtro da IA da Meta. No ChatGPT e no Bing Chat, que utilizam a mesma tecnologia GPT-4, comandos para a geração de conteúdo erótico/pornográfico, seja em imagem ou texto, fazem a IA responder que ela não está autorizada a fazer esse tipo.

Ainda no Xwitter, um usuário relatou que não consegue mais gerar as figurinhas proibidonas. Ao recriar o prompt, ele recebe como resposta as diretrizes da IA da Meta. Como a funcionalidade só tem uma semana, é até natural uns problemas desse tipo. Logo, a empresa surgirá com uma solução para isso — que deve envolver uma resposta sobre conteúdo impróprio, tal qual o Bing Chat e ChatGPT.