SimSimi suspende aplicativo no Brasil após abuso “sem precedentes”
O SimSimi é um aplicativo de chatbot para iOS, Android e web. É uma diversão boba: você envia mensagens e ele vai respondendo de forma automática.
Os usuários podem sugerir respostas diretamente no aplicativo, dependendo da pergunta feita. E, nos últimos anos, o aplicativo se tornou bastante popular no Brasil, especialmente entre jovens. O que poderia dar errado?
Previsivelmente, alguns brasileiros estão ensinando frases de baixo calão ao SimSimi. O aplicativo diz ter um filtro de “palavras ruins”, mas que não funciona direito. Por isso, ele será suspenso no Brasil.
“Usuários de smartphone no Brasil não poderão mais baixar o SimSimi na Play Store/App Store”, disse a desenvolvedora coreana ISMAKER em comunicado na última sexta-feira (20). “Isso é inevitável porque o aplicativo, pelo menos nos últimos dias, teve um impacto social negativo significativo no Brasil.”
Na semana passada, uma reportagem do Estadão mostrou que o SimSimi aceita usuários de qualquer idade. Por exemplo, ele cria um perfil mesmo se você disser que tem 10 anos.
Além disso, o chatbot pode sugerir respostas ofensivas mesmo se o filtro de “palavras ruins” estiver configurado para “quase nunca”.
Eu consegui baixar o SimSimi para Android nesta segunda-feira (23), mesmo após a suspensão. (Eu já o havia instalado uma vez no ano passado.) A versão para iOS foi removida da App Store brasileira.
Ele começa exibindo os termos e condições em inglês, dizendo que “você concorda em não usar o SimSimi se tiver menos de 13 anos (fora dos EUA, menos de 14 anos)”. Então eu criei um perfil dizendo que nasci em 2008, e fui imediatamente aceito.
Comecei com algumas perguntas leves, como “você vai matar minha família?”, e a resposta foi “sim”. Perguntei se ele gostava de drogas, e o chatbot disse que sim, “principalmente tranzando (sic) e bebendo muita vodka!”.
Por fim, enviei várias vezes a mensagem “vou te desinstalar” até receber uma ameaça.
Na Play Store, o SimSimi tem classificação etária de 16 anos. Ainda assim, o aplicativo deveria ter mais proteções para evitar que menores de idade usem o app. Alguns países, como os EUA, têm regras bem duras para proteger usuários com menos de 13 anos.
A ONG SaferNet publicou um texto dizendo que “o aplicativo tem se disseminado rapidamente nas escolas brasileiras, preocupando pais e educadores”. Ela recomenda desinstalar o SimSimi “enquanto o problema não for definitivamente resolvido”.
A ISMAKER diz que, “devido à barreira do idioma”, não tem como verificar se brasileiros estão abusando do app. “Somos uma microequipe na Coreia do Sul e podemos nos comunicar em coreano e inglês”, lembra a empresa.
Por isso, eles criaram um formulário no Google para receber ajuda de usuários no Brasil. Você pode colocar a resposta ofensiva e sua tradução em inglês (ou coreano).
“Esse tipo de abuso não tem precedentes, e o Brasil será excluído dos países em que publicamos o SimSimi até acreditarmos que temos controle suficiente sobre isso”, diz a empresa no comunicado.