SimSimi suspende aplicativo no Brasil após abuso “sem precedentes”

O SimSimi é um aplicativo de chatbot para iOS, Android e web. É uma diversão boba: você envia mensagens e ele vai respondendo de forma automática.

Os usuários podem sugerir respostas diretamente no aplicativo, dependendo da pergunta feita. E, nos últimos anos, o aplicativo se tornou bastante popular no Brasil, especialmente entre jovens. O que poderia dar errado?

Previsivelmente, alguns brasileiros estão ensinando frases de baixo calão ao SimSimi. O aplicativo diz ter um filtro de “palavras ruins”, mas que não funciona direito. Por isso, ele será suspenso no Brasil.

“Usuários de smartphone no Brasil não poderão mais baixar o SimSimi na Play Store/App Store”, disse a desenvolvedora coreana ISMAKER em comunicado na última sexta-feira (20). “Isso é inevitável porque o aplicativo, pelo menos nos últimos dias, teve um impacto social negativo significativo no Brasil.”

Na semana passada, uma reportagem do Estadão mostrou que o SimSimi aceita usuários de qualquer idade. Por exemplo, ele cria um perfil mesmo se você disser que tem 10 anos.

Além disso, o chatbot pode sugerir respostas ofensivas mesmo se o filtro de “palavras ruins” estiver configurado para “quase nunca”.

Eu consegui baixar o SimSimi para Android nesta segunda-feira (23), mesmo após a suspensão. (Eu já o havia instalado uma vez no ano passado.) A versão para iOS foi removida da App Store brasileira.

Ele começa exibindo os termos e condições em inglês, dizendo que “você concorda em não usar o SimSimi se tiver menos de 13 anos (fora dos EUA, menos de 14 anos)”. Então eu criei um perfil dizendo que nasci em 2008, e fui imediatamente aceito.

Comecei com algumas perguntas leves, como “você vai matar minha família?”, e a resposta foi “sim”. Perguntei se ele gostava de drogas, e o chatbot disse que sim, “principalmente tranzando (sic) e bebendo muita vodka!”.

Por fim, enviei várias vezes a mensagem “vou te desinstalar” até receber uma ameaça.

Na Play Store, o SimSimi tem classificação etária de 16 anos. Ainda assim, o aplicativo deveria ter mais proteções para evitar que menores de idade usem o app. Alguns países, como os EUA, têm regras bem duras para proteger usuários com menos de 13 anos.

A ONG SaferNet publicou um texto dizendo que “o aplicativo tem se disseminado rapidamente nas escolas brasileiras, preocupando pais e educadores”. Ela recomenda desinstalar o SimSimi “enquanto o problema não for definitivamente resolvido”.

A ISMAKER diz que, “devido à barreira do idioma”, não tem como verificar se brasileiros estão abusando do app. “Somos uma microequipe na Coreia do Sul e podemos nos comunicar em coreano e inglês”, lembra a empresa.

Por isso, eles criaram um formulário no Google para receber ajuda de usuários no Brasil. Você pode colocar a resposta ofensiva e sua tradução em inglês (ou coreano).

“Esse tipo de abuso não tem precedentes, e o Brasil será excluído dos países em que publicamos o SimSimi até acreditarmos que temos controle suficiente sobre isso”, diz a empresa no comunicado.

Com informações: SimSimi, Estadão.

Receba mais notícias do Tecnoblog na sua caixa de entrada

E-mail:

* ao se inscrever você aceita a nossa política de privacidade