App gera polêmica ao ameaçar crianças de morte

Pais denunciam aplicativo SimSimi de inteligência artificial. (Foto: Divulgação)

O aplicativo SimSimi é alvo de acusações polêmicas no Brasil e no mundo. O app usa a tecnologia de inteligência artificial para conversar com os usuários e é suspeito de enviar mensagens impróprias, comba o que é SimSimi e como funciona o serviço, além de descobrir como proteger crianças de conteúdos perigosos.

O que é e como funciona o SimSimi?

O app gratuito desenvolvido pela empresa SimSimi Inc. consiste em um chat robô (ou chatbot) capaz de conversar com as pessoas. Por meio da tecnologia de inteligência artificial, o programa consegue aprender com as respostas dos usuários e, assim, aumentar a base de dados. No entanto, esse fato promove um recurso de respostas com piadas e palavrões.

Com um plano de fundo de céu azul cheio de nuvens, o chat é respondido por um simpático boneco amarelo, que pode servir como chamariz para as crianças e adolescentes. O personagem incentiva o bate-papo e, muitas vezes, parte desse conteúdo pode ser considerado ofensivo ou com teor sexual.

O visual amigável engana também os responsáveis, pois não reparam que o programa tem indicação etária de 16 anos. Além disso, a ferramenta é especificada nas lojas de aplicativos como de “violência, conteúdo sexual e drogas”.

Por que pode ser perigoso para as crianças?

Por causa do aprendizado nativo do sistema, o resultado apresentado pode não ser apropriado para crianças. A figura é capaz de fazer propostas sexuais, usar palavrões e até mesmo fazer ameaças, que podem assustar os pequenos. O relato de uma mãe, viralizado no Facebook, afirma que a aplicação ameaçava sua família de morte e, por isso, a criança teria ficado apavorada.

Por ser uma plataforma na qual o usuário se mantém anônimo, ela pode ser usada para o bullying. Isso se dá pois, em algumas conversas, o programa cita o nome de uma pessoa associada a uma característica, como, por exemplo, “Fulano é feio”. Tal conteúdo, se replicado por dispositivos de bate-papo ou redes sociais, pode ser usado para atingir outras pessoas.

Como restringir por idade?

O SimSimi não permite restringir seu uso por idade, mas conta com alguns recursos que garantem a exibição de conteúdos menos ofensivos. Ainda assim, é importante não esquecer que o programa foi desenvolvido para usuários com 16 anos ou mais e não para crianças. Portanto, para ter maior controle das aplicações usadas pelos pequenos, o Google Play um oferece um sistema de controle dos pais, bem como a App Store da Apple.

Como proteger as crianças?

O SimSimi dispões de algumas ferramentas para proteger as crianças de conteúdos indesejados. E são:

1. Remover termos ofensivos e palavrões

Para isso, acesse a opção “Configuração”. Em seguida, em “Usar palavras ruins”, arraste o “termômetro” para baixo até “Quase nunca”. No entanto, isso não significa que palavrões e termos obscenos deixarão de ser exibidos, mas aparecerão em menor frequência.

2. Proteger nomes

Na janela do chat, clique no ícone de três pontinhos no lado superior direito da tela. No menu que surgir, vá em “Nome Proteger (Beta)”. Escreva os nomes que o app não deve usar nas conversas nos campos “Seu nome” e clique em “OK”. Caso forem nomes comuns ou de artistas, a ferramenta não removerá e vai sugerir o envio de um e-mail para a fabricante com a solicitação.

3. Reportar uma frase

Caso receba uma resposta desagradável, basta pressionar o balão referente à frase por alguns segundos, e acessar o recurso “Phrase Info”. Nessa área, é possível reportar o item ao clicar em “Não diga Isso!”.

Depois informe sobre o problema e, em seguida, clique em “Aconselhe SimSimi a não dizer isso”. Caso haja mais denúncias, o termo deverá ser removido do sistema.

4. Apagar conversa e excluir app

Para apagar uma conversa, acesse novamente o menu lateral e selecione “Retirar conversa”. Por fim, vá em “Apagar.

Os usuários preocupados podem desinstalar o aplicativo no Android e também no iPhone. Vale lembrar que a aplicação não é indicada para menores de 16 anos. Portanto, se o seu filho não tem a idade apropriada, o recomendado é excluir o aplicativo do aparelho. Como o programa não solicita dados de login nem utiliza informações de serviços terceiros, como Facebook ou Gmail, não há a opção de excluir a conta.

Fonte: Techtudo