Violência e discriminação impactam adolescentes e jovens nas redes sociais

As crianças estão se conectando à internet cada vez mais cedo no país. Segundo a pesquisa TIC Kids Online Brasil 2023, 24% dos entrevistados relataram ter começado a se conectar à rede na primeira infância, ou seja, até os seis anos de idade. Em 2015, essa proporção era de menos da metade, 11%. Atualmente, 95% da população de 9 a 17 anos é usuária de internet no Brasil, o que representa cerca de 25 milhões de pessoas, duas vezes e meia a população de Portugal.

Diante desse cenário, uma outra pesquisa, conduzida pela organização de impacto social Think Twice Brasil (TTB) com 216 adolescentes e jovens de 13 a 24 anos de diferentes regiões do país, é ainda mais preocupante. Quando perguntados se já encontraram algum conteúdo violento e/ou vídeos discriminatórios, de humilhação ou perturbadores nas redes sociais, 182 jovens (84,3%) responderam que sim.

Apresentado no primeiro semestre deste ano, em um evento em Londres, com apoio da London School of Economics and Political Science (LSE), da Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes e da International Civil Society Action Network, o estudo Algoritmos, violência e juventude no Brasil: rumo a um modelo educacional para a paz e os direitos humanos foi dividido em duas etapas e também veio acompanhado de um material para educadores e para famílias sobre violência e cultura de paz, disponibilizado para download gratuito no site da organização.

Na primeira etapa do estudo, adolescentes e jovens de diferentes regiões do país foram convidados a responder a uma pesquisa anônima sobre seu envolvimento com as redes sociais mais populares no Brasil. Com base nas respostas, uma pesquisadora criou, numa segunda etapa, uma conta no TikTok com nome fictício e interagiu com a rede social entre 1/10/2023 e 30/10/2023 diariamente, em dois horários, como se fosse um deles, observando, especialmente, a recomendação de vídeos.

De acordo do estudo, a escolha dessa rede social em específico se deu em razão de o Brasil estar entre os países com maior número de usuários desse aplicativo, sendo que a maioria são crianças e jovens.

Após a pesquisadora aplicar os cinco tópicos de maior interesse escolhidos pelos adolescentes e jovens que participaram da pesquisa (vídeos engraçados, vídeos de entretenimento, vídeos estranhamente engraçados, vídeos de beleza e vídeos de notícias e opiniões), o TikTok rapidamente começou a recomendar vários vídeos com um tom machista disfarçados de peças de humor.

VIOLÊNCIA EXPLÍCITA E CRESCENTE

De acordo com o estudo, o primeiro desses vídeos foi recomendado no quarto dia de análise e apresentava no masculino uma lista de palavras que na língua portuguesa são femininas, substituindo o artigo a por o no final das palavras. Por exemplo, “menstruado”, “lésbico”, “girafo”. Outros vídeos discriminatórios tinham como alvo principal homens negros, imigrantes (especialmente chineses e de países do Oriente Médio), homossexuais, pessoas com autismo e com nanismo. Além disso, foram identificados casos de discriminação relacionados ao peso.

“De forma geral, o que vimos foram mulheres sempre sendo tratadas de maneira estereotipada, meninos e homens negros também, associados à criminalidade, e pessoas com algum tipo de deficiência colocadas nesse lugar de incapacidade”, lamenta, em entrevista à coluna, a advogada e mestre em Direitos Humanos Gabriele Garcia, fundadora e diretora executiva do Think Twice Brasil, que participou da pesquisa como observadora. “Todos esses recortes identitários apareceram em conteúdos diversos, em sua maioria, de ‘entretenimento’, sempre tendo essas pessoas como alvo de algum tipo de discriminação, preconceito ou violação de direitos.”

Depois de 12 dias interagindo e seguindo contas que compartilharam esse tipo de conteúdo, os algoritmos do TikTok começaram a recomendar vídeos que explicitamente promovem a violência, como sequência de imagens de crianças assassinadas com requintes de crueldade ou de pessoas representadas por inteligência artificial narrando sua própria morte. “Os vídeos tomam essa proporção num crescente”, observa a especialista, alertando para o fato de que a violência, embora de maneiras diferentes, sempre gera impacto.

A NATURALIZAÇÃO DA VIOLÊNCIA

“Uma das descobertas que mais nos chocou foi a dessensibilização desses jovens com relação ao sofrimento alheio. Isso foi uma coisa que surgiu em várias das respostas reportadas por eles”, diz Gabriele. Segundo ela, os jovens relatam literalmente a impossibilidade de entender a violência como algo inaceitável. “A violência se naturaliza, se normaliza a partir desse contato contínuo”, analisa. “Antes, crianças, adolescentes e jovens estavam, de alguma maneira, limitados a experiências de violência dos seus contextos individuais. O que as redes sociais fazem é simplesmente abrir a porta para um contato com dimensões de violência nunca antes imaginadas sobretudo para pessoas dessa faixa etária”, avalia.

De um total de 1.200 vídeos recomendados pelo TikTok ao longo de 30 dias, 220 (18,3%) incitaram violência. Dentre estes, 33 configuravam casos de cyberbullying direcionados a mulheres e pessoas não-binárias, 30 apresentavam conteúdo discriminatório em geral e 157 faziam apelos explícitos à violência, em alguns casos incitando abertamente a violência em escolas.

Os algoritmos também recomendaram vídeos incitando o uso de violência como meio de lidar com o bullying nas escolas. Segundo o estudo, um desses vídeos encoraja estudantes a levarem um soco inglês e um abridor de coco para a escola para confrontar aqueles que os intimidaram.

“O que a gente nota é que aquilo que eles estão consumindo nas redes, além de deixá-los menos sensíveis à violência e ao sofrimento de outras pessoas, também influencia para que eles repliquem essa violência em outros espaços”, alerta Gabriele Garcia.

Apesar de a maior parte dos adolescentes e jovens (73,6%) afirmar que não sentiu o desejo de atacar verbalmente e/ou fisicamente outra pessoa ou grupo de indivíduos após assistir a vídeos com conteúdo violento ou perturbador, 26,4% relataram que esses vídeos de alguma forma os motivaram a atacar verbalmente ou fisicamente outras pessoas.

POLÍTICAS DE MODERAÇÃO

Nos termos de serviço da plataforma, o TikTok afirma que é proibido “intimidar ou assediar outra pessoa, promover material de sexo ou violência explícita ou discriminação por raça, sexo, religião, nacionalidade, deficiência física ou mental, orientação sexual ou idade”.

Segundo Gabriele, o que se nota, no entanto, é que “essas políticas não são eficazes”, pois não têm impedido efetivamente a circulação desse tipo de conteúdo. “Isso ficou, inclusive, evidente na pesquisa feita com os adolescentes e jovens. Alguns deles sinalizaram que, quando encontram esse tipo de conteúdo, reportam, registram e denunciam, mas dias depois se deparam novamente com o mesmo conteúdo. Isso sinaliza que essas políticas estão falhando”, diz ela. Procurado por esta coluna, o TikTok, até o fechamento deste texto, não havia se pronunciado a respeito.

De acordo com a especialista, a pesquisa observou que muito da moderação é burlada pelos produtores desse tipo de conteúdo que usam e abusam de estratégias como registrar assassinos como personagens de filmes infantis e divertidos.

“São vários os mecanismos que essas pessoas estão usando para contornar a política de moderação. Mas isso não quer dizer que as empresas não têm condições de olhar com mais responsabilidade para isso”, analisa Gabriele. Como advogada e mestre em Direitos Humanos, ela chama a atenção para a importância de regulamentação de política pública nesse sentido e para a necessidade de chamar as empresas para uma responsabilidade efetiva e não voluntária, uma responsabilidade vinculativa à prática de seus negócios. “Regulamentar e moderar o conteúdo que está chegando para crianças e adolescentes é inegociável”, afirma. O cenário revelado pela pesquisa é, no mínimo, assustador e precisa ser enfrentado com urgência para que possamos de fato construir uma cultura de paz.

* Jornalista e diretora da Cross Content Comunicação. Há mais de três décadas escreve sobre temas como educação, direitos da infância e da adolescência, direitos da mulher e terceiro setor. Com mais de uma dezena de prêmios nacionais e internacionais, já publicou diversos livros sobre educação, trabalho infantil, violência contra a mulher e direitos humanos.