Denúncias acusam o YouTube de facilitar o acesso à pornografia infantil

Há indício de que o YouTube tem ciência do problema há pelo menos dois anos.

  • Nossos atuais Mecenas:
  • Logo havaianas 130x50 png
  • 47 nh 1 png

O YouTube vem facilitando o acesso a pornografia infantil. Essa foi a denúncia que o youtuber Matt Watson, fez no sábado 17 de fevereiro. A plataforma tem sido usada para estes fins, há indício de que o YouTube tem ciência disto há pelo menos dois anos e, no entanto o problema persiste.

O tema é tão delicado que ao decidir escrever sobre ele a equipe do PdH teve de tomar uma séries de decisões. Primeiro é importante frisar o óbvio: o Papo de Homem condena veementemente o crime de exploração de imagem infantil, exploração sexual e pedofilia, portanto, na intenção de proteger as crianças que tiveram suas imagens violadas, não vamos postar o link da denúncia original nem qualquer conteúdo que exponha ainda mais as vítimas deste caso. Optamos por divulgar o ocorrido na intenção de apontar o problema, cobrar respostas e conscientizar pais e responsáveis para que outras crianças não tenham suas imagens violadas.

A denúncia:

Os algoritmos do YouTube feitos para sugerir vídeos similares ao que o usuário acabou de assistir, criam um buraco de minhoca uma vez que alguém chega, por algum motivo, a um vídeo de conteúdo duvidoso que usa imagens de crianças como soft porn para pedófilos. Segundo Matt Watson,

“Uma vez que vocês entra nesse buraco de minhoca por qualquer motivo, o algoritmo do YouTube chega no ponto que não existe nada além desses vídeos e isso facilita a habilidade dos pedófilos de encontrar estes conteúdos e, mais que isso, de trocar contato em redes sociais. Eu também achei links para pornografia infantil explícita, e, claro, tem publicidade nesses vídeos.”

Estes vídeos que exploram a imagem de crianças no YouTube chegam a ter centenas de milhares de visualizações e são monetizados, ou seja, a plataforma adiciona conteúdo publicitário para que as visualizações sejam convertidas em dinheiro.

Para concretizar a denúncia, Watts navegou por estas páginas mostrando as sugestões da plataforma que direcionam para mais e mais conteúdos criminosos e também apontou que aparecem anúncios de empresas de sapatos, de móveis e até mesmo dos Estúdios Disney que, quatro dias após a denúncia, rompeu seu contrato com a plataforma.

Como estes vídeos podem estar no YouTube?

Os vídeos que exploram a imagem de crianças são uma espécie de Soft Porn (“pornografia leve”) infantil. São vídeos de meninas de aproximadamente 7 a 13 anos fazendo coisas de crianças: tomando sorvete, fazendo ballet ou ginástica, dando cambalhota, sentadas do chão, brincando na piscina, ensinando a se maquiar. Os vídeos parecem ter sido gravados pelas próprias crianças, no entanto, eles são roubados da fonte original (onde há possibilidade de controle e supervisão parental) e disponibilizados em outras contas onde circulam entre pedófilos como conteúdo erótico.

Nos comentários destes vídeos, há marcações de tempo (time stamps) que direcionam para frames dos vídeos nos quais as crianças estariam em uma posição interpretada como erótica. O fato dos vídeos não apresentarem conteúdo explícito não reduz a gravidade da denúncia uma vez que a imagem destas crianças são utilizadas sem nenhuma autorização e para propósitos criminosos.

Ainda nos comentários destes vídeos é possível notar que pedófilos trocam contatos para traficar pornografia infantil explícita. Outros comentários sexualizam as crianças expostas nos vídeos. “Um dia ela vai ser uma linda mãe”. Segundo Watsons, os pedófilos também operam incentivando as crianças a participarem de “desafios” – como tomar um picolé ou fazer determinada posição de yoga na frente da câmera.

Mestre em Direito Penal e professora universitária, Marcelle Tasoko aponta as dificuldades de lidar com esta nova modalidade de crime virtual. A primeira delas é que boa parte do regramento envolvendo atividades virtuais são reguladas pelo Marco Civil da Internet, que não contempla a responsabilidade penal dos provedores, na ocorrência de crimes caracterizados como pedofilia.

Constranger e assediar crianças e adolescentes para fins sexuais, assim como usar suas imagens sem autorização são duas formas de violação de direitos, no entanto, a legislação descreve que crimes de pedofilia se caracterizam por conter nudez e/ou conteúdo pornográfico de menores, dificultando a criminalização dos vídeos que estão circulando na plataforma. Os comentários com marcas de tempo (aqueles que direcionam para os quadros do vídeo nos quais as crianças estejam em uma posição comprometedora), por sua vez, podem ser caracterizados como crime de pedofilia por repetirem um padrão que indica a sexualização da cena.

Como esse cara entrou nesse buraco de minhoca?

Toda essa história se desenrolou a partir de um incidente:

Os canais de três jogadores de Pokemón Go (Mystic7, Trainer Tips, Marksman) foram excluídos no dia 17 de fevereiro. Outros Youtubers que postaram vídeos sobre Club Penguim também tiveram vídeos deletados pela plataforma.

Nick, do canal Trainer Tips tinha acabado de subir o vídeo “Como conseguir pokemons mais fortes com alto IVs/CP no Pokemon Go” e encontrou uma mensagem dizendo que seu conteúdo desrespeitava os termos de serviço.

“O YouTube não é lugar para nudez ou para conteúdo sexualmente provocativo. Conteúdo sexual envolvendo menores são particularmente problemáticos. YouTube proíbe o upload, comentários ou a participação em qualquer atividade que sexualize menores.”

Tentando entender como seu vídeo sobre Pokemón foi confundido com conteúdo pornográfio envolvendo menores, os youtubers descobriram que a sigla CP – que no Pokemon Go significa Combat Power, e que também pode ser a abreviação de Club Penguin – é uma sigla usada para se referir a Child Porn (Pornografia Infantil). Os canais dos treinadores pokémons que somam mais de 3 milhões de inscritos juntos, foram derrubados por robôs (algoritmos do YouTube), sem análise qualitativa humana.

O que o YouTube está fazendo em relação a isso?

Wattson acusa o YouTube de ter ciência do problema, afinal a plataforma programou robôs para derrubar canais que apresentassem sinais de abuso infantil, como a sigla CP.

Em um vídeo no qual os comentários estão bloqueados, aparece o seguinte recado da plataforma, postado em 2017:

“5 medidas que estamos tomando para proteger as famílias no YouTube e o YouTube Kids.

22 Nov, 2017.

[...] Bloqueando comentários inapropriados em vídeos com participação de menores. Historicamente temos usado uma combinação de sistemas automatizados e moderadores online para remover comentários inapropriados, sexuais ou predatórios em vídeos envolvendo menores. [...]

A começar essa semana tomaremos atitudes mais agressivas desativando todos os comentários em vídeos de menores, nos quais vemos esse tipo de atitude.”

Uma vez que se tem ciência destes casos deste 2017 e que eles persistem, vitimizando novas crianças, Watson questiona as medidas tomadas pela plataforma: “tudo o que eles estão fazendo é desabilitar os comentários?”

No dia 20 de fevereiro de 2019, diante da polêmica, o YouTube divulgou uma nota dizendo que estão tomando providências. Que nas últimas 48 horas foram desabilitados os comentários em mais de 10 milhões de vídeos, que 400 canais foram excluídos e que os comentários inapropriados foram reportados para a polícia.

A resposta do Youtube

Matt ainda aponta que ao denunciar os conteúdos encontrados por ele, os vídeos foram retirados do ar, mas as contas dos responsáveis pela divulgação continuaram ativas.

A especialista em Direito Penal Marcelle Tasoko reitera que a falta de jurisprudência no tema dificulta a resolução do problema, mas defende que o Youtube deveria ter a Responsabilidade do Dever de Garante.

Tasoko explica que é como em uma escola: se acontece um acidente com uma criança no ambiente escolar, ainda que a escola não o tenha causado, esta é responsável porque deveria cuidar da criança naquele ambiente. Em diferentes instâncias, a mesma lógica do dever de garante deveria se aplicada ao YouTube.

Cadê os Humanos do YouTube?

Takoso, assim como Watson, aponta que os algoritmos do YouTube não são capazes de filtrar os comentários nestes casos e que é necessário investir em equipes humanas para investigar situações atípicas como estas.

O automatismo do YouTube tem sido alvo de críticas em diversas instâncias. Ao final de seu vídeo, Watson mostra produtores de conteúdo legítimo que tiveram vídeos e canais derrubados, enquanto alguns produtores de conteúdo criminosos continuam ativos. Os três youtubers de Pokémon Go são exemplos disso.

Uns impunes, outros prejudicados

Outro exemplo é Felipe Castanhari, um dos principais produtores brasileiro de conteúdo educativo e histórico para a plataforma, que já teve diversos vídeos derrubados ou desmonetizados por reproduzirem imagens retiradas de outras fontes. Castanhari defende que seu canal é educativo e que para recuperar a história, é preciso usar trechos e imagens de outras fontes, mas que estas recebem os devidos créditos e ele pede constantemente que o YouTube faça uma análise que leve em consideração o propósitos educativo de seus vídeos. A plataforma não lhe apresenta resposta sobre o tema.

O YouTube já é apontado por teóricos da comunicação como a maior plataforma de comunicação em Massa do mundo (Castells, 2010). Segundo a pesquisa Video Viewers (2017), 99% das pessoas que têm acesso a internet e que assistem a vídeos, usam o Youtube. O Google, dono do YouTube, é a empresa mais valiosa do mundo. O custo de produção dos vídeos ficam ao encargo de cada youtuber (os quais receberão um repasse proporcional ao número de visualizações uma vez que estas forem maiores que 200 mil), enquanto a plataforma negocia contratos multimilionários de publicidade.

Todo este panorama nos ajuda a entender a urgência de cobrar responsabilidade de uma das maiores plataformas de mídia do Mundo. Programar algoritmos não tem sido suficiente: tem exposto usuários menores idade a riscos e tem prejudicado produtores de conteúdo legítimo.

Crianças e YouTube: O grande desafio

Especialista em temas de violência contra mulher e criança, a advogada Marcelle Tasoko ainda questiona a presença de conteúdo infantil no Youtube. “Sabemos que, infelizmente, depois que um conteúdo foi para a rede, perde-se o controle sobre ele.” Para a advogada, há um impasse uma vez que, atualmente, a única maneira garantida de proteger as imagens das crianças, é mantendo estas imagens de fora das redes, no entanto, impor uma regra como esta seria ferir o direito de liberdade de expressão.  

Outro desafio é ainda maior visto que a presença infantil no YouTube é bastante significativa, nas duas pontas – tanto como espectadores quanto como protagonistas. Dos 35 canais brasileiros com mais inscritos, sete são de temáticas infantis, somando ao todo 71 milhões de inscritos. Dentre os canais infantis de maior audiência, dois deles são, inclusive, protagonizados por crianças.

O sonho de ser youtuber já atinge milhões de crianças e adultos e como resultado, cresce o número de menores de idade que criam e divulgam vídeos na plataforma. No negócio YouTube, estas crianças não são apenas parte da audiência como também formam um percentual expressivo de consumidores que servem como moeda de troca para a venda de publicidade. A publicidade infantil, controlada e regulamentada nas mídias tradicionais, encontra no YouTube um território cheio de brechas onde é possível expor crianças a propagandas praticamente ilimitadas.

Como proceder em casos como estes?

Ao se deparar com um vídeo que tenha este tipo de conteúdo, a primeira coisa a fazer é denunciar.

Aos pais de crianças, Tasoko recomenda atenção ao conteúdo e consciência. Saber dos riscos é o primeiro passo para olhar o conteúdo com mais cuidado e ponderar sobre postagens e exposição infantil na internet. Caso alguma criança tenha tido sua imagem violada dentro da plataforma do YouTube, os responsáveis podem e devem entrar na justiça, responsabilizando a plataforma e exigindo reparação por danos morais.

A resposta da plataforma em 2017 já prometia atitudes “ainda mais fortes” no combate a exploração de imagens infantis para fins sexuais e, em 2019 a difusão desses vídeos ainda é imensa. Com a repercussão da denúncia de Watson grandes marcas – como A Disney, a Epic Games e a Nestlé – encerraram contratos publicitários com a plataforma.

Os youtubers, maiores ou menores de idade, são os verdadeiros responsáveis pela produção de conteúdo e, consequentemente, criação de valor na plataforma. E todos estes envolvidos – criadores e espectadores – no sistema monetário que alimenta o YouTube necessitam urgentemente do amparo da plataforma, de uma assistência que dê conta de cuidar dos produtores de conteúdo, das crianças, dos direitos de imagem.


publicado em 01 de Março de 2019, 13:57
Img 20190518 102150 405 jpg

Gabriella Feola

Editora do Papo de Homem e autora do livro "Amulherar-se" . Atualmente também sou mestranda da ECA USP, pesquisando a comunicação da sexualidade nas redes e curso segunda graduação, em psicologia.


Puxe uma cadeira e comente, a casa é sua. Cultivamos diálogos não-violentos, significativos e bem humorados há mais de dez anos. Para saber como fazemos, leianossa política de comentários.

Nossos atuais Mecenas: