- Clube de Jornalistas - https://www.clubedejornalistas.pt -

Como as gigantes ‘online’ lidam com o discurso de ódio

Gigantes online como o Facebook, YouTube, Twitter e Reddit estão cada vez mais sob pressão para reprimir o “discurso de ódio” e tentar mostrar que estão atentas ao problema que permite que estas plataformas sejam usadas para atacar minorias, justificar violência e promover estereótipos. (Karla Pequenino)

Desde Junho, o YouTube (da Google) baniu seis canais de supremacistas brancos e retirou a monetização do canal do popular comediante norte-americano Shane Dawson [1] (que chegou a ter 23,1 milhões de subscritores), depois de perceber que o youtuber, na plataforma há mais de uma década, tinha usado humor com conotações racistas em vídeos antigos. Já o Reddit fechou o fórum r/The_Donald [2], um espaço utilizado para apoiar Donald Trump ao partilhar conteúdo falso, racista e sexista, e acrescentou “discurso de ódio” à lista de conteúdo proibido na plataforma, algo que antes a empresa dizia estar “implícito”.

O Facebook, que tem acumulado grande parte das críticas nos últimos meses [3], também eliminou dezenas de contas e páginas de notícias falsas que promoviam o “discurso de ódio” no Brasil e nos EUA e retirou vários anúncios políticos [4] do Presidente dos EUA, Donald Trump, que criticavam a extrema-esquerda e exibiam símbolos utilizados pelos nazis.

Ainda assim, não é fácil erradicar todos os exemplos de ódio. Mesmo com o YouTube, Facebook e Instagram a utilizar algoritmos para detectar automaticamente conteúdo proibido (através de palavras e expressões chave), os sistemas nem sempre conseguem distinguir publicações ofensivas, destinadas a atacar determinados grupos e indivíduos, de publicações que chamam a atenção para os problemas. Em 2019, o YouTube chegou a eliminar vários vídeos de professores de história que incluíam imagens de Hitler. O Facebook, por sua vez, apagou acidentalmente publicações de grupos de activistas [5] que documentam atrocidades contra os rohingya, uma comunidade de muçulmanos na Birmânia que é alvo de perseguição há anos devido às suas crenças. 

“A ausência de um padrão legal claro em que as empresas possam basear as suas políticas, bem como a importância do contexto para determinar se uma publicação constitui ou não discurso de ódio, dificultam a descoberta de soluções técnicas”, escreve  [6]Adriana Stephan, uma investigadora de ciências sociais da Universidade de Stanford, nos EUA, que monitoriza as políticas das grandes empresas tecnológicas.

Falta uma definição global para “discurso de ódio”. O Facebook e o Twitter, por exemplo, descrevem-no como “um ataque directo” a pessoas com base em “características protegidas”. Isto inclui ofensas relacionadas com a etnia, nacionalidade, religião, orientação sexual, sexo, género, identidade de género, doença ou deficiência grave. O YouTube e o Reddit acrescentam “vítimas de um grande evento violento” à lista. E plataformas de mensagens como o Telegram e o WhatsApp (do Facebook) ainda não têm políticas definidas. 

“Abordagem minimalista” 

“As plataformas tendem a optar por uma abordagem minimalista na resolução dos problemas. E só fazem algo quando os problemas afectam a reputação”, critica, no entanto, o investigador Bharath Ganesh, da Universidade de Groningen, nos Países Baixos, cujo trabalho recente se foca nas estratégias de moderação de conteúdo das redes sociais.

Regra geral, a estratégia de moderação das empresas divide-se entre tentar retirar conteúdos considerados problemáticos, ou introduzir conteúdos que questionem as perspectivas extremistas nas plataformas.

“O que concluímos é que não é possível perceber até que ponto é que as soluções encontradas pelas redes sociais resolvem o problema”, explica o investigador ao PÚBLICO. “Comunicações estratégicas, em que se acrescenta informação sobre um determinado tema, não são uma resposta directa. Mas também há desvantagem em apagar publicações porque cria a ideia de que existe censura.”

O equilíbrio entre a liberdade de expressão e o impedir da promoção do discurso de ódio é um dos grandes desafios do Facebook. Uma auditoria [7] recente à rede social, realizada pelo escritório de advogados Relman Colfax, criticou a empresa de Mark Zuckerberg por não remover nem esconder uma publicação de Donald Trump em que o Presidente escreve “começa a violência, começam os tiros” (uma referência a uma frase usada por supremacistas brancos nos anos 1960). O argumento inicial do Facebook é que os utilizadores tinham o direito de ler a publicação para formar as suas próprias opiniões [8] sobre o Presidente.

Depois de críticas severas, incluindo a perda do apoio de grandes marcas [9] e anunciantes como a Starbucks ou a Coca-Cola, o Facebook admite que está a trabalhar para contratar “mais peritos em liberdades sociais”.

“As políticas das redes sociais estão sempre a mudar”, alerta Bharath Ganesh. “Não nos podemos esquecer que a arquitectura destas plataformas se foca em prender a atenção das pessoas. E muitas vezes isso acontece através de publicações que despertam emoções fortes como raiva, ódio e indignação.”

Políticas sobre o discurso de ódio

Facebook: [10] 

Reddit: [11]

Instagram [12]:

YouTube [13]

Twitter [14]

Karla Pequenino – “Público” 12 julho 2020

https://www.publico.pt/2020/07/12/tecnologia/noticia/gigantes-online-lidam-discurso-odio-1924031 [15]