O projecto kNOwHATE, coordenado por Rita Guerra, investigadora do Centro de Investigação e Intervenção Social (CIS-Iscte), divulgou resultados preliminares de uma análise detalhada sobre o discurso de ódio em plataformas digitais em Portugal. Com base em 24.739 comentários relativos a 88 vídeos no YouTube e 29.846 tweets extraídos a partir de 2.775 conversações extraídas do Twitter/X, os dados revelam padrões consistentes com outros estudos nacionais e internacionais.
Através de uma abordagem participativa, as entidades parceiras do projecto sugeriram vídeos do YT para análise que foram posteriormente utilizados para procurar conteúdos semelhantes através do sistema de recomendação do YouTube. Entre os critérios de selecção, a equipa do kNOwHATE salienta o facto de serem conteúdos de autores portugueses com potencial para gerar discurso de ódio contra comunidades-alvo, com pelo menos 100 comentários e 1.000 visualizações. Quanto ao X (antigo Twitter), foi utilizada uma abordagem lexical para procurar conteúdo potencialmente relevante e adoptados alguns critérios de seleção (ex., o primeiro tweet estava geo-localizado em Portugal, publicação ocorrida entre 2021 e 2022).
Numa primeira fase, as análises dos milhares de comentários analisados e codificados por uma equipa de anotadores focaram-se em identificar a prevalência de discurso de ódio, directo e indirecto, discurso ofensivo, e contradiscurso. Rita Guerra, coordenadora do projecto, explica as diferenças entre estes tipos de discurso: “O discurso de ódio directo difunde, incita, promove ou justifica explicitamente o ódio, a exclusão e/ou a violência/agressão contra um grupo social ou uma pessoa devido à sua pertença grupal; é um discurso explicitamente preconceituoso e inflamatório, que normalmente contém linguagem ofensiva, abusiva ou depreciativa. O discurso de ódio indirecto faz exactamente a mesma coisa, mas neste caso a mensagem não é explícita, podendo ser velada ou mascarada através de uma diversidade de estratégias, como o humor, ironia, ou até elogios estereotípicos. Por estas razões, o seu significado tem de ser inferido. O contra-discurso é uma resposta directa ao discurso de ódio com o objectivo de o combater”.
Os dados preliminares do projecto indicam que, em ambas as redes, o discurso de ódio indirecto foi mais prevalente do que o discurso de ódio directo nas diferentes comunidades analisadas. Tal como esperado, o discurso de ódio directo e indirecto apresentaram características e expressões diferentes, por exemplo o discurso de ódio directo foi mais frequentemente expresso através da mobilização da ameaça e da desumanização das comunidades alvo, enquanto o discurso de ódio indirecto mobilizou mais frequentemente estratégias de negação do ódio e de inversão de papéis. Foram ainda analisadas as emoções presentes nos diferentes tipos de discurso de ódio: no discurso de ódio directo o ódio foi a emoção mais frequente, seguido da raiva; já no discurso de ódio indirecto o padrão foi o inverso, sendo a raiva a emoção mais prevalente, seguida do ódio.
De acordo com a equipa de investigação, estes resultados sugerem a existência de múltiplos “discursos de ódio” com características psicossociais e linguísticas diferenciadas, variando consoante as comunidades visadas. Por exemplo, a raiva foi mais prevalente no discurso de ódio contra as comunidades LGBTI+, e o ódio foi mais prevalente no discurso contra as comunidades Ciganas/Roma e Migrantes. Apesar destas nuances, há elementos comuns nos discursos de ódio contra todas estas comunidades, como por exemplo a utilização de estereótipos e a desumanização.
Numa nota mais positiva, nem tudo parece estar perdido. Em ambas as redes foi ainda analisado o contra-discurso, tendo este sido pouco frequente no Youtube mas destacando-se como o discurso mais prevalente no Twitter/X. No geral, os resultados mostram um padrão semelhante em ambas as redes, sendo o contradiscurso caracterizado maioritariamente pelo recurso a contra-estereótipos (ex., “Olá já procuraste alguma vez te informar com factos verídicos acerca dos subsídios declarados para a comunidade cigana? Penso que não mas tens vários sites que o podem provar a tua gigantesca burrice disfarçada de preconceito étnico. Se precisares até eu posso te mandar alguns”, à empatia (“Geralmente em vez de tentar explicar o q é o género ou sexo, prefiro ir só pelo argumento, deixem as pessoas ser o que lhes faz feliz, se não estiverem a magoar ninguém” e à referência a identidades inclusivas (“Somos a raça humana e temos de saber viver juntos neste mundo. Em vez de nos focarmos nas nossas diferenças, vamo-nos focar no que temos em Comum”).
No geral, os resultados obtidos com a anotação de dezenas de milhares de comentários e tweets sugerem claramente que a compreensão do discurso de ódio obriga a abordagens contextuais, culturalmente sensíveis, que considerem as nuances contextuais e linguísticas que por agora ainda escapam aos algoritmos. Por isso mesmo, estes dados são úteis para informar o desenvolvimento de algoritmos mais sensíveis a estas pistas contextuais e culturais. Parte da equipa do projecto trabalhou efectivamente em modelos computacionais que possam melhorar os algoritmos de detecção actuais. Rita Guerra está confiante que este projecto servirá como primeiro passo para melhorar a compreensão deste fenómeno complexo, que por sua vez poderá contribuir para uma melhoria na detecção automática do discurso de ódio online em Portugal, bem como para uma maior sensibilização sobre este fenómeno e as formas de o combater.
“Estes resultados preliminares destacam a complexidade e a variedade do discurso de ódio online. É crucial entender estas dinâmicas para desenvolver estratégias eficazes de combate ao ódio e promoção de um ambiente digital mais seguro e inclusivo.”, explica a coordenadora do projecto. Para além de oferecerem uma visão integrada e culturalmente sensível sobre a prevalência e a natureza do discurso de ódio nas redes sociais, estes resultados do projeto kNOwHATE sublinham a importância de iniciativas de contradiscurso para mitigar os impactos negativos sobre as comunidades afectadas.
Os resultados globais do projecto, bem como o seu impacto, serão apresentados e discutidos a 9 de Julho de 2024 numa conferência que decorrerá no Iscte-Instituto Universitário de Lisboa sob o título “Discurso de Ódio Online em Portugal: Que Presente e Que Futuro?”. O projecto kNOwHATE (kNOwing online HATE speech: knowledge + awareness = TacklingHate) é um consórcio financiado pela União Europeia (CERV-2021-EQUAL 101049306) composto por quatro unidades de investigação do Iscte (BRU, CIS, CIES e ISTAR), o Interactive Technologies Institute (LARSyS, Instituto Superior Técnico), o INESC-ID Lisboa, a Casa do Brasil de Lisboa, a Comissão para a Igualdade e Contra a Discriminação Racial, a Associação ILGA Portugal, e SOS Racismo.
Comunicação de Ciência (CIS-Iscte)