Emojis de cenouras escondem mensagens antivacinação nas redes sociais

Grupos do Facebook estão a usar o emoji de cenoura para ocultar texto antivacinação das ferramentas de moderação automatizadas.

A BBC viu vários grupos, um deles com centenas de milhares de membros, nos quais o emoji aparece no lugar da vocábulo “vacina”. Os algoritmos do Facebook tendem a concentrar-se em palavras, em vez de imagens.

Os grupos estão a ser usados ​​para partilhar relatos não confirmados de pessoas que teriam ficado com sequelas ou sido até mortas por vacinas.

Depois a BBC entrar em contacto com a Meta, empresa dona do Facebook, os grupos foram removidos.

“Removemos nascente grupo por violar as nossas políticas relacionadas com a desinformação prejudicial e avaliaremos qualquer outro texto semelhante de pacto com esta política. Continuamos a trabalhar em estreita colaboração com especialistas em saúde pública e o governo do Reino Uno para combater ainda mais a desinformação sobre a vacina contra a covid”, declarou a empresa em enviado.

No entanto, os grupos reapareceram desde logo.

Um dos grupos existe há três anos, mas mudou de nome em agosto de 2022 para se concentrar em histórias sobre vacinas — antes era um grupo para partilhar “brincadeiras, apostas e vídeos engraçados”.

As regras do grupo maior afirmam: “Use palavras de código para tudo”. E acrescenta: “Nunca use a vocábulo com ‘c’, a vocábulo com ‘v’ ou a vocábulo com ‘r’ (covid, vacina, reforço, respetivamente)”. Foi criado há mais de um ano e tem mais de 250 milénio membros.

Marc Owen-Jones, investigador de desinformação e professor da Universidade Hamad Bin Khalifa, no Sondar, foi convidado a participar na reparo.

“Eram pessoas a dar relatos de familiares que morreram logo posteriormente tomarem a vacina contra a covid-19”, diz Khalifa. “Mas em vez de usar as palavras ‘covid-19’ ou ‘vacina’, estavam a usar emojis de cenouras”.

“Inicialmente, eu fiquei um pouco confuso. Até que a ficha caiu — (os emojis) estavam a ser usados uma vez que uma forma de evadir, ou aparentemente de evadir, dos algoritmos de deteção de notícias falsas do Facebook”, acrescenta.

Just got invited to a Facebook group with a couple of hundred thousand members where people share stories about why they think the Covid vaccine killed people they knew. But instead of saying vaccine they use the 🥕 symbol, presumably to evade censorship. Very odd pic.twitter.com/mvXBv1aXBX

— Marc Owen Jones (@marcowenjones) September 11, 2022

Risco moderado

Em 2021, dados do Escritório de Estatísticas Nacionais do Reino Uno sugeriram que havia um risco de um em cinco milhões de morrer em decorrência da vacina contra a covid-19, em conferência com um risco de 35 milénio mortes por cinco milhões de morrer da doença em si, sem a vacina.

As grandes empresas de tecnologia usam algoritmos para vasculhar as suas plataformas em procura de texto nocivo — mas são treinados principalmente com base em palavras e texto, escreveu Hannah Rose Kirk num blog para o Oxford Internet Institute.

Rose Kirk fez troço de uma equipa de investigação que criou uma utensílio chamada HatemojiCheck: um check-list para identificar áreas em que os sistemas de Perceptibilidade Sintético não lidam muito muito com o ataque fundamentado em emojis.

“Apesar de ter uma compreensão impressionante de uma vez que a linguagem funciona, os modelos de linguagem de Perceptibilidade Sintético viram muito poucos emojis”, diz Kirk. “Eles são treinados com base numa coletânea de livros, artigos e sites, até mesmo na totalidade da Wikipédia em inglês, mas esses textos raramente apresentam emojis”.

Emojis e racismo

As plataformas já foram criticadas por não bloquear ou remover emojis de macacos e bananas quando publicados uma vez que gesto racista nas contas de jogadores de futebol negros.

Se o projeto de lei de segurança online entrar em vigor no Reino Uno, as grandes empresas de tecnologia vão enfrentar penalidades severas por não identificar e remover rapidamente texto prejudicial nas suas plataformas.

Mas há preocupações de que as ferramentas atualmente em uso não sejam boas o suficiente para mourejar com o grande volume de texto publicado — e com as nuances e diferenças culturais que podem obscurecer o significado.

Escondendo-se à vista de todos

Os emojis podem ter vários significados, além do que for dito oficialmente pelo Unicode, o consórcio que os gere.

A Sucursal de Combate às Drogas dos EUA divulgou um poster a provar uma vez que os emojis podem ser usados ​​para discutir drogas ilegais.

“É uma forma moderna de esteganografia: redigir e esconder uma mensagem à vista de todos, mas de tal forma que, a menos que você saiba para onde olhar, não a vê”, explica o professor Alan Woodward, técnico em segurança cibernética da Universidade de Surrey, no Reino Uno.

“O que tudo isso demonstra é a inutilidade de tentar automatizar a moderação de texto para evitar a partilha de material ‘prejudicial’”, diz ele.

O Facebook disse no ano pretérito que tinha removido mais de 20 milhões de conteúdos contendo desinformação sobre a covid-19 ou a vacina desde o início da pandemia.

A empresa também diz que remove conteúdos que alegam que as vacinas em universal são mais perigosas do que a doença contra a qual protegem ou que são tóxicas.

O presidente dos EUA, Joe Biden, criticou as gigantes da tecnologia por não fazerem o suficiente para combater a disseminação de desinformação sobre as vacinas online.

Ele disse esperar que o Facebook faça mais para combater “a desinformação ultrajante” sobre as vacinas contra o coronavírus que estão a ser espalhadas na sua plataforma.