Facebook usa IA para detectar discursos de ódio e fake news na plataforma

ANÚNCIO

Facebook detalha os avanços da IA na detecção de desinformação e discurso de ódio.

Facebook usa IA para detectar discursos de ódio e fake news na plataforma
Foto: (reprodução/internet)

A luta do Facebook contra a desinformação parece nunca ter fim, mas isso não significa que a empresa tenha desistido. Pelo contrário, é apenas pelo trabalho constante de seus sistemas automatizados, para se manter mesmo remotamente livre da fala de ódio e da desinformação.

ANÚNCIO

O diretor técnico do Facebook,Mike Schroepfer, tocou as últimas dessas melhorias em uma série de posts.

As mudanças são nos sistemas de IA (inteligência artifical) -adjacente que a rede social usa para acabar com spam, notícias enganosas e injúrias raciais no início – ou seja, antes que qualquer um, incluindo os próprios moderadores de conteúdo do Facebook, veja esses itens.

Uma nova e melhorada versão IA do Facebook

Uma melhoria está nos sistemas de análise de linguagem que o Facebook emprega para detectar coisas como o discurso do ódio.

ANÚNCIO

Infelizmente o discurso de ódio pode ser realmente sutil. Mesmo algo que parece indiscutivelmente racista pode ser deixado de lado por uma única palavra.

Leia também: Apple aumenta privacidade no iOS 14 e acusa Facebook por excesso no uso de dados

Criar sistemas de aprendizagem de máquinas que reflitam a complexidade e variedade da linguagem é uma tarefa que requer muitos recursos computacionais.

Linformer na luta contra a desinformação

Linformer (“linear “+”transformer”) é a nova ferramenta criada no Facebook para gerenciar o custo dos recursos do escaneamento de bilhões de mensagens por dia.

A ferramenta aproxima o mecanismo central de atenção dos modelos de linguagem baseados em transformadores (usado no aprendizado de máquina) em vez de calculá-lo exatamente, mas com poucos trade-offs de desempenho.

Os pesquisadores da empresa também estão trabalhando no problema de entender a interação de texto, imagens e texto em imagens. Notícias falsas de TV e websites, memes e outras coisas frequentemente encontradas em postagens são surpreendentemente difíceis de entender pelos computadores, mas são uma enorme fonte de informação.

Leia mais: Bug do Facebook que permite hackers rastrearem usuários é consertado pelo Google

Além disso, uma única palavra alterada pode inverter completamente o seu significado enquanto quase todos os detalhes visuais permanecem os mesmos.

O Facebook está ficando melhor em captar estas postagens, disse Schroepfer. Ainda é muito difícil, disse ele, mas eles fizeram enormes progressos, por exemplo, de imagens de desinformação sobre a COVID-19, como falsos noticiários sobre máscaras causam câncer.

Traduzido e adaptado por equipe Revolução.etc.br

Fontes: Tech Crunch, VICE News, Facebook blog

ANÚNCIO