Facebook detalha os avanços da IA na detecção de desinformação e discurso de ódio.
A luta do Facebook contra a desinformação parece nunca ter fim, mas isso não significa que a empresa tenha desistido. Pelo contrário, é apenas pelo trabalho constante de seus sistemas automatizados, para se manter mesmo remotamente livre da fala de ódio e da desinformação.
O diretor técnico do Facebook,Mike Schroepfer, tocou as últimas dessas melhorias em uma série de posts.
As mudanças são nos sistemas de IA (inteligência artifical) -adjacente que a rede social usa para acabar com spam, notícias enganosas e injúrias raciais no início – ou seja, antes que qualquer um, incluindo os próprios moderadores de conteúdo do Facebook, veja esses itens.
Uma nova e melhorada versão IA do Facebook
Uma melhoria está nos sistemas de análise de linguagem que o Facebook emprega para detectar coisas como o discurso do ódio.
Infelizmente o discurso de ódio pode ser realmente sutil. Mesmo algo que parece indiscutivelmente racista pode ser deixado de lado por uma única palavra.
Leia também: Apple aumenta privacidade no iOS 14 e acusa Facebook por excesso no uso de dados
Criar sistemas de aprendizagem de máquinas que reflitam a complexidade e variedade da linguagem é uma tarefa que requer muitos recursos computacionais.
Linformer na luta contra a desinformação
Linformer (“linear “+”transformer”) é a nova ferramenta criada no Facebook para gerenciar o custo dos recursos do escaneamento de bilhões de mensagens por dia.
A ferramenta aproxima o mecanismo central de atenção dos modelos de linguagem baseados em transformadores (usado no aprendizado de máquina) em vez de calculá-lo exatamente, mas com poucos trade-offs de desempenho.
Os pesquisadores da empresa também estão trabalhando no problema de entender a interação de texto, imagens e texto em imagens. Notícias falsas de TV e websites, memes e outras coisas frequentemente encontradas em postagens são surpreendentemente difíceis de entender pelos computadores, mas são uma enorme fonte de informação.
Leia mais: Bug do Facebook que permite hackers rastrearem usuários é consertado pelo Google
Além disso, uma única palavra alterada pode inverter completamente o seu significado enquanto quase todos os detalhes visuais permanecem os mesmos.
O Facebook está ficando melhor em captar estas postagens, disse Schroepfer. Ainda é muito difícil, disse ele, mas eles fizeram enormes progressos, por exemplo, de imagens de desinformação sobre a COVID-19, como falsos noticiários sobre máscaras causam câncer.
Traduzido e adaptado por equipe Revolução.etc.br
Fontes: Tech Crunch, VICE News, Facebook blog
