Facebook tem buscado, cada vez mais, oferecer segurança para seus usuários. A empresa acredita que a segurança de dados e relacionamentos estabelecidos e compartilhados na rede são ponto fundamental para seu crescimento. Por esse motivo, desde o escândalo do roubo de dados no ano de 2018, tem investido em novas políticas e tecnologias de monitoramento de informações.

Entre os elementos mais cobrados e que mais recebem investimentos do Facebook está a localização de conteúdos impróprios. A busca por eliminar conteúdos pornográficos, com incitação ao ódio, violência e terrorismo, além de contas falsas e spam é constante. Cada vez mais cobrados por medidas eficientes, a rede social tem investido em fiscalização e mostra em seus relatórios a evolução de diversas medidas.

Conteúdos impróprios

Inicialmente, o Facebook dependia de denúncias de conteúdos impróprios, que passavam por avaliação e eram ou não eliminados. Com os mais recentes investimentos, essa identificação se tornou proativa. Assim, conteúdos gráficos, contendo incitação ao ódio ou à violência têm sido removidos antes mesmo de serem denunciados.

Removendo conteúdo e contas que violam os padrões da rede social

As continuas melhorias nas tecnologias de identificação de conteúdos impróprios permitiu ao Facebook agir de maneira mais eficiente. Mais do que melhorar a avaliação das denúncias, publicação com conteúdos sensíveis que não ofendam os padrões da rede receberam mais atenção. Uma tarja de aviso é, agora, colocada sobre eles.

Os padrões estabelecidos conseguem alcançar mais conteúdos e removê-los da rede por rastrear conteúdos idênticos ou semelhantes. A análise e remoção automatizada se torna, assim, mais rápida e eficiente. Esse processo ajuda, principalmente, na identificação de conteúdos muito antigos.

As contas falsas também têm sido removidas, buscando na frequência de uso e forma como ela interage com o restante da comunidade da rede as bases para que sejam identificadas.

Novas Categorias dos padrões da comunidade interna do Facebook

Duas novas frentes foram adicionadas aos padrões e verificações de conteúdos do Facebook nos últimos meses: intimidação e assédio e nudez infantil e exploração sexual de crianças. Ainda em processo inicial de coleta de dados para controle de publicações, são medidas importantes no combate a posturas legalmente criminosas.

A intimidação e assedia é uma política de fiscalização problemática de ser analisada. Na grande parte dos casos depende de interpretação de contextos e de considerações que partem da experiência pessoal da vítima. Por esse motivo, a maior parte dos materiais eliminados da rede social são pautados em denúncias sobre um comportamento.

No entanto, a meta da rede é que com os dados coletados dessas denúncias seja possível estabelecer elementos que possibilitem que ferramentas tecnológicas possam identificar o comportamento. Assim, esses casos, com os anos, passarão as ser eliminados da plataforma de maneira mais eficiente e proativa.

A automatização da ação contra esse tipo de conteúdo é essencial para preservar a vítima. Muitas vezes, ter que expor a situação pode ser traumático, ou ao menos desagradável, para quem sofre com o ataque.

A exploração infantil é outro elemento combatido. Como forma de combate à pedofilia, mesmo imagens inicialmente inocentes, como mães que postam fotos de filhos no banho, tem sido removidas. Isso porque essas imagens podem ser retiradas do contexto e mal utilizadas. Esses casos já são identificados sem denúncias.

O futuro do Facebook

O aprendizado de máquinas e a inteligência artificial evoluem todos os dias. Assim, a tendência é que esses serviços de combate a conteúdos impróprios se tornem ainda mais eficientes.

Para melhorar constantemente, o Facebook conta com o DTAG (Data Transparency Advisory Group), um grupo de especialistas em medição e governança que trabalha como suporte para as diretrizes de avaliar das metodologias de processo e dados.