Moderação de conteúdo
O trabalho de decidir o que pode continuar numa plataforma. É feito de regras, classificação automatizada e revisores humanos — nessa ordem, com margem de erro cada vez menor a cada etapa.
A automação resolve o óbvio: comparação de hash contra bancos de dados conhecidos de material de abuso infantil, classificadores para spam, nudez e violência. Tudo que é limítrofe — sátira, reportagem sobre violência, ameaças em contexto local, sarcasmo — acaba nas mãos de humanos, muitas vezes terceirizados, com danos psicológicos documentados; o Facebook fechou acordo em 2020 pagando 52 milhões de dólares a moderadores nos EUA. A escala torna a perfeição impossível: com milhões de decisões por dia, mesmo 99% de acerto gera dezenas de milhares de erros diariamente, e os dois tipos de erro viram manchete. Desde 2024, o DSA da União Europeia exige direito de recurso, relatórios de transparência e avaliação de riscos.