Moderación de contenido
El trabajo de decidir qué puede permanecer en una plataforma. Se compone de reglas, clasificación automática y revisores humanos — en ese orden, y con márgenes cada vez menores en cada paso.
La automatización se ocupa de lo evidente: cotejo de hashes contra bases de datos conocidas de material de abuso infantil, clasificadores para spam, desnudez y violencia. Todo lo fronterizo — sátira, información periodística sobre violencia, amenazas en contexto local, sarcasmo — acaba en manos humanas, a menudo en subcontratas, con daños psicológicos documentados; Facebook llegó en 2020 a un acuerdo de 52 millones de dólares con moderadores estadounidenses. La escala hace imposible la perfección: con millones de decisiones al día, incluso un 99 % de acierto produce decenas de miles de errores diarios, y ambos tipos de error generan titulares. Desde 2024, la DSA de la UE impone requisitos de apelación, informes de transparencia y evaluaciones de riesgo.