Innehållsmoderering Content moderation
Arbetet med att avgöra vad som får finnas kvar på en plattform. Består av regler, automatiserad klassificering och mänskliga granskare — i den ordningen, och med krympande marginaler i varje steg.
Automatiken tar det uppenbara: hashmatchning mot kända databaser för övergreppsmaterial, klassificerare för spam, nakenhet och våld. Allt gränsfall — satir, nyhetsrapportering om våld, hot i lokal kontext, sarkasm — hamnar hos människor, ofta hos underleverantörer, med dokumenterade psykiska skador som följd; Facebook förlikades 2020 om 52 miljoner dollar med amerikanska moderatorer. Skalan gör perfektion omöjlig: med miljoner beslut per dag ger även 99 procents träffsäkerhet tiotusentals fel dagligen, och båda feltyperna genererar rubriker. EU:s DSA ställer sedan 2024 krav på överklagande, transparensrapporter och riskbedömningar.