CSAM
CSAM (Child Sexual Abuse Material) désigne les contenus pédocriminels en ligne. Voici la définition officielle, l'usage du terme dans le règlement CSAR, et les débats autour.
Définition
CSAM est l'acronyme de Child Sexual Abuse Material, en français "matériel d'abus sexuel sur enfant". Ce terme désigne, dans la terminologie officielle des institutions européennes et internationales, tout contenu visuel ou textuel représentant des mineurs dans un contexte d'abus sexuel.
Le terme CSAM a progressivement remplacé l'expression "pédopornographie" dans les textes officiels, notamment depuis 2015. Cette évolution terminologique est délibérée : le mot "pornographie" implique une notion de consentement qui, par définition, ne peut exister quand un mineur est impliqué. Parler de CSAM permet de qualifier plus justement la nature criminelle de ces contenus.
Le CSAM dans le règlement CSAR
Le règlement européen CSAR prend son nom de cette catégorie de contenus : Child Sexual Abuse Regulation. Son objectif officiel est de mettre en place un cadre législatif contraignant pour détecter, signaler et supprimer les CSAM sur les plateformes de communication numérique.
Dans le texte du règlement, le CSAM est catégorisé en deux types.
Le CSAM connu désigne des contenus déjà identifiés par les autorités et référencés dans des bases de données internationales, principalement celles gérées par le NCMEC américain (National Center for Missing and Exploited Children). Ces contenus sont identifiés par une empreinte numérique unique (un "hash") qui permet leur détection automatique sans avoir besoin de les visualiser.
Le CSAM nouveau désigne des contenus jamais vus auparavant, qui doivent être identifiés par des algorithmes d'intelligence artificielle. Cette catégorie pose des difficultés techniques et éthiques majeures, car les taux d'erreur constatés sont significativement plus élevés que sur le CSAM connu.
Les chiffres officiels
Selon les données de la police fédérale allemande (BKA) rendues publiques en 2024, sur l'ensemble des signalements CSAM générés par les mécanismes de scan actuellement en place au titre de Chat Control 1.0 :
- Environ 40 % des cas signalés concernent en réalité des mineurs eux-mêmes, souvent dans des échanges consentis entre adolescents
- Près de 50 % des signalements sont pénalement sans intérêt (faux positifs, photos de famille, discussions médicales)
- Seuls 10 à 20 % aboutissent à une enquête judiciaire pertinente
Ces chiffres nourrissent la controverse autour de l'efficacité réelle du dispositif Chat Control, notamment pour la détection de CSAM nouveau.
Les techniques de détection
Trois grandes techniques sont utilisées pour identifier automatiquement les CSAM :
La comparaison de hachages consiste à calculer une empreinte numérique unique de chaque fichier, puis à la comparer à une base de données d'empreintes connues de CSAM. Cette technique est précise sur les contenus déjà répertoriés mais ne détecte rien de nouveau.
L'analyse par intelligence artificielle utilise des algorithmes de vision par ordinateur et de traitement du langage pour identifier des contenus potentiellement problématiques, même inédits. Cette technique génère beaucoup de faux positifs.
La détection de grooming analyse les patterns conversationnels pour identifier des tentatives de manipulation d'un mineur en vue d'un abus. Cette technique est la plus contestée, car elle repose sur une analyse contextuelle du langage particulièrement sujette à interprétation.
Un enjeu réel, des moyens contestés
L'existence du CSAM en ligne est un problème réel et documenté. Les organisations internationales de protection de l'enfance publient chaque année des rapports faisant état d'une progression continue du volume de contenus en circulation.
Le débat autour de Chat Control ne porte pas sur cette réalité, mais sur les moyens à mettre en œuvre pour y répondre. Les partisans du règlement CSAR affirment que le scan généralisé est nécessaire pour endiguer le phénomène. Les opposants soutiennent que ces techniques génèrent trop de faux positifs, portent atteinte à la vie privée de centaines de millions de personnes innocentes, et n'apportent qu'un bénéfice marginal dans la détection réelle des criminels, qui utilisent massivement des canaux chiffrés hors des messageries grand public.