Faux profils, pornodivulgation, ciblage des mineurs ou haine déversée sur les réseaux sociaux : le constat est sans appel. Dans son tout premier baromètre des violences et contenus illicites en ligne publié ce 26 mai 2026, la start-up européenne Moderering jette un pavé dans la mare numérique. En épluchant les environnements de Wyylde, Gleese, Chatiw, Facebook et Roblox, cette IA spécialisée dans la modération tire la sonnette d'alarme : le système actuel, basé sur le signalement après coup, est totalement dépassé. Pour protéger efficacement les utilisateurs, il est urgent de passer à une détection proactive et automatisée.
5 chiffres chocs qui bousculent nos certitudes
L'étude menée par Moderering s'appuie sur une analyse croisée combinant des sources publiques, des rapports officiels et des technologies d'intelligence artificielle propriétaires. Les données récoltées mettent en lumière des signaux de risque majeurs :
-
Wyylde en première ligne : 82 % des images et vidéos étudiées autour de cette plateforme adulte concerneraient des personnes n’ayant pas donné leur consentement à leur diffusion. Ces contenus impliqueraient essentiellement des femmes non inscrites sur le site.
-
Gleese également touché : 58 % des images et vidéos observées sur cet espace posent le même problème de consentement, ciblant là encore principalement des femmes extérieures à la plateforme.
-
L'illusion des couples : Selon l’analyse de l’IA, plus de 61 % des profils se présentant comme des couples sur Wyylde seraient en réalité des hommes seuls. Un chiffre qui interroge sérieusement l'efficacité de la vérification d'identité.
-
Le piège de Chatiw : Sur ce chat anonyme, l’IA établit une corrélation directe entre un jeune âge déclaré par l'utilisateur et la rapidité avec laquelle il reçoit des messages à caractère sexuel, suggérant un ciblage algorithmique ou comportemental par des profils malveillants.
-
La vulnérabilité des plus jeunes sur Roblox : Près de 50 % des utilisateurs de Roblox ont moins de 13 ans. Le baromètre rappelle les nombreuses alertes publiques concernant l'exposition de ces mineurs à des contacts problématiques via les chats, les avatars ou le système de récompenses.
Agir avant le dommage : le plaidoyer d’Alexandre Sossou
Derrière cette diversité de plateformes, allant du jeu vidéo pour enfants au site libertin, se cache une faille systémique : les éditeurs modèrent beaucoup trop tard. Le modèle traditionnel (un contenu est mis en ligne, un utilisateur le signale, la plateforme l'analyse puis le supprime) montre ses limites absolues. Quand une image intime est diffusée ou qu'un prédateur entre en contact avec un enfant, le traumatisme est immédiat. Le dommage est fait bien avant que le bouton "signaler" ne soit cliqué.
« Ces chiffres ne racontent pas cinq problèmes isolés. Ils montrent un même basculement : les plateformes ne sont plus seulement confrontées à des contenus à modérer, mais à des environnements de risque à d’étecter. [...] La modération doit changer de nature. Elle ne peut plus être uniquement réactive, humaine et tardive. Elle doit devenir proactive, automatisée, contextualisée, et capable d’identifier les signaux faibles avant que les violences ne se propagent. »
— Alexandre Sossou, fondateur de Moderering
À chaque plateforme son terrain de risques
Le baromètre cartographie les dangers selon les typologies d'espaces numériques :
Plateformes adultes et pornodivulgation
Le fléau majeur reste la diffusion de contenus intimes non consentis. Les volumes de partages de photos ou vidéos volées, dont les victimes ne possèdent même pas de compte sur ces sites, s'avèrent massifs.
Chats anonymes et prédation rapide
Les espaces comme Chatiw souffrent de l'absence de vérification robuste de l’âge ou de l’identité, créant des autoroutes pour la mise en contact immédiate et le ciblage des adolescents.
Mondes immersifs et gaming
Sur les plateformes ultra-populaires comme Roblox, la modération à grande échelle d'interactions dynamiques (conversations, comportements d'avatars) reste un défi insuffisant face à la concentration massive d'enfants de moins de 13 ans.
Grands réseaux sociaux et haine systémique
Harcèlement, violences de genre et cyberlinchage saturent les canaux des géants du web. Meta (Facebook) s’est d'ailleurs retrouvé dans le collimateur de la Commission européenne en avril 2024, visé par une procédure formelle au titre du Digital Services Act (DSA) pour les faiblesses de ses mécanismes de traitement des plaintes.
Le DSA siffle la fin de la récréation
La législation européenne change radicalement la donne. Avec l’entrée en vigueur du Digital Services Act, les plateformes ont désormais l'obligation légale d'évaluer et de réduire activement leurs risques systémiques sous peine de lourdes sanctions.
C’est sur ce créneau réglementaire que la startup Moderering, créée en 2024 et soutenue par l’écosystème French Tech et Bpifrance, déploie sa technologie. Ses agents IA analysent en temps réel les textes, images, vidéos, liens et conversations pour identifier et prioriser les dérives (cyberharcèlement, racisme, contenus générés par IA). Une approche indispensable quand on sait que les infractions en ligne représentaient déjà 12 % des atteintes à la personne enregistrées par les forces de l’ordre en 2024. En automatisant la première ligne de défense, l'objectif est double : protéger les internautes instantanément et éviter aux modérateurs humains l'exposition continue à des contenus hautement traumatisants.
Plus d’informations sur https://www.moderering.com