Briefing sur l'identification et la lutte contre les dérives sectaires et les risques associés aux plateformes numériques, notamment TikTok

Source : Extraits de l'audition du chef de la Miviludes par une commission d'enquête parlementaire, et audition de psychologues cliniciennes et maître de conférence en psychologie cognitive et ergonomie.

Contexte : Cette audition fait suite à la publication d'un rapport d'activité de la Miviludes (Mission interministérielle de vigilance et de lutte contre les dérives sectaires) mettant l'accent sur les menaces que représente le numérique, en particulier pour les mineurs, ainsi qu'à une stratégie nationale de lutte contre les dérives sectaires annoncée en novembre 2023.

Les psychologues auditionnés apportent une expertise sur les aspects psychologiques de ces phénomènes, notamment les addictions comportementales.

Principaux Thèmes et Idées :

• Le Numérique comme Vecteur Majeur des Dérives Sectaires et Risques Associés : Le numérique est désormais une dimension quasi systématique des signalements reçus par la Miviludes, même si elle n'exclut pas toujours les rencontres physiques.

Les plateformes en ligne, dont TikTok, permettent d'atteindre les mineurs directement dans leur espace personnel, souvent à l'insu des parents.

• Citation : "...dans ces signalements il y a presque toujours une dimension numérique qui n'est souvent pas exclusive de rencontres physique mais la dimension numérique est est presque toujours présente..."

• Citation : "...ce phénomène des réseaux sociaux présente aussi cette nouveauté qu'ils peuvent atteindre des mineurs dans leur vie personnelle à la maison sans même que les parents comme vous le savez puissent en être informés sans avoir toujours les moyens de contrôle les connaissances techniques permettant de paramétrer l'outil pour sécuriser l'accès à un certain nombre de données..."

• Difficulté d'Identification et de Lutte face à de Nouveaux Phénomènes : Les dérives en ligne ne correspondent pas toujours à des infractions pénales clairement définies, rendant la lutte plus complexe. Des comportements peuvent être préoccupants pour la santé des mineurs sans relever immédiatement du droit pénal classique.

• Citation : "...il y a pas toujours d'infractions pénales qui sont commises et pour autant il peut y avoir des comportements qui peuvent prêter à réfléchir voire à à être préoccupé pour la santé des mineurs..."

• Citation : "...nous sommes face à des phénomènes sur lesquels nous devons certainement travailler davantage pour mieux savoir comment les prévenir parce que le droit pénal n'est pas forcément d'une grande utilité sur ce plan-là..."

• Prolifération d'Acteurs non Qualifiés et d'Influenceurs : De nombreuses personnes se présentent comme des professionnels (coachs de vie, coachs spirituels, coachs en développement personnel, experts en cryptomonnaies, etc.) sans diplômes reconnus ou compétences avérées.

Ces acteurs peuvent exercer une influence significative sur les mineurs, traitant de sujets intimes (blessures, chagrin, relations conflictuelles) et créant une forme de dépendance.

• Citation : "...beaucoup de nouveaux métiers et de en tout cas de personnes qui estiment exercer un nouveau métier et qui pour autant ne peuvent pas justifier d'un diplôme qui serait reconnu par l'État ou d'une compétence particulière dans des domaines dans lesquels ils exercent une influence importante dans la vie de ces mineurs alors je pourrais citer les influenceurs notamment spirituels mais pas seulement les coachs de vie les influenceurs pardon de développement personnel enfin toutes personnes qui euh dans certains cas peuvent présenter des compétences aléatoires..."

• Influence des Communautés en Ligne et Pression de Groupe : La formation de communautés en ligne est un phénomène nouveau qui rend difficile la prévention des abus. L'influence et la pression du groupe peuvent être particulièrement préoccupantes, surtout pour les mineurs.

• Citation : "...la formation de communauté en ligne et c'est un phénomène qui qui est quand même relativement nouveau et nous n'avons sans doute pas toutes les tous les éléments de réponse efficaces aujourd'hui pour prévenir les abus qui peuvent être commis dans ce type de de communauté en ligne..."

• Citation : "...lorsque vous avez un phénomène de foule ou un phénomène collectif de communauté en ligne il peut y avoir une influence du groupe une pression du groupe qui peut être préoccupante sur encore plus évidemment sur des mineurs..."

• Processus d'Emprise Mentale et Vulnérabilité des Mineurs : La Miviludes observe les différentes phases de l'emprise mentale, qui commence souvent par une phase de séduction/valorisation, suivie d'un endoctrinement, d'un isolement par rapport aux proches, puis d'une dépendance. Les mineurs sont particulièrement vulnérables à ce processus.

• Citation : "...de ce que nous avons observé en fait s'agissant de de l'emprise mentale puisque c'est de cela dont nous occupons principalement à la Mivilude... il y a d'abord une phase de séduction... et puis euh ensuite et bien il y a une phase d'endctrinement qui peut se manifester... et puis donc ensuite ça peut être une l'adoption d'une de nouvelles règles de vie qui crée un isolement... et puis donc à cette phase d'isolement peut succéder une phase de dépendance..."

• Citation : "...nous ce que nous pouvons observer c'est c'est quelque chose qui avait d'ailleurs été expliqué par des chercheurs c'est les différentes phases de l'emprise qui peut être et bien problématique par les liens de dépendance qu'il peut créer et la difficulté ensuite à s'en désengager pour les personnes qui sont concernées et encore plus de mineurs..."

• Risques Spécifiques Liés à TikTok : TikTok présente des particularités préoccupantes, notamment le système de micro-dons qui peut créer une "ambiance de show" incitant à donner toujours plus, et la facilité avec laquelle certains mineurs peuvent être touchés, combinée à un phénomène de "célébrité" qui peut générer une forte dépendance et un attente de l'influenceur. Des signalements spécifiques sur TikTok concernant des mineurs ont été reçus.

• Citation : "...s'agissant de de TikTok donc j'ai j'ai rappelé tout à l'heure la possibilité de pouvoir faire des micro don qui peut créer une ambiance très particulière surtout lorsqu'il s'agit de de mineurs qui sont en cause..."

• Citation : "...ce qui nous préoccupe s'agissant de TikTok c'est la manière dont certains mineurs peuvent être touchés... nous avions un signalement qui concernait donc des des mineurs donc de pour certains âgés de moins de 15 ans euh et qui pouvait lorsqu'on mêle l'aspect réseau social avec un phénomène de célébrité ou assimilé comme tel et bien il peut y avoir un enjeu de dépendance très fort avec des mineurs qui attendent la manifestation du leader du groupe d'une manière ou d'une autre..."

• Cas Spécifique de l'Influenceuse "Ophénia" : La Miviludes a effectué un signalement au procureur de Paris concernant cette influenceuse.

Les préoccupations portaient sur la composition de sa communauté (majoritairement des adolescentes, parfois très jeunes), les interactions directes et intenses, et les réactions passionnelles et mimétiques de ses abonnées (propos suicidaires, automutilation, grèves de la faim, menaces, harcèlement).

• Citation : "...nous avons été informés par le collectif maire donc mineur éthique et et réseau d'une masse d'information... j'ai signé donc un signalement à la procureur de Paris faisant état d'un certain nombre de faits préoccupants... j'ai rapporté ces ces faits là [tentative de suicide suite au comportement d'une influenceuse], j'ai rapporté aussi euh les éléments sur cette les idées de suicide que pouvait avoir euh de jeunes internautes... la communauté Bégénia puisque c'est le nom qu'elle elle a donné à sa communauté serait composé d'adolescentes parfois très jeunes..."

• Citation : "...les échanges en fait électroniques révélaient une forte adhésion au mouvement d'humeur d'OPIA... allant jusqu'à insulter tout détracteur voire à proférer des menaces de mort..."

• Citation : "...le comportement mimétique et parfois presque fanatique de membres de cette communauté qui nous paraissait euh préoccupant puisque lorsqueia faisait état d'une contrariété particulière des membres de sa communauté réagissaient de façon passionnelle et se montraient aussi affecté qu'elle avec des photos de jeunes filles portant des cicatrices de scarification ou des marques de blessures ou de jeunes filles qui annonçaient une grève de la fin ou des projets de tentative de suicide..."

• Dérives Financières (Cryptomonnaies, Coaching, Vente Pyramidale) : Le "culte de l'argent facile" et la promotion de la richesse rapide, notamment via les cryptomonnaies ou certains types de coaching, sont des sources d'attrait pour les jeunes et peuvent donner lieu à des systèmes de vente pyramidale et à une pression de groupe intense.

• Citation : "...le culte de l'argent facile est une source de très efficace d'attrait d'un grand nombre d'adolescents de jeunes adultes et donc il peut y avoir dans certaines organisations une forme de pression sur des objectifs commerciaux de ramener de nouveaux clients az vous avez évoqué les systèmes de de vente pyramidale et on a ces ces systèmes là que l'on retrouve de manière très claire..."

• Citation : "...ces valeurs de l'argent facile de des influenceurs à Dubaï cette vie voilà d'image de euh évidemment elle pèse dans l'ambiance générale..."

• Fake News et Complotisme : Le développement des fake news et du complotisme en ligne tend à relativiser les savoirs établis, contester la science, la médecine et les pouvoirs publics, constituant une "menace nouvelle".

• Citation : "...nous avons aussi le ce phénomène des fake news du complotisme qui s'est beaucoup développé et qui tend à relativiser pas mal toutes les formes de savoir et même à contester le monde de la science le monde de la médecine les pouvoirs publics toute menace nouvelle qui appelle certainement de nouvelles réponses..."

• Nouvelles Technologies (IA, Métavers) comme Risques Potentiels : L'intelligence artificielle et le métavers sont identifiés comme des technologies pouvant présenter des risques, notamment en termes de manipulation, accentués lorsqu'ils concernent les mineurs, bien que l'IA puisse aussi être une ressource pour l'identification des comportements problématiques.

• Citation : "...l'intelligence artificielle qui est une menace mais qui peut être aussi une ressource qui peut être utilisée pour mieux identifier un certain nombre de comportements problématiques..."

• Citation : "...une autre technologie dont on parle pas beaucoup ou plus beaucoup mais on va certainement en parler davantage à l'avenir c'est le c'est le métaverse qui qui reviendra avec la la possibilité de de vivre des expériences subjectives et donc avec des possibilités nouvelles de manipulation et qui sont évidemment très problématiques dès lors qu'on parle de mineurs..."

• Augmentation des Signalements et Demandes d'Information : La Miviludes constate une forte augmentation des sollicitations (signalements et demandes d'information), passant de 2160 en 2015 à 4570 en 2024. La gravité des signalements s'est également accrue.

• Citation : "...ces demandes d'information ces signalements sont en forte augmentation puisque nous avons plus d'un doublement depuis 2015 2160 en 2015 4570 en 2024..."

• Citation : "...ces signalements n'ont leur gravité n'a fait que s'amplifier d'après ce que me disent les membres de mon équipe..."

• Appréciation de la Réglementation Existant (DSA) et Besoin de Prévention : L'application du règlement sur les services numériques (DSA) est jugée nécessaire, mais elle requiert une meilleure formation pour l'identification et la documentation des "risques systémiques".

Cependant, au-delà de la réglementation, il est jugé essentiel de renforcer la prévention et l'information du public, notamment en matière de santé, en vulgarisant l'information scientifique et médicale sur les réseaux sociaux.

• Citation : "...s'agissant du règlement sur les services numériques qui est mis en œuvre qui est applicable en France... nous devons définir les risques systémiques et surtout les documenter et je dois dire que les agents de l'État ne sont peut-être pas tous complètement euh formés aujourd'hui pour appliquer cette réglementation..."

• Citation : "...avant même de savoir s'il faut la faire changer je pense qu'il faut déjà qu'on puisse l'appliquer de manière rigoureuse..."

• Citation : "...nous pouvons aussi certainement faire beaucoup mieux sans avoir besoin non plus de réglementation en terme de prévention et d'information donnée au public..."

• Citation : "...nous pourrions faire bien mieux en terme de vulgarisation scientifique médicale pour qu'il y ait une information de qualité immédiatement accessible pour les utilisateurs de ces réseaux sociaux y compris de TikTok..."

• Difficultés Liées aux Preuves et à l'Action en Justice : Les captures d'écran ne constituent pas une preuve suffisante en justice ; seuls les liens internet le sont, et leur enregistrement est essentiel (mention de la plateforme Faros).

La qualification des faits, notamment en ce qui concerne la corruption de mineurs ou les propos sexualisés, peut être difficile à établir. Le traitement de l'urgence est assuré, mais prouver les mécanismes de manipulation mentale peut prendre du temps.

• Citation : "...il me semble que les donc les captures d'écran ne sont pas une preuve il faut faire savoir ça au aux personnes qui nous sollicitent seul le lien internet peut-être une preuve et encore si on a pu démontrer qu'il était en ligne..."

• Citation : "...là on est sur quelque chose d'encore plus difficile à caractériser puisqueà partir de quand c'est problématique il y a une infraction de corruption de mineurs qui existe mais enfin il faut pour cela des éléments intentionnels et tout dépend la manière dont c'est reçu interprété reproduit et cetera..."

• Citation : "...l'urgence nous la traitons toujours en urgence mais les phénomènes de manipulation mentale nécessitent un travail qui peut être long pour prouver pour démontrer en tous les cas mécanisme donc c'est quelque chose qui peut prendre du temps..."

• Moyens Limités de la Miviludes : Malgré l'augmentation significative de la charge de travail et de la gravité des signalements, les effectifs de la Miviludes sont restés stables depuis 2015 (14-15 agents).

• Citation : "...nous sommes 14 il y a quatre contrats 10 mises à disposition d'agents donc de d'autres ministères donc nous sommes 14 avec un alternant ça fait 15..."

• Citation : "...nous avons le double de signalement depuis 2015 et ces signalements n'ont leur gravité n'a fait que s'amplifier... Et comment ont évolué les effectifs depuis 2015 de la Mivilude ? c'est resté à peu près stable..."

• Potentialités d'Utilisation des Plateformes par les Institutions : Certaines plateformes comme TikTok pourraient être utilisées par les institutions pour la prévention et l'information, comme le fait la police espagnole. Cela soulève cependant des questions sur la stratégie à adopter face à un outil posant par ailleurs problème.

• Citation : "...je pour avoir rencontré nos homologues espagnols la police espagnole a un compte TikTok qui est extrêmement populaire et qui fonctionne semble-t-il très bien... dans le domaine de l'information de la prévention nous pourrions nous emparer davantage de ces outils..."

Faits et Chiffres Clés :

• Augmentation des signalements à la Miviludes : 2160 en 2015, 4570 en 2024.

• Signalements adressés au parquet par la Miviludes : 80 sur 2023-2024 (contre 33 sur 2021-2022).

• Signalements spécifiques relatifs à TikTok reçus par la Miviludes : 135 au total, dont 17 concernaient spécifiquement des mineurs.

• Effectif de la Miviludes : 14-15 agents, stable depuis 2015.

• La stratégie nationale de lutte contre les dérives sectaires 2024-2027 inclut un volet numérique.

• Ce briefing résume les points essentiels abordés dans les sources, mettant en lumière les défis posés par le numérique et les réseaux sociaux dans la lutte contre les dérives sectaires, l'impact spécifique sur les mineurs, les difficultés d'action et les pistes de travail (prévention, information, application de la réglementation).