Avis institutionnel — 52022AE2804

Avis du Comité économique et social européen sur le thème «Proposition de règlement du Parlement européen et du Conseil établissant des règles en vue de prévenir et de combattre les abus sexuels sur enfants»

[COM(2022) 209 final — 2022/0155 (COD)]

et sur le thème «Communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions — Une décennie numérique pour les enfants et les jeunes: la nouvelle stratégie européenne pour un internet mieux adapté aux enfants (BIK +)»

[COM(2022) 212 final]

(2022/C 486/18)

Rapporteur:

Veselin MITOV

Consultation	Conseil de l’Union européenne, 22.7.2022 Parlement européen, 12.9.2022 Commission européenne, 28.6.2022
Base juridique	Article 114 du traité sur le fonctionnement de l’Union européenne Article 304 du traité sur le fonctionnement de l’Union européenne
Compétence	Section «Marché unique, production et consommation»
Adoption en section	8.9.2022
Adoption en session plénière	21.9.2022
Session plénière no	572
Résultat du vote (pour/contre/abstentions)	233/0/1

1. Conclusions et recommandations

1.1.

Le Comité économique et social européen (CESE) salue la proposition de règlement «établissant des règles destinées à prévenir et lutter les abus sexuels commis sur les enfants» (1) et la stratégie intitulée «Une décennie numérique pour les enfants et les jeunes: la nouvelle stratégie européenne pour un Internet mieux adapté aux enfants» (2) qui arrivent à point nommé compte tenu de l’utilisation plus précoce et quasi quotidienne d’Internet par les enfants et corrélativement à la demande croissante de matériel pédopornographique constatée par Europol.

1.2.

Il soutient le volet éducatif de la stratégie car il est fondamental de renforcer les compétences, l’habileté numérique, et la sensibilisation à l’utilisation des données personnelles, pour que tous les enfants, quelle que soit leur situation, utilisent internet en connaissance de cause pour se préserver de ses dangers potentiels.

1.3.

La formation des responsables légaux, de l’environnement scolaire, éducatif, sportif… est aussi primordiale car de nombreux adultes ne possèdent pas les compétences requises. Le CESE se félicite de l’intention de la Commission d’organiser des campagnes d’éducation aux médias destinées aux enfants et à leurs responsables légaux, à travers les réseaux et les multiplicateurs susmentionnés. Il encourage vivement leur extension à d’autres organisations de la société civile organisée, afin d’accroître leur impact et de développer des solutions créatives, car dans certains États membres, elles ont une longue expérience de terrain et de première ligne. Elles devraient donc également être soutenus financièrement dans leurs activités.

1.4.

Il soutient le règlement proposé dans son principe, mais il est réservé quant au caractère disproportionné des mesures envisagées et au risque d’atteinte à la présomption d’innocence car elle vise à obliger les entreprises technologiques à scanner les messages, photos ou vidéos postés en ligne, pour détecter d’éventuels abus sur enfants puis, en cas de «certitude», à faire intervenir a posteriori, une «autorité de coordination» désignée par l’État membre, compétente pour demander au juge national ou à une autorité administrative indépendante d’émettre une injonction de détection.

1.5.

Lutter contre la pédopornographie en ligne est légitime et nécessaire, mais imposer un système de détection privé prima facie d’un certain type de contenu, aussi illicite, illégal et dangereux soit-il, fait peser le risque d’une surveillance généralisée de tous les échanges virtuels.

1.6.

Le règlement proposé prévoit que les entreprises devraient détecter les modèles de langage liés aux abus sexuels sur enfants, en utilisant l’intelligence artificielle pour analyser les échanges où des adultes se livrent au grooming. Or, il est facile de constater dans notre vie numérique que les scans algorithmiques ne sont pas infaillibles. Leur utilisation prudente et encadrée est donc essentielle.

1.7.

Le propos du CESE est de préserver les intérêts de tous, tels que le secret des correspondances et du respect de la vie privée qui sont des exigences constitutionnelles (3). Or, un balayage des services d’hébergement et de communication fait peser un risque notamment sur le cryptage de bout en bout des échanges en ligne. Il demande à la Commission d’améliorer et de préciser le texte afin de préserver le secret des correspondances et le respect de la vie privée.

1.8.

Le CESE soutient la création d’une nouvelle agence européenne dont les compétences comprennent deux volets essentiels: un pôle opérationnel et un pôle de recherche et analyse, car la lutte contre la pédopornographie et la pédophilie en ligne appelle une coordination des opérations et des analyses du fait de son ampleur internationale.

1.9.

Le CESE verrait favorablement l’implication d’Eurojust dans l’architecture envisagée par la Commission, car qui dit enquêtes coordonnées, dit instructions judiciaires coordonnées.

2. Aperçu des mesures prévues par la Commission

2.1.

Le 11 mai 2022, la Commission a présenté une proposition de règlement du Parlement européen et du Conseil «établissant des règles destinées à prévenir et lutter les abus sexuels commis sur les enfants» (4) et une stratégie intitulée «Une décennie numérique pour les enfants et les jeunes: la nouvelle stratégie européenne pour un Internet mieux adapté aux enfants» (5).

2.2.

Ce «paquet» repose sur la résolution du Parlement européen du 26 novembre 2019 sur les droits de l’enfant à l’occasion du 30e anniversaire de la Convention des Nations unies relative aux droits de l’enfant (6), des conclusions du Conseil sur l’éducation aux médias et de la recommandation du Conseil du 14 juin 2021 établissant une garantie européenne pour l’enfance (7).

La stratégie contenue dans la communication

2.3.

La stratégie européenne de l’année 2012 pour un internet mieux adapté aux enfants a joué un rôle central dans la protection, l’autonomisation des enfants en ligne, notamment grâce au réseau des centres pour un internet plus sûr et au portail «betterinternetforkids.eu», mais elle est devenue obsolète car les enfants utilisent plus précocement et plus souvent leur smartphone ou leur ordinateur, et ils en dépendent de plus en plus pour leurs activités scolaires ou récréatives.

2.4.

La pandémie du COVID-19 et le confinement ont mis en exergue les enjeux de la formation numérique des enfants, enseignants, éducateurs aux dangers potentiels d’internet. Selon Europol, la demande de matériel pédopornographique a augmenté de 25 % dans certains États membres. Les signalements d’enfants visés par des prises de contact à des fins sexuelles («grooming») ont augmenté de plus de 16 % entre 2020 et 2021.

2.5.

La stratégie proposée par la Commission en mai 2022 repose sur trois piliers: — la protection des enfants contre les contenus en ligne illégaux et dangereux et l’amélioration de leur bien-être en ligne, — l’autonomisation numérique, afin que les enfants acquièrent des compétences nécessaires pour naviguer en ligne et s’y exprimer de manière sûre et responsable, — la participation active des enfants, en leur donnant droit à la parole et à davantage d’activités novatrices pour améliorer leur expérience en ligne.

2.6.

Elle s’appuie sur une vaste consultation (8) #DigitalDecade4YOUth organisée de mars à août 2021 par European Schoolnet, avec le soutien du réseau Insafe des centres européens pour un internet plus sûr, complétée par de vastes consultations et elle repose sur le droit des enfants d’être entendus dans tout processus décisionnel qui les touche (9).

2.7.

Elle a été complétée par un MOOC «Better Internet for Kids» destiné aux enseignants en avril et mai 2021 sur «La culture numérique et la sécurité en ligne: comment la pandémie a mis à l’épreuve nos compétences?».

2.8.

En outre, des citoyens de l’UE (parents, enseignants, éducateurs, etc.) ont pu répondre à un sondage en ligne basé sur les mêmes questions que la consultation #DigitalDecade4YOUth.

2.9.

Les conclusions de l’enquête EU Kids Online (10) de 2020, font apparaître qu’une majorité d’enfants utilise leur outil numérique presque «quotidiennement», plus précocément et plus longtemps.

2.10.

La pandémie de COVID-19 et le confinement ont mis en lumière les enjeux de la formation numérique des enfants et adultes responsables légaux (voir plan d’action en matière d’éducation numérique pour la période 2021-2027 (11)).

2.11.

En effet, les informations collectées montrent que les enfants sont fréquemment exposés à des contenus, comportements, contacts préjudiciables, illicites, voire illégaux. L’utilisation des médias sociaux ou des jeux interactifs comporte des risques tels que l’exposition à des contenus inadaptés, le harcèlement, le pédopiégeage, les abus sexuels.

2.12.

Selon Europol (12), pendant les premiers mois de la crise de la COVID-19, la demande de matériel pédopornographique a augmenté jusqu’à 25 % dans des États membres. Le National Center for Missing and Exploited Children aux États-Unis a reçu près de 30 millions de signalements de suspicion d’exploitation sexuelle d’enfants en 2021, et les forces de l’ordre ont été alertées de plus de 4 000 nouveaux enfants victimes. Les signalements d’enfants sujets au grooming ont augmenté de plus de 16 % entre 2020 et 2021. Les enfants handicapés sont en outre particulièrement visés: jusqu’à 68 % des filles et 30 % des garçons ayant une déficience mentale ou physique seront victimes de violence sexuelle avant leur 18e anniversaire (13).

2.13.

Or, dans la législation existante de l’Union (directive SMA et RGPD), les mécanismes de vérification de l’âge et de consentement parental sont souvent inefficaces car en général les utilisateurs ne sont tenus d’indiquer que leur date de naissance au moment de la création de leur profil en ligne.

2.14.

Le règlement proposé impose aux fournisseurs de services d’hébergement ou de communication en ligne l’obligation de détecter, signaler et supprimer tout matériel lié à des abus sexuels en ligne sur des enfants.

2.15.

Il prévoit aussi la création d’une agence européenne pour prévenir et combattre les abus sexuels sur les enfants, faciliter la détection, le signalement et la suppression de contenus en ligne d’abus sexuels sur enfants, à fournir un soutien aux victimes et à constituer un pôle de connaissances, d’expertise et de recherche sur la prévention et la lutte contre les abus sexuels sur enfants.

Commentaires généraux sur la proposition de règlement

2.16.

Elle repose sur des obligations d’évaluation et d’atténuation des risques à la charge des fournisseurs de services d’hébergement et de services de communications interpersonnelles, avant toute injonction de détection émise par le juge national ou une autorité administrative indépendante désignée par l’État membre.

2.17.

Le CESE en soutient le principe qui complète les mesures existantes et les rend plus efficaces, grâce aux sanctions à l’encontre des fournisseurs de services d’hébergement et de services de communications interpersonnelles, tout en les rendant responsables de traquer prima facie les photos et vidéos de maltraitance d’enfants.

2.18.

Mais il est réservé quant aux risques pour le respect de la vie privée et le cryptage des conversations. La surveillance potentielle des échanges virtuels par des opérateurs privés et d’éventuelles accusations sans fondement, ont un caractère susceptible de porter atteinte à la présomption d’innocence.

3. Observations particulières

Le volet éducatif prévu dans la stratégie

3.1.

L’éducation des enfants et de leurs responsables légaux à l’utilisation des médias sociaux et d’autres outils numériques est fondamentale car les enfants utilisent souvent des produits et services numériques conçus pour les adultes, où le ciblage par des techniques de marketing, les algorithmes peuvent les inciter à ouvrir des contenus destinés à abuser de leur naïveté et de leur méconnaissance des outils numériques, voire à communiquer avec des personnes dangereuses dissimulées derrière des applications ludiques ou d’autres outils utilisés par les enfants.

3.2.

Souvent, ni les enfants ni les parents ne réalisent la quantité de données personnelles qu’ils partagent sur les médias sociaux. Les compétences et l’habileté numériques, la sensibilisation à l’utilisation des données personnelles sont essentielles pour que les enfants utilisent en connaissance de cause le monde virtuel.

3.3.

Les parents, éducateurs, enseignants, responsables de clubs, structures de loisirs, etc. ont aussi besoin de ces compétences pour guider les enfants.

3.4.

Le CESE considère que ce volet éducatif est majeur afin de protéger les enfants dans leur vie numérique et de les rendre autonomes dans le monde virtuel.

3.5.

En effet, de nombreux enseignants, parents, éducateurs ne possèdent pas les compétences requises, et il leur est difficile de se tenir au courant des évolutions technologiques. Ces formations doivent aussi inclure un module sur les droits de l’enfant en ligne car les droits de l’enfant sont identiques en ligne et hors ligne.

3.6.

Ce volet de la stratégie doit reposer sur une coopération étroite à l’échelon européen et international, un renforcement du travail avec la société civile organisée et surtout avec l’école. Il est fondamental que les programmes nationaux d’enseignement incluent des cours pratiques et obligatoires sur la navigation en ligne et ses risques, tout en étant inclusifs et respectueux de la diversité en général et de l’accessibilité en particulier.

3.7.

Le CESE apprécie l’intention de la Commission d’organiser des campagnes d’éducation aux médias destinées aux enfants et à leurs responsables légaux, à travers les réseaux précités et des multiplicateurs. Il encourage vivement à les élargir à d’autres organisations de la société civile organisée, pour en accroître l’impact et développer des solutions créatives, car dans certains États membres, elles ont une expérience de terrain et de première ligne de longue date. Le CESE considère que l’éducation joue un rôle critique dans ce contexte, car elle est le pendant de la prévention des abus sexuels en ligne sur les enfants.

3.8.

Le CESE se joint à la Commission pour encourager le rôle actif des enfants dans les débats stratégiques les concernant en leur accordant un droit de réunion et d’association sur des plateformes sociales en ligne, et les associer à l’élaboration de la stratégie numérique. Il salue donc la création de la nouvelle plateforme européenne de participation des enfants et appelle à ce que la parole des enfants soit suivie et pas seulement entendue.

4. Les sanctions prévues dans la proposition de règlement

4.1.

Jusqu’à présent, les fournisseurs de services d’hébergement et de services de communications interpersonnelles détectent volontairement les contenus illégaux. Déplorant implicitement l’échec de l’autorégulation, la Commission propose de les contraindre à agir, sous peine de sanction intervenant après une procédure d’enquête diligentée par des autorités nationales. Concrètement, cela signifie que les fournisseurs et les hébergeurs devront prima facie scanner tout ce qui circule sur leurs serveurs.

4.2.

Le CESE comprend que l’objectif de la Commission n’est pas de priver les citoyens du secret de leurs correspondances, mais il est préoccupé par l’utilisation potentiellement inappropriée de technologies intrusives qui pourraient nuire à la protection de la vie privée si elles n’étaient pas suffisamment bien conçues et encadrées. L’objectif visé est double: recourir à la technologie pour empêcher les abus sexuels sur les enfants et éviter la surveillance généralisée de la correspondance par des opérateurs privés via des algorithmes.

4.3.

Le CESE considère qu’il faut encadrer les pratiques de développement, de test et d’usage des algorithmes, en encourageant, voire en imposant aux acteurs de construire une gouvernance algorithmique pertinente et efficace pour assurer le bon fonctionnement de leurs outils. Il lui semble nécessaire que des méthodes de calcul d’explicabilité permettent de mieux comprendre les outils afin d’en souligner les biais et dysfonctionnements et donc de réparer le mal avant qu’il ne soit fait aux utilisateurs.

4.4.

Le CESE relève que la proposition prévoit des enquêtes coordonnées sous le contrôle du juge national, mais il invite instamment la Commission à l’améliorer pour préserver les libertés individuelles.

4.5.

Le CESE souligne l’importance d’une approche équilibrée, car le système envisagé consiste à analyser messages, photos ou vidéos pour détecter d’éventuels abus sur enfants et, en cas de «certitude», à alerter les autorités compétentes. Il est nécessaire que le mécanisme d’alerte englobe la nécessité, l’efficacité, la proportionnalité et l’équilibre des mesures envisagées.

4.6.

Il rappelle que dans l’affaire Schrems I (14), la Cour de justice a jugé que la législation permettant aux pouvoirs publics d’accéder de manière générale au contenu des communications compromet l’essence du droit à la vie privée garanti par la Charte des droits fondamentaux. La numérisation de contenu enregistré sur un serveur impliquant une analyse de toutes les communications passant par un serveur fait donc surgir des doutes.

4.7.

La responsabilité du traçage pèsera sur les plateformes et/ou les médias sociaux qui pourraient donc être sollicités pour traquer les matériaux d’abus d’enfants, sous peine de devoir payer des amendes à hauteur de 6 % de leur chiffre d’affaires mondial. Elles devraient utiliser l’intelligence artificielle et détecter des modèles de langage pour que les échanges où des adultes pratiquent le grooming puissent être bloqués. L’utilisation adéquate des scanners algorithmiques est donc essentielle pour éviter des erreurs engendrant des accusations non fondées, car ils ne sont pas infaillibles.

4.8.

La Commission prévoit aussi d’obliger les plateformes à évaluer le risque que leurs services soient utilisés pour diffuser des images pédopornographiques ou le grooming, et de favoriser un «code de conduite global de l’UE relatif à une conception adaptée à l’âge» (15), assorti de conditions générales qui laissent le CESE perplexe.

4.9.

Elle précise que les États membres devront désigner une autorité indépendante chargée de surveiller que les plateformes remplissent leurs obligation, autorité habilitée à demander le cas échéant au juge national ou à une autorité administrative indépendante d’émettre une injonction de détection, limitée dans le temps, ciblant un type de contenu spécifique sur un service donné, et de demander à l’entreprise concernée de rechercher tout contenu lié à des abus sexuels sur enfants ou aux fins de grooming, voire de pédopiégeage.

4.10.

Si ces autorités indépendantes estimaient qu’un service était trop risqué pour les enfants, elles pourraient demander aux fournisseurs de services d’hébergement et de services de communications interpersonnelles de numériser leur contenu et des échanges pendant une période précise. Le CESE préférerait que l’application de ce dispositif soit placée sous le contrôle effectif et préalable du juge national, en sa qualité de gardien des libertés individuelles, et considère que la compatibilité de ce type d’ordonnance avec la Charte des droits fondamentaux est sujette à caution.

4.11.

Si la proposition était adoptée en l’état, le règlement forcerait les entreprises technologiques à surveiller leurs plates-formes pour détecter les abus sur des enfants, grâce à des algorithmes.

4.12.

Même si le but poursuivi est louable, le CESE considère qu’il existe un risque d’entraver le respect de la correspondance privée en ligne, du droit à la vie privée et à la protection des données personnelles, et que tout doit être mis en œuvre pour l’éviter.

4.13.

Le propos du CESE est de préserver les intérêts de toutes les personnes, car certains d’entre eux sont des exigences constitutionnelles; c’est le cas du secret des correspondances et du respect de la vie privée (16).

4.14.

Il souligne que la perspective d’une obligation de balayage général des services d’hébergement et de communication fait peser un risque sur toutes les techniques destinées à garantir le secret des correspondances, comme le cryptage de bout en bout.

4.15.

La Commission reconnaît d’ailleurs que trouver des échanges où des adultes pratiquent le grooming est «de façon générale la plus intrusive pour les utilisateurs», parce qu’elle exige de «lire automatiquement des communications interpersonnelles».

5. La création d’une nouvelle agence européenne

5.1.

La proposition de règlement prévoit de créer une agence européenne indépendante basée à La Haye, aux côtés d’Europol, dotée d’un budget de 26 millions d’euros, qui sera chargée d’analyser les signalements de matériel illégal, de coordonner les bases de données d’empreintes digitales et de matériel illégal et d’aider les entreprises à trouver des technologies fiables. Elle servirait aussi d’intermédiaire entre les entreprises technologiques, les forces de l’ordre et les victimes.

5.2.

Le CESE se réjouit que les compétences de cette agence soient organisées en deux volets essentiels: un pôle opérationnel et un pôle de recherche et analyse, car l’importance de lutter contre la pédopornographie et la pédophilie en ligne appelle une coordination des opérations et des analyses.

5.3.

L’aspect opérationnel est fondamental et justifie qu’elle coopère étroitement avec Europol dont l’efficacité n’est plus à démontrer. L’ampleur européenne et internationale de la délinquance sexuelle en ligne visant les enfants justifie son existence.

5.4.

Le CESE verrait favorablement l’implication d’Eurojust dans les opérations dans l’architecture envisagée par la Commission, car qui dit enquêtes coordonnées, dit instructions judiciaires coordonnées.

---

(1) COM(2022) 209 final.

(2) COM(2022) 212 final.

(3) La constitutionnalisation du droit au respect de la vie privée

(4) COM(2022) 209 final — 2022/0155 (COD).

(5) COM(2022) 212 final.

(6) JO C 232 du 16.6.2021, p. 2.

(7) JO L 223 du 22.6.2021, p. 14.

(8) https://europa.eu/!XXv6kx

(9) Article 12 de la Convention des Nations unies relative aux droits de l’enfant

(10) EU Kids Online.

(11) COM(2020) 624 final.

(12) https://europa.eu/!Jh78ux

(13) Children with disabilities.

(14) Affaire C-362/14, paragraphe 94.

(15) COM(2022) 212 final.

(16) La constitutionnalisation du droit au respect de la vie privée