La fin de l’état de droit : tou·te·s suspect·e·s ?
Le règlement “chat control”, une atteinte aux libertés fondamentales et à la vie privée sous couvert de lutte contre la pédocriminalité
La lutte contre la pédocriminalité est un combat majeur que nous soutenons, notamment en ligne où les contenus pédopornographiques prolifèrent. Pour mener cette lutte, l’Union Européenne s’apprête à voter le règlement “chat control” mais qui nous pose des questions tant sur les risques pour les libertés fondamentales et à la vie privée qu’il ouvre que sur son applicabilité.
L’idée générale est que les plateformes devraient vérifier si des photos ou des vidéos issues de bases de données contenant des contenus pédopornographiques déjà identifiés circulent sur leurs réseaux et, dans ce cas, les bloqueraient immédiatement. Mais les autres contenus ne sont pas exclus du dispositif avec le prétexte d’une chasse aux nouveaux contenus, menant à une analyse fine et automatisée de l’intégralité des contenus partagés entre utilisateurices. Le texte prévoit également l’obligation de vérifier l’âge des utilisateurs par les plateformes, mesure déjà largement appliquée par les pays de l’Union Européenne, mais largement décriée pour des raisons de sécurité et de confidentialité. A priori, et contrairement à ce qui peut être lu ici et là, l’UE est revenue sur son idée initiale d’obliger les plateformes de permettre le déchiffrement des contenus, ce qui aurait remis en cause la vie privée numérique des utilisateurs vis-à-vis des plateformes. La solution proposée dans le texte impose aux plateformes de scanner tous les contenus envoyés par leurs utilisateurs avant même qu’ils ne soient chiffrés et transmis (le client-side scanning). Or, cela implique que chaque application de communication comme WhatsApp, Signal, soit équipée d’un logiciel de surveillance au nom de la protection de l’enfance. Ces logiciels n’offrent aucune garantie de fiabilité, avec des signalements à tort et ouvrent la possibilité à une surveillance généralisée à une étape où la donnée n’est pas encore chiffrée, ce qui n’est pas acceptable dans un état de droit. Le texte contient des garde-fous, mais nous alertons sur les effets de “cliquets” que ce genre de mesure implique. Il est très difficile de revenir dessus une fois introduite dans le droit et déployée. De plus, il met encore une fois entre les mains des plateformes numériques, pour beaucoup étrangères à l’Union Européenne appliquant un droit étranger, la responsabilité de la censure, ce qui n’est pas sans risques pour nos libertés démocratiques. Les plateformes et réseaux soucieuses de la vie privée de leurs utilisateurices, ne vivant pas de la captation de leurs données ni de l’enfermement dans leur écosystème, deviennent de facto hors-la-loi. Il s’agit avant tout de prôner un modèle consumériste et augmenter la main-mise capitalistique sur le besoin de communication.
Le texte indique clairement que le coût de la mesure ne doit pas être porté sur les plateformes commerciales, c’est donc les citoyen·ne·s qui devront en porter la charge !
Nous appelons donc à abandonner ce projet de loi qui, au lieu de renforcer la protection des enfants en ligne, risque surtout de fragiliser la sécurité numérique de tous. Des moyens doivent plutôt être mis sur la table pour former et déployer des unités spécialisées supplémentaires dans la traque des contenus pédocriminels ainsi que dans le système judiciaire pour accélérer les procédures de jugement. La vérification de l’âge doit aussi reposer sur des mécanismes déjà connus, sécurisés et respectueux de la vie privée (« Zero Knowledge Proof » par exemple)