Monde - Facebook: "La lutte contre l'extrémisme en ligne ne doit pas revenir aux plateformes, mais au législateur"

Publié le 5 juillet dans Le Figaro

Les dérives les plus inquiétantes sont souvent inspirées des meilleures intentions. On apprenait ainsi, dans un article du média américain CNN, que Facebook avait lancé une opération test aux États-Unis pour appuyer son programme de lutte contre l'extrémisme en ligne. Dans le cadre de cette opération, les utilisateurs américains de la plateforme ont reçu une alerte où l'on pouvait lire le message suivant : « Pensez-vous qu'un de vos amis soit en train de devenir extrémiste ? », avant de préciser : « Nous sommes soucieux de la lutte contre l'extrémisme chez Facebook. D'autres utilisateurs dans votre situation ont reçu de l'aide de notre part ». Si l'on clique sur l'alerte, elle redirige l'utilisateur vers une page où celui-ci peut préciser les informations dont il dispose qui sont ensuite traitées par Facebook.

Ce programme-test pourrait paraître anecdotique s'il ne s'inscrivait dans une tendance de fond qui impose, petit à petit, au nom de la lutte contre l'extrémisme et le discours de haine, un monde numérique de surveillance, de censure et de délation.

Facebook, comme les autres plateformes, n'agit pas de manière spontanée. Longtemps accusé de favoriser une approche laxiste vis-à-vis des discours de haine qui s'expriment sur sa plateforme, Mark Zuckerberg est en train de changer de philosophie générale et de se rapprocher des pratiques du réseau social Twitter, qui a choisi depuis plusieurs années une ligne très interventionniste dans la régulation des contenus. Et là où Trump était un farouche partisan de la liberté d'expression sur les plateformes, allant jusqu'à les menacer en cas d'atteintes excessives à la liberté d'expression, il en va différemment de l'administration Biden qui défend une ligne beaucoup plus coercitive et disciplinaire en matière de régulation. Il y a donc un contexte derrière cette dernière innovation de Facebook, d'abord motivée par la volonté de montrer patte blanche face à la pression politique qui devient de plus en plus forte. Et n'oublions pas, il est plus facile pour les plateformes de réguler davantage que de payer davantage d'impôts. Les manifestations zélées en matière de régulation sont d'abord là pour calmer la tempête politique et pour se donner une meilleure image à peu de frais.

"En France, la loi Avia du 24 juin 2020 prévoyait des mesures de régulation draconiennes, obligeant les plateformes à censurer elle-même tout propos haineux dans les 24 heures, sans aucune intervention judiciaire et à la seule discrétion des plateformes." Mathieu Slama

On assiste, depuis maintenant un an, à un durcissement inquiétant des mesures de régulation en ligne. Tout le monde se souvient de la décision spectaculaire de Facebook et Twitter de bannir Donald Trump, alors encore président en exercice, après les événements du Capitole en janvier dernier. Cette décision, par son ampleur et sa gravité, a constitué un précédent gravissime : il était désormais possible, pour les GAFA, non seulement de censurer un chef d'État en exercice, mais aussi de lui interdire toute possibilité d'expression en lui supprimant purement et simplement ses comptes officiels. Notons qu'il y a un mois, Facebook a confirmé la suppression du compte de Trump pour une durée de deux mois, annonçant par la même occasion de nouvelles mesures pour lutter contre la violence en ligne, notamment vis-à-vis des politiques qui sont désormais soumis à la même réglementation que les utilisateurs lambda.

En France, la loi Avia du 24 juin 2020 prévoyait des mesures de régulation draconiennes, obligeant les plateformes à censurer elle-même tout propos haineux dans les 24 heures, sans aucune intervention judiciaire et à la seule discrétion des plateformes, donc, selon des critères particulièrement flou (quand commence le discours de haine ? où s'arrête-t-il ?). Le Conseil Constitutionnel a heureusement censuré cette disposition, mais la porte était désormais entrouverte à un durcissement majeur de la régulation des réseaux sociaux en France.

D'autres initiatives voient le jour et sont tout aussi inquiétantes. Depuis 2020, Twitter effectue des tests avec l'aide d'une intelligence artificielle pour alerter chaque utilisateur du caractère potentiellement offensant d'un projet de tweet contenant des « insultes » ou « remarques haineuses ». Ainsi, lorsqu'on souhaite publier son tweet, une alerte s'affiche pour avertir l'utilisateur que le contenu est potentiellement offensant, l'invitant à le réécrire. On comprend aisément le caractère inédit de la démarche de Twitter, qui vise à agir a priori sur la publication de contenus litigieux, en dissuadant les utilisateurs de publier leur tweet jugé offensant par l'algorithme mis au point pour l'occasion.

Enfin, à côté de cela, des milliers de tweets et de comptes sont supprimés et suspendus chaque jour, sur la base des règles édictées par les plateformes et qui ne sont contrôlées par personne. Autrement dit, Twitter comme Facebook sont souverains quant à la régulation des contenus qui sont publiés sur leur plateforme, et peuvent donc faire ce qu'ils veulent.

"Il n'est pas possible de laisser aux plateformes le soin de dire le vrai et le faux, de décider ce qu'on peut dire et ce qu'on ne peut dire." Mathieu Slama

Beaucoup de personnes, y compris des spécialistes reconnus de ces sujets, justifient ces efforts de régulation par le fait que Twitter comme Facebook sont des entreprises privées, et qu'elles sont libres de décider ce qui doit se dire ou non chez elles. Pour certains, la question de la censure sur les réseaux sociaux se réduit donc à une simple affaire de CGU (les conditions générales d'utilisation auxquelles on adhère en s'inscrivant sur Twitter ou Facebook). Mais c'est ne pas comprendre (ou pire, faire semblant de ne pas comprendre) que ces plateformes sont aujourd'hui hégémoniques et qu'elles jouent un rôle primordial dans le débat politique et démocratique contemporain. Autrement dit, la question de la régulation des contenus sur ces plateformes a des implications démocratiques immenses, et ne peut en aucun cas se réduire à une question de CGU.

Il faut donc poser ici quelques principes clairs.

D'abord, que la liberté est toujours préférable à la censure, et donc qu'une régulation insuffisante sera toujours préférable à une régulation excessive. Ce principe est fondamental, parce qu'il découle de notre conception même de la liberté.

Ensuite, qu'il n'est pas possible de laisser aux plateformes le soin de dire le vrai et le faux, de décider ce qu'on peut dire et ce qu'on ne peut dire, et que toute action vis-à-vis d'un contenu dit « haineux » doit être prise sur la base d'une réglementation claire édictée par le législateur national. Il s'agit de déterminer très précisément les contours de ce qu'on entend par « contenu haineux », et adopter la conception la plus permissive possible. Autrement dit, il faut restreindre les restrictions au maximum, quitte à accepter certains excès.

"Le capitalisme numérique n'a jamais été aussi intrusif, disciplinaire et liberticide." Mathieu Slama

Enfin, que la lutte contre l'extrémisme en ligne ne peut en aucun cas se transformer en traque de chaque syllabe utilisée par les internautes, et encore moins en appel à la délation tel que l'expérimente actuellement Facebook aux États-Unis. Comment ne pas s'inquiéter des dérives d'un tel système, où chacun pourrait dénoncer n'importe qui sur n'importe quel fondement, et où, plus grave encore, chacun ferait désormais attention au moindre mot qu'il utilise pour éviter d'être dénoncé ? Car c'est bien l'enjeu principal de cette affaire : que les initiatives prises pour lutter contre le discours de haine nous amènent vers une société du soupçon permanent, de l'autocensure et de la surveillance généralisée des uns envers les autres.

Le capitalisme numérique n'a jamais été aussi intrusif, disciplinaire et liberticide. Il appartient aux États non pas d'encourager ces dérives (comme ils le font actuellement), mais au contraire de contraindre les GAFA à respecter les fondements essentiels de notre démocratie, au premier rang desquels la liberté.

Consultant et analyste politique, Mathieu Slama collabore à plusieurs médias. Il a publié La guerre des mondes, réflexions sur la croisade de Poutine contre l'Occident, (éd. de Fallois, 2016).