7 août 2020

Le débat sur l’adoption par la Silicon Valley de la modération du contenu

La question existentielle avec laquelle chaque grande plateforme technologique, de Twitter à Google en passant par Facebook, doit se débattre est la même : dans quelle mesure doit-elle être responsable du contenu que les gens publient ?

La réponse que la Silicon Valley a apportée depuis des décennies est la suivante : Moins, c’est plus. Mais aujourd’hui, alors que les protestations contre la brutalité policière se poursuivent dans tout le pays, de nombreux acteurs de l’industrie technologique s’interrogent sur la sagesse de laisser toutes les fleurs s’épanouir en ligne.

Après avoir laissé les tweets du président Trump de côté pendant des années, Twitter a adopté une approche plus agressive ces derniers jours, ajoutant dans plusieurs cas des vérifications de faits et des marques indiquant que les tweets du président étaient trompeurs ou glorifiaient la violence. De nombreux employés de Facebook veulent que leur entreprise fasse de même, bien que le directeur général, Mark Zuckerberg, ait déclaré qu’il était contre. Et Snapchat a déclaré mercredi qu’il avait cessé de promouvoir le contenu de M. Trump sur sa page principale Discover.

Au milieu de ce changement notable, certains défenseurs des libertés civiles soulèvent une question dans un débat déjà compliqué : Tout mouvement visant à modérer le contenu de manière plus proactive pourrait éventuellement être utilisé contre le discours aimé par les personnes qui demandent maintenant une intervention.

“Cela vient de cette volonté d’être protégé – cette conviction que le rôle d’une plateforme est de nous protéger de ce qui peut nous nuire ou nous offenser”, a déclaré Suzanne Nossel, la directrice de PEN America, une organisation de défense de la liberté d’expression. “Et si cela signifie leur accorder une plus grande autorité, alors cela vaut la peine si cela signifie protéger les gens”, a-t-elle ajouté, résumant l’argument. “Mais les gens perdent de vue le risque.”

A lire également : la loi de corde raide politique de HSBC à Hong Kong ouvre des lignes de fractures internes

Les défenseurs des libertés civiles avertissent que l’ajout d’étiquettes d’avertissement ou d’un contexte supplémentaire aux messages soulève toute une série de questions – des questions que les entreprises technologiques voulaient éviter jusqu’à récemment. Les nouvelles règles se retournent souvent contre eux. Les contrôles et le contexte, aussi sobres ou précis soient-ils, peuvent être perçus comme politiquement biaisés. Une modération plus proactive de la part des plateformes pourrait menacer leur statut juridique spécial et protégé. Et une intervention va à l’encontre de l’image apolitique que certains dans le monde de la technologie ont d’eux-mêmes.

Mais après des années à ignorer les craintes que les contenus des médias sociaux ne conduisent au harcèlement et à la violence, nombreux sont ceux qui, dans la Silicon Valley, semblent prêts à accepter les risques associés à la répression des mauvais comportements, même de la part des dirigeants mondiaux.

“Notre intention est de relier les points des déclarations contradictoires et de montrer les informations en litige afin que les gens puissent juger par eux-mêmes”, a écrit le directeur général de Twitter, Jack Dorsey.

Un groupe d’anciens employés de Facebook a écrit une lettre mercredi pour dénoncer la décision de M. Zuckerberg de ne pas donner suite au contenu de M. Trump. “Vérifier les faits n’est pas de la censure. Etiqueter un appel à la violence n’est pas de l’autoritarisme”, ont-ils écrit, ajoutant : “Facebook n’est pas neutre, et ne l’a jamais été.”

Timothy J. Aveni, un employé de Facebook, a écrit dans une lettre séparée qu’il démissionnait et a déclaré “Facebook fournit une plateforme qui permet aux politiciens de radicaliser les individus et de glorifier la violence.”

Ellen Pao, autrefois à la tête de Reddit, le panneau d’affichage en roue libre, a publiquement réprimandé son ancienne entreprise. Elle a déclaré qu’il était hypocrite de la part du dirigeant de Reddit, Steve Huffman, de signaler son soutien au mouvement Black Lives Matter comme il l’a fait récemment dans un mémo, puisqu’il avait quitté la page principale des fans de Trump, The_Donald, où circulent souvent des mèmes inflammatoires.

“Vous auriez dû fermer the_donald au lieu de l’amplifier, ainsi que sa haine, son racisme et sa violence”, a écrit Mme Pao sur Twitter. “Une grande partie de ce qui se passe maintenant est à vos pieds. Vous n’avez pas le droit de dire BLM quand le reddit nourrit et monétise la suprématie et la haine des blancs toute la journée”.

Une approche non interventionniste des entreprises a permis au harcèlement et aux abus de proliférer en ligne, a déclaré la semaine dernière Lee Bollinger, président de l’université de Columbia et spécialiste du Premier Amendement. Les entreprises, a-t-il dit, doivent maintenant s’efforcer de modérer le contenu et d’assumer plus de responsabilités, sans perdre leurs protections juridiques.

“Ces plates-formes ont acquis une puissance et une influence incroyables”, a déclaré M. Bollinger, ajoutant que la modération était une réponse nécessaire. “Il y a un plus grand risque pour la démocratie américaine en permettant un discours débridé sur ces plateformes privées.”

L’article 230 de la loi fédérale sur la décence en matière de communications, adoptée en 1996, protège les plateformes technologiques contre toute responsabilité pour le contenu de tiers qui y circule. Cependant, une attitude plus ferme vis-à-vis de ce qui apparaît sur leurs plateformes pourrait mettre en danger cette protection, surtout pour des raisons politiques.

L’une des rares choses sur lesquelles les démocrates et les républicains à Washington sont d’accord est que des changements à la section 230 sont sur la table. M. Trump a publié un décret demandant des modifications après que Twitter ait ajouté des étiquettes à certains de ses tweets. L’ancien vice-président Joseph R. Biden Jr, le candidat démocrate présumé à la présidence, a également demandé des changements à la section 230.

“Si vous abrogez cela, nous serons dans un monde différent”, a déclaré Josh Blackman, professeur de droit constitutionnel à la faculté de droit du Texas du Sud à Houston. “Une fois que vous avez abrogé l’article 230, il vous reste 51 solutions imparfaites”.

M. Blackman s’est dit choqué que tant de libéraux – surtout dans l’industrie technologique – applaudissent la décision de Twitter. “Ce qui arrive à vos ennemis finira par vous arriver”, a-t-il déclaré. “Si vous donnez à ces entités le pouvoir de fermer les gens, ce sera vous un jour.”

A lire également : les autorités américaines bloquent les “tactiques extrêmes” de la police alors que les manifestations entrent dans leur douzième jour

Brandon Borrman, un porte-parole de Twitter, a déclaré que l’entreprise “se concentrait sur la poursuite de la conversation en fournissant un contexte supplémentaire là où c’est nécessaire”. Une porte-parole de Snap, Rachel Racusen, a déclaré que la société “n’amplifiera pas les voix qui incitent à la violence et à l’injustice raciale en leur donnant une promotion gratuite sur Discover”. Facebook et Reddit ont refusé de commenter.

Les entreprises technologiques se sont toujours montrées réticentes à imposer un jugement éditorial, de peur de devoir agir davantage comme un journal, comme Facebook l’a appris il y a plusieurs années lorsqu’il a eu des problèmes avec sa fonction Trending.

C’est compliqué quand M. Dorsey commence à le faire sur Twitter. Est-ce que cela signifie qu’une personne qui est maintenant diffamée sur le site et qui demande une vérification des faits en obtient une ? Et si la personne ne le fait pas, est-ce un motif de poursuite ?

Les circonstances entourant les vérifications des faits et le contexte supplémentaire peuvent rapidement devenir politiques, ont déclaré les militants de la liberté d’expression. Quels tweets devraient être vérifiés ? Qui procède à cette vérification des faits ? Quels sont ceux dont le contexte a été ajouté ? Quel est le contexte qui est ajouté ? Et une fois que vous avez une équipe complète qui vérifie les faits et ajoute le contexte, en quoi cela diffère-t-il d’une salle de rédaction ?

“L’idée que vous déléguiez à une salle de conférence de la Silicon Valley ou à un groupe de modérateurs de contenu à l’équivalent d’un centre de service à la clientèle le pouvoir d’arbitrer notre paysage linguistique est très inquiétante”, a déclaré Mme Nossel.

Il y a longtemps qu’une justification philosophique de l’approche de non-intervention a été adoptée par M. Zuckerberg. De nombreux acteurs de la technologie, en particulier les premiers créateurs de sites de médias sociaux, ont adopté une approche quasi absolue de la liberté d’expression. Peut-être parce qu’ils connaissaient le pouvoir de ce qu’ils construisaient, ils ne se faisaient pas confiance pour décider de ce qu’il fallait en faire.

Bien entendu, les entreprises font déjà preuve d’une certaine modération. Elles bloquent la nudité et suppriment la pornographie enfantine. Elles s’efforcent de limiter le doxxing – lorsque le numéro de téléphone et l’adresse d’une personne sont partagés sans son consentement. Et la promotion de la violence est interdite.

LISEZ AUSSI : Tenez-vous prêts à jouer l’atout ! Des manifestants pour Trudeau qui s’agenouille lors d’un rassemblement antiraciste

Ils ont des règles qui empêcheraient les gens ordinaires de dire ce que M. Trump et d’autres personnalités politiques disent. Pourtant, ils n’ont rien fait pour marquer les récents faux tweets du président concernant l’animateur de MSNBC Joe Scarborough. Ils ont fait quelque chose – une étiquette, mais pas une suppression – lorsque M. Trump s’est égaré dans des domaines que Twitter a surveillés : la désinformation et la violence électorales.

De nombreuses règles que Twitter a utilisées pour étiqueter les tweets de M. Trump existent depuis des années mais ont rarement été appliquées aux personnalités politiques. Des critiques comme le chef de la Commission fédérale des communications, Ajit Pai, ont souligné, par exemple, que le leader iranien, l’ayatollah Ali Khamenei, a un compte Twitter qui reste non contrôlé.

“Ce qui incite ou non à la violence est souvent aux yeux du lecteur, et historiquement, il a été utilisé pour faire taire les leaders progressistes de la protestation antiraciste”, a déclaré Nadine Strossen, ancienne responsable de l’Union américaine des libertés civiles et professeur émérite de droit à l’Université de New York.

“J’ai regardé la définition de Twitter de l’incitation à la violence, et c’était quelque chose comme si cela pouvait risquer de créer de la violence”, a-t-elle ajouté. “Oh ? Eh bien, je pense que cela couvre beaucoup de discours, y compris les manifestants antigouvernementaux.”

Corynne McSherry, la directrice juridique de l’Electronic Frontier Foundation, une organisation qui défend la liberté d’expression en ligne, a déclaré que les gens pourraient s’inquiéter du décret de M. Trump visant Twitter “sans célébrer les choix de Twitter ici”.

“Je m’inquiète pour les deux”, dit-elle.