Une radio en ligne lyonnaise reçoit un sociologue, chercheur en Science, Technologie et Société de l’Université de Lyon, pour un entretien. L'occasion d’évoquer la façon dont le fake (le faux, la contrefaçon) dans toutes ses formes a pu transformer les fondamentaux mêmes de la vie de la cité jusqu’à bouleverser notre rapport à la notion existentielle de vérité.

Mes chers auditeurs, soyez les bienvenus dans cette nouvelle édition de votre podcast “Tech paf”, votre rendez-vous où l’on parle de la tech et de ce qu’elle nous met dans la gueule.

Cette semaine, vous avez voté pour que l’on revienne sur la manière dont le fake a fait irruption dans notre vie. Fake news, deep fakes, autant de termes, mais surtout de chocs numériques, qui ont mis à mal notre conception même de la vérité. Et s’il y a un domaine qui s’en est pris plein les dents à cause des fakes, c’est bien la politique et plus largement la démocratie.

Pour en parler, j’ai le plaisir de recevoir Jérémie d’Orsac, chercheur en Sciences des Technologies Sociétales au sein de l'UFR d'Anthropologie, de Sociologie et de Science politique de l'Université Lumière Lyon 2.

C’est parti pour Tech Paf !

— Jérémie d’Orsac (J.O.) :
Tout d’abord, si on veut comprendre notre société post-vérité, il faut remettre les fakes dans leur contexte historique : l’instrumentalisation du faux et du mensonge a toujours servi les intrigues de pouvoir, bien avant l’arrivée même d’Internet et des technologies connectées.

Ce qu’on a pu observer avec la démocratisation de ces technologies, ou plutôt techniques, c’est la façon dont elles ont massifié le recours au fake et ont massifié leur diffusion. Dès la fin des années 2010, les fake news - autrement dit des informations visant à intoxiquer l’opinion publique - et les deep fakes - ces faux numériques particulièrement évolués - ont commencé à impacter notre vie. Un des jalons visibles de cet impact, jalon regrettable si vous voulez mon avis, aura été le rôle du fake dans l’élection et la réélection de Donald Trump en 2016 puis 2024.

Dès le début 2030, les fakes ne se contentent plus d’être des faiseurs de roi, ils dictent leur loi à un pouvoir le plus souvent élu dans la douleur. La différence est qu’aujourd’hui ces faux ne sont plus produits artisanalement par des programmeurs-orfèvres humains, mais par des systèmes d’intelligence artificielle qui les génèrent automatiquement et les diffusent algorithmiquement.

La multiplication des faux et des détournements, que ce soit pour la simple rigolade ou pour nourrir un agenda idéologique, a trouvé sa caisse de résonance dans le phénomène des bulles de filtres…

… La bulle de filtre, on le rappelle, c’est cette sorte de chambre d’écho dans laquelle on s’enferme lorsque nos réseaux sociaux ne nous offrent que des contenus en phase avec nos opinions et nos centres d’intérêts.

— J.O. : Oui tout à fait !
La personnalisation des contenus en ligne et leur diffusion ciblée sont devenues toujours plus performantes et ont contribué à enfermer, comme vous le dites, les utilisateurs dans une vision étriquée du monde. D’ailleurs, ces contenus tendent à se révéler bien souvent des fakes.

Le résultat de cette combinaison du manque d’exposition au pluralisme et de l’impossibilité de dissocier le vrai du faux a entraîné, et continue d’entraîner, une polarisation extrême du débat public. Cela conduit également à un repli sur elles-mêmes de la part des communautés ; autrement dit un autre pas vers la fin de l’idée du bien commun.

Pour le bien de votre étude, vous vous êtes focalisé sur la Métropole du Grand Lyon, qu’y avez-vous remarqué de si particulier ?

— J.O. : À travers cette étude, on se rend compte que le Grand Lyon est à la fois un cas archétype de ce qui s’est passé pour les démocraties locales et un exemple unique d’une forme de résilience au diktat des fakes.

La métropole lyonnaise a d’abord pris de plein fouet cette transformation, ne l’ayant pas anticipé et, pire, ayant apporté, dans un premier temps, des réponses qui se sont vite révélées de fausses-bonnes idées. Il lui a fallu faire face à une désinformation, parfois extrêmement sophistiquée comme avec des vidéos modifiées de prise de parole d’élus. Leur premier réflexe aura été de renforcer les politiques d’information publique, sans grand succès dans un monde de doute et de faux semblant. Une seconde réponse a alors été d’ouvrir grand les portes du pouvoir aux citoyens, afin de les convaincre par l’action à défaut de pouvoir les convaincre par la communication.

Le Grand Lyon a ainsi mis en place un ambitieux programme de participation citoyenne porté par les civic techs. La crise de la confiance envers les institutions, à laquelle il faut ajouter la contribution massive de bots idéologisés aux démarches de participation en ligne, a eu raison de cette démarche d’ouverture. Avec les changements successifs de majorités politiques, on a observé que le pouvoir local s’est recroquevillé pour en revenir à une logique ferme et aussi fermée de gouvernance descendante ou top-down, où tout part du haut pour aller vers le bas.

La rupture de la confiance était finalement consommée dans les deux sens. Dans l’étude, je pointe que le doute permanent et le déni nourri par une mésinformation ubiquitaire ont amené les institutions à la frontière entre déstabilisation et renversement. Aujourd’hui, on sait pertinemment, exemples à l'appui, à qui profite le crime parmi les agitateurs...

… Vous voulez parler des partis dits populistes ?

— J.O. : Oui, tout à fait, les partis populistes se sont très vite saisis de la doctrine des fakes comme instrument de choix de la diffusion de leurs idées. Ils n’ont pas été les seuls d’ailleurs. On pourra y revenir plus tard, mais le Grand Lyon aussi a su pleinement exploiter les technologies de deep fakes et les détourner à son avantage !

Et la presse dans tout ça ? Son rôle n’était-il justement pas de prévenir cette situation ?

— J.O. : La presse a été très longtemps considérée comme un contre-pouvoir garant d’une information vérifiée et objective. Cependant, ce qui est désormais évident pour tout le monde, c’est que la presse locale n’aura su s’adapter à l’ère de la post-vérité. Ce n’est pas que propre à la PQR Lyonnaise, c’est simplement que cette nouvelle ère de la post-vérité se trouve même être aux antipodes de l’ADN même de la presse.
Démêler le vrai du faux a fini par représenter un volume de travail impossible à gérer pour les journalistes ; alors même que le modèle économique de la presse peinait à se renouveler et que la défiance du lectorat envers celle-ci était à son plus haut. Logiquement, elle a explosé en vol, de peur de relayer du faux et incapable de se réinventer. Laissant au passage son lectorat seul face à la désinformation ambiante.

Et justement les citoyens du Grand Lyon, comment ont-ils reçu cette transformation de la vérité publique ? Complices ou résistants ?

— J.O. : Vous savez dans un monde où différentes versions d’une même histoire s’entrechoquent et saturent aussi bien les réseaux sociaux que la rue, la recherche de vérité n’est plus un objectif pour personne. On peut dire que chacun a été complice d’une certaine manière.

Si on quitte quelques secondes le cas du Grand Lyon, on sait désormais qu’une partie du salut des citoyens est venu des technologies elles-mêmes, celles qui jusque-là pointées du doigt pour leur implacable efficacité à produire du mensonge. Du fact-checking, de plus en plus de citoyens en sont venus au glitch-checking - aussi nommé fake-checking. Derrière ce néologisme se cache l’utilisation d’intelligences artificielles programmées pour déceler les deep fakes en recherchant des anomalies - ces fameux glitchs -, ou toute autre trace du système automatisé qui a généré le faux. Ces systèmes cherchent les glitchs qui pourraient en trahir la véritable nature.
Au quotidien, on trouve désormais ces plug-ins très répandus qui accompagnent la navigation des utilisateurs via leurs lunettes augmentées ou leur holophones. Ils sont devenus indispensables à la manière des bloqueurs de publicités en leur temps, ces adblock, avant que la publicité en ligne ne soit rendue illégale.

Selon moi ce sont loin d’être des détails anecdotiques, car lorsque vous parlez avec les responsables de la communication du Grand Lyon ces dix dernières années, ils vous expliquent tous que ce sont ces contre-mesures qui ont grandement inspiré la riposte de la Métropole Lyonnaise.

Alors justement, je voulais qu’on y vienne. Pouvez-vous nous raconter comment le Grand Lyon a réagi face à ce délitement de sa légitimité ? Car c’est quand même badass, selon cette vieille expression que plus personne n’utilise.

— J.O. : Le pari du Grand Lyon a été non seulement badass, comme vous dites, mais surtout osé et controversé. Le Grand Lyon a tout simplement décidé de jouer selon les règles du jeu et avec les règles du jeu. Le sursaut de la Métropole est un cas inédit en France. Le Grand Lyon a décidé d’avoir recours aux mêmes technologies que celles qui avaient creusé le fossé avec ses administrés. Ils ont tiré profit de la génération automatisée des fakes, que ce soit en audio, en image ou en vidéo.

Les équipes de communication de la Métropole ont exploité et continue d’exploiter les dernières avancées en matière de conception de deep fake pour produire une nouvelle forme d’information publique, qu’ils appellent “d’affirmation publique” ; en assumant que l’information soit devenue des contenus hautement subjectifs et persuasifs. Et pour diffuser ses contenus, ces mêmes équipes s’appuient sur les technologies micro-ciblage pour diffuser ces contenus générés sur mesure à des publics ciblés, avec une précision extrêmement fine dans le ciblage.

Il faut le voir comme une véritable bascule qui s’est caractérisée par l’abandon des dernières politiques volontaristes de transparence de la vie publique. Les moyens jusque-là déployés pour cet effort de transparence ont été attribués à cette logique de contre-attaque par le détournement de la pratique du fake au profit des objectifs de la Métropole.

C’est ça qui est fascinant dans ce chapitre de votre étude, c’est la manière dont le Grand Lyon a littéralement retourné la logique des fakes contre les fakes eux-mêmes. Pour que l’on comprenne bien, concrètement comme cela s’est traduit dans les actions de la métropole Lyonnaise ?

— J.O. : Au cours de mon étude, j’ai retenu quatre grandes stratégies de communication post-vérité mises en place par le Grand Lyon :

Tout d’abord, on trouve la projection égocratique :
Dans cette stratégie, les technologies de rendu numérique utilisées pour la réalisation de deep fake sont utilisées pour simuler et montrer la manière dont une politique publique donnée pourrait influencer le quotidien de l’individu. Le rendu, visuel ou audio, met en scène l’individu - dont la voix et l’apparence ont été synthétisées pour l’occasion - qui se voit projeter dans son possible futur à l’aune de l’application de ses politiques publiques. L’objectif premier est de convaincre le citoyen d’adhérer à cette proposition - et à l’institution par extension - en lui permettant de visualiser les apports vertueux de la politique publique, à son échelle personnelle. En d’autres mots, cela revient à mettre un coup de projecteur sur les bénéfices directs et indirects qu’il pourrait retirer à soutenir cette proposition.
Ce procédé m’a interpellé, car il fait appel à la notion d’égocratie, selon laquelle le citoyen recherche son intérêt individuel avant l’intérêt général. Ce procédé marque en fait le passage d’une information publique qui se voulait autrefois factuelle et objective à un message émotionnel et subjectif.

Ensuite vient la simulation par la rumeur, ou rumor-driven :
L’idée est assez simple bien qu’un peu tordue pourrait-on dire. La collectivité produit des fakes qui sont des sortes de ballons d’essai pour simuler et tester la réception d’une politique publique ou d’un arbitrage à venir. Ces fakes sont adressés, sous couvert, à des micro-communautés sélectionnées selon un protocole précis. Les fakes génèrent des rumeurs que la Métropole, grâce à des techniques de social listening, ensuite et l’évaluent. Cela leur permet de comprendre la perception par ce focus group de la politique publique en test. Il s’agit ici de simuler, à une petite échelle, ce qui pourrait se passer si telle ou telle réforme locale était appliquée. Toutes les réactions observées sont des données précieuses qui viennent nourrir la décision de la collectivité et l’aider à en anticiper l’appréciation par les citoyens. En réalité, là aussi rien de neuf : il s’agit en réalité d’une quasi-industrialisation de la pratique de la “petite phrase” glissée autrefois par les élus aux médias afin d’observer les réactions parmi leurs pairs ou les citoyens.

Autre stratégie frappante, pour laquelle je n’ai trouvé aucun équivalent ailleurs, c’est la justification par l’uchronie :
Lorsque l’heure du bilan est venue ou qu’il faut répondre à la critique, la métropole du Grand Lyon regarde en arrière plutôt que de nous parler de son futur. Elle exploite le principe de justification par l’uchronie. Cette rhétorique repose sur le principe de l’uchronie, à savoir la réécriture de l’Histoire à partir de la modification d’un événement du passé.
Grâce à des deep fakes convaincants, la métropole propose aux citoyens de visualiser ce qui aurait pu se passer, selon elle, si telle décision n’avait pas été prise ou si telle orientation avait été retenue. Par la présentation de ce récit alternatif, qui est illustré grâce aux technologies de deep fake, la collectivité justifie son action par un ressort spéculatif plutôt qu’objectif.

Enfin, il faut bien faire en sorte que toutes ces stratégies portées sur le fake et portées par le fake trouvent leur public. C’est le rôle de l’hyper-adressage micro-ciblé :
Les plus jeunes qui nous écoute n’ont quasiment pas connu les campagnes massives d’affichage public qui ont été depuis longtemps reléguées au rayon de techniques archaïques et à la nostalgie de quelques imprimeurs. Les différentes stratégies de fake mises en place par la métropole que je mentionnais juste avant - les projections égocratiques, les simulations par la rumeur, les justifications par l’uchronie - toutes font appel à l’approche de la micro-campagne d’information pour atteindre leur audience. Des milliers de micro-campagnes taillées sur mesure sont distribuées numériquement à des segments cibles, selon les objectifs poursuivis par le Grand Lyon. Ces messages sont parfois adressés via des relais autres que ceux identifiés de la métropole pour maximiser leur impact. C’est une pratique qui se fait au risque de ne plus être labellisée comme une information “officielle” et par la même occasion au risque de jouer dans la même cour que les autres fakes.

Et quelle conclusion tirez-vous de ces stratégies ?

— J.O. : Ce changement controversé de stratégie par la Métropole est vu par de nombreux experts comme un pharmakon, à la fois poison et remède. Je me joins à leur conclusion pour une raison très simple : avec la renonciation à une information publique équitablement communiquée à tous, ce sont les derniers pans du commun qui ont été sacrifiés sur l’autel du désir de stabilisation de la société. Et d’ailleurs certains parlent déjà d’une nouvelle bombe à retardement pour la démocratie locale.

Merci infiniment Jérémie d’Orsac pour votre éclairage. Je rappelle votre étude sidérante “Être une démocratie à l’heure du fake” sortie sous forme d’un documentaire interactif est accessible sur toutes les bonnes plateformes de streaming libre.

Quant à nous, on se dit rendez-vous dans trois jours pour un nouvel épisode très spécial de Tech Paf qui aura pour thème les 10 ans de la promulgation des droits numériques des animaux. Vous pouvez maintenant reprendre une activité déconnectée, à très vite !