Prologue
La décennie actuelle est un plongeon dans l’inconnu. Tout pousse à croire que l’Internet, cette expérience collective qui a rythmé nos vies ces trente dernières années, touche à sa fin. Mais remplacé par quoi ? Et dans quel laps de temps ?
C’est pour trouver des réponses à ces questions que j’ai lancé Cybernetica.fr, tout en continuant à défendre une vision humaniste et réaliste du numérique.
Il y a 4 ans, alors que la plupart des gouvernements, des groupes d’influence et de nombreux think tanks pariaient sur un retour au monde d’avant, j’ai fait le choix de faire le deuil de l’Internet que nous avons toujours connu. Pour se projeter entièrement dans ce futur incertain, aux règles non écrites et qu’il n’est pas toujours facile d’accepter.
Le fruit de ces réflexions a été synthétisé dans 6 essais qui ne seront accessibles qu’à nos abonnés. Une lecture dense, riche et la plus sérieuse possible pour analyser ensemble l’ampleur de cette transformation vertigineuse du monde.
Introduction
« Le vieux monde se meurt, le nouveau monde tarde à apparaître et dans ce clair-obscur surgissent les monstres » Antonio Gramsci
1. Techno-optimisme
Depuis mes premiers pas sur le réseau, en 1982, j’ai toujours adhéré à une vision optimiste et enthousiasmante de l’informatique.
Un sentiment décuplé lorsque je me suis retrouvé dix ans plus tard au cœur de la Cyberculture.
Ce sont les débuts du Metaverse (inspiré par le roman Snow Crash sorti en 1992), l'apogée du Cyberpunk et le test des premiers casques de réalité virtuelle en démonstration à la fondation Trois Suisses (1993) à Paris.
J'ai testé la réalité virtuelle sur ce modèle.
La Cyberculture, en France, attire surtout une avant-garde d’artistes qui viennent du monde du graphisme numérique. Pour trouver l’approche culturelle et technologique qui me convient le plus, il me faudra aller en Californie, au cœur du réacteur de la révolution Cyberdelics.
L'impact visuel du Cyberpunk des années 90 sera très marquant.
Si le futur n’est pas uniformément distribué, il s’est énormément concentré à San Francisco.
En 1993 c’est l’année de la découverte pour moi d’un monde nouveau : le lancement de Wired, l’expérience de Burning Man et des conversations passionnantes avec mes “nouveaux amis” californiens : John Perry Barlow (dont je suis resté très proche jusqu’à sa mort), Bruce Sterling, Howard Rheingold, Timothy Leary, Kevin Mitnick ou encore le très secret Hakim Bey.
L’autre publication Cyber-situationniste de référence est Mondo 2000, qui, avec le recul, était beaucoup plus rebelle que Wired, trop proche des corporates.
Ayant eu la chance de revenir travailler, trois ans plus tard dans la Silicon Valley au moment où elle invente les premiers navigateurs web et pose les prémices du Cloud (Network Computer and JavaOS), je me demande parfois si les années 90 n’ont pas été le meilleur cru de cette région qui a vécu tant de révolutions successives. Quasiment tous les fondamentaux de ce que nous vivons aujourd’hui se sont inventés à ce moment-là.
Pattie Maes, mon égérie de l’Intelligence Artificielle au MIT, formalise le concept d’agents intelligents autonomes (une vision qui sera présentée deux décennies plus tard à Ted avec l’interface Sixth Sense). Lors d’un rare passage à Paris, elle me confiait d’ailleurs que la question de l’éthique de l’IA n’était pas dans leurs conversations à l'époque. L’idée même que la technologie puisse être utilisée pour autre chose que le bien de l’humanité semblait impensable.
C’est ce que j’ai également ressenti avec le Web 2.0 qui a donné une visibilité internationale à mes produits et à mes startups (netvibes et Jolicloud).
Né de la tentative ratée par Microsoft d’imposer son navigateur Internet Explorer sur tous les ordinateurs Windows, le Web 2.0 nous a donné le sentiment qu’aucun monopole ne pourrait résister à l’utopie originelle d’un web ouvert et accessible pour tous. Un sentiment naïf auquel nous avons pourtant voulu croire de toutes nos forces. Y compris par ceux dont la société avait été rachetée par Google, Yahoo ou Ebay.
2. Vibe Shift
Après les attentats de novembre 2015, qui m’ont touché personnellement, je me suis beaucoup questionné sur l’influence négative des réseaux sociaux et de l’Internet dans l’évolution de notre monde.
Mes positions assez pessimistes , à l’époque, sont vraiment à l’opposé du discours ambiant.
Mais plus j'avançais dans mes recherches, et plus je me rendais compte que nous étions dans une trajectoire de collision inéluctable entre :
- Des plateformes qui avaient totalement saturé notre capacité d’attention en nous obligeant à consommer une culture algorithmique, mondialisée et désincarnée.
- Des populations qui, de par le monde, exprimaient à travers leur vote ou leurs positions un rejet important de cette globalisation implacable et dénuée de sens.
- Des États opportunistes qui avaient trouvé dans les réseaux sociaux l’ultime outil pour mener leurs opérations psychologiques ou PsyOps. Une façon de diviser et de semer le trouble sans avoir à faire la guerre, disait le philosophe Jacques Ellul.
Ce qui m’avait choqué à l’époque, c’est que plusieurs des terroristes du 13 novembre avaient été radicalisés via les réseaux sociaux. Comme cela a été révélé par la suite dans un livre, l’État Islamique, pour améliorer son recrutement, s’était fortement inspiré des techniques de communication virale de la chanteuse Taylor Swift.
La boîte de Pandore s'était ouverte. Plus de retour en arrière possible.
3. L’ère du vote algorithmiquement manipulé
Pour un œil aguerri, le Brexit, l'élection de Trump et tout ce qui a suivi étaient parfaitement prévisibles. En introduisant quelque chose de totalement nouveau dans nos vies - l’intimité computationnelle ou la mise en algorithme de nos vies intimes - le mobile et les applications ont fait de notre relation à la vérité la principale victime.
Le choix de montrer certains contenus à certains moments de la journée change nos humeurs. Cela impacte forcément la stabilité émotionnelle des utilisateurs de ces réseaux.
Des utilisateurs qui sont aussi des citoyens.
On aura mis beaucoup de temps à rembobiner le film. Encore plus à étudier sérieusement ces mécanismes de prise de contrôle algorithmique des précédentes élections.
En Angleterre, une majorité de contenus manipulés en faveur du Brexit sont restés invisibles du régulateur et de la presse, des mois, voire des années après les élections.
Les réseaux sociaux, pourtant toujours prompts à expliquer à leurs annonceurs qu'ils savent tout de leurs utilisateurs seconde par seconde, semblent avoir été victimes d’une forme d’amnésie dès qu’on leur a demandé des comptes.
Les États qui ont mis en place des opérations d'ingérence ont été surpris par la facilité avec laquelle on pouvait déclarer une guerre cognitive à grande échelle par l’injection d’émotions négatives dans les populations cibles. L’équipe de Trump a d’ailleurs uniquement suivi les instructions des équipes “embedded” de Facebook.
Mais depuis l’élection de Biden, et surtout après l'insurrection du Capitole, c’est beaucoup plus difficile. Facebook a investi énormément pour s’assurer de ne plus être accusé de négligence. C’est beaucoup moins vrai de TikTok, une plateforme inoffensive à l’extérieur, mais qui n’a aucun souci à exposer les plus jeunes à des contenus qui mériteraient au minimum une supervision des parents. Regardez la timeline de story ci-dessous.
Cette simulation par un bot des vidéos vu par un jeune de 13 ans sur TikTok a de quoi effrayer.
Le sujet des ingérences dans les élections mériterait une véritable analyse en profondeur. Il est traité avec légèreté par la presse, comme par exemple avec le traitement simpliste de l’affaire Cambridge Analytica.
Il y a quelques mois, à la demande de l’IHEDN, j’ai accepté de modérer une des conférences du Paris Defence and Strategy Forum organisé à l’École de Guerre.
Devant un parterre d'officiers et d’analystes militaires, plusieurs experts du sujet (Armée française, OTAN, Science Po) nous ont décrit les dernières techniques d'ingérence. La question de l’utilisation des vulnérabilités du cerveau humain a été également décryptée par une médecin Chef de l’Armée.
Une occasion pour moi de prendre conscience que les sujets d'ingérence sont là pour durer.
La création de Viginum est un premier pas, mais cette agence doit trouver la bonne distance et le bon équilibre vis-à-vis du gouvernement pour être totalement crédible dans ses recommandations, qui sont accueillies avec méfiance par certaines formations politiques.
Nous avons baissé en vigilance par rapport à l’époque de la guerre froide où le sujet des ingérences étrangères était traité avec beaucoup plus de sérieux.
Remarque : Depuis 2019, la plupart des mes présentations publiques et privées (Forum International de Cybersécurité, COMCYBER, IHEDN, DLD, FIC North America) abordent ces questions. Cette première newsletter est l’occasion de partager publiquement quelques analyses.
Un des livres que je recommande dans ces conférences reprend à froid l'ensemble du processus de manipulation et les différents niveaux d’interférences qui ont été mises en œuvre lors de l'élection américaine de 2016.
Une analyse qui diminue la centralité des réseaux sociaux dans le basculement de l’élection et qui rejette plutôt la faute sur le traitement par les grands médias américains de l’affaire des e-mails WikiLeaks, qui finissait par ne plus mentionner leur piratage par les services russes. Une brèche qui a permis à Trump de créer une véritable confusion avec les autres emails (ceux des serveurs privés d'Hillary Clinton).
4. 2024 ou l’année électorale de tous les dangers
Faut-il encore rappeler que 2024 reste l’année de tous les dangers, avec la moitié du monde appelée à voter?
Petit aperçu de ce qui nous attend en 2024 (certaines dates d’élections ne sont pas encore connues)
January 7, 2024 – Bangladesh
January 13, 2024 – Taiwan
January 28, 2024 - Finland
February 4, 2024 – El Salvador
February 14, 2024 – Indonesia et ici
February 25, 2024 – Senegal
February 25, 2024 – Belarus
February 2024 – Pakistan (delayed from 2023)
March 10, 2024 – Portugal
March 17, 2024 – Russia
March 17, 2024 – Slovakia
March 31, 2024 – Ukraine
April 10, 2024 – South Korea
April 2024 – Solomon Islands
April 2024 – Maldives
May 5, 2024 – Panama
May 12, 2024 – Lithuania
May 19, 2024 – Dominican Republic
June 2024 – Mongolia
June 1, 2024 – Iceland
June 2, 2024 – Mexico
June 6-9, 2024 - EU Parliament
June 9, 2024 – Belgium
June 22, 2024 - Mauritania
June 28, 2024 - Mongolia, Parliament
July 15, 2024 - Rwanda, President and Chamber of Deputies
October 9, 2024 - Mozambique, President and Parliament
October 26, 2024 - Georgia, Parliament
October 27, 2024 - Uruguay, President and Parliament
November, 2024 - Georgia
November 5, 2024 - United States, President, Senate and House of Representatives
November 12, 2024 - Palau, President and Parliament
November 13, 2024 - Somaliland, President
November 30, 2024 - Mauritius, Parliament
December 7, 2024 - Ghana, President and Parliament
Le contexte d'élections démocratiques pleines et entières reste la minorité si l’on se fie à cet article de Foreign Policy:
5. Slow Web et respect de l’intimité computationnelle
Alors que la question du temps passé sur les "écrans" est le sujet politique du moment, c’est l’occasion de partager quelques réflexions sur le sujet.
Les risques potentiels liés à l’addiction aux réseaux sociaux sont longtemps restés un sujet tabou, parce que les politiques eux-mêmes s’en servent pour influencer le débat.
Quand on regarde la question de l’intimité numérique, le passage au Cloud et au mobile est un échec . À l’époque, un petit groupe dont je faisais partie s’inquiétait des mécanismes d’addictions par logiciels implémentés sans aucun garde-fou et dont le seul objectif est de garantir une croissance exponentielle du nombre d’utilisateurs et une consommation compulsive de contenus pour y insérer plus de publicité.
Ce modèle de cannibalisation de l’attention s’est considérablement amplifié quand le mobile est devenu le principal partenaire de nos vies. Et de nos votes.
Nous n’avons pas réussi à créer de frontière imperméable entre notre intimité et le monde numérique commercial (celui où les marques sont en compétition pour capter notre attention).
Pire, la loi n’a pas su nous protéger.
En Europe, la protection de la stabilité émotionnelle des citoyens dans le numérique n’a jamais fait l’objet d’une réflexion législative. On se concentre sur la lutte contre les contenus haineux, sur la limite de l’accès aux écrans (voir les commissions Théodule sur le sujet), sans jamais proposer d’interdire aux plateformes l’accès à nos intimités et de manipuler, par logiciel, nos émotions. Le microtargeting ne devrait pas avoir accès à nos données personnelles.
Protéger nos cerveaux est-il encore possible ?
La protection contre l’accès physique à nos cerveaux semble être la prochaine frontière. Il sera possible dans la décennie qui vient de lire et d’écrire directement dans le cerveau! De nombreux laboratoires se sont lancés dans cette course effrénée et les résultats sont spectaculaires.
Lors de mon déplacement à Montréal pour la conférence In Cyber, j'ai pu discuter avec la fondatrice de MindField, qui réfléchit a des protections physiques pour le cerveau. Un sujet qui n’était pas vraiment dans mon scope de réflexion jusqu’à maintenant.
La Neurorights Foundation lancée par Jared Genser travaille déjà à une protection juridique du cerveau.
Le documentaire Theater of Thought de Werner Herzog s’intéresse à ce sujet, mais il n’est hélas pas encore disponible en streaming.
Slow Web : un design de l’intimité sans addictions
En 2015, j’avais formalisé les bases du Slow Web, qui mettait en avant des règles de développement éthique pour tout logiciel ou toute application qui utiliserait des données intimes. J'avais proposé 4 règles de design essentielles de bon sens (toujours valables en 2024).
Tester le niveau d’addiction des applications
Faudra-t-il un jour envisager des “tests de dopamines” avant d’autoriser la commercialisation d’une application sur un téléphone mobile. Et mesurer ses effets secondaires, comme c’est déjà le cas pour les médicaments ?
C’est une question que les fabricants de mobiles et les plateformes n’ont jamais voulu accepter. Pourtant, on pourrait s’inspirer de ce qui s’est fait dans le domaine du médicament, mais aussi dans l’industrie agroalimentaire.
Il faut lire ou relire le livre "Salt Sugar Fat" de Michael Moss qui décrit comment les grandes entreprises alimentaires utilisent le sel, le sucre et les graisses pour rendre leurs produits irrésistibles, rendant la consommation de junk food hyper addictive. Des procédés similaires sont à l'œuvre dans le logiciel. Les meilleurs neuroscientifiques travaillent à l’addiction de nos apps.
Le statu quo, sur ces questions, n'est plus acceptable, car il laisse les utilisateurs seuls face aux manipulations des applications de leur téléphone. C’est une forme de trahison de l’État qui les abandonne face aux algorithmes et techniques de captologie des géants du logiciel mobile.
C’est aussi une grande trahison commerciale de la part des plateformes. Nous avons tous été attirés au départ par ces services parce qu’ils promettaient de nous connecter à nos amis. Pas pour qu’ils nous manipulent, contrôlent nos vies, ou polarisent la société!
Les vingt ans de Facebook ont été célébrés en catimini, occultés par les excuses que Mark Zuckerberg a dû présenter devant le Sénat américain à des parents ayant perdu leurs enfants à cause des réseaux sociaux.
L’image du fondateur de Facebook face aux parents restera une image forte, mais aussi le témoignage d’une grande hypocrisie. Car les mêmes sénateurs qui l’accusent devant les caméras n’ont absolument rien fait pour protéger les enfants par une loi. En fait, aucune loi d’envergure n’a été passée depuis 30 ans aux Etats-Unis. La section 230 date de l’ère de Prodigy et de GeoCities, deux services qui n'existent plus! A l’époque de son vote, Bill Clinton était président.
Pour rappel:
- Prodigy fut l'un des premiers fournisseurs de services en ligne qui, dans les années 90, offrait un accès à Internet ainsi que des services de forums en ligne. Prodigy a été poursuivi pour diffamation à cause de commentaires publiés par un utilisateur, ce qui a soulevé des questions sur la responsabilité des plateformes concernant le contenu publié par les utilisateurs. En France des questions similaires se sont posées avec l’affaire Altern et Estelle Halliday.
- GeoCities : Ce service permettait aux utilisateurs de créer leurs propres pages web et de les organiser en "quartiers" basés sur le thème du contenu. GeoCities était emblématique de la culture web des années 90 le pionnier du User generated content. À l’époque, Mark Zuckerberg avait 12 ans.
La Section 230 protège les plateformes en ligne contre les conséquences juridiques des actions de leurs utilisateurs, tout en permettant une modération de contenu. Elle est devenue avec le temps un pilier pour permettre à des entreprises comme Google, Twitter et Facebook d’avoir une croissance exponentielle sans craindre une responsabilité légale excessive. Tout a été fait aux US pour empêcher que cette loi soit détricotée. Ce n’est que depuis le vote du DSA cette année que les choses deviennent intéressantes en Europe.
6. Une régulation européenne hors sujet ?
Curieusement, le règlement européen DSA et la loi SREN ne répondent que très partiellement aux questions de manipulations des émotions et d’addiction.
À ce jour, la loi SREN doit toujours passer devant le conseil constitutionnel.
Prisonnière d’une surenchère politique (la bataille pour une présidence Breton) et communicationnelle, l'Europe est surtout en train de s’embourber dans une suite interminable de règlements sur des technologies qu’elle ne contrôle pas.
Elle révèle aussi au grand jour son impuissance vis-à-vis des grands problèmes éthiques du numérique, tout en obligeant les petits acteurs de la technologie européenne à subir un surpoids de contraintes juridiques qui les mettent en danger.
L’Europe prise en sandwich ?
Son modèle de régulation est toujours peu ou prou calqué sur la pensée des États-Unis. Même le RGPD et le DMA sont fortement inspirés des intellectuels et des débats américains. Lors des grandes réunions organisées par le Président Macron, ce sont les éléments de langage des universités US qui dominent.
Si l’Europe a pris un peu d’avance sur les questions de régulations, c’est aussi parce que le système législatif US, ultra-polarisé depuis Trump, n’est plus en capacité de pouvoir passer des lois pour réguler les grandes plateformes américaines. La récente loi d’interdiction de TikTok (ou sa vente) est une exception notable.
Conclusion
Le dilemme de l’Europe c’est qu’en cas de réélection de Donald Trump, il n’est pas impossible que nous nous retrouvions tout seuls pris en sandwich dans un Internet contrôlé d’un côté par les États-Unis, et de l’autre par la Chine avec pour seule arme des bouts de papiers législatifs.
Pour faire face au défi le plus important des prochaines années: la fin de l’Internet tel que nous l’avons toujours connu, et ses conséquences géopolitiques, économiques, culturelles et militaires.
Cette question n’a jamais été imaginée par nos élites européennes et il n’existe aucune bonne solution pour y remédier. Il n'y a aucun plan B.
Et pourtant, ce scénario est de plus en plus probable.
C’est de cela que nous allons traiter dans le premier de Cybernetica, un essai qui je l'espère vous étonnera par ses prises de position.
Comment s’abonner à Cybernetica ?
Ce qui est gratuit n’a pas de valeur. Presque tout ce que l’on lit sur les sujets de géopolitique et de numérique est influencé politiquement ou commercialement. Rester indépendant est devenu une commodité de plus en plus rare. Le consensus, la peur des scénarios inconnus, l'entre-soi de la Tech et ses œillères nous ont emmenés dans le mur. Il est peut-être temps de lire autre chose.
Pour s’abonner, c’est ici.
