🟢 Une rentrée pleine de nouveaux défis (newsletter 3)

Bonne rentrée à tous mes lecteurs et notamment tous les nouveaux abonnés qui se sont inscrits ces dernières semaines.

Vous êtes désormais 3000 abonnés à la newsletter !

Pour le Club, je prépare des événements en ligne et en présentiel. 

Entrepreneurs du Web, du Cyber ou de l’IA, spécialistes et passionnés des questions numériques ou de défense qui veulent un regard différent sur ces questions, il commence à y avoir du beau linge dans le Club ! Merci de votre confiance.

J’ai mis à jour la politique d’accès aux contenus : 

• Les essais (sauf 🔴 réservé aux membres du Club) sont en libre accès.
• Les archives des newsletters (🟢) seront consultables par tous les abonnés.
• Les bonus de la newsletter (🔴) sont réservés aux abonnés payants.
• Les contenus du Club (🔴) sont exclusivement accessibles aux abonnés payants.

D'ailleurs, tous nos membres peuvent consulter la version complète de notre mini-enquête sur Pavel Durov. Pour l’instant, nos théories tiennent la route.

🔴 Que penser de l’arrestation de Pavel Durov ?

L’affaire Pavel Durov. Sommes-nous au cœur d’une affaire d’espionnage ou de simple régulation des réseaux sociaux ?

Éditions CyberneticaTariq KRIM

Lien pour s'abonner en fin de newsletter.

L’histoire de Cybernetica pour les nouveaux abonnés (et les anciens)

Pour ceux qui ne nous connaissent pas encore, Cybernetica est un espace de réflexion au croisement de la technologie, de la culture, des questions sociétales et de la géopolitique dans laquelle j’intègre les questions de défense.

C’est un espace singulier parce qu’il défend une vision humaniste et réaliste du monde numérique. Cette vision s’est construite à travers mes divers parcours de vie et les grands écarts intellectuels que j’affectionne :  de Radio Nova à Davos, de l’underground informatique des années 80 au conseil national du numérique, des start-ups de la Silicon Valley aux villes futuristes de l’Asie du sud est, du stylo-plume au stream. Mais aussi au fil de mes rencontres, qui m’ont inspiré, mentoré et parfois désarçonné.

L’idée de Cybernetica a germé quelques jours après le début de la guerre en Ukraine quand l’Élysée me contacte en urgence. Ils souhaitent utiliser les slides d’une de mes conférences pour un Conseil de Défense.

Lors de cette conférence réalisée pour le Cyber Commandement, j’avais mis en avant les différentes menaces numériques avec un passage sur la question de la protection des câbles sous-marins.

Plusieurs personnes m’ont convaincu qu’il était temps de donner plus de forme à mes idées, et de les diffuser plus largement que les conférences et les cours que je donne à l’IHEDN, à Science Po ou à l’Institut Français de la Mode.

Ma position est simple. Le numérique que nous connaissons depuis le début des années 90 n’existe plus et il n’y aura plus de retour en arrière possible.

C’est une position difficile à accepter. Et moi non plus je n’étais pas prêt.

C’est avec les attentats de Paris en 2015 (qui m’ont touché durement) que j’ai compris brutalement que quelque chose avait changé.

Alors que l’Internet était aussi devenu un outil de propagande et de recrutement des jihadistes, la presse continuait à encenser sans discernement les réseaux sociaux.

J’avais commencé à entrevoir leur côté obscur quelques années auparavant lorsque j’avais lancé Jolicloud, un OS souverain et alternatif aux plateformes mobiles.

Pour comprendre ce qu’il se passait, j’ai commencé à me pencher plus sérieusement sur les questions d’addiction du mobile et sur le potentiel de polarisation et de désinformation de la société par les réseaux sociaux.

En 2016, je publie un manifeste Slow Web qui était un appel à mes amis de la Silicon Valley pour changer la manière de développer des applications. Un appel assez vain car le design de persuasion est plébiscité pour construire des adoptions de produits records. Couplé au facteur K, il devient irrésistible. Tout le monde l’utilise et il est même enseigné à Stanford.

La culture du "Move fast and break things" qui s’est insérée dans des produits utilisés par plus d’un milliard d’utilisateurs a généré des effets secondaires que les grandes plateformes n’arrivent plus à juguler. En changeant les comportements et la psychologie des utilisateurs avec des techniques de « dark patterns », en créant des montées de dopamine qui obligent les utilisateurs à rester en permanence sur leur téléphone, les « apps » ont changé la psyché des sociétés occidentales.

En s’immisçant dans la vie privée des utilisateurs et en désorganisant leur intimité numérique, elles ont aussi altéré la stabilité émotionnelle de certaines populations fragiles, dont les frustrations et les colères sont facilement transformées en votes extrêmes.

Le référendum du Brexit (Dominic Cummings) et la campagne de Donald Trump (Steve Bannon) ont su utiliser ces techniques de manière assez spectaculaire. Elles ont été financées par Robert Mercer, un génie de l’IA qui a fait fortune dans le trading à haute fréquence et qui a appliqué les mêmes recettes à l’information. De la même manière qu’existe le brouillard de la guerre de Clausewitz, il existe désormais un brouillard informationnel.

C’est le cœur du livre Les ingénieurs du Chaos, de Giuliano da Empoli, qui raconte comment la démocratie italienne a succombé avant le reste de l’Europe à ces techniques.

Des ingénieurs aux fonctionnaires du Chaos

Même le cœur de l’État a cédé à ces méthodes. En voulant rendre l’État aussi fluide que les GAFAM, on l’a aussi rendu aussi polarisant !

Les Start-Up d’État, très populaires en France, ont créé beaucoup de frustrations, avec un remplacement systématique des services publics par des applications pas toujours très efficaces et équitables.

Prenons par exemple la mise en algorithme de l’éducation nationale avec Parcours SUP. Il y a eu une véritable défiance face à cette hypercentralisation logicielle.

Là ou l’État parle de méritocratie digitalisée, beaucoup de parents y voient un système opaque et injuste où l’intervention humaine n’existe plus.

À vouloir aller trop vite, on a créé une défiance vis-à-vis du système. Et quand l’État « définance » ou supprime des services publics au profit de start-ups qui ne bénéficient qu’à une petite partie de la population, il joue avec le feu. Pour beaucoup, la numérisation à marche forcée des citoyens est vue par les plus anciens et les plus vulnérables comme une forme de violence.

Le plus inquiétant, c’est que cette culture du move fast and break things touche aussi des domaines où la prudence est censée être la norme.

La récente panne géante des postes Windows sous Crowdstrike, qui a mis par terre des millions de machines, en est l’exemple le plus flagrant.

Une des explications possibles, c’est la pression incessante sur les employés de la Silicon Valley à travailler non stop couplé à la démonisation de la culture de prudence du contrôle qualité. Résultat, une erreur de débutant en C++ a été mise en production et paralysé une partie du monde. C’est l’illusion de la “Fast Security” qui nous fait croire qu’il est possible de mettre à jour la politique de sécurité d’une entreprise en un clic, comme si on mettait à jour un iPhone.

Bienvenue dans l’ère de la géopolitique computationnelle

La culture du move fast and break things n’a pas que des effets sur les populations, mais aussi en termes géopolitiques. Il est devenu facile d’atteindre des populations qui ne sont pas stables émotionnellement depuis l’extérieur. En contrôlant ou en utilisant des failles logicielles.

Tous les logiciels que nous considérions comme neutres, comme l’e-mail, sont désormais politisés. Prenons Gmail qui a été attaqué par les Républicains parce que leurs newsletters souvent agressives et envoyées sans le consentement de l’utilisateur étaient rangées dans l’onglet « Autres ». Elon Musk lui-même a orchestré les Twitter files pour expliquer qu’il allait changer l’algorithme de présentation des informations.

L’opacité de ces outils est une aubaine pour les spécialistes de l’ingérence. Les histoires Télégram, X au Brésil ou Tiktok ne sont que des versions interchangeables du même scénario : celui qui contrôle le logiciel contrôle ses utilisateurs. Les vrais changements ne sont plus visibles pour le régulateur ou le politique.

Nous sommes passés de la transformation numérique, où tout ce qui était lié au numérique semblait positif, au numérique de l’incertitude, où tout ce qui est lié au numérique est probablement une source de problèmes.

Cybernetica est la communauté de ceux qui veulent anticiper ce numérique de l’incertitude et repenser leur stratégie.

Pas d’antidote miracle, mais des idées et quelques mots-clés du prochain monde : Edge and tactical Cloud, IA, Internet, Splinternet, Warfare, Digital Warfare, PsyOps, désinformation et ingérence, Like War, Mobile, Post-mobile, Open Web, Slow Web, post-web, Personal Data, AI Data, synthetic Data, Social Media, Dark Forest vs. Public Web, Dead Internet Theory, cultural models vs LLM, epistemic warfare.

Et maintenant la newsletter ;)

La prochaine bulle IA est déjà là

Alors que l’iPhone 16 pointe le bout de son nez, on a l’impression qu’Apple n’a plus beaucoup de tours dans son sac. Son offre IA s’apparente plus à un correcteur orthographique qu’à une révolution majeure.

Avec une levée de fonds plus longue et complexe que prévu pour OpenAI, le scepticisme commence à gagner certains acteurs. Il n’est pas impossible que pendant l’année 2025, nous basculions plus vite que prévu dans une ère post-IA générative.

Comme nous l’avions indiqué dans un précédent essai, la bulle de l’IA de fin 2023 et début 2024 était surtout une bulle de disponibilité des GPU. Elle aura fait la fortune de Nvidia, AMD, TSMC (mais pas celle d’Intel). Un ami qui construit des datacenters m’a expliqué qu’il existait même un marché gris des puces en Europe pour les moins chanceux.

Fin 2023, tout datacenter de la planète se devait de communiquer sur le fait qu’il avait quelques Nvidia A100 ou H100 dédiées à l’IA pour retrouver une forme de crédibilité auprès de ses clients. Les ressources étaient si rares qu’une start-up française bien connue a même été obligée d’utiliser discrètement des ressources publiques de calcul (avoir des relations haut placées, ça aide) car son partenaire privé de compute aux États-Unis n’était pas prêt. Pour les grands acteurs du Cloud comme Microsoft, AWS et GCP, c’était l’aubaine pour facturer encore plus cher leurs offres d’IA générative souvent bricolées sur des technologies open source.

Puis, Elon Musk et surtout Meta ont « tué le game » avec des commandes absolument gigantesques.

On en sait plus sur Cortex, l’OS AI de Tesla qui remplacera Dojo.

➖ 100 000 GPU (H100/H200)

➖ Puissance électrique pour le refroidissement 130 MW cette année 500 MW (un demi-réacteur nucléaire) sous 18 mois

D’après Fortune, la moitié des revenus sont liés à 4 acheteurs exclusivement !

Mais depuis quelques mois, il n'y a plus de pénurie de puces. L’approvisionnement en puces B200 de dernière génération est assuré, selon les dires du patron de Nvidia. AMD est toujours dans la course car ses GPU coûtent bien moins cher que les Nvidia et disposent de plus de mémoire vive.

Le vrai problème, c’est celui de l’énergie, des datacenters à construire d’urgence, et de l’eau.

Aux États-Unis, David Cahn de Sequoia, auteur de « L’IA : une question à 600 milliards de dollars », l’explique parfaitement. Aux USA, la pénurie de produits et de main-d’œuvre pour la construction de datacenters est à son comble. Il n’y a plus un seul groupe électrogène à vendre. Mettre la main sur des terrains encore accessibles devient de plus en plus complexe (les villes ont peur des datacenters voisins qui font exploser le prix et la disponibilité de l’eau courante).

Mais ce n’est rien à côté des besoins en énergie, surtout l’énergie propre à faible émission de CO2.

Les “Magnificent Seven” sont face à un paradoxe : l’annonce pré-IA générative de leur neutralité carbone d’ici à 2030 et la consommation hallucinante des modèles de données qui les obligent à revoir leurs promesses.

L’astuce consiste désormais à remplacer l’énergie sale (charbon utilisé dans des États comme la Caroline du Nord ou la Virginie-Occidentale) par de l’énergie « propre » qui permet de publier de meilleurs rapports environnementaux.

C’est sous ces angles qu’il faut désormais voir tous les deals d’investissement en Europe (Choose France avec Microsoft et Google, ou encore l’Espagne avec Amazon). Curieusement, les acteurs français historiques qui ont une vraie expertise dans les datacenters à faible consommation d’eau (OVH, Scaleway) n’ont pas vraiment profité de ce boom.

La raison est simple. Jusqu’à récemment, les Big Tech ne construisaient plus leurs propres datacenters, car la valeur était exclusivement dans le logiciel. Désormais, elle est dans le compute, c’est-à-dire dans le hardware qu’il faut posséder à tout prix. Amazon a privatisé une centrale nucléaire en Pennsylvanie, et Mark Zuckerberg expliquait qu’il en cherchait une de son côté pour couvrir les besoins de Meta.

Il y a évidemment une question que personne n’ose poser : savoir si leurs besoins en énergie vont déborder et dévorer les usages courants des populations et des autres industries.

Avec la technique du ruban énergétique, il leur est possible d’acheter longtemps à l’avance et à des prix super négociés la meilleure énergie possible. Cette capacité d’achat pose la question de la compétitivité environnementale pour les entreprises des autres secteurs qui n’ont pas forcément le cash pour acheter une énergie propre en pleine inflation.

Aucun homme politique n’a pour l’instant souhaité se positionner sur ces questions. Le problème ne fait que commencer car tous les géants de l’IA sont obnubilés par les “Law of Scale”, autrement dit, la course au plus gros LLM qui les rapprochera d’une forme de sentience monétisable. 

Ce qui aura aussi comme conséquence une consolidation des créateurs de modèles et des propriétaires des moyens de calculs. Le partenariat entre Amazon et Anthropic pour le lancement du nouveau Alexa, le rapprochement entre OpenAI et Apple en sont peut-être les premiers signes. Une chose est certaine, les acteurs indépendants comme Mistral vont devoir trouver, à mon avis, un point de chute rapidement.

2025 sera l’année du reality check, mais aussi les prémices de la prochaine bulle, celle des robots humanoïdes dopés aux LLM.

Tous les ingrédients sont là. Même Apple a un projet sous le coude. Les blogueurs tech et les cabinets de conseil ont déjà commencé à faire monter la mayonnaise : c’est à nouveau la révolution qui devrait entièrement changer le monde. Et pour une fois, je suis plutôt d’accord avec cela.

Le vrai sujet politique des 10 prochaines années, ce n’est pas l’Intelligence Artificielle, mais quelle politique d’automatisation de la société nous souhaitons avoir (ou subir).

Le film Romulus, que je conseille vivement aux fans de science-fiction, met en scène une bande de jeunes, dont le destin est totalement lié à la société Weyland-Yutani. Pour ses besoins d’expansion, elle utilise des androïdes dotés de plusieurs niveaux d’intelligence pour leurs tâches ingrates. Androïdes qui sont souvent plus loyaux à leur entreprise qu’à leurs collègues humains.

Rappelez-vous ce scandale quand un robot d’Amazon se déplaçait avec un spray percé de répulsif pour les Ours ultra-toxique. Pendant que ce dernier continuait ses tâches, comme si de rien n'était, les humains autour de lui tombaient comme des mouches. Au final, 54 personnes hospitalisées et la question posée régulièrement de savoir s’il est souhaitable de mélanger robots et humains dans le même espace de travail.

Quelle automatisation pour la prochaine décennie ?

Il y a deux visions : celle d’une « enlightened automation » qui met l’humain au centre et rend sa vie plus facile (la ligne 1 automatique du métro parisien). Et celle de la « dark automation » où les humains ne sont pas prioritaires, comme on peut déjà le voir en Chine.

C’est une question qui m'obsède de plus en plus. Avec le dérèglement démographique des pays industrialisés, la question de l’automatisation n’est plus une question académique, mais une question de survie.

Historiquement, le Japon a inventé la robotique dans les années 70 pour limiter sa politique migratoire. Aujourd’hui, il faut des robots dans les hôpitaux pour s’occuper des patients car il n’y a plus assez d’infirmières en âge de travailler. L’avantage de la démographie, c’est qu’elle est hautement prévisible. Le Japon et la Corée, c’est l’Allemagne dans 10 ans et le reste de l’Europe dans 20 ans (mais pas la France).

La robotique de 2024 pose toutefois d’autres questions.

Veut-on une politique migratoire des robots (fabriqués en Chine et programmés selon les valeurs de leur créateur) ou des robots conçus en Europe ?

L’automatisation est un sujet hautement politique mais totalement inexistant des débats politiques. De la même manière qu’un robot androïde pourrait remplacer les Bangladeshis dans les sweatshops d’Asie, il pourrait aussi « prendre » le travail des migrants qui viennent en Europe pour y effectuer les tâches les plus ingrates.

Avec moins d’habitants et plus de tâches remplaçables par la machine, on peut se poser une autre question : faut-il conserver le même niveau de complexité administrative dans un pays, notamment la France, ou construire un environnement plus simple ? 

Une chose est sûre, notre bureaucratie est pensée pour le plein-emploi et nécessite beaucoup de tâches de contrôle et de normalisation. Ce modèle peut-il encore marcher dans 10 ou 20 ans avec 20 à 30 % de fonctionnaires en moins?

C’est une question qui avait sûrement sa place lors de la discussion sur la réforme des retraites.

Sur ces questions de simplification, j’ai toujours pensé que la complexité administrative hyper centralisée était une forme de protection que s’octroient les pouvoirs en place pour justifier une partie de leur pouvoir. Ils n’ont donc pas toujours intérêt à vouloir simplifier.

Une question identique se pose pour l’automatisation du monde physique. Gardera-t-on la complexité des processus pensée pour le monde démographique d’avant ou profite-t-on de l’automatisation pour remettre à plat la façon dont nos économies fonctionnent ?

Il ne faut pas oublier que les robots, aussi productifs soient-ils, ne consomment pas, à la différence des travailleurs humains. Ils n’achètent pas de bière le soir, ne vont pas aux matchs de foot, ne prennent pas leur voiture pour s’arrêter aux supermarchés, n'amènent pas leurs gosses au parc le week-end. Et surtout, ils ne créent pas, ne changent pas les normes sociales, n’écoutent pas les nouvelles musiques, ne regardent pas de films en salles.

Je trouve stupéfiant que la mission IA générative coordonnée par Anne Bouverot et Philippe Aghion ait mis ces questions essentielles sous le tapis pour, au final, nous sortir un rapport déjà obsolète au moment de sa sortie.

IA, automatisation, démographie et énergie sont les nouveaux paramètres de la géopolitique mais aussi des futures guerres.

En Ukraine, qui est le patient zéro technologique de la prochaine guerre mondiale, les Russes, pour faire face aux drones, se sont d’abord attaqués aux brouillages des réseaux avec un certain succès. Désormais, leur focalisation est de détruire les sources de production d’énergie pour en limiter les attaques (utiliser des groupes électrogènes montés sur des pickups pour contrôler des drones a ses limites).

Car ce qui a sauvé l’Ukraine, c’est d’être connectée au réseau électrique européen et d’avoir pu profiter à plein de sa solidarité.

Une automatisation centralisée ou fédérée ?

De la même manière l’Europe sera plus forte si elle interconnecte ses plateformes d’automatisation. Avec une question essentielle : les construira-t-elle elle-même ou utilisera-t-elle les services des GAFAM avec le même niveau de dépendance que sur le cloud aujourd’hui? 

Peut-on imaginer un pays dont toutes les forces vives numériques, c'est-à-dire ses robots, seraient contrôlées par une entité extérieure ? 

Les paris sont ouverts. À méditer.

Nous aurons l’occasion de revenir sur certains de ces sujets tout au long de l’année.

Maison d’édition

Nos prochains essais prévus pour cette rentrée.

Trilogie de la souveraineté numérique 

1. Comment la France s’est vendue aux GAFAM
2. Lettre à ceux qui veulent faire tourner la France sur l’ordinateur de quelqu'un d'autre 
3. Après la souveraineté numérique : survivre à l’hiver numérique ( écrit en 2022 mais en cours de mise à jour)

Trilogie sur la nation technologique

1. Imaginer une alternative à la Start-up Nation 
2. Pourquoi la tech française va droit dans le mur
3. Comment la France pourrait être la troisième puissance économique mondiale (en cours de finalisation) 

Interventions dans les médias 

• Le podcast de Capgemini: Objectif Cloud - Le cloud à la croisée des chemins : entre incertitude et résilience
• Le podcast nolimit secu : Episode #470 
• Trench Tech : Sa solution pour réparer le numérique français
• France 24 : The Debate (in English) X vs Brazil
• RFI : Les dessous de l’infox au sujet de l’affaire Télégram

Ciné-Club

Sci-fi

Terminator Zéro (2024) est une délicieuse surprise sur Netflix après les récents films de la franchise, assez catastrophiques. Une vision japonaise de l’IA et des paradoxes temporels traitée tout en finesse. Produit par Studio IG, qui a notamment réalisé Ghost in the Shell (1995).

Romulus (2024) est un peu le Rogue One (2016) de la franchise Alien. Très bons décors, personnages attachants, histoire qui ne change pas le canon. À voir !

Espionnage

The Old Man (2022) est une excellente série d’espionnage en sept épisodes. Excellente distribution et histoire très captivante. La saison 2 arrive bientôt.

Cypher (2003) un film que j’ai revu avec plaisir. Un thriller techno paranoïaque plutôt bien fait, un mélange entre Memento et Johnny mnemonic fait par un réalisateur très mal utilisé par hollywood. Il a tout de même réalisé plusieurs épisodes de The Peripheral (2022), une série créée par les producteurs Westworld (2016) d’après le livre culte du William Gibson.

Topaz (1969) est un film d’espionnage d’Alfred Hitchcock avec Philippe Noiret et Michel Piccoli. Michel Piccoli est absolument remarquable de froideur dans un autre classique du genre, Espion, lève-toi (1982).

Mais aussi: 

Et pour ceux qui ne l’ont pas encore vu, Emilia Perez (2024) est l’un des films de l’année.

Merci pour votre temps.

Pourquoi s’abonner au Club ?

Ce qui est gratuit n’a pas de valeur. Presque tout ce que l’on lit sur les sujets de géopolitique et de numérique est influencé politiquement ou commercialement. Rester indépendant est devenu une qualité de plus en plus rare. Le consensus, la peur des scénarios inconnus, l'entre-soi de la Tech et ses œillères nous ont emmenés dans le mur. Il est peut-être temps de lire autre chose.

Pour s’abonner, c’est ici.