Cybernetica propose une autre vision du numérique pour se préparer au futur qui se dessine (géopolitique, nouvelles conflictualités, IA, cultures synthétiques, économie post-données).
Star du Web français dans les années 2000 avec son site Netvibes, Tariq Krim n'hésite pas à dénoncer les techniques obscures des géants de la tech pour nous influencer.
Nous avons reçu Tariq Krim pour faire le point sur le monde de la Tech d'aujourd'hui, son modèle de financement et ses valeurs, pas toujours très éthiques. Entre la course aux licornes et la création d'une gigantesque machine à manipuler, l'entrepreneur revient sur les enjeux de la régulation des GAFA et nous explique comment le « slow web » peut proposer un modèle alternatif.
Le design persuasif, c'est l'ensemble des techniques utilisées par les acteurs de la technologie pour nous scotcher un maximum de temps sur nos écrans. Surabondance de choix, notifications à tout-va, validation sociale... tout le monde est, aujourd'hui, soumis à ces pièges numériques au moindre clic.
Le principe n'a rien de glorieux : les experts étudient les comportements des internautes et se débrouillent pour concevoir des sites, des services et des applications qui les rendent complètement accros. La bonne nouvelle, c'est que la résistance s'organise. En France, l'entrepreneur Tariq Krim propose notamment avec dissident.ai une plateforme qui permet de naviguer à bonne distance des algorithmes des GAFAM.
Aux États-Unis, on justifie l’utilisation du design persuasif au nom du bien commun : on influence les utilisateurs, mais on fait des miracles en termes de santé prédictive, par exemple…
Tariq Krim : Concevoir un logiciel est une responsabilité importante. Il est tellement facile d’exploiter une certaine forme de crédulité que les gens ont vis-à-vis de la technologie... Il y a trente ans, on imaginait l’ordinateur comme une machine neutre et infaillible. Désormais, on apprend qu’il peut nous mentir. Sauf qu’on a su cacher ce mensonge derrière des buzzwords marketing.
Quand ce n’est pas la tech, c’est le design de certaines applications qui nous influence carrément.
T. K. : Les applications ont radicalement changé nos habitudes quotidiennes. Avec l’arrivée de l’iPhone, il a fallu recruter des millions d’utilisateurs, très vite. Ces techniques d’addiction et de modifications comportementales ont été lâchées dans la nature. On a laissé des applications entrer dans notre intimité, sans éthique, sans garde-fou, avec une seule intention : promettre une croissance ininterrompue aux investisseurs.
T. K. : Nous sommes dans une logique inédite où des plateformes sont quasiment devenues des services publics. À défaut de les nationaliser, on pourrait imaginer que les utilisateurs qui ne veulent pas divulguer leurs données personnelles puissent avoir accès à un compte limité ou payant qui leur permette de communiquer avec leurs amis et d’avoir une identité sur le réseau. Mais on n’en est pas encore là. En France, le gouvernement préfère négocier avec Facebook que d’imposer aux compagnies ce type de solutions. L’idée de « contrôler » le débat public plaît beaucoup aux gouvernements. Autrefois, c’était la loi qui structurait nos comportements, désormais, c’est en partie le code et le design des plateformes.
Cette vision du politique qui emprunte ses pires techniques aux plateformes numériques est inquiétante…
T. K. : Nous assistons aux prémices de l’État-plateforme, où les algorithmes détermineront les interactions avec les citoyens. Ça pose un problème si on estime qu’il doit y avoir une égalité de traitement des citoyens.
A-t-on des moyens de se prémunir d’une quelconque manipulation ?
T. K. : Le Slow Web pose les bases de l’intrusion d’un logiciel dans notre intimité. Ses trois règles sont :
la transparence. Une action de l’utilisateur et ses implications doivent être compréhensibles. Aujourd’hui, si tu « likes » une photo sur Facebook, 50 paramètres de ton profil publicitaire vont changer sans que tu en sois informé.
l’attention. Il faut des interfaces neutres, qui n’essaient pas de nous orienter dans une direction ou une autre.
la privacy. Il ne s’agit pas de mieux gérer les données, mais de pouvoir stopper l’écoute ou l’analyse du logiciel dès que l’utilisateur le souhaite. Rendre le logiciel inerte. Une chose aussi intime que d’écouter de la musique ne doit pas devenir un outil de profilage politique, sexuel ou médical.
Vous êtes vous-même à l’origine de dissident.ai.
T. K. : Nous avons créé Dissident avec l’idée de reprendre le contrôle de notre vie numérique. Elle est fragmentée, manipulée par les algorithmes et simplifiée à l’extrême par nos téléphones. Nous avons deux produits. Desktop permet d’unifier l’ensemble de nos stockages de données (Dropbox, Google Drive, Slack, Facebook…) et de rechercher, ouvrir ou déplacer un contenu vers un autre service. Library agrège les contenus des meilleures sources d’information, sans influence des algorithmes. Notre modèle économique est celui de l’abonnement.
Pensez-vous que nous pourrons arriver à un Slow Web généralisé ?
T. K. : J’aime comparer le Slow Web à la slow food. Nous ingurgitons de la tech tous les jours, comme la nourriture. À un moment donné, si elle n’est pas bonne, elle impacte nos esprits et nos corps. Si on prolonge ce parallèle, on peut regarder ce qui se passe avec le bio. Dans n’importe quel supermarché, de n’importe quel pays développé, il y a désormais un rayon bio. C’est par la santé que nous avons réussi à faire basculer les modes de consommation. La tech suit le même modèle. Les grandes plateformes sont la junk food de la pensée. Avec les inquiétudes des consommateurs, les boîtes du digital vont devoir choisir : être du bon côté de l’histoire, ou devenir des « Monsanto » détestées par tous.
PARCOURS DE TARIQ KRIM
Entrepreneur français, notamment fondateur du site Netvibes. Il est le premier Français à s’être vu remettre le prestigieux prix scientifique TR35 de la revue américaine Technology Review, publiée par le MIT, et l'une des six personnalités françaises à avoir été désignées par le Forum économique mondial comme « Young Global Leaders » en 2008.
Conférence du mouton numerique avec Hubert Guillaud
Plutôt que d’élargir notre pouvoir d’agir, le web nous aurait enfermé dans un écosystème d’entreprises extrêmement centralisé. Le web aurait donc failli et pour certains, cet échec était inscrit dans ses gènes...
Il y a 30 ans, naissait le web, un système hypertexte public reposant sur internet, avec lequel on le confond souvent. Le web est en réalité une des nombreuses applications d’internet comme peut l’être le mail. En quelques années, les trois "w" changent le monde, les rapports entre les gens, les États, les entreprises et le commerce lui-même. Émergent alors les géants qu’on ne présente plus : Yahoo !, Amazon, Internet Explorer, Wikipedia, Facebook, Google et les autres, pour ne parler que de l’Occident. Avec quatre milliards de personnes s’y connectant chaque jour, il semblerait que le web ait permis l’union de tous les humains, la libération de tous les liens. En un mot : le progrès. Pourtant, le web est aujourd’hui sous le feu de nombreuses critiques : plutôt que la liberté, nous aurions récolté la surveillance. Mais alors, peut-on aujourd’hui reconstruire le web en partant de sa forme actuelle, ou bien, faudrait-il en reconsidérer les fondements, jusqu’à son architecture ? Quelles sont les idées, les acteurs, les techniques qui envisagent d’autres scénarios ? Pourquoi parle-t-on de "Slow web" ? Un autre web est-il encore possible ?
Tariq Krim était au coeur de la Silicon Valley lors des balbutiements du Web 2.0. Il a vécu cette effervescences aux côtés des plus grands acteurs de la tech, mais ne partage pourtant pas leur enthousiasme sur tous les choix qui ont tissé les fils de la Toile. Il rêve de services plus respectueux des usagers : de leur temps, de leur attention et de leur vie privée. Mais un obstacle majeur se dresse sur la route menant vers ce Slow Web : le microciblage, une technique marketing qui piste les moindres faits et gestes des internautes. Pour Reset, il explique pourquoi cette technologie est néfaste pour nos cerveaux et la démocratie, et raconte sa vision d’un Web plus en adéquation avec nos droits fondamentaux.
Tariq Krim est entrepreneur et l’un des principaux activistes du mouvement Slow Web. Il est à l’origine des services Jolicloud, de Netvibes et de GenerationMP3, et a mi plus récemment au point dissident.ai.
Tariq Krim, fondateur de dissident.ai et promoteur du mouvement "Slow Web", nous livre sa solution pour contrer la domination des Gafam.
"Les débuts du Web et son incroyable diversité d’acteurs ont laissé place à un Internet monopolistique où notre vie numérique est régie par une quinzaine de plateformes. Le premier âge du Web a été celui de la facilité. Tout est devenu plus simple à faire, à chercher, à acheter, à payer ou même télécharger. C’est l’Internet qui nous a séduits.
Le deuxième âge du Web a été celui de la convivialité. Celui ou l’on peut parler à n’importe qui, de n’importe quoi, de n’importe où. Qui nous a fait découvrir le Chat, les Tweets, les Emojis et les Followers. C’est l’Internet qui nous a grisés.
Il est urgent de promouvoir en Europe une autre vision du numérique
Hélas, la troisième ère marque l’arrivée des plateformes dans notre intimité. Installées durablement dans nos emails, nos photos, nos conversations, elles analysent nos pensées, et manipulent nos émotions pour les vendre au plus offrant. C’est l’Internet qui nous a rendus fous. Au point de se demander si la démocratie peut lui survivre. Il est urgent de promouvoir en Europe une autre vision du numérique, plus éthique, plus respectueuse de notre vie privée, plus ancrée dans le temps long.
C’est le Slow Web. Nombreux sont ceux qui comme moi souhaitent mettre cette vision en œuvre, mais qui n’arrivent pas à convaincre nos gouvernants encore subjugués par les apparats de la réussite économique des grands acteurs américains et chinois."
Pour le pionnier du Web français Tariq Krim, l'histoire du déclin du numérique français est une tragédie en 3 actes. Il existe pourtant une sortie de crise.
Pourquoi la France est-elle passée du statut de pays leader dans la technologie à celui beaucoup moins enviable de nation consommatrice de smartphones obligée de mendier un peu d'oxygène aux grandes plateformes pour développer ses projets ?
L'histoire du déclin du numérique français est une tragédie en trois actes. Il y eut d'abord les « 30 honteuses du numérique », où une petite élite arrogante et dénuée de vision stratégique a démantelé notre industrie informatique et électronique grand public. Elle a débranché les travaux de recherches les plus intéressants et laissé nos meilleurs développeurs partir à l'étranger faute de pouvoir les associer à des projets ambitieux.
Vient ensuite la capitulation vis-à-vis des grands acteurs américains. Ainsi, de nombreux politiques et hauts fonctionnaires français leur ont permis d'intégrer leurs technologies au cœur des prérogatives régaliennes de l'État : défense, renseignement, éducation, sécurité, mais aussi culture. Plusieurs d'entre eux quitteront leurs fonctions pour aller rejoindre ces sociétés.
Le troisième acte se joue en ce moment. Alors que nos dirigeants se préparent à une vente à la découpe, il reste cependant un mince espoir d'inventer une autre manière d'utiliser le réseau plus en phase avec nos principes et nos valeurs. Mais pouvons-nous encore changer la doctrine des politiques numériques de la France ? Quand on écoute nos hommes politiques, le déclassement de l'Europevis-à-vis de l'Internet est présenté comme une fatalité. Un accident de l'Histoire à l'issue duquel les clés du monde de demain auraient été données aux États-Unis et à la Chine.
La réalité est beaucoup plus douloureuse. En 1993, les États-Unis lancent le projet des « Autoroutes de l'information » qui fera notamment de l'Internet et du numérique le fer de lance de leur nouvelle stratégie de croissance. Au même moment, l'Europe décide de miser sur les industries traditionnelles… et le diesel propre ! Vingt-cinq ans plus tard, les Gafam dominent aujourd'hui le monde et le patron d'Audi a été arrêté pour avoir faussé les mesures de pollution de ses moteurs. En France, les Gilets jaunes ne comprennent pas pourquoi ils sont taxés sur le diesel alors que pendant des années on les a massivement incités à acheter les voitures utilisant ce type de carburants.
Nous aurions pu avoir un autre destin, car si les États-Unis avaient la vision et l'argent, c'est en Europe qu'ont été inventées deux des briques fondamentales de l'Internet : Linux et le Web. Mais à la différence du standard GSM, ces dernières ont eu le malheur d'être conçues par des individus talentueux hors des grandes institutions. Snobés chez nous, ces deux projets deviendront le moteur des plateformes numériques américaines et chinoises et l'instrument de leur domination mondiale. Car c'est bien de la détection précoce des technologies d'avenir et des talents que viennent les succès de sociétés comme Google, Apple, Facebook, Amazon ou Microsoft. La France ne voit pas les choses de la même manière, notre élite méprise ce qui est marginal, différent ou simplement trop petit. Le scénario de « dénumérisation » de la France suivra toujours le même schéma. Nous vendrons à la casse nos sociétés, ou les dilapiderons alors qu'elles possédaient en interne les technologies qui, si elles avaient été mieux valorisées, nous auraient permis d'influencer la direction prise par l'Internet.
Tout commence dans les années 70, avec l'abandon du réseau Cyclades de Louis Pouzin au profit du Minitel. Louis Pouzin en est le concepteur et il est l'inventeur de la segmentation des données en « Datagramme ». Il sera récompensé (avec Tim Berners-Lee et Vinton Cerf) par la reine d'Angleterre pour ses contributions essentielles à la création de l'Internet et il reste à ce jour un inconnu du grand public en France. Il faudra attendre 1994 pour que nos chercheurs acceptent enfin de s'intéresser à autre chose qu'à des technologies incompatibles avec l'Internet. Dans les années 90, c'est au tour du Premier ministre de l'époque Alain Juppé d'expliquer, au journal de 20 heures, sa décision de vendre à la casse Thomson Multimédia au coréen Daewoo : « Thomson, ça ne vaut rien, juste un franc symbolique. » Le gouvernement obsédé exclusivement par le volet social de l'entreprise ignore que Thomson multimédia dispose d'une grande partie des brevets sur la musique (le fameux MP3) et la vidéo en ligne qui seront utilisés quelques années plus tard dans tous les smartphones. Sa branche grand public sera démantelée et vendue au chinois TCL et ses meilleurs ingénieurs partiront chez Google.
Quasiment au même moment, Alcatel décide de transférer ses usines vers la Chine. Son PDG veut appliquer la stratégie du « fabless », à savoir délocaliser la production tout en conservant le design en France. Ce sera une grossière erreur d'analyse. Lorsque les smartphones deviennent un succès international, la France n'a plus de capacités industrielles dans ce secteur, alors qu'elle était l'un des principaux fabricants dans le monde. Nokia, le champion européen du GSM, sera lui aussi vendu à Microsoft puis mis à mort quelques années plus tard. Seuls la Corée et le Japon qui ont su conserver leurs sociétés dans le domaine profiteront pleinement de l'arrivée d'Android. Après avoir sabordé notre électronique grand public, tout sera fait pour empêcher la création d'une industrie indépendante de l'Internet en France.
Alors que la Silicon Valley parie sur les talents et les start-up, la France préfère s'embourber dans des grands projets institutionnels sans avenir. Mais ces projets permettent aux politiques de faire des annonces et aux industriels déjà établis de bénéficier de la manne de l'argent public. Ainsi, le projet Quaero, qui visait à créer un « Google Européen », a été lancé par Jacques Chirac. Il terminera rapidement dans les oubliettes technologiques. Plus récemment, le Cloud souverain, qui se targuait d'être la réponse française à Amazon et Microsoft, sera abandonné en rase campagne puis revendu (et sans ironie aucune)… au chinois Huawei. Au final, beaucoup d'argent aura été dépensé soit pour concurrencer l'Internet lui-même soit pour contourner les start-up qui voulaient développer des solutions alternatives aux Gafam. C'est une génération entière d'entrepreneurs et de chercheurs que l'on a écartés pour redéfinir la politique industrielle du secteur. Tout récemment, le rapport sur l'intelligence artificielle de Cédric Villani n'a pas fait mention des deux meilleures solutions open sources dans le domaine : SciKit Learn et Keras qui se trouvent être… françaises.
L'acte deux commence avec le quinquennat Hollande. Un changement d'attitude va s'opérer vis-à-vis des grandes plateformes. La défaite est désormais entérinée en coulisses. Il ne s'agit plus d'exister au niveau mondial, mais de négocier avec les Gafam tout en faisant mine de s'indigner publiquement de leurs abus de position dominante. Place à la stratégie « Ferrero Rocher » : tapis rouge, petits fours, quasi-visites d'État et quasi-sommets diplomatiques avec les Gafam. L'exigence de souveraineté numérique n'est plus un rempart. Un partenariat entre Cisco et l'Éducation nationale est mis en place par Manuel Valls. Ceci alors que cette société est au cœur du complexe militaro-industriel américain. Son patron sera d'ailleurs nommé par Emmanuel Macron ambassadeur mondial de la French Tech. Et il « accompagnera » les start-up françaises notamment pendant le voyage présidentiel en Inde. Si John Chambers est bien l'un des meilleurs patrons de la Tech mondiale, le signal donné par sa nomination est déroutant pour l'entrepreneuriat français. Ce n'est tristement pas le seul. Microsoft est devenue le partenaire de l'Éducation nationale, et Google le parrain de la Grande École du Numérique. La société de Big Data Palantir, proche des services secrets américains, a conclu un contrat avec la DGSI (et peut-être la DGSE ?), et elle est également présente chez Airbus. Enfin, à l'échelon des collectivités territoriales, les régions vont s'appuyer sur Facebook pour « la formation au numérique». Comment, dans ces conditions, se plaindre des conséquences des réseaux sociaux et de l'impact des Gafam sur notre démocratie quand nous leur avons ouvert si largement les portes de l'État ?
Ce qui nous amène à l'acte 3. La plupart de ces partenariats ont été signés à une époque où le succès des Gafam ne pouvait pas être remis en question. Mais depuis l'affaire Snowden, de nombreux scandales ont montré les failles morales de ces sociétés dans la gestion de nos données personnelles ainsi que dans l'utilisation « non-éthique » des technologies de l'intelligence artificielle. La France peut d'ailleurs se targuer d'être la seule démocratie occidentale à ne pas avoir ouvert de commission d'enquête à la suite de l'affaire Cambridge Analytica. Le gouvernement a préféré annoncer une collaboration rapprochée avec Facebook. Il s'agit de maintenir l'illusion que l'on peut gérer l'État comme une start-up, tout en feignant d'oublier que la majorité d'entre elles échoue dans les deux ans qui suivent leur création. En effet, ce gouvernement prend un risque inconsidéré en pariant notre avenir sur une hypothétique transformation numérique autour de « l'intelligence artificielle ». Si nous ne nous donnons pas les moyens de réguler la manière dont ses entreprises et ce type de technologies fonctionnent, nous pourrions détruire notre modèle social en tentant de copier ceux de la Chine ou des États-Unis. L'ironie du sort veut que, désormais, certains industriels et chercheurs américains s'appuient sur l'Europe et sa réglementation sur les données personnelles pour sortir d'un modèle numérique qui n'est pas « durable ». Aux États-Unis, le ministère de la Santé a ainsi lancé une grande étude sur l'impact des écrans et le Sénat a analysé, dans un rapport très détaillé, les manipulations des réseaux sociaux qui ont eu lieu lors de la dernière campagne présidentielle.
Il existe pourtant un scénario de sortie de crise. En effet, la meilleure réponse à la crise de confiance systémique vis-à-vis des Gafam est de soutenir les mouvements autour des technologies « éthiques ». Il s'agit d'un nouveau terrain de croissance industrielle pour l'Europe, comme le Bio l'a été pour l'agriculture. De nombreux entrepreneurs réfléchissent à d'autres façons de concevoir la technologie, s'appuyant beaucoup moins sur la donnée et créant moins d'intrusions vis-à-vis de leurs utilisateurs. C'est le mouvement autour des logiciels éthiques et du Slow Web. Ce mouvement, qui s'est réuni en septembre dernier à Copenhague, souhaite définir un meilleur équilibre entre usage numérique et monde réel pour ne pas rendre ces technologies aliénantes. Il prône notamment l'arrêt de certaines pratiques toxiques comme le profilage (micro targeting) ou la manipulation de nos émotions via des messages ciblés sur nos mobiles dont nous avons vu les conséquences désastreuses lors du référendum sur le Brexit ou l'élection américaine. Parce que nous avons laissé le numérique devenir un sujet politique de second plan, et que nous avons nommé des communicants à la tête des institutions qui devaient s'en occuper, il n'y a pas eu de véritable débat sur la digitalisation de l'État, et sur les conséquences que ces technologies peuvent avoir sur chacun d'entre nous. Nous devons désormais exiger que les choix technologiques faits par l'État (comme les décisions politiques dans ces domaines) soient lisibles et compréhensibles par l'ensemble des citoyens… Car s'il s'agit de faire de la France une colonie numérique des plateformes et qui ne profiterait qu'à une petite bourgeoisie d'Internet, alors il faudra le dire clairement !
Il est temps également de voir émerger une nouvelle forme de résistance citoyenne. Car l'usage de ces technologies n'est pas neutre, la substitution de l'action de l'État par des algorithmes rend caduque l'égalité de traitement entre chaque Français. Le remplacement de nos services publics par un « État plateforme » totalitaire (à l'instar du « Crédit social » qui voit chaque Chinois recevoir une note qui détermine leur capacité à se déplacer ou à obtenir un crédit) n'est pas la vision que nous souhaitons promouvoir. C'est pourtant ce qui se prépare dans certains cabinets ministériels lorsqu'il est question d'État plateforme… En espérant que la France reprenne le dessus sur ces questions, il faut saluer l'action de la commissaire européenne danoise Margrethe Vestager qui a su faire preuve d'un véritable leadership sur la régulation des plateformes. Il sera important lors des prochaines élections européennes de lui permettre de s'appuyer sur un parlement qui sera capable de l'aider à poursuivre sa tâche.
Tariq Krim est un entrepreneur, fondateur de Netvibes, service au succès mondial, il est désormais engagé dans le slow web avec dissident.ai. Je connais Tariq depuis des années et le moins que l’on puisse dire c’est qu’il a toujours été en avance sur son temps. Avec Tariq, j’essaie de comprendre ce qu’est le slow web ou en tous cas à quoi pourrait ressembler un web plus éthique.
J’imagine que c’est une conversation que vous avez régulièrement dans ces diners pendant lesquels on refait le monde. Cet épisode, c’est un peu ma version de cette conversation avec un Tariq passionnant.
Le slow web, en quelques mots
Quand vous entendez « Slow web » vous pensez sans doute à « déconnexion » mais ce n’est pas du tout le sujet. Comme le rappelle Tariq, la tendance « slow food » s’est construite en opposition au fast food mais il n’a jamais été question de manger un mauvais hamburger plus lentement. Cette idée doit même vous faire sourire à l’instant ou vous la lisez. Le slow food, c’est choisir des bons ingrédients bio, c’est prendre le temps de cuisiner, d’inviter des amis etc… De la même manière pour Internet, l’idée n’est pas de ralentir l’usage d’un web « malade » mais d’envisager le web différemment.
L’oligarchie numérique des GAFA a imposé un modèle dans lequel le consommateur n’est plus du tout au centre, sinon comme un produit dont les marques consomment les données. Par ailleurs, quelque part les réseaux sociaux ont créé une réalité sociale alternative qui pose un vrai problème de santé publique car dans un monde à la réalité déformée, votre vie à toujours l’air insuffisante. Comme le souligne Tariq, nous sommes pressurisés en permanence car nous avons toujours l’impression de passer à coté de quelque chose. Il ne s’y trompe pas quand il évoque l’augmentation du nombre de suicide chez les plus jeunes. Les taux n’ont jamais été aussi élevés.
Pour Tariq, il faut donc se poser la question de la possibilité d’un autre modèle.
Autopsie d’un malaise sociétal
La question reste de savoir si cela est nécessaire de remettre en cause le modèle…n’est-ce pas jouer le jeu du marketing de la peur que de brandir à tout va l’intelligence artificielle et les algorithmes?
Selon Tariq, c’est essentiel car nous avons perdu le contrôle de notre vie numérique. comme il le rappelle, avant l’iPhone, nous possédions l’ensemble de nos données: nos fichiers, nos musiques, nos films et surtout nos préférences et nos relations mais avec le cloud, nous avons donné à d’autres la possibilité de gérer notre espace privé. Aujourd’hui, nous n’avons plus vraiment la maîtrise sur la manière dont nous souhaitons interagir avec le monde.
Si auparavant, je pouvais choisir les flux d’informations que j’allais lire, aujourd’hui tout ce que l’on voit a été sélectionné par un tiers sans que je puisse m’en rendre compte et cela peut être utilisé par la publicité: montrer une histoire triste d’un(e) ami(e) pour vous vendre des vacances à travers une pub par exemple car on sait que vous y serez alors plus sensible. Les réseaux sociaux et leurs algorithmes peuvent définir comment vous allez vous sentir car ils vous connaissent mieux que vous même.
Tariq l’affirme: un algorithme n’est jamais neutre. Les machines ne devraient pas pouvoir contrôler nos vies, l’humain devrait rester au centre et les machines devraient être là pour nous servir. A grande échelle cela pose d’ailleurs des problèmes politiques car aujourd’hui on est presque capable de servir un message différent pour chaque personne en fonction de ses attentes et cette personne ne sera pas en mesure de le réaliser. D’ailleurs, à une moindre échelle, c’est déjà le cas sur Google, les résultats de recherche différent d’une personne à l’autre en fonction d’une multitude de critères. C’est la fameuse « filter bubble » décrier par Eli Pariser. On dessine donc assez bien la limite du système Il s’agit donc de faire un retour aux sources de ce qu’était la vision originale du web avec des communautés bienveillantes, de mettre l’humain au centre, de faire en sorte de limiter les notifications, de ne pas faire de « branding » etc…
Le slow web: vers quel modèle?
Selon Tariq, il y a une place à prendre entre le modèle à l’américaine ou tout est monétisé et le modèle à la chinoise dans lequel tout est contrôlé. Il faut réinventer de nouveaux modèles et de trouver les moyens à d’autres modèles d’exister. Se repose un certain nombre de questions par exemple: « Pourquoi vouloir à tous prix être une licorne? » Peut être que proposer une offre à une cible plus petite mais qui a besoin du service proposé, fait plus de sens car vouloir à tout prix proposer un modèle unique du web n’est pas très sain. Il n’existe pas de réponses simples évidemment car l’écosystème est construit de telle manière que pour exister il faut utiliser les mêmes techniques qu’on essaie de combattre. Cela implique que pour exister il faut être largement utilisé.
Toutefois, selon Tariq, il y a au moins 3 débuts de réponse:
– Revenir à des standards ouverts voire forcer l’ouverture des plateformes. – Créer une interopérabilité des données d’un service à l’autre (beaucoup plus que ce que le GRDP permet aujourd’hui) – Respecter la vie privée, le cerveau de l’utilisateur
L'entrepreneur théorise le « Slow Web » pour nous permettre de reprendre le contrôle de notre vie numérique.
Entrepreneur en série (Netvibes et Jolicloud, notamment) et ancien vice-président du Conseil national du numérique, le designer français Tariq Krim lance Dissident.ai, une plateforme qui veut permettre aux utilisateurs de reprendre le contrôle de leur vie numérique.
Damien Mc Donald
Le Point : Quelle position adopter face aux géants d'Internet comme Google, Apple, Facebook ou Amazon ?
Tariq Krim : Nous sommes dans une situation paradoxale. Il y a 25 ans, il ne fallait surtout pas réguler, car il fallait empêcher les opérateurs téléphoniques de mettre la main sur le Net en créant des autoroutes de l'information. Mais finalement l'absence de régulation a permis la création de géants du numérique bien plus puissants que les États. Limiter leur pouvoir sera très difficile, car il ne s'agit plus de régler uniquement des questions fiscales ou concurrentielles. Les Gafa (Google, Amazon, Facebook et Apple) sont désormais des acteurs politiques à part entière. Les technologies de manipulation comportementale couplées à l'intelligence artificielle (IA) ont le potentiel de détruire les fondements de nos sociétés.
Que voulez-vous dire ?
Nous n'avons véritablement compris l'impact de leur influence que lors des récentes élections. Au-delà des fausses nouvelles qui ont pollué toute tentative de débat démocratique, c'est le succès de l'utilisation de masse des technologies de changement comportemental qui devrait nous inquiéter.
De quoi s'agit-il ?
Nous entretenons une relation symbiotique avec nos applications, nous avons autant besoin d'elles qu'elles ont besoin de nos données. Dès les années 1950, Norbert Wiener, le père de la cybernétique, qui a notamment introduit le concept de rétroaction pour permettre le contrôle à distance des machines, s'inquiétait déjà dans son livre Cybernétique et société que l'inverse soit un jour possible : prendre le contrôle à distance des êtres humains grâce à la manipulation de leurs émotions. Tous les services présents dans nos smartphones utilisent désormais ces techniques. La simplicité d'usage nous a rendus passifs et paresseux. Les likes et les shares sur les réseaux sociaux créent plusieurs fois par jour des sentiments d'euphorie ou de dépression.
C'est un peu ce que faisait Cambridge Analytica ?
Absolument, l'usage des fausses nouvelles a été le moyen d'« activer » certains électeurs et de les rendre imperméables au sens commun. Ce type de manipulation, théorisée par la doctrine Gerasimov, est désormais l'arme préférée des populistes. Car, contrairement à la télévision, on peut toucher l'électeur directement sur son téléphone portable et au moment où il est le plus fragile psychologiquement. Ces technologies ont été inventées au départ pour la publicité : il ne s'agit plus de vous montrer des choses qui vous intéressent, mais de modifier votre comportement pour que vous vous intéressiez à certaines choses. Appliquées au monde politique, elles deviennent un outil redoutable.
Que peut-on faire ?
Aujourd'hui, l'opinion a les yeux rivés sur la question des données personnelles. Ce n'est plus suffisant. Les technologies de manipulation comportementale couplées à l'intelligence artificielle (IA) ont le potentiel de détruire les fondements de nos sociétés. En fragmentant individuellement les opinions de chaque citoyen, on transforme l'espace public et la parole politique en millions de petits espaces privés, par ailleurs invisibles pour le régulateur. Je pense qu'il faudrait limiter ce genre de technologies avant qu'il ne soit trop tard. La Silicon Valley considère désormais que la machine peut prendre de meilleures décisions que les êtres humains.
Vous parlez du « Slow Web » comme d'une alternative ?
Au départ, le Web était un outil de liberté et d'émancipation ; c'est devenu un espace confiné où nous sommes surveillés en permanence. Entre l'utilisateur et le contenu qu'il consomme, des dizaines d'intermédiaires tentent d'influer sur ce que nous voulons voir, dire ou faire. Ces algorithmes ne sont pas magiques : ils sont créés par des gens qui ont leur propre agenda. Il y a un vrai besoin de transparence. Nous sommes plusieurs à avoir fait la comparaison avec la nourriture. Dans les années 1970, nous mangions des produits bourrés de produits chimiques ; aujourd'hui, il n'y a plus un supermarché qui ne propose pas du bio, car les mentalités et, surtout, l'information disponible pour le public ont changé. Le Slow Web est l'équivalent du mouvement écogastronomique Slow Food pour la technologie : une alternative éthique de l'Internet.
Cela vous inspire, puisque vous lancez un nouveau projet qui s'inspire de cette philosophie.
Depuis un an, je travaille à l'élaboration de Dissident.ai (www.dissident.ai), qui est une des premières plateformes de Slow Web. Elle nous permet de reprendre le contrôle de nos contenus personnels et d'accéder à des sources d'information sans aucune altération algorithmique. Une forme de version « bio » alternative à ce que proposent les grandes plateformes.
Vous avez fait vos études dans le domaine de l'intelligence artificielle. Que pensez-vous de son développement actuel ?
Les questions restent les mêmes : que se passera-t-il quand le monde ne s'expliquera plus par la philosophie mais par l'analyse des données par une machine ? Seuls deux acteurs sont réellement déterminés à y répondre : la Chineet les Gafa. C'est fascinant de voir comment la même technologie est mise au service de deux visions politiques totalement antagonistes. Pour la Chine, l'intelligence artificielle est le moyen de créer une société dont les ressources sont équitablement redistribuées par la machine ; une nouvelle forme d'économie socialiste de marché optimisée en temps réel. Il s'agit aussi d'un monde dans lequel les citoyens sont constamment notés et surveillés par la machine, pour le meilleur et pour le pire. Le professeur de droit Feng Xiang pense que cette forme d'organisation sociale est le seul rempart contre la création d'une oligarchie numérique qui contrôlerait toutes les données, comme c'est déjà le cas aux États-Unis. Le passage à l'intelligence artificielle oblige la Silicon Valley à renier l'un de ses fondements idéologiques, à savoir l'idée que l'ordinateur est un outil d'émancipation individuelle. Elle considère désormais que la machine peut prendre de meilleures décisions que les êtres humains. Il faut donc tout faire pour la renforcer, l'alimenter avec toujours plus d'informations en poussant notamment les gouvernements à ouvrir leurs bases de données les plus précieuses. C'est une quête quasi religieuse. D'ailleurs, les Gafa sont les seules entreprises au monde persuadées que leur situation de monopole est bénéfique pour l'humanité.
Entre ces deux visions, l'Europe a bien du mal à exister. La France a-t-elle encore sa place dans cette bataille ?
Le rapport de Cédric Villani sur l'IA est un premier pas, mais le fait d'avoir déroulé le tapis rouge aux Gafa en plein scandale Cambridge Analytica était une erreur. Ils étaient en terrain conquis. Pendant la remise du rapport, Yann LeCun, patron du pôle IA chez Facebook, s'est même permis de dire : « Ne vous inquiétez pas, nous n'allons pas accaparer tous les chercheurs français. » En même temps, nous apprenions que la chaire d'intelligence artificielle de l'École polytechnique allait être financée par Google. Cela donne l'impression que les impôts des Français servent à financer la recherche et développement (R&D) de grandes plateformes qui non seulement ne paient pas leurs impôts en France, mais dont les services sont en train de radicaliser une partie de sa jeunesse et de la rendre totalement imperméable à la science et au sens civique. Ce n'est certainement pas le retour sur investissement que sont en droit d'attendre les Français.
Comment voyez-vous la French tech actuelle ?
Aujourd'hui, j'ai le sentiment qu'à de rares exceptions près l'ambition est surtout axée sur la création de champions locaux. C'est peut être lié au fait que l'État est très présent dans l'écosystème des start-up et que les projets les plus risqués sont délocalisés. Il y a un autre point qui me dérange : c'est que cet écosystème numérique actuel encourage une forme de reproduction des classes. Pendant que l'élite des étudiants crée ses start-up cools, les gamins des banlieues sont condamnés à faire de la livraison en scooter. Pendant que nous célébrons la start-up nation, nous créons une génération pixel née pour nous servir à travers les écrans des smartphones. Que fait-on pour cette nouvelle classe invisible ?
Que pensez-vous de la stratégie numérique du gouvernement ?
Sur le numérique, il faut totalement revoir la copie. Au lieu d'être fasciné par les États-Unis et leur donner les clés de notre pays, on devrait s'appuyer sur les développeurs français, les fédérer, leur donner le pouvoir d'utiliser leur savoir-faire au service de l'État et les faire rayonner chez nous et au-delà de nos frontières.
L'entrepreneur emblématique du Web français, fondateur de Netvibes, déplore qu'il n'y ait pas de stratégie technologique menée au plus haut sommet de l'État.
L'année dernière, lorsqu'une amie me demanda si elle devait rejoindre les équipes numériques de la Maison-Blanche, ma réponse fut immédiate : « Quand auras-tu à nouveau l'occasion de travailler avec un président qui comprend vraiment le numérique ? » C'est la grande réussite d'Obama : avoir su convaincre les meilleurs de la génération start-up de venir travailler à ses côtés pour créer un État numérique efficace. À l'image du groupe d'élite 18 F, déployable à tout instant pour résoudre les problèmes techniques, comme la défaillance du site d'Obamacare. En France, j'ai longtemps rêvé d'une initiative similaire, qui propose aux meilleurs développeurs des responsabilités pour récrire pièce par pièce le logiciel de l'État et le rendre plus performant, plus accessible et plus simple. En mars 2014, j'ai remis un rapport à Fleur Pellerin avec plusieurs propositions : impliquer les codeurs dans les projets, nommer un directeur de la technologie auprès du président, publier une feuille de route numérique. Une seule proposition aura été retenue, celle du visa Talent, mais elle donne le sentiment d'être surtout une opération de communication pour la mission French Tech.
Si nous voulons bâtir un gouvernement numérique, alors il faut embaucher les meilleurs, les faire revenir des États-Unis et leur donner toute latitude pour exprimer leur talent. À la suite de mon rapport, de nombreux développeurs ont exprimé le souhait de prendre une année sabbatique pour participer à la refonte numérique de l'État. Mais à la condition de ne pas être traités comme des subalternes et de s'appuyer sur une vision stratégique et technologique qu'ils respectent. Faute d'avoir nommé un directeur de la technologie, l'Élysée est, hélas, incapable de la porter.
Arrêter de considérer le numérique comme un simple élément de communication Obama peut, lui, s'appuyer sur l'expertise et le réseau de l'ancienne de Google, Megan Smith.
Il est urgent d'arrêter de considérer le numérique comme un simple élément de communication. Nous n'avons plus le temps de tergiverser. Nous sommes déjà en retard sur l'accès aux données, les services mobiles ; l'absence de réflexion sur l'intelligence artificielle pourrait coûter à des dizaines de milliers de fonctionnaires leur emploi au lieu de renforcer leur expertise.
Dans un monde ultradominé par les plateformes américaines, le rôle et la place de l'État auraient dû être la priorité du gouvernement actuel. Elle est désormais celle des futurs candidats à la présidence. Ils devront expliquer leur vision au-delà des lieux communs habituels et nous présenter leurs équipes techniques ainsi que les choix d'infrastructures retenus.
Il nous faudra aussi opter pour une vision du numérique. Numériser l'État providence pour le rendre plus efficace et moins coûteux. Garder notre souveraineté ou procéder à une vente par appartements aux entreprises privées, à l'image du marché entre Microsoft et l'Éducation nationale. Tout candidat qui n'est pas capable de répondre à ces questions ne peut pas prétendre gouverner la France en 2017. En effet, de ce choix dépendent non seulement la future qualité de vie de nos citoyens, mais aussi et surtout les emplois qui seront créés et détruits en France dans les prochaines années.
