Cybernetica propose une autre vision du numérique pour se préparer au futur qui se dessine (géopolitique, nouvelles conflictualités, IA, cultures synthétiques, économie post-données).
Dans le cadre de la commission d’enquête sénatoriale sur le réseau social chinois TikTok, les sénateurs ont auditionné Tariq Krim, entrepreneur et spécialiste du numérique et des nouvelles technologies. L’occasion pour la commission d’affiner son approche sur la singularité et les risques liés à l’application chinoise.
• Christian Chavagneux, Éditorialiste, Alternatives Economiques
Avec l'arrivée de ChatGPT, l'intelligence artificielle a fait son entrée grand public. De quoi révolutionner le monde du travail (emplois, productivité...) comme jamais ou bien est-ce une évolution technologique comme les autres ? L'Europe est-elle encore une fois distancée par les Etats-Unis et la Chine ? Faut-il encourager son utilisation ou bien en avoir peur ?
Tariq Krim Entrepreneur, fondateur de Netvibes, Jolicloud et de la plateforme de web éthique Polite. Ancien vice-président du Conseil du numérique, spécialiste des questions d'éthique et de vie privée sur Internet.
Les années 2000 ont vu la généralisation planétaire d’Internet et du monde digital tandis que s’estompait le sentiment d’un monde commun, dans la foulée des attaques du 11 septembre et des mensonges américains sur la guerre d’Irak,. Les années 2010 nous ont familiarisés avec les réseaux sociaux, le monde des algorithmes et la montée d’informations dont l'impression de vérité ne reposait plus que sur leur capacité à être répliquées, sur leur viralité.
Les six enquêtes internationales exceptionnelles lancées par la plateforme internationale forbidden stories, et publiées depuis la semaine dernière par trente médias à travers le monde dont Le Monde, The GuardianThe Washington Post,Haaretz et Radio-France, révèlent la troisième époque dans laquelle nous sommes entrés avec les années 2020 : Celle d’un monde ou nos opinions et ce que nous croyons savoir est constamment remodelées par des techniques autrefois réservées à l’espionnage ou aux régimes totalitaires, désormais aux mains d’un petit groupe d’entreprises ultra-pointues vendue à qui en a les moyens, chef d’état, chef d’entreprise prince saoudien ou cartel mafieux.
Les invités du jour
Marc Weitzmann s'entretient avec :
Laurent Richard, journaliste, directeur de Forbidden Stories
Christophe Deloire, secrétaire général de Reporters sans frontières. Président du Forum sur l’information et la démocratie. Journaliste. Auteur de La matrice aux éditions Calmann-Lévy
Tariq Krim, ancien Vice-Président du Conseil national du numérique, entrepreneur. Fondateur du site Netvibes, Jolicloud et de la plateforme Polite.one
"L'industrie de la désinformation tue non seulement la démocratie, mais elle tue aussi les journalistes qui enquêtent sur elle" rappelle Laurent Richard. "L’an dernier, forbidden stories dévoilait le projet pegasus, une enquête sur l’industrie de la cybersurveillance. Cette fois, ce que forbidden stories montre avec le projet story killers, c’est comment ces deux industries se sont rencontrées". Cette rencontre a largement bénéficié du manque de régulation des usages d’internet comme le déplore Christophe Deloire"il faut décrypter, c’est ce que fait forbidden strories, et puis il faut trouver des solutions. C’est la piste sur laquelle s’est engagé Reporters sans frontières, à travers plusieurs initiatives systémiques, structurelles, qui visent à imposer des normes démocratiques à l’espace informationnel. Parce qu’il faut une réponse démocratique à ses sujets là".
Alors que le droit semble à la peine, la technologie poursuit sa percée avec l’arrivée de l’intelligence artificielle. Ainsi pour Tariq Krim : "ce que l’on est en train de voir c’est la naissance de ce que j’appelle parfois un complexe militaro-informationnel, où vous avez des acteurs qui sont plutôt des contracteurs militaires et des ingénieurs qui développent ces techniques. Donc c’est vrai que l’on entre dans une ère un peu nouvelle".
Est-il encore possible de vivre dans un monde numérique plus apaisé ?
L’exploitation commerciale et sans limites de nos intimités à travers les apps est la raison d’être du Slow Web. C’est l’un de mes combats depuis 2010. Je pense qu’il est prioritaire à celui du changement climatique, car si nous ne réglons pas la crise de l’attention alors nous serons incapables de nous mobiliser pour résoudre les grands sujets de notre temps.
😠
Depuis 2003, avec l'arrivée des premiers réseaux sociaux, nous avons connecté sans filtre et sans garde-fous les intimités des internautes aux grandes plateformes de cloud. Dans l’indifférence des États et des régulateurs.
C’est en développant Netvibes et Jolicloud, deux services pionniers du Cloud, que j’ai découvert le pouvoir d’influence qu’un développeur d’application pouvait avoir sur l’utilisateur final. Grâce à des techniques de manipulation et de détournement de l’attention, il est très facile de se connecter à grande échelle à l'intimité de n’importe quel utilisateur. Et de transformer notre vie intime en données exploitables commercialement.
Le développement de cette intimité computationnelle m’a beaucoup interpellé car il n’existe aucun garde-fou. En effet, les principales législations réglementant les services Internet ne régulent que les contenus publics (section 230, LCEN) mais ne se sont jamais véritablement intéressées à l’intrusion des plateformes dans nos contenus intimes. Autrement dit le consentement d’accès aux données intimes est régulé, mais son usage par la plateforme reste une boîte noire.
Un code de conduite éthique
La question est donc de savoir si les développeurs de ces plateformes sont capables ou pas de respecter un code de conduite. Comme il n’en existait pas à l'époque, j'ai décidé d’en proposer un et de l’appliquer à l’ensemble des services que je construirai.
C’est en 2010 que j’ai imaginé dans un article “The age of emotions” le terme de Slow Web, pour décrire la manière dont il fallait designer de manière éthique les nouveaux services numériques tels que les plateformes de réseaux sociaux. Ces techniques pourraient également s’appliquer aux nouveaux services d’intelligence artificielle.
Avec la croissance exponentielle du nombre d’utilisateurs de réseaux sociaux et l'engouement pour le design de manipulation (l'école de Stanford), je sentais que quelque chose de toxique était en train de se mettre en place. J'avais plaidé à l'époque pour une régulation et un design éthique, mais je n'ai pas été beaucoup entendu.
Pourquoi avons-nous besoin du Slow Web ?
Voici ce que j'écrivais à l’époque :
💡
"Nous sommes ce que nous mangeons" dit un proverbe. Ce qui est vrai avec la nourriture l’est aussi avec le logiciel.
Parce que la plupart des services donnent une priorité à la capture et la monétisation de notre attention, de nos données, plutôt qu’au bien-être de l’utilisateur, les applications que nous utilisons tous les jours sont devenues indigestes.
Il est temps de changer de modèle. Le Slow Web porte l’idée que nous pouvons nous réapproprier la technologie pour notre bénéfice, au service d’usages plus sains.
🌳
Le Slow Web, c’est un peu l’équivalent du “Bio” pour la Technologie.
L’algorithme de la mort
C’est pendant la tragédie des attaques terroristes du 13 novembre 2015, qui s’est traduite par la mort de plusieurs de mes amis proches que j’ai découverte, avec effroi, qu’une partie des terroristes avait été radicalisée algorithmiquement par les réseaux sociaux et les mêmes techniques d’amplification de la haine qui allaient polluer toutes les élections qui suivirent.
J’ai écrit un deuxième essai Drifting qui a eu un grand succès et dont la traduction en allemand a été publiée par le magazine die Zeit.
Lors d’un talk pour le Copenhagen Tech Festival, j'ai formalisé un ensemble de règles de design de l’intimité, un code de conduite pour le développement d'applications qui interagissent avec notre intimité.
Henri Clavier
