Est-il encore possible de vivre dans un monde numérique plus apaisé ?
L’exploitation commerciale et sans limites de nos intimités à travers les apps est la raison d’être du Slow Web. C’est l’un de mes combats depuis 2010. Je pense qu’il est prioritaire à celui du changement climatique, car si nous ne réglons pas la crise de l’attention alors nous serons incapables de nous mobiliser pour résoudre les grands sujets de notre temps.
C’est en développant Netvibes et Jolicloud, deux services pionniers du Cloud, que j’ai découvert le pouvoir d’influence qu’un développeur d’application pouvait avoir sur l’utilisateur final. Grâce à des techniques de manipulation et de détournement de l’attention, il est très facile de se connecter à grande échelle à l'intimité de n’importe quel utilisateur. Et de transformer notre vie intime en données exploitables commercialement.
Le développement de cette intimité computationnelle m’a beaucoup interpellé car il n’existe aucun garde-fou. En effet, les principales législations réglementant les services Internet ne régulent que les contenus publics (section 230, LCEN) mais ne se sont jamais véritablement intéressées à l’intrusion des plateformes dans nos contenus intimes. Autrement dit le consentement d’accès aux données intimes est régulé, mais son usage par la plateforme reste une boîte noire.
Un code de conduite éthique
La question est donc de savoir si les développeurs de ces plateformes sont capables ou pas de respecter un code de conduite. Comme il n’en existait pas à l'époque, j'ai décidé d’en proposer un et de l’appliquer à l’ensemble des services que je construirai.
C’est en 2010 que j’ai imaginé dans un article “The age of emotions” le terme de Slow Web, pour décrire la manière dont il fallait designer de manière éthique les nouveaux services numériques tels que les plateformes de réseaux sociaux. Ces techniques pourraient également s’appliquer aux nouveaux services d’intelligence artificielle.
Avec la croissance exponentielle du nombre d’utilisateurs de réseaux sociaux et l'engouement pour le design de manipulation (l'école de Stanford), je sentais que quelque chose de toxique était en train de se mettre en place. J'avais plaidé à l'époque pour une régulation et un design éthique, mais je n'ai pas été beaucoup entendu.
Pourquoi avons-nous besoin du Slow Web ?
Voici ce que j'écrivais à l’époque :
Parce que la plupart des services donnent une priorité à la capture et la monétisation de notre attention, de nos données, plutôt qu’au bien-être de l’utilisateur, les applications que nous utilisons tous les jours sont devenues indigestes.
Il est temps de changer de modèle. Le Slow Web porte l’idée que nous pouvons nous réapproprier la technologie pour notre bénéfice, au service d’usages plus sains.
L’algorithme de la mort
C’est pendant la tragédie des attaques terroristes du 13 novembre 2015, qui s’est traduite par la mort de plusieurs de mes amis proches que j’ai découverte, avec effroi, qu’une partie des terroristes avait été radicalisée algorithmiquement par les réseaux sociaux et les mêmes techniques d’amplification de la haine qui allaient polluer toutes les élections qui suivirent.
J’ai écrit un deuxième essai Drifting qui a eu un grand succès et dont la traduction en allemand a été publiée par le magazine die Zeit.
Tariq KRIM
Les 4 principes simples d'un service de Slow Web
Liens pour en savoir plus
UPDATE: Voir mon audition sur TikTok au Sénat ou j'aborde ces questions.
