Chronique: “Ruined by Design” de Mike Monteiro

ruined by design cover

Designer chevronné basé à San Francisco, berceau des entreprises tech, Mike Monteiro est un passionné. Devant la puissance grandissante des entreprises du monde digital et les différents scandales qui ont éclaté ces dernières années liés à l’usage de ces plateformes, Mike nous fait réfléchir sur la responsabilité de notre métier en tant que designer.

Connu comme l’une des voix les plus virulentes dans le monde du design, il milite pour une meilleure compréhension des risques de ce que nous créons et une régulation de notre métier avec l’installation d’un code éthique. Une sorte de Serment d’Hippocrate du design qui permettrait aux designers d’obéir à l’éthique plutôt qu’au profit des entreprises pour lesquelles ils travaillent.

Pour Monteiro, le design est un métier dont les praticiens portent une responsabilité éthique forte semblable à celle d’un médecin ou d’un avocat. Et dans un monde où se posent des questions sur l’utilisation des données et les problèmes de confidentialité, les concepteurs de produits numériques peuvent faire une grande différence.

Ruined by Design: How Designers Destroyed the World and What We Can Do to Fix It

Préface

Le monde fonctionne exactement comme nous l’avons conçu.

Le moteur à combustion qui détruit l’atmosphère de notre planète et la rend rapidement inhospitalière fonctionne exactement comme nous l’avons conçu. Les armes à feu, qui entraînent tant de morts, fonctionnent exactement comme elles sont conçues pour fonctionner. Et chaque fois que nous «améliorons» leur conception, elles s’améliorent pour tuer. Les paramètres de confidentialité de Facebook, qui ont révélé les adolescents homosexuels à leurs parents conservateurs, fonctionnent exactement comme prévu. Leur initiative des « vrais noms », qui permet aux harceleurs de retrouver plus facilement leurs victimes, fonctionne exactement comme prévu. La toxicité et le manque de discours civil de Twitter fonctionnent exactement comme il est conçu pour fonctionner.

Le monde fonctionne exactement comme prévu. Et ça ne marche pas très bien. Ce qui signifie que nous devons faire un meilleur travail de conception. Le design est un métier avec une puissance incroyable. Le pouvoir de choisir. Le pouvoir d’influencer. En tant que concepteurs, nous devons nous considérer comme les garde-fous de ce que nous apportons au monde et de ce que nous choisissons de ne pas mettre au monde. Le design est un métier avec une responsabilité. La responsabilité d’aider à créer un monde meilleur pour tous.

Chronique

Quand Monteiro parle de Designers, il parle de quiconque participe à la création d’un produit. Que vous ayez le titre Designer ou pas sur votre fiche de poste, si vous affectez d’une quelconque manière la façon dont un produit fonctionne, alors vous êtes un Designer et vous, nous, sommes responsables de ce que nous livrons au monde.

Never do work you’re ashamed of putting your name on.

L’éthique du Design

Le serment d’Hippocrate est l’un des plus anciens codes éthiques connus au monde. Il a été écrit par Hippocrate, le père de la médecine occidentale, et tous les médecins doivent prêter serment avant de commencer d’exercer. 

La plupart des professions capables d’infliger des dommages – médecins, avocats, journalistes – ont des codes éthiques de quelque sorte. Et il y a un prix à payer pour ne pas le suivre, qui peut inclure la perte du droit d’exercer.

Le Web est un réseau mondial grâce auquel nous avons créé des plateformes qui traitent des données personnelles plus ou moins sensibles pouvant générer des abus tels que le harcèlement. Le Design est un métier dangereux qui a besoin d’un code éthique.

Monteiro propose une liste des 10 principes qui constituent le code éthique du Designer.

Comment les Designers ont détruit le monde ?

  • Oubli des exceptions

Dans cette première partie, Monteiro nous explique comment nous en sommes arrivés là. Comment se fait-il que les itinéraires des footings des militaires se retrouvent publiquement sur Strava ? Comment se fait-il que Twitter tolère les propos racistes sur sa plateforme ?

Nous sommes dans une société où il faut “faire vite”. Et en faisant vite, on occulte les exceptions. Sauf que ces “exceptions”, ces “edge cases” peuvent représenter des millions de personnes lorsqu’une plateforme devient populaire comme c’est le cas de Facebook par exemple.

Monteiro insiste sur l’importance de ralentir la cadence pour construire de bons produits, des produits qui ne violent pas le code éthique, même pas juste un peu à cause des edge cases.

Il y a deux mots que chaque designer devrait se sentir à l’aise de prononcer : “non” et “pourquoi”. Ces mots sont le fondement de ce que nous faisons. Ils sont le fondement de notre cadre éthique. […] Nous sommes des garde-fous. Nous sommes responsables de l’impact de notre travail sur le monde et rien qui ne puisse heurter des gens ne devrait être mis en production. 

  • Course à la rentabilité

Monteiro explique également comment la réalité du monde des startups et des financements agit sur cette course folle. Lorsque des investisseurs externes financent une entreprise, ils s’attendent à en retirer des bénéfices, idéalement le plus rapidement possible. Ils mettent donc la pression sur l’entreprise pour que celle-ci devienne vite rentable afin qu’ils puissent récupérer leur argent avec les bénéfices. Bien souvent, pour ce faire, les entreprises recherchent encore plus de financements pour pouvoir embaucher plus et aller plus vite.

Venture capital is like startup cocaine.

Tout d’un coup, votre toute petite startup a besoin d’embaucher 5000 chauffeurs par semaine, donc les vérifications d’antécédents deviennent un peu moins exigeantes. 

Vous devez embaucher 500 développeurs par semaine, et on sait bien que recruter des développeurs, c’est toujours très compliqué et puis un bon développeur, c’est cher et rappelez-vous, l’idée c’est d’être vite rentable donc dépenser le moins possible. Alors on fait comme on peut… 

  • Manque de mixité

Monteiro dénonce aussi le fait qu’il y a encore trop peu de mixité dans les équipes qui créent ces produits. Nous voyons les choses par notre propre filtre, avec notre culture, nos croyances et nos expériences. Il est très difficile de penser à tous les cas d’usage si l’on a tous le même profil. 

Twitter n’a jamais conçu un moyen de faire face au harcèlement, car aucune des personnes qui l’ont conçu n’avait jamais été harcelée, donc cela n’a pas été abordé.

Rassembler des personnes d’horizons différents au sein d’une même équipe permet de couvrir les angles morts de chacun.

Que pouvons-nous faire pour le réparer ?

Le travail d’un designer est toujours de veiller au meilleur intérêt de la société. […] Nous devons comprendre que notre travail consiste à défendre les personnes qui ne sont pas dans la pièce. Nous devons comprendre que nous avons une plus grande responsabilité envers la société qu’envers les personnes qui signent les chèques.

  • Choisir où travailler

Mon premier réflexe aurait été de choisir une entreprise ayant un sens éthique déjà bien développé mais Monteiro m’a fait voir les choses sous un autre angle. Voici ce qu’il dit : 

Si vous voulez avoir un impact social positif, nous avons besoin de vous dans des endroits comme Facebook. Mais nous avons besoin de vous prêt à combattre. Facebook est soit là depuis longtemps ; auquel cas il doit être réparé, ou il s’effondre, auquel cas il doit être désamorcé avec précaution.

Nous devons rechercher les entreprises qui “foirent” le plus et si nous pensons être en mesure de changer les choses dans ces entreprises, il faut foncer. 

Certains produits en revanche sont conçus pour blesser, dans ces cas-là, nous ne pouvons pas faire grand chose à part “assécher” leur main d’œuvre en boycottant ces entreprises.

Il n’y a pas de moyen éthique de concevoir une arme à feu car bien la concevoir, c’est la concevoir pour mieux tuer. Nous ne pouvons pas faire cela. Un bon travail ne peut pas être fait dans des situations où le travail consiste à blesser les gens, les tromper ou les manipuler.

  • Poser des questions

Le point de départ avant de construire quoi que ce soit est de poser les bonnes questions. Quel problème cherchons-nous à résoudre ? Qui sont ces gens pour qui nous résolvons ce problème ? Qui peut être négativement impacté par le produit que nous créons ? Est-ce que ce profil de personnes est représenté dans l’équipe chargée de construire le produit ? Comment l’entreprise gagne-t-elle de l’argent ?

Comprendre toutes les ramifications de ce que nous construisons nous permettra d’être plus exhaustif quant aux risques qui peuvent se présenter lorsque de plus en plus de personnes vont utiliser le produit.

  • Ne faites pas à vos utilisateurs ce que vous n’aimez pas qu’on vous fasse

Dark patterns, langage manipulateur, addiction, collecte de données injustifiée ou potentiellement dangereuse si ces données tombaient entre de mauvaises mains, partage de données sensibles comme la localisation… Réfléchissons à ce que nous faisons et aux “techniques” que nous utilisons. 

Il y a dix ans, avant l’arrivée de l’iPad et de l’iPhone, une personne moyenne avait une durée d’attention d’environ douze secondes. Maintenant, des recherches suggèrent qu’il y a eu une baisse de douze à huit secondes… plus courte que l’attention du poisson rouge moyen, qui est de neuf secondes. Nous avons fait des gens plus écervelés que les poissons rouges. Les scans qui montrent comment nos schémas cérébraux, au fur et à mesure que nous lançons des applications, des jeux et des sites de médias sociaux, correspondent presque parfaitement aux analyses cérébrales des toxicomanes à la recherche de leur prochain coup. […] Il y a un million d’articles sur ce que les médias sociaux font à nos enfants. Très peu se posent la question « qui a construit cette merde ? » Nous l’avons construit.

  • Défendre notre travail

D’où je viens, on m’a souvent appris que le bon travail se vendait seul. Que bien souvent, plus on essaie de nous convaincre qu’un produit est bon, plus ça cache quelque chose. Et je sais que nous sommes nombreux.ses à ne pas aimer “nous vendre” ou mettre en avant notre travail car nous espérons qu’il parlera pour nous, que ça se verra.

Mais ce n’est pas tout à fait vrai lorsqu’il s’agit de la conception d’un produit digital. C’est un produit complexe avec une façade que tout le monde peut voir mais aussi pas mal de choses obscures qui se passent derrière la jolie vitrine. 

Monteiro utilise une tournure un peu choc: “Humility is expensive”. Autrement dit, si l’on ne défend pas notre travail par humilité, si nous n’osons pas argumenter pour dire que si, nous devrions prévoir une option pour ne pas divulguer les trajets des militaires car cela pourrait augmenter le risque d’attaques terroristes. Si nous n’osons pas dire que non, il n’est pas nécessaire de demander le genre de nos utilisateurs car cela pourrait engendrer des problèmes de harcèlement. Alors nous faisons du mauvais travail. 

Notre travail est de résoudre des problèmes, pas d’en créer de nouveaux. Nous sommes les représentants de ceux qui ne sont pas dans la pièce. Nous leur devons du bon travail.

Vous ne pouvez pas le faire seul

Dans cette dernière partie, Monteiro parle de l’importance de la communauté, des organisations professionnelles et du besoin de régulation dans notre métier. 

Il met l’accent sur le pouvoir que nous avons si nous nous serrons les coudes et agissons tous dans le même sens. Si nous refusons de travailler pour des entreprises qui créent des produits toxiques, ces produits ne pourront pas voir le jour. Si nous respectons tous le même code éthique, les employeurs arrêteront de faire des demandes non éthiques. 

La somme des choix que nous faisons – ou que nous ne faisons pas – finissent par définir notre carrière.

Conclusion 

Monteiro est un enfant de la Silicon Valley. De nombreux exemples dénoncent les dérives des géants de la tech tels que Facebook ou Twitter et j’ai souvent eu l’impression que les entreprises étaient traitées comme des ennemis à combattre. 

Je pense que le fait que le web soit un phénomène relativement nouveau et encore mal encadré fait que notre génération essuie un peu les plâtres. Je suis convaincue que la majorité des entreprises ont de bonnes intentions. C’est juste que c’est encore un peu le far west 🤠 et qu’il n’y a pas vraiment de règles (sauf en Europe où nous avons la RGPD) !

J’ai adoré ce bouquin pour tout ce que j’y ai appris et pour le nouveau regard qu’il m’a fait porter au métier de Designer (au sens large du terme) et à la responsabilité que nous avons vis-à-vis des personnes pour qui nous créons les produits. A nous – concepteurs – de prendre le temps d’identifier toutes les possibles dérives, d’en faire part à nos employeurs et de les empêcher de voir le jour.

Son livre et ses articles sur Medium

Vous pouvez contribuer à créer un web plus respectueux de la planète en partageant cet article pour éveiller les consciences :)
  •  
  •  
  •  
Publié le
Catégorisé comme Lectures

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *