Illustration: John Devolle

Quelles sont les responsabilités éthiques des entreprises capables de manipuler le comportement humain à grande échelle? C’est une question que l’on espère que les techniciens et les concepteurs se posent lors de la fabrication de produits qui changent le monde - mais qui n’a pas été posée assez souvent.

Conditionnement des opérateurs, renforcement intermittent, recherche de réalisation de soi - les techniques utilisées par les chefs de produits des plus grandes entreprises mondiales sont à la fois psychologiques et technologiques. Comme le reconnaissait récemment Sean Parker, président fondateur de Facebook, la société s’est depuis longtemps engagée dans le secteur «exploiter une vulnérabilité de la psychologie humaine».

Nos gadgets et applications sont plus convaincants que jamais. Pourtant, pour les fabricants de ces technologies, il existe peu de directives sur la manière de modifier le comportement des utilisateurs de manière éthique. Sans standard, les entreprises ont tendance à repousser leurs limites sans le vouloir dans la quête sans fin de plus d'engagement, de croissance et, en définitive, de plus de profits. Comme l’a déclaré une fondatrice de startups: «Au bout du compte, j’ai une obligation envers mes investisseurs et mes employés, et je ferai tout ce que je peux pour que les choses ne soient pas enfreintes par la loi, pour que les gens utilisent mon produit.

L'industrie de la technologie doit faire mieux que la menace de la prison pour décider de faire la bonne chose.

Heureusement, la plupart des technologues et des concepteurs que je connais s’emploient à améliorer la vie des gens. Dans le monde entier, les entrepreneurs aspirent à construire les produits que les clients aiment. Qu'ils travaillent dans une grande entreprise de technologie de la Silicon Valley ou dans un garage, ils rêvent de faire passer les gens à l'action en leur proposant la prochaine amélioration indispensable à leur vie.

Comment c'est utilisé

Bien sûr, beaucoup d’entre eux ne voudraient pas devenir riches. Mais ce mélange - la volonté de faire une différence et un profit - est la façon dont l’humanité a résolu nombre de nos problèmes les plus épineux. Il n’ya rien de mal avec les produits de construction que les gens veulent utiliser, mais le pouvoir de concevoir le comportement des utilisateurs doit être assorti d’une norme de limitation éthique.

Le problème, ce sont les mêmes techniques qui dépassent les limites dans certains cas, conduisent à des résultats souhaitables dans d'autres. Par exemple, l’utilisation de streaks par Snapchat - qui compte le nombre de jours consécutifs que des amis ont partagé des photos - a été critiquée pour avoir incité les adolescents à continuer à revenir à l’application. L'application linguistique Duolingo utilise la même technique de persuasion pour aider les personnes qui apprennent un nouveau langage à adhérer au programme.

Les mêmes récompenses variables utilisées pour extraire l'argent des joueurs jouant aux machines à sous électroniques sont également utilisées dans les jeux vidéo qui aident les enfants atteints de cancer à se distraire lorsqu'ils reçoivent des traitements douloureux.

Clairement, ce n’est pas la technique de persuasion elle-même qui pose problème, c’est la façon dont elle est utilisée.

Mais sans test pour faire la différence entre les utilisations bonnes et mauvaises, il est facile de voir comment les concepteurs peuvent s’égarer.

Le test des regrets

L'industrie de la technologie a besoin d'un nouveau code d'éthique. La devise de Google, "Ne soyez pas méchant", est trop vague. La règle d'or, «Faites aux autres ce que vous voudriez qu'ils vous fassent», laisse trop de place à la rationalisation.

Je dirais que ce que nous devrions dire, c’est: «Ne faites pas aux autres ce qu’ils ne voudraient pas leur faire.» Mais comment pouvons-nous savoir ce que les utilisateurs veulent et ne veulent pas?

Je propose humblement le "test du regret".

Si nous ne sommes pas certains de l’utilisation d’une tactique douteuse du point de vue de l’éthique, «Si les gens savaient tout ce que le concepteur du produit sait, est-ce qu’ils appliqueraient quand même le comportement souhaité? Sont-ils susceptibles de regretter cela? "

Si les utilisateurs regrettaient de ne pas avoir agi, la technique échouait au test de regret et ne devait pas être intégrée au produit, car elle induisait les utilisateurs à faire quelque chose qu’ils ne voulaient pas faire. Amener les gens à faire quelque chose qu’ils ne voulaient pas faire n’est plus de la persuasion - c’est de la contrainte.

Alors, comment savoir si les gens regrettent d’utiliser un produit? Simple! Nous leur demandons.

Tout comme les entreprises testent les fonctionnalités potentielles qu’elles envisagent de déployer, elles pourraient vérifier si une tactique douteuse est une chose à laquelle les gens réagiraient favorablement s’ils savaient ce qui allait se passer par la suite.

Ce concept de test n’est pas nouveau dans l’industrie - les concepteurs de produits testent constamment de nouvelles fonctionnalités. Mais le test de regret insère une dernière vérification éthique en demandant à un échantillon représentatif de personnes si elles entreprendraient une action en sachant que tout ce que le concepteur sait se produira.

Le test ne nécessiterait pas forcément beaucoup d’efforts ou de coûts supplémentaires. Dans un article récent, Jakob Nielsen du groupe Nielsen Norman a déclaré qu’il estimait que les résultats des tests d’utilisabilité pouvaient provenir de tests effectués avec seulement cinq personnes.

Naufrages

L'histoire de l'innovation technologique implique de nombreuses conséquences imprévues. Comme l'a dit un jour le théoricien de la culture, Paul Virilio, «l'invention du navire était aussi l'invention du naufrage». Ce qui est bien avec le test des regrets, c'est qu'il pourrait aider à éliminer certaines de ces conséquences inattendues, en freinant les conceptions contraires à l'éthique. pratiques avant qu’elles soient utilisées par des millions d’utilisateurs.

Le test de regret pourrait également être utilisé pour les enregistrements réguliers. Comme beaucoup de gens, j’ai désinstallé des applications distrayantes telles que Facebook de mon téléphone, car je regrette d’avoir perdu du temps à parcourir mon flux au lieu d’être totalement présent avec les personnes qui comptent pour moi. Ne serait-il pas dans l’intérêt de Facebook de connaître des gens comme moi?

Si une entreprise, que ce soit Facebook ou une autre entreprise, n’écoute pas les utilisateurs qui lui en veulent de plus en plus pour une raison ou une autre, cela risque de priver davantage de personnes de son service. Et c’est précisément pourquoi la compréhension du regret est si importante. Ignorer les personnes qui regrettent d’avoir utilisé votre produit n’est pas seulement une mauvaise éthique, c’est aussi une mauvaise chose pour les affaires.

Note de Nir: Merci à Jason Amunwa, Rafael Arizaga Vaca, Ahmed Bouzid, Jamie Kimmel, Julie Li, Jennifer McDonald, Bo Ren, Irina Raicu, Julian Shapiro, Shannon Vallor, AnneMarie Ward, Susan Weinschenk, Guthrie Weinschenk et Casey Winters pour lire les versions de cet essai.