La faillite morale complète de la manipulation de la psychologie humaine pour transformer les utilisateurs en toxicomanes

La «moralité de la manipulation» n'existe que sur un spectre allant de «hautement immoral» à «absolument, sans relâche, le mal».

«Il est difficile de faire comprendre à un homme quelque chose lorsque son salaire dépend de sa non-compréhension.» - Upton Sinclair

Je suis désolé, Nir.

Étant donné qu'une partie (totale?) De vos revenus provient de la formation de fabricants de logiciels sur la manière de tirer profit des découvertes de BJ Fogg sur la psychologie comportementale pour le plaisir et le profit, vous devez sûrement être l'une des personnes les moins qualifiées pour définir les principes moraux en matière de psychologie numérique. manipulation.

Votre essai sur La moralité de la manipulation est si profondément détaché même de la compréhension de base de la nature humaine et de la réalité de l’intérêt personnel que je ne suis toujours pas sûr que vous nous surveilliez ou non.

Ce serait une chose si votre cabinet de conseil en comportement avait mis en place un processus de sélection rigoureux (contrôlé par des tiers neutres) qui fonctionnait avec la plus grande confiance possible, afin de garantir que chaque client que vous avez embauché avait des bases morales solides et une forte appréciation de l'histoire de l'entreprise. systèmes totatalitaires.

Mais hélas, ce n'est pas le cas.

Et bien que vos récents essais suggèrent un malaise moral, il est clair que vous n’avez pas encore totalement affronté la faillite morale presque complète qui est en jeu ici.

Plus concrètement, connaissez-vous des cadres moraux en dehors du nihilisme qui permettent aux entrepreneurs et aux concepteurs de produits d'apprendre sans distinction à manipuler les maillons les plus faibles de la cognition humaine pour gagner de l'argent en transformant leurs utilisateurs en toxicomanes?

Je ne.

Dans les mains de personnes intéressées, votre matrice de manipulation n’a aucun sens.

Il semble que vous ayez créé cette matrice 2x2 simple pour aider les entrepreneurs, les employés et les investisseurs à décider si garantir que leur logiciel déclenche des libérations de dopamine fréquentes mais imprévisibles dans le cerveau de leurs utilisateurs est moral ou non.

Comme vous écrivez:

Pour utiliser la matrice de manipulation, le fabricant doit poser deux questions. Premièrement, "Vais-je utiliser le produit moi-même?" Et deuxièmement, "Le produit aidera-t-il les utilisateurs à améliorer sensiblement leur vie?"

Selon vous, si la personne ou l'équipe qui gagne de l'argent en transformant leurs utilisateurs en toxicomanes en conclut qu'eux-mêmes utiliseraient leur propre logiciel ET que ce logiciel "améliore la vie de ses utilisateurs", la personne ou l'équipe en question devrait se sentir libre de le faire. leurs utilisateurs dans les toxicomanes.

Comme tu dis:

Bien que je ne connaisse pas Mark Zuckerberg ou les fondateurs de Twitter personnellement, je crois, d'après leurs récits bien documentés, qu'ils se considéreraient comme fabriquant des produits dans ce quadrant.

Et si les fabricants utilisent leurs propres produits MAIS ne peuvent raisonnablement prétendre que ces produits améliorent la vie des utilisateurs, les fabricants sont des artistes. Et eux aussi devraient se sentir libres de transformer leurs utilisateurs en toxicomanes.

Après tout, vous discutez, le divertissement est une forme d'art:

Le divertissement est un art et est important pour son propre intérêt. L'art procure de la joie, nous aide à voir le monde différemment et nous relie à la condition humaine.

De plus, même si le divertissement offert par un produit addictif est si peu profond qu’il confine avec le non-divertissement, cela n’est pas grave, car le destin de tout divertissement «hyper-addictif» est de s’éteindre et de mourir.

Vous indiquez Farmville, Angry Birds, Pac Man et Tetris, en ajoutant:

L'art consiste à créer une nouveauté continue. Construire une entreprise à partir de désirs éphémères est un tapis roulant qui tourne constamment.

Pour résumer votre argument aussi fidèlement que possible:

Quiconque envisage d’utiliser ses propres produits ET pense que ces produits apportent une valeur significative OU que leurs utilisateurs se divertissent ne devraient pas hésiter à manipuler la psychologie de leurs utilisateurs sans révéler à ces utilisateurs exactement ce qui leur est infligé.

Bien que je ne vous connaisse pas personnellement, Nir, il ressort des rapports de connaissances professionnelles et de diverses choses que j’ai lu que vous êtes un homme sincèrement gentil et bien intentionné qui se voit offrir des services dans le quadrant des «facilitateurs».

Mais avec tout le respect que vous accordez à votre gentillesse réputée et à vos bonnes intentions, les arguments de base de votre essai et la logique morale de votre matrice de manipulation sont complets et dénués de sens.

La vraie nature de la boucle >> revenus >> boucle de produits addictifs (et ses conséquences totalement immorales)

Voici la dure vérité: toute entreprise dont le modèle de revenus repose sur une corrélation directe entre «engagement» et chiffre d'affaires a tout intérêt à trouver de nouveaux moyens plus rapides et plus efficaces de créer une dépendance pour ses produits.

Cela est vrai pour les fabricants de cigarettes et les sociétés d’alcool. C’est vrai pour les marques de malbouffe. C’est vrai pour les fabricants de machines à sous et les casinos qui les achètent.

C’est vrai pour les fabricants d’opioïdes et les vendeurs de méthamphétamine et d’héroïne au niveau de la rue.

Et cela vaut également pour les fondateurs, les dirigeants et les employés de jeux «free-to-play» qui monétisent avec des micro-transactions in-app et des réseaux sociaux en ligne qui monnayent avec de la publicité.

Oui, c’est vrai, bien que les préjudices causés par la cigarette, l’alcool, la méthamphétamine et la malbouffe à leurs utilisateurs les plus «engagés» soient à la fois bien documentés et manifestement visibles, les méfaits des machines à sous, des jeux gratuits, et logiciels sociaux addictifs sur leur sont beaucoup moins évidents.

Plus précisément:

  • Les toxicomanes ont tendance à se retrouver avec une peau terrible, des dents jaunies et des poumons malades.
  • Les alcooliques ont tendance à ruiner leur foie et détruisent souvent leur vie et le bien-être psychologique des personnes qui les aiment.
  • Les accros de la malbouffe ont tendance à se retrouver avec des pancréas défaillants et des corps gras aux artères obstruées.
  • Les drogués à la méthamphétamine deviennent des naufragés sans dents et les drogués à l'héroïne finissent par devenir overdose et morts.

Les toxicomanes au jeu, d’autre part, ont tendance à subir des dévastations moins visibles et plus calmes.

Bien sûr, ils vont parfois détruire leurs finances, perdre leur emploi et aliéner leurs proches. Mais les dommages visibles causés à leurs corps sont un effet de second ordre de leurs addictions au jeu: les ravages du stress chronique.

De même, les gens accro à des jeux addictifs comme Clash Of Clans ou des applications sociales addictives telles que Facebook et Instragram n’ont pas tendance à exploser subitement en poids ou à perdre la moitié de leurs dents en une seule fois.

Bien sûr, vous entendrez parfois des histoires de nouveaux parents laissant littéralement leur bébé mourir de faim pendant qu’ils élevaient un enfant virtuel dans un jeu, mais ce sont les exceptions les plus folles et les plus folles.

Les dommages subis par les toxicomanes du jeu mobile et des réseaux sociaux ont tendance à être beaucoup plus subtils:

  • Sentiments d’anxiété à l’écart du téléphone
  • Plus grande propension à procrastiner
  • Des temps plus difficiles pour mener à bien des tâches difficiles mais essentielles
  • Défauts récurrents d'être mentalement présent tout en passant du temps avec sa famille et ses amis.

Oui, ces dommages sont moins graves pour un individu que, par exemple, le cancer du poumon, la cirrhose, la bouche avec méthamphétamine ou l'obésité chronique, mais ils le sont tout de même.

Et contrairement aux méfaits des cigarettes, de l’alcool, de la malbouffe et de la méthamphétamine, les méfaits de la technologie de dépendance n’ont pas encore fait l’objet de suffisamment de recherches pour le prouver.

Mais comme le montre clairement la personnalisation de Facebook, Instagram, YouTube et Twitter par des ennemis du système démocratique américain, optimiser l’engagement à l’échelle Internet peut avoir des conséquences profondément néfastes à court terme pour la société civile.

En ce qui concerne les conséquences à long terme de la création de bulles de filtres dopés à la dopamine, étayées par des modèles commerciaux générant des milliards de dollars de bénéfices par an grâce à des clickbait gratifiant sur le plan émotionnel?

C’est trop tôt pour le dire, mais ça n’a pas l’air si joli d’ici.

Il est tout à fait irréaliste (au mieux) de faire confiance aux créateurs de tout produit pour qu’ils prennent des décisions morales précises lorsque ces décisions affectent leurs bénéfices.

De même, il est si naïf de s'attendre à ce que les dirigeants, les employés et les investisseurs de toute entreprise fassent des évaluations objectives claires de la "valeur" ou du "divertissement" procurés par leurs créations. Il m'est difficile d'accepter que vous pensiez vraiment à quoi vous proposez.

Nous souhaitons tous croire que nous sommes de bonnes personnes et que nous faisons de notre mieux avec les circonstances.

En effet, la propension humaine et le désir de croire en la décence innée sont si forts que:

  • Les compagnies de tabac n'ont aucun problème à se doter d'employés qui passent leurs journées à chercher comment accroître la demande de produits du tabac cancérogènes et à lutter contre la réglementation antitabac dans les pays en développement du monde entier…
  • Des dizaines de personnes compétentes et très respectueuses de elles-mêmes peuvent consacrer des mois à saper les taxes sur les boissons sucrées dans le monde entier, en dépit des preuves abondantes des effets toxiques du sucre…
  • Les entrepreneurs en technologie, les concepteurs de logiciels, les gestionnaires de produits, les spécialistes du marketing et les dirigeants d'entreprises de plusieurs milliards de dollars en technologies peuvent consacrer des ressources considérables à la recherche de moyens nouveaux et efficaces d'attirer de nouveaux utilisateurs et de maintenir leur dépendance et leur engagement existants, en dépit de la quantité croissante de la polarisation politique et les inconvénients de la santé mentale qui en résultent…

Et encore se réveiller tous les jours et se disent qu'ils ne font rien de mal.

Au début de votre essai, vous écrivez:

Pourtant, la manipulation ne peut pas être si mauvaise. Si c’était le cas, qu’est-ce qui explique les nombreuses industries de plusieurs milliards de dollars qui comptent énormément sur les utilisateurs qui se soumettent volontairement à des manipulations?

Il existe de nombreuses explications pour la création et la persistance de nombreuses industries de plusieurs milliards de dollars qui dépendent des utilisateurs qui se soumettent à des manipulations qui les transforment en toxicomanes.

Presque aucune de ces explications ne commence avec des humains heureux, équilibrés, fonctionnant correctement et pleinement informés, décidant consciemment de rendre leur volonté, le contrôle de leur propre attention et le contenu de leur portefeuille en échange de quoi que ce soit.

Alors Nir, j’ai peur que s’agissant des particuliers et des entreprises qui tirent profit de la transformation de leurs utilisateurs en toxicomanes, il n’ya pas de moralité en matière de manipulation.

Il y a seulement un spectre d'immoralité, et cela va de "Très immoral" à "Absolument, Inlassablement Mal".