De la persuasion à la manipulation

Chaque jour, les applications et les sites web façonnent ce que nous remarquons, choisissons et faisons — des rappels et recommandations à la lecture automatique et aux paramètres d’abonnement. L’influence numérique n’est pas automatiquement nuisible ; elle devient une manipulation lorsque la conception dissimule son objectif, exploite une vulnérabilité, rend le refus difficile ou empêche les utilisateurs de reprendre le contrôle. Ce cours examine cette frontière à travers des exemples familiers d’architecture du choix, d’économies de l’attention, de consentement, de dépendance affective, d’interfaces truquées et d’outils émergents fondés sur l’IA et la biométrie. Vous apprendrez à identifier la manière dont les interfaces orientent les comportements, à analyser leurs effets sur l’autonomie, le bien-être et la dignité, à comparer les principaux cadres éthiques et à proposer des refontes concrètes centrées sur l’humain. Le cours commence par un vocabulaire permettant de reconnaître l’influence, puis s’oriente vers le jugement éthique et la responsabilité partagée entre les utilisateurs, les concepteurs, les entreprises et les décideurs publics.

Chapitre 1 : L’architecture cachée des choix quotidiens

1.1 : Des invites utiles à l’attention conçue

Objectifs d’apprentissage : à la fin de ce sous-chapitre, vous devriez être capable de :

• Définir l’influence, la persuasion, le nudging, la manipulation et la coercition.
• Repérer comment les fonctionnalités d’une interface orientent l’attention et le comportement.
• Distinguer les invites transparentes qui soutiennent les objectifs des utilisateurs des conceptions trompeuses ou exploitatrices.
• Appliquer ces distinctions au rappel envoyé à Mara et au faux compte à rebours de l’application de shopping.

Mara reçoit un rappel d’apprentissage des langues qui l’encourage à s’exercer. Plus tard, une application de shopping affiche un compte à rebours qui semble urgent, mais qui est faux. Ces deux fonctionnalités peuvent modifier le comportement, mais elles ne soulèvent pas la même question éthique. Le point essentiel est de savoir si les utilisateurs peuvent comprendre l’influence exercée, l’évaluer, la refuser sans subir de pénalité injuste et reprendre le contrôle par la suite.

%FULL[infograph] %Un spectre visuel épuré allant de l’information et de la persuasion transparente au nudging, puis à la manipulation et à la coercition, associé à des icônes simples représentant les paramètres par défaut, la friction, les notifications, le défilement infini, la rareté et la personnalisation. La conception doit montrer que ces catégories exigent un jugement et ne constituent pas automatiquement une hiérarchie morale.

Le spectre de l’influence et ses mécanismes d’interface

L’influence est la catégorie générale qui regroupe les facteurs modifiant la perception, les préférences ou le comportement d’une autre personne. Un bouton clair, une explication utile ou un rappel peuvent influencer quelqu’un. L’influence est inévitable et n’est pas automatiquement contraire à l’éthique ; le seul fait qu’un comportement ait changé ne suffit pas à prouver une manipulation. #(p. 1 | evidence=ch1-sc1-e1)

La persuasion est une influence intentionnelle et transparente qui s’appuie sur des raisons, des informations, des éléments probants ou des appels explicites, tout en laissant à l’utilisateur la possibilité de dire non. Un appel aux émotions n’est pas automatiquement manipulateur si son objectif et son message sont clairs et si l’utilisateur peut l’évaluer. Le rappel de Mara pourrait être persuasif s’il soutient ouvertement son objectif d’apprentissage et reste facile à ignorer ou à modifier. La transparence et l’intention sont au cœur de cette distinction. #(p. 1 | evidence=ch1-sc1-e1)

L’architecture des choix désigne la conception de l’environnement dans lequel les choix sont effectués. Un nudge organise cet environnement de façon à rendre une option plus facile ou plus probable, sans interdire les autres possibilités ni modifier substantiellement les incitations économiques. Une alternative formelle, toutefois, ne constitue pas toujours un choix véritable. Si le refus est déroutant, contraignant, humiliant ou difficilement réversible, l’autonomie est affaiblie, même lorsqu’un bouton existe techniquement.

Concept	Caractéristique déterminante	Principal test éthique
Influence	Modifie la perception, les préférences ou le comportement	L’effet est-il responsable ?
Persuasion	Ouverte, fondée sur des raisons, compatible avec le refus	L’utilisateur peut-il l’évaluer et la rejeter ?
Nudge	Rend une option plus facile sans supprimer les alternatives	Le choix est-il véritable et réversible ?
Manipulation	Exploite les vulnérabilités ou induit en erreur	Le jugement est-il perturbé ?
Coercition	Recourt à la force, aux menaces ou à une forte pression	L’utilisateur peut-il réellement refuser ?

La manipulation interfère avec la prise de décision en exploitant les biais cognitifs, les vulnérabilités émotionnelles, les asymétries d’information ou une présentation trompeuse. #(p. 1 | evidence=ch1-sc1-e2) Le faux compte à rebours d’achat est éthiquement différent d’une véritable alerte sur les stocks, car il présente une fausse raison d’agir. Une véritable alerte peut fournir une information pertinente ; un faux compte à rebours compromet le consentement éclairé. La visibilité n’empêche pas la manipulation : une conception peut être parfaitement visible tout en restant trompeuse ou injustement difficile à refuser.

La coercition est plus grave. Elle implique la force, les menaces ou une pression si forte que se conformer semble être la seule option raisonnable. Tout message urgent n’est pas coercitif, et la coercition n’exige pas la suppression de toute alternative formelle. Le faux compte à rebours peut donc être manipulateur sans être coercitif s’il induit l’acheteur en erreur, mais ne le menace pas et ne le force pas.

Les mécanismes d’interface mettent ces distinctions en pratique. Les valeurs par défaut, les frictions, les notifications push, le défilement infini, les séries et les badges, les signaux de rareté et la personnalisation influencent ce que les utilisateurs remarquent et la facilité avec laquelle ils continuent, s’arrêtent ou changent de direction. Ils ne sont pas uniformément nocifs ; leurs effets dépendent de leur objectif, de leur exactitude, de leur calendrier, du contrôle laissé à l’utilisateur, de sa vulnérabilité et de la réversibilité. #(p. 1 | evidence=ch1-sc1-e3) Une valeur par défaut exacte peut faciliter l’utilisation, mais elle mérite un examen attentif s’il est difficile de la modifier. Un rappel peut favoriser la pratique, mais des notifications répétées ou mal synchronisées peuvent entrer en conflit avec l’intention de l’utilisateur. Pour examiner utilement une application, on peut se demander : où se trouve le signal d’arrêt, quelle est la valeur par défaut et où une friction a-t-elle été ajoutée ? Quel avantage légitime pourrait être préservé grâce à une conception moins exploitante ?

L’économie de l’attention ajoute une dimension liée aux incitations commerciales. Sur certaines plateformes financées par la publicité, les revenus peuvent être liés à l’attention des utilisateurs et à leurs données comportementales. Un conflit structurel peut apparaître lorsque les indicateurs de réussite privilégient la durée des sessions, la fréquence des visites ou des réponses prévisibles plutôt que l’objectif de l’utilisateur, qui est de terminer rapidement une tâche. #(p. 1 | evidence=ch1-sc1-e4) Un engagement plus long ne prouve pas automatiquement la valeur : il peut refléter un bénéfice réel, une habitude, une distraction ou une persistance induite par la conception. Une incitation commerciale justifie une évaluation attentive ; elle ne prouve pas que chaque fonctionnalité favorisant l’engagement soit contraire à l’éthique.

Conclusion

L’influence est la catégorie générale ; la persuasion est transparente et compatible avec le refus ; le nudge façonne l’environnement de choix tout en préservant les alternatives ; la manipulation interfère avec le jugement en exploitant certaines vulnérabilités ou en présentant les choses de manière trompeuse ; et la coercition implique la force, les menaces ou une pression extrême. L’architecture des choix montre comment ces effets se manifestent dans les interfaces, tandis que l’économie de l’attention aide à expliquer les conflits possibles entre les indicateurs des plateformes et les objectifs des utilisateurs. En matière de conception responsable, la norme pratique est celle d’un choix véritable : les utilisateurs doivent comprendre l’influence exercée, donner un consentement éclairé lorsque cela est pertinent, pouvoir refuser sans subir de sanction injuste et reprendre le contrôle par la suite. Ce vocabulaire servira de base aux évaluations ultérieures des produits numériques, des modèles économiques et de la responsabilité en matière de conception.

1.2 : Quand le choix est formel, mais que la capacité d’agir reste limitée

Objectifs pédagogiques

À la fin de cette section, vous devriez être capable de :

• Expliquer l’autonomie, le caractère volontaire, le consentement éclairé, la dignité, le bien-être, la vulnérabilité et l’asymétrie de pouvoir.
• Analyser pourquoi des parcours d’acceptation et de refus inégaux affaiblissent le consentement réel.
• Décrire comment les récompenses variables, la validation sociale, le FOMO et les interactions parasociales peuvent entretenir l’engagement de certains utilisateurs.
• Évaluer comment la vulnérabilité modifie la responsabilité des plateformes et des utilisateurs.

Le sous-chapitre précédent montrait que l’influence est intégrée aux interfaces. Revenons à la bannière de consentement aux cookies : si Accept all ne prend qu’un clic, tandis que le refus nécessite plusieurs écrans, l’option formelle est-elle une option réaliste ? Considérons également deux notifications. Une application de fitness ou d’apprentissage des langues pourrait rappeler à Mara un objectif qu’elle a choisi. Une autre application pourrait dire : « Ne brisez pas votre série : vous décevez tout le monde », ou afficher un faux compte à rebours. Les deux influencent le comportement, mais leur qualité éthique diffère.

Autonomie, consentement et dépendance émotionnelle

L’influence désigne tout effet exercé sur le comportement ou le jugement d’une autre personne. La persuasion présente ouvertement des raisons. Le nudge modifie la présentation ou le contexte des options tout en laissant le choix disponible. La manipulation oriente les décisions par la dissimulation, une présentation trompeuse ou l’exploitation des émotions et des vulnérabilités. La coercition recourt aux menaces ou à la force, ne laissant aucune alternative raisonnable. Ces catégories peuvent se recouper, mais l’influence n’est pas automatiquement une manipulation. Un rappel transparent peut soutenir l’objectif propre d’un utilisateur ; un signal d’urgence trompeur peut affaiblir sa capacité à se diriger lui-même.

L’autonomie est la capacité à prendre des décisions librement, en se gouvernant soi-même, sur la base de ses valeurs, de ses désirs et de ses raisons #(Deci & Ryan, 2000, The “What” and “Why” of Goal Pursuits). Elle ne se résume pas à disposer d’un bouton de refus. Les choix par défaut, les frictions, les notifications, le défilement infini et les signaux de rareté façonnent l’environnement dans lequel les décisions sont prises. La volontarité consiste à se demander si la décision a été prise librement, plutôt que produite par une présentation trompeuse, un contrôle extérieur, la honte, l’urgence ou une prise de contrôle émotionnelle. Une réaction émotionnelle, à elle seule, n’invalide pas le consentement ; le problème se pose lorsqu’un dispositif utilise délibérément une pression difficile à reconnaître ou à résister.

Un consentement éclairé véritable exige :

• Des informations claires, véridiques et accessibles.
• Une possibilité raisonnable de comprendre les conséquences.
• Un choix volontaire.
• La possibilité de refuser sans subir de pénalité injuste.
• La possibilité de se rétracter, sans que cela soit plus difficile que d’accepter.

Ainsi, une longue politique de confidentialité peut divulguer des informations sans les rendre compréhensibles. L’acceptation et le refus des cookies devraient présenter un niveau de friction comparable. Les décisions concernant des données, des finances ou la santé, lorsqu’elles comportent davantage d’enjeux, exigent également un consentement plus soigneusement recueilli que les opérations ordinaires de navigation #(Beauchamp & Childress, 2019, Principles of Biomedical Ethics). Un clic peut montrer qu’une action a eu lieu ; il ne suffit pas, à lui seul, à démontrer que la compréhension et la volontarité étaient présentes.

La dignité humaine consiste à traiter les personnes comme des fins en soi, et non simplement comme des profils comportementaux ou des points de données à monétiser. Le bien-être englobe la santé physique et psychologique ainsi que le bien-être social et financier. Le temps passé sur une plateforme et la satisfaction immédiate sont donc des indicateurs incomplets. Une fonctionnalité sociale peut offrir de la compagnie tout en créant une pression à rester disponible. Un résultat bénéfique ne justifie pas un traitement trompeur.

Les récompenses incertaines permettent d’expliquer pourquoi la consultation peut se prolonger. Dans un programme à ratio variable, une récompense suit un nombre imprévisible d’actions ; dans un programme à intervalle variable, elle devient disponible après une période imprévisible. Des mentions « J’aime », des messages ou des recommandations imprévisibles peuvent donc entretenir la consultation répétée #(Ferster & Skinner, 1957, Schedules of Reinforcement). Cela ne rend pas les réseaux sociaux identiques aux jeux d’argent, et l’utilisation répétée ne suffit pas à établir l’existence d’une addiction clinique. Les plateformes sociales font également intervenir l’identité, les relations, la recherche d’informations, l’ennui, l’habitude et les effets de réseau.

Une boucle de validation sociale se produit lorsque les utilisateurs publient ou consultent du contenu, reçoivent un retour incertain, interprètent les mentions « J’aime » ou le nombre d’abonnés comme une approbation sociale, puis reviennent chercher davantage d’informations ou de réassurance #(Sherman et al., 2016, The Power of the Like in Adolescence). Le FOMO, ou peur de manquer quelque chose, est la crainte que d’autres vivent des expériences gratifiantes sans nous. Les contenus éphémères, les séries d’actions consécutives et les échéances réelles peuvent créer un sentiment d’urgence ; un compte à rebours fictif le fabrique. Les effets varient selon les utilisateurs et les cultures #(Przybylski et al., 2013, Motivational, Emotional, and Behavioral Correlates of Fear of Missing Out).

L’interaction parasociale est une relation émotionnelle unilatérale avec un créateur ou une personnalité médiatique. Elle peut apporter du divertissement, favoriser l’identification, créer un sentiment de communauté ou offrir de la compagnie ; les relations en ligne ne sont donc pas toutes exploitantes. L’inquiétude augmente lorsqu’un attachement est utilisé de manière opaque pour stimuler les achats, les dons ou l’engagement #(Horton & Wohl, 1956, Mass Communication and Para-Social Interaction).

%HALF left[infograph] %Une boucle circulaire de récompense variable montrant le déclencheur, l’action, la récompense sociale incertaine et l’investissement, placée à côté d’une simple vérification de l’autonomie portant sur la compréhension, la volontarité, le refus et le retrait. Le visuel doit distinguer un mécanisme comportemental du jugement éthique qui lui est appliqué.

flowchart TD
  n1["Choix par défaut, friction ou urgence"] --> n2["Pression attentionnelle ou émotionnelle"]
  n2 --> n3["Le refus devient plus difficile"]
  n3 --> n4["La qualité du consentement diminue"]
  n4 --> n5["Préoccupation concernant l’autonomie et le bien-être"]
  n5 --> n6["Égaliser les parcours et expliquer les conséquences"]

L’asymétrie de pouvoir affine l’analyse. Les plateformes peuvent disposer de vastes quantités de données comportementales, d’une expertise technique, de capacités d’expérimentation à grande échelle et de ressources juridiques importantes, tandis que les utilisateurs peuvent avoir moins d’alternatives et de contrôle. La vulnérabilité peut être accrue chez les enfants, les personnes âgées, les personnes handicapées, les consommateurs en situation de fragilité financière ou les personnes en détresse. La question n’est pas seulement de savoir si un utilisateur parfaitement informé et discipliné pourrait résister, mais s’il est raisonnable de faire peser sur l’individu la responsabilité de cette résistance #(Yeung, 2017, Hypernudge; Susser, Roessler & Nissenbaum, 2019, Online Manipulation: Charting the Field). Une connaissance et un contrôle organisationnels plus importants entraînent généralement une responsabilité de conception plus grande, même si les utilisateurs conservent une part de responsabilité dans leurs choix. Ces critères d’autonomie et de vulnérabilité contribueront à l’évaluation, au chapitre 2, des effets sur les familles, les communautés et les institutions, ainsi que sur les individus.

Conclusion

Un choix formel devient une capacité d’agir réduite lorsque l’influence est dissimulée, que le refus est déroutant ou humiliant, que la pression remplace la réflexion ou qu’il est difficile de se retirer. Le test pratique consiste à se demander : l’utilisateur peut-il comprendre l’influence exercée, choisir librement, refuser sans subir de pénalité injuste et reprendre le contrôle par la suite ? Une conception éthique peut préserver la motivation, la commodité, le lien et la compagnie tout en réduisant la tromperie, les frictions inéquitables et la pression émotionnelle superflue. Le défi de conception qui demeure consiste à préserver ces avantages légitimes au moyen de formes d’influence moins propices à l’exploitation.

Chapitre 2 : Évaluer, repenser et gouverner l’influence numérique

2.1 : Cinq grilles d’analyse pour évaluer un choix numérique

Le sous-chapitre précédent a établi que l’autonomie peut être affaiblie par la tromperie, les frictions asymétriques, la pression émotionnelle et les inégalités de pouvoir. Ce vocabulaire permet d’identifier les enjeux, mais il ne montre pas encore comment mettre en balance des bénéfices et des préjudices concurrents. Considérons le cas hypothétique suivant : une application de fitness affiche un compte à rebours qui semble indiquer une véritable échéance de santé, alors que son caractère urgent vise principalement à encourager la poursuite de l’engagement. Un rappel transparent peut soutenir l’objectif d’un utilisateur ; un compte à rebours trompeur peut constituer une pratique de conception manipulatrice. L’influence est inévitable, mais la persuasion avance des raisons compréhensibles, l’incitation modifie l’architecture du choix tout en laissant les options ouvertes, la manipulation entrave la délibération éclairée et la coercition repose sur la force ou sur une menace grave.

À la fin de ce sous-chapitre, vous devriez être capable de :

• Énoncer la question centrale de chaque cadre éthique.
• Appliquer plusieurs grilles d’analyse à une même fonctionnalité numérique.
• Utiliser le test en sept points.
• Expliquer pourquoi les cadres peuvent parvenir à la même recommandation pour des raisons différentes.

Comparer les cadres d’analyse à partir d’un même cas de conception

Les cinq grilles de lecture ne produisent pas cinq verdicts sans rapport les uns avec les autres. Elles attirent l’attention sur différentes dimensions d’un même choix.

%FULL[infograph] %Une matrice de comparaison lisible présentant les cinq grilles éthiques sous forme de questions distinctes autour d’un même cas central de conception numérique : conséquences globales, respect de l’autonomie, habitudes et caractère, protection des relations et de la vulnérabilité, et valeurs intégrées à la conception. Utiliser une formulation minimale et une différenciation visuelle afin que la matrice facilite la comparaison sans se substituer à l’explication.

Grille éthique	Question appliquée au compte à rebours d’entraînement
Conséquentialisme et utilitarisme	Produit-il davantage de bénéfices globaux que de préjudices, en tenant compte des bienfaits de l’exercice, de l’anxiété, des perturbations du sommeil, des effets sur la famille et des préjudices causés aux utilisateurs vulnérables ? #(Mill, 1863, Utilitarianism) #(Source evidence, Page 3 | evidence=ch2-sc1-e1)
Respect déontologique de l’autonomie	Traite-t-il l’utilisateur comme un agent rationnel, ou simplement comme un moyen d’augmenter l’engagement ou les revenus ? #(Kant, 1785, Groundwork of the Metaphysics of Morals) #(Source evidence, Page 3 | evidence=ch2-sc1-e2)
Éthique de la vertu	Son utilisation répétée cultive-t-elle une autodiscipline et une patience durables, ou une dépendance fondée sur la peur ? #(Vallor, 2016, Technology and the Virtues) #(Source evidence, Page 3 | evidence=ch2-sc1-e3)
Éthique du care	La conception tient-elle compte des inégalités de vulnérabilité, de dépendance et de détresse, ainsi que des relations affectées ? #(Held, 2006, The Ethics of Care) #(Source evidence, Page 3 | evidence=ch2-sc1-e4)
Conception sensible aux valeurs	L’autonomie, la dignité, le bien-être et les signaux d’arrêt sont-ils intégrés au produit dès le départ ? #(Friedman and Hendry, 2019, Value Sensitive Design: Shaping Technology with Moral Imagination) #(Source evidence, Page 3 | evidence=ch2-sc1-e5)

Ces grilles peuvent converger vers une refonte tout en s’appuyant sur des raisonnements différents. Le conséquentialisme peut objecter que l’anxiété et la dépendance l’emportent sur les bénéfices incertains de l’exercice. La déontologie peut rejeter la fonctionnalité même si l’exercice augmente, car un traitement trompeur contourne l’autonomie. L’éthique de la vertu s’intéresse à l’habitude qui se forme au fil du temps, tandis que l’éthique du care demande qui supporte un risque disproportionné. La conception sensible aux valeurs transforme ces préoccupations en exigences produit. Aucun cadre ne tranche automatiquement tous les cas, et le conséquentialisme ne signifie pas qu’il faut compter uniquement les clics, la rétention ou le plaisir à court terme. De même, la déontologie n’interdit pas tout rappel ni toute incitation ; une influence transparente et contrôlée par l’utilisateur peut respecter son autonomie.

Le test pratique du seuil éthique, qui découle de ces réflexions, organise ces enseignements en sept questions. Il s’agit d’un outil d’aide au jugement, et non d’un score numérique validé ni d’une règle mécanique d’acceptation ou de rejet #(Source evidence, Page 3 | evidence=ch2-sc1-e6).

1. Transparence : L’application explique-t-elle fidèlement ce que fait le compte à rebours et pourquoi il apparaît ?
2. Compréhension : Un utilisateur ordinaire peut-il comprendre son objectif, ses conséquences et l’intérêt commercial en jeu ?
3. Choix véritable : L’utilisateur peut-il le mettre en pause, le refuser ou le modifier sans subir de pénalité injuste ?
4. Proportionnalité : La pression exercée est-elle proportionnée au bénéfice légitime pour la santé ?
5. Réversibilité : L’utilisateur peut-il désactiver la fonctionnalité et reprendre le contrôle par la suite ?
6. Vulnérabilité : Pourrait-elle aggraver les préjudices subis par des utilisateurs souffrant de troubles alimentaires, ayant des comportements d’exercice compulsifs ou présentant des vulnérabilités en matière de santé mentale ?
7. Alignement : La fonctionnalité sert-elle les intérêts déclarés par l’utilisateur, plutôt que de donner silencieusement la priorité à l’engagement ?

flowchart TD
  n1["Compte à rebours trompeur"] --> n2["Urgence ou dépendance"]
  n2 --> n3["Faible qualité du consentement"]
  n3 --> n4["Préoccupation concernant l’autonomie et le bien-être"]
  n4 --> n5["Signal clair et contrôles pour l’utilisateur"]

Un bouton « Accepter » bien visible ou un fil d’actualité sans friction peut dissimuler le même échec au test du seuil : l’interface peut être facile à utiliser alors que le choix véritable reste flou. La question pratique centrale est donc de savoir si les utilisateurs peuvent comprendre l’influence exercée, la refuser sans subir de pénalité injuste et reprendre le contrôle par la suite.

Une refonte moins exploitante conserverait les rappels tout en supprimant la fausse échéance. Elle expliquerait l’objectif de la fonctionnalité et proposerait des calendriers réglables, des commandes de mise en pause et de désactivation, des signaux d’arrêt véritables, ainsi qu’une étiquette nutritionnelle numérique décrivant les exigences de la fonctionnalité en matière d’attention. L’évaluation devrait porter sur le bien-être, la détresse, le sommeil et un usage durable — et non sur le seul engagement.

La responsabilité est partagée :

• Les plateformes fixent les objectifs et les indicateurs ; elles devraient intégrer le bien-être des utilisateurs et les préjudices inégalement répartis dans leur évaluation.
• Les concepteurs traduisent les valeurs en contrôles, en explications et en tests de compréhension.
• Les régulateurs peuvent définir des exigences minimales en matière de transparence et de choix véritable.
• Les formateurs peuvent enseigner la différence entre persuasion, incitation, manipulation et coercition.
• Les utilisateurs peuvent vérifier leurs paramètres et signaler les préjudices, mais la responsabilité ne peut pas reposer principalement sur eux lorsque le pouvoir et l’information sont asymétriques.

Conclusion

Les cinq angles d’analyse examinent les conséquences, la capacité d’agir, les habitudes, les relations et les valeurs intégrées. Le test en sept volets transforme ces préoccupations en questions pratiques portant sur la transparence, la compréhension, le choix véritable, la proportionnalité, la réversibilité, la vulnérabilité et l’alignement. Leur intérêt ne réside pas dans la production d’un raisonnement identique, mais dans la mise au jour de voies différentes vers une refonte défendable. À mesure que les systèmes numériques deviennent plus adaptatifs, l’évaluation éthique doit rester comparative, attentive aux éléments probants et consciente de la responsabilité partagée en matière de conception.

2.2 : Repenser le système avant qu’il n’apprenne à exploiter les utilisateurs

Objectifs d’apprentissage. À la fin de ce sous-chapitre, vous devriez être capable d’identifier les interfaces truquées, d’expliquer les risques spécifiques liés aux systèmes de recommandation, à l’IA conversationnelle et à la biométrie, de repenser une fonctionnalité afin de garantir un choix véritable et la réversibilité, et d’attribuer les responsabilités proportionnellement entre les acteurs concernés.

La comparaison précédente a montré qu’une fonctionnalité trompeuse dans une application de fitness peut être critiquée pour les préjudices qu’elle cause, son manque de respect pour l’autonomie, les dommages qu’elle inflige au caractère ou son incapacité à prendre soin des utilisateurs vulnérables. La refonte rend ces jugements opérationnels. Un rappel transparent pour l’apprentissage des langues peut servir l’objectif de Mara ; un faux compte à rebours lors d’un achat peut fabriquer un sentiment d’urgence. Le test central reste pratique : les utilisateurs peuvent-ils comprendre l’influence, la refuser sans subir de pénalité injuste et reprendre le contrôle ensuite ?

Garanties, refonte et responsabilité partagée

Commencez par distinguer l’influence ordinaire de l’exploitation. L’influence modifie les comportements ; la persuasion fournit des raisons ; le nudge modifie la saillance ou les options par défaut ; la manipulation dissimule, exerce une pression ou exploite la vulnérabilité d’une personne ; la coercition menace d’une sanction inacceptable. Un dark pattern est une interface utilisateur délibérément conçue pour tromper les utilisateurs et les amener à faire des choses qu’ils n’auraient peut-être pas faites autrement #(Deceptive Design (Dark Patterns), 4 | evidence=ch2-sc2-e1). Son analyse exige davantage que l’examen de son apparence visuelle :

• La culpabilisation recourt à la honte ou au jugement moral pour décourager le refus.
• Un motel à cafards rend l’adhésion ou l’acceptation facile, mais la sortie difficile.
• Des coûts cachés n’apparaissent qu’après l’engagement, ce qui affaiblit le consentement éclairé.

Cas hypothétique : Mara ouvre une page d’annulation d’abonnement. Le service peut légitimement fournir un accès récurrent, des contenus enregistrés et un gain de commodité. Une refonte éthique ne supprime pas ces avantages. Elle présente en langage clair le prix, la date de fin, les conditions d’accès et les conséquences pour les données ; accorde à Continue subscription et à Cancel subscription la même visibilité ; propose un bouton d’annulation immédiate ; et fournit une confirmation ainsi qu’un reçu. Le parcours devrait être utilisable au clavier, avec des lecteurs d’écran, dans différentes langues et par des personnes ayant des niveaux variés d’aisance numérique. Un repère d’arrêt ou une option de pause peut également rendre l’utilisation continue plus réversible.

%FULL[infograph] %Un schéma de refonte avant-après pour un parcours d’annulation d’abonnement et un fil de contenus. Le visuel doit montrer des parcours d’entrée et de sortie équivalents, des conséquences formulées en langage clair, une confirmation immédiate, un reçu, des points d’arrêt visibles et des modes de classement sélectionnables par l’utilisateur.

flowchart TD
  n1["Sortie en motel à cafards"]
  n2["Friction inégale"]
  n3["Réduction du choix véritable"]
  n4["Consentement éclairé affaibli"]
  n5["Risque de manipulation"]
  n6["Parcours équivalents et réversibilité claire"]
  n1 --> n2
  n2 --> n3
  n3 --> n4
  n4 --> n5
  n5 --> n6

L’opacité des systèmes de recommandation est différente de l’impossibilité totale de les connaître. Les ingénieurs peuvent examiner les objectifs, les données d’entrée et les indicateurs de performance, tandis qu’un utilisateur donné reste incapable de contester un classement particulier. Le problème tient à la possibilité limitée de contester, d’auditer et de contrôler le système #(Recommenders, generative AI, and biometrics, 4 | evidence=ch2-sc2-e2). Parmi les réponses utiles figurent des explications permettant d’agir, des modes de classement chronologique ou sélectionnables par l’utilisateur, des contrôles concernant les sujets sensibles et des audits indépendants. Cela ne signifie pas que tous les systèmes de recommandation favorisent les contenus extrêmes.

L’IA conversationnelle ajoute une pression relationnelle. Une empathie apparente peut instaurer la confiance alors que les incitations commerciales ou l’incertitude restent non déclarées #(Generative AI introduces a distinct risk, 4 | evidence=ch2-sc2-e3). Un assistant plus sûr s’identifie, signale les recommandations sponsorisées, exprime son incertitude, évite les formes de persuasion inadaptées à l’âge et établit des limites pour prévenir la dépendance affective. Une empathie apparente ne prouve pas une compréhension véritable.

La personnalisation biométrique doit rester considérée comme un risque émergent auquel il convient d’être prudent : la dilatation des pupilles, le rythme cardiaque, le regard et les mouvements du visage peuvent indiquer une activation ou une attention, mais ils ne révèlent pas de manière fiable une émotion ou une intention précises #(Biometric personalization should also be framed as an emerging risk, 4 | evidence=ch2-sc2-e4). Un état sensible inféré ne doit pas être traité comme une donnée ordinaire de personnalisation.

La responsabilité de conception consiste à anticiper la manière dont les choix de produit façonnent la capacité d’agir. La responsabilité structurelle étend cette question aux organisations, aux incitations, à l’expertise et aux institutions qui entourent le produit. Les entreprises, les concepteurs, les régulateurs, les enseignants, les utilisateurs et les communautés concernées jouent tous un rôle, mais leurs obligations sont inégales : les acteurs qui disposent de davantage d’informations et de contrôle portent une responsabilité plus grande #(Business models and responsibility, 4 | evidence=ch2-sc2-e6). La responsabilité inclut donc un examen avant le lancement, un suivi après le déploiement, des tests d’accessibilité, la protection des consommateurs et l’attention portée aux effets sur les familles, la santé publique, les communautés et les institutions démocratiques — et pas seulement à l’engagement #(Kroll et al., 2017, Accountable Algorithms).

Conclusion

Appliquez l’évaluation finale en six vérifications liées. À chaque étape, indiquez si l’utilisateur peut comprendre l’influence exercée, la refuser sans subir de pénalité injuste et reprendre le contrôle :

1. Cartographier la fonctionnalité. Identifiez son architecture des choix, les incitations propres à l’économie de l’attention, et déterminez si elle persuade, oriente, manipule ou contraint.
2. Vérifier la compréhension. Examinez les informations fournies, les explications, l’incertitude, les intérêts commerciaux et le consentement éclairé.
3. Vérifier la possibilité d’un refus véritable. Comparez les parcours d’acceptation et de sortie, les pénalités, l’accessibilité, l’adéquation à l’âge et les protections destinées aux utilisateurs vulnérables.
4. Vérifier la réversibilité. Recherchez les possibilités d’annulation et de mise en pause, les signaux d’arrêt, les reçus, les conséquences sur les données et les moyens concrets de reprendre le contrôle après une décision.
5. Vérifier les effets plus larges. Prenez en compte la vie privée, la dépendance affective, l’inférence d’états sensibles, la répartition inégale des charges et les conséquences collectives.
6. Attribuer et suivre les responsabilités. Répartissez les actions en fonction du pouvoir, de l’information et du contrôle détenus par les plateformes, les concepteurs, les régulateurs, les enseignants, les utilisateurs et les communautés concernées.

Les cadres éthiques précédemment étudiés affinent chacun des vérifications différentes : l’approche conséquentialiste identifie les préjudices et leur répartition ; l’autonomie met l’accent sur le consentement et le contrôle ; l’éthique des vertus examine les habitudes et le caractère des institutions ; l’éthique du care souligne la vulnérabilité et la dépendance ; la justice étudie le pouvoir et les effets collectifs. Aucun cadre ne permet à lui seul de trancher tous les cas. Une refonte centrée sur l’humain préserve la commodité légitime tout en réduisant la tromperie, la pression et la dépendance. Pour les futures politiques ou pratiques de conception, le même relevé peut guider les audits, les décisions de gouvernance et les corrections après déploiement. Les systèmes éthiques ne sont pas simplement des systèmes à l’apparence plus conviviale ; ils rendent l’influence visible, le refus équitable et la reprise de contrôle possible.

%HALF left[AI generated]

Conclusion

L’influence peut prendre la forme de persuasion, d’incitation, de manipulation ou de coercition. Le rappel d’apprentissage de Mara soutient un objectif ; un faux compte à rebours capte artificiellement l’attention. La limite repose sur des raisons claires, des alternatives réelles, un consentement éclairé, un refus facile et la réversibilité. Les bannières de cookies, les récompenses variables, la peur de manquer quelque chose (FOMO) et la validation sociale peuvent préserver un choix formel tandis que le pouvoir et la vulnérabilité érodent l’autonomie, la dignité et le bien-être.

Rappelez-vous la limite ; classez un mécanisme qui vous est inconnu, identifiez l’autonomie ou le bien-être affecté, comparez deux cadres éthiques et proposez une mesure de protection proportionnée. Repensez-le pour garantir la transparence et la réversibilité, en attribuant la responsabilité au concepteur, à l’organisation et à la plateforme. Les jugements peuvent différer, mais il faut évaluer les effets probables et protéger un choix véritable.

⟬

1. Quel exemple illustre le mieux une manipulation plutôt qu’une incitation responsable ? A. Un rappel d’apprentissage des langues qui soutient un objectif choisi par l’utilisateur B. Un paramètre par défaut qui peut être facilement modifié sans pénalité C. Un faux compte à rebours de shopping qui crée un sentiment d’urgence artificiel© D. Une recommandation clairement indiquée que l’utilisateur peut librement ignorer Le faux compte à rebours induit les utilisateurs en erreur en présentant une raison trompeuse d’agir dans l’urgence, ce qui interfère avec leur jugement.
2. Pourquoi une bannière de cookies peut-elle n’offrir qu’un choix formel plutôt qu’un choix véritable ? A. La bannière propose à la fois des options d’acceptation et de refus B. Accepter les cookies nécessite un clic, tandis que les refuser exige de parcourir plusieurs écrans déroutants© C. La bannière explique les conséquences dans un langage clair et accessible D. Les utilisateurs peuvent retirer leur consentement aussi facilement qu’ils l’ont donné Un consentement véritable exige un refus équitable. Des parcours inégaux pour accepter et refuser rendent le refus plus difficile et affaiblissent l’autonomie.
3. Qu’est-ce qu’une boucle de validation sociale ? A. Un utilisateur publie ou vérifie un contenu, reçoit un retour incertain, l’interprète comme une approbation et revient chercher à être rassuré© B. Une plateforme supprime définitivement tout retour social de son interface C. Un utilisateur reçoit une récompense garantie après chaque action D. Un créateur communique avec chaque abonné dans le cadre d’une relation personnelle réciproque Les boucles de validation sociale s’appuient sur des retours incertains, comme les mentions « J’aime » ou le nombre d’abonnés, pour encourager les vérifications répétées en quête d’approbation sociale.
4. Comment l’asymétrie du pouvoir influe-t-elle sur la responsabilité éthique dans la conception numérique ? A. Elle décharge les utilisateurs de toute responsabilité B. Elle signifie que toute fonctionnalité persuasive est automatiquement coercitive C. Elle accroît généralement la responsabilité des plateformes, car celles-ci disposent de davantage de données, d’expertise et de contrôle© D. Elle prouve qu’un engagement plus long des utilisateurs leur est toujours bénéfique Lorsque les organisations disposent de connaissances comportementales et d’un contrôle de la conception nettement supérieurs à ceux des utilisateurs, elles assument une responsabilité accrue dans la prévention des influences exploitantes, en particulier envers les groupes vulnérables. ⟭