De la persuasion à la manipulation

Chaque jour, les applications et les sites web façonnent ce que nous remarquons, choisissons et faisons — des rappels et recommandations à la lecture automatique et aux paramètres d’abonnement. L’influence numérique n’est pas automatiquement nuisible ; elle devient une manipulation lorsque la conception dissimule son objectif, exploite une vulnérabilité, rend le refus difficile ou empêche les utilisateurs de reprendre le contrôle. Ce cours examine cette frontière à travers des exemples familiers d’architecture du choix, d’économies de l’attention, de consentement, de dépendance affective, d’interfaces truquées et d’outils émergents fondés sur l’IA et la biométrie. Vous apprendrez à identifier la manière dont les interfaces orientent les comportements, à analyser leurs effets sur l’autonomie, le bien-être et la dignité, à comparer les principaux cadres éthiques et à proposer des refontes concrètes centrées sur l’humain. Le cours commence par un vocabulaire permettant de reconnaître l’influence, puis s’oriente vers le jugement éthique et la responsabilité partagée entre les utilisateurs, les concepteurs, les entreprises et les décideurs publics.

Chapitre 1 : L’architecture cachée des choix quotidiens

{L’influence désigne tout facteur qui modifie la perception, les préférences ou le comportement ; elle n’est pas intrinsèquement contraire à l’éthique. La différence éthique dépend de la manière dont l’influence s’exerce et de la capacité des personnes à conserver un contrôle réel.

• La persuasion s’appuie sur des raisons claires, des informations ou des sollicitations explicites, et permet aux utilisateurs de les rejeter.
• L’incitation douce modifie l’environnement du choix de sorte qu’une option devienne plus facile ou plus probable, sans supprimer les autres possibilités ni modifier fortement les avantages en jeu.
• La manipulation interfère avec le jugement en exploitant des vulnérabilités, des biais cognitifs, des lacunes informationnelles ou une présentation trompeuse.
• La coercition recourt à la force, aux menaces ou à une pression si forte que le refus n’est, en pratique, plus raisonnablement possible.

Les interfaces numériques mettent en œuvre ces formes d’influence au moyen des options par défaut, des frictions, des notifications, du défilement infini, des séries, des badges, des signaux de rareté, de la personnalisation et d’autres fonctionnalités qui orientent l’attention. Aucune n’est automatiquement nuisible. Leur qualité éthique dépend de leur exactitude, de leur objectif, de leur moment d’intervention, de la vulnérabilité de l’utilisateur, de la facilité du refus et de la réversibilité. Un rappel véridique qui aide un utilisateur à atteindre un objectif qu’il s’est fixé peut relever d’une persuasion ou d’une incitation douce responsables. En revanche, un compte à rebours fictif dans une boutique crée un sentiment d’urgence artificiel et relève de la manipulation, car il fournit aux utilisateurs une raison trompeuse d’agir, même si le message est visible et qu’aucune menace explicite n’est formulée.

Le critère central est celui d’un choix véritable, et non de la simple présence d’un bouton. Les utilisateurs devraient pouvoir comprendre ce qui les influence, évaluer les conséquences, choisir volontairement, refuser sans subir de pénalités injustes, puis se désengager ou reprendre le contrôle. Un consentement éclairé exige des informations claires et accessibles, une possibilité raisonnable de les comprendre, un accord volontaire, un refus équitable et un retrait qui ne soit pas plus difficile que l’acceptation. Une longue notice peut fournir techniquement des informations tout en ne permettant pas une compréhension véritable. Des parcours inégaux entre l’acceptation et le refus — par exemple une option d’acceptation en un clic et une procédure de refus compliquée — affaiblissent l’autonomie.

L’autonomie consiste à prendre des décisions de manière autodéterminée, en fonction de ses propres valeurs et raisons. Le caractère volontaire concerne le fait qu’une décision soit exempte de cadrage trompeur, de honte, de détournement émotionnel ou de pression déraisonnable. La dignité exige de traiter les personnes comme des fins en soi, et non comme des profils de données ou des instruments de monétisation. Le bien-être comprend les dimensions psychologique, sociale, physique et financière ; le temps passé et la satisfaction immédiate ne sont donc que des indicateurs incomplets du bénéfice.

Les systèmes conçus pour favoriser l’engagement peuvent renforcer la consultation répétée. Les récompenses variables, comme des mentions « J’aime », des messages ou des recommandations imprévisibles, peuvent entretenir un comportement parce que la prochaine récompense est incertaine. Les boucles de validation sociale consistent à publier ou à vérifier, à recevoir un retour incertain, à l’interpréter comme une approbation, puis à revenir chercher du réconfort. Le FOMO, ou peur de manquer quelque chose, fait naître la crainte que les autres profitent d’expériences dont l’utilisateur serait privé. Les séries, les contenus éphémères et les échéances réelles peuvent créer un sentiment d’urgence, tandis que les comptes à rebours fictifs le fabriquent de toutes pièces. L’interaction parasociale, c’est-à-dire une relation affective à sens unique avec un créateur ou une personnalité médiatique, peut apporter divertissement et compagnie, mais elle devient préoccupante lorsque cet attachement est exploité de manière opaque pour susciter des achats, des dons ou de l’engagement. Ces mécanismes expliquent les comportements, mais ne prouvent pas à eux seuls l’existence d’une addiction ou d’une conception contraire à l’éthique.

La responsabilité est accrue par l’asymétrie de pouvoir. Les plateformes disposent souvent de davantage de données comportementales, d’expertise technique, de capacités d’expérimentation et de ressources juridiques que les utilisateurs. La vulnérabilité peut également être plus grande chez les enfants, les personnes âgées, les personnes handicapées, les consommateurs en situation de précarité financière ou les personnes en détresse. L’évaluation éthique ne devrait donc pas seulement se demander si un utilisateur exceptionnellement informé pourrait résister, mais s’il est raisonnable de faire peser sur les utilisateurs ordinaires la charge de la résistance. Une connaissance et un contrôle organisationnels plus importants créent généralement une responsabilité accrue en matière de conception, même si les utilisateurs conservent une part de responsabilité dans leurs choix.

Une conception responsable devrait préserver les bénéfices légitimes tels que la commodité, la motivation, le lien social et la compagnie, tout en réduisant la tromperie, les frictions inégales, la pression émotionnelle inutile et les obstacles qui empêchent de s’arrêter ou de changer de trajectoire. Les questions clés sont les suivantes : les utilisateurs peuvent-ils comprendre l’influence qui s’exerce sur eux ? Choisissent-ils volontairement ? Peuvent-ils refuser sans coût injuste ? Peuvent-ils reprendre le contrôle par la suite ?}

1.1 : Des invites utiles à l’attention conçue

{- L’influence englobe de manière générale tout ce qui modifie les perceptions, les préférences ou le comportement d’une personne. Elle n’est pas automatiquement contraire à l’éthique.

• La persuasion est une influence ouverte et intentionnelle, fondée sur des raisons ou des arguments explicites, qui permet aux utilisateurs de la comprendre et de la refuser.
• Le nudging modifie l’environnement de choix afin de rendre une option plus facile à choisir ou plus probable, sans supprimer les autres possibilités. Un choix n’est véritablement libre que lorsque le refus est clair, réaliste et réversible.
• La manipulation fausse le jugement en exploitant des vulnérabilités, des biais, des lacunes informationnelles ou une présentation trompeuse.
• La coercition recourt à la force, aux menaces ou à une pression si intense que le refus n’est pas réellement possible.

Les interfaces numériques mettent en œuvre ces différentes formes d’influence au moyen des paramètres par défaut, de la friction, des notifications, du défilement infini, des séries, des messages de rareté et de la personnalisation. Ces fonctionnalités ne sont pas intrinsèquement nuisibles ; leur impact éthique dépend de leur objectif, de leur exactitude, de leur moment d’apparition, du contrôle laissé à l’utilisateur et de leur réversibilité. Un véritable rappel peut aider un utilisateur à atteindre son objectif, tandis qu’un faux compte à rebours l’induit en erreur en le poussant à agir dans l’urgence et relève de la manipulation, sans être nécessairement coercitif.

Le principal critère éthique est celui du choix véritablement libre : les utilisateurs doivent comprendre comment ils sont influencés, pouvoir évaluer cette influence et la refuser sans subir de pénalités injustes, puis reprendre le contrôle. Les modèles économiques fondés sur l’attention méritent également d’être examinés lorsque les incitations de la plateforme favorisent une utilisation plus longue ou une collecte accrue de données au détriment des objectifs réels des utilisateurs. Une utilisation prolongée peut refléter une valeur véritable, mais elle peut aussi résulter d’une persistance induite par la conception.}

Objectifs d’apprentissage : à la fin de ce sous-chapitre, vous devriez être capable de :

• Définir l’influence, la persuasion, le nudging, la manipulation et la coercition.
• Repérer comment les fonctionnalités d’une interface orientent l’attention et le comportement.
• Distinguer les invites transparentes qui soutiennent les objectifs des utilisateurs des conceptions trompeuses ou exploitatrices.
• Appliquer ces distinctions au rappel envoyé à Mara et au faux compte à rebours de l’application de shopping.

Mara reçoit un rappel d’apprentissage des langues qui l’encourage à s’exercer. Plus tard, une application de shopping affiche un compte à rebours qui semble urgent, mais qui est faux. Ces deux fonctionnalités peuvent modifier le comportement, mais elles ne soulèvent pas la même question éthique. Le point essentiel est de savoir si les utilisateurs peuvent comprendre l’influence exercée, l’évaluer, la refuser sans subir de pénalité injuste et reprendre le contrôle par la suite.

%FULL[infograph] %Un spectre visuel épuré allant de l’information et de la persuasion transparente au nudging, puis à la manipulation et à la coercition, associé à des icônes simples représentant les paramètres par défaut, la friction, les notifications, le défilement infini, la rareté et la personnalisation. La conception doit montrer que ces catégories exigent un jugement et ne constituent pas automatiquement une hiérarchie morale.

Le spectre de l’influence et ses mécanismes d’interface

L’influence est la catégorie générale qui regroupe les facteurs modifiant la perception, les préférences ou le comportement d’une autre personne. Un bouton clair, une explication utile ou un rappel peuvent influencer quelqu’un. L’influence est inévitable et n’est pas automatiquement contraire à l’éthique ; le seul fait qu’un comportement ait changé ne suffit pas à prouver une manipulation. #(p. 1 | evidence=ch1-sc1-e1)

La persuasion est une influence intentionnelle et transparente qui s’appuie sur des raisons, des informations, des éléments probants ou des appels explicites, tout en laissant à l’utilisateur la possibilité de dire non. Un appel aux émotions n’est pas automatiquement manipulateur si son objectif et son message sont clairs et si l’utilisateur peut l’évaluer. Le rappel de Mara pourrait être persuasif s’il soutient ouvertement son objectif d’apprentissage et reste facile à ignorer ou à modifier. La transparence et l’intention sont au cœur de cette distinction. #(p. 1 | evidence=ch1-sc1-e1)

L’architecture des choix désigne la conception de l’environnement dans lequel les choix sont effectués. Un nudge organise cet environnement de façon à rendre une option plus facile ou plus probable, sans interdire les autres possibilités ni modifier substantiellement les incitations économiques. Une alternative formelle, toutefois, ne constitue pas toujours un choix véritable. Si le refus est déroutant, contraignant, humiliant ou difficilement réversible, l’autonomie est affaiblie, même lorsqu’un bouton existe techniquement.

| Concept | Caractéristique déterminante | Principal test éthique | | ------------ | ---------------------------------------------------- | ------------------------------------ | | Influence | Modifie la perception, les préférences ou le comportement| L’effet est-il responsable ? | | Persuasion | Ouverte, fondée sur des raisons, compatible avec le refus| L’utilisateur peut-il l’évaluer et la rejeter ? | | Nudge | Rend une option plus facile sans supprimer les alternatives| Le choix est-il véritable et réversible ? | | Manipulation | Exploite les vulnérabilités ou induit en erreur | Le jugement est-il perturbé ? | | Coercition | Recourt à la force, aux menaces ou à une forte pression| L’utilisateur peut-il réellement refuser ?|

La manipulation interfère avec la prise de décision en exploitant les biais cognitifs, les vulnérabilités émotionnelles, les asymétries d’information ou une présentation trompeuse. #(p. 1 | evidence=ch1-sc1-e2) Le faux compte à rebours d’achat est éthiquement différent d’une véritable alerte sur les stocks, car il présente une fausse raison d’agir. Une véritable alerte peut fournir une information pertinente ; un faux compte à rebours compromet le consentement éclairé. La visibilité n’empêche pas la manipulation : une conception peut être parfaitement visible tout en restant trompeuse ou injustement difficile à refuser.

La coercition est plus grave. Elle implique la force, les menaces ou une pression si forte que se conformer semble être la seule option raisonnable. Tout message urgent n’est pas coercitif, et la coercition n’exige pas la suppression de toute alternative formelle. Le faux compte à rebours peut donc être manipulateur sans être coercitif s’il induit l’acheteur en erreur, mais ne le menace pas et ne le force pas.

Les mécanismes d’interface mettent ces distinctions en pratique. Les valeurs par défaut, les frictions, les notifications push, le défilement infini, les séries et les badges, les signaux de rareté et la personnalisation influencent ce que les utilisateurs remarquent et la facilité avec laquelle ils continuent, s’arrêtent ou changent de direction. Ils ne sont pas uniformément nocifs ; leurs effets dépendent de leur objectif, de leur exactitude, de leur calendrier, du contrôle laissé à l’utilisateur, de sa vulnérabilité et de la réversibilité. #(p. 1 | evidence=ch1-sc1-e3) Une valeur par défaut exacte peut faciliter l’utilisation, mais elle mérite un examen attentif s’il est difficile de la modifier. Un rappel peut favoriser la pratique, mais des notifications répétées ou mal synchronisées peuvent entrer en conflit avec l’intention de l’utilisateur. Pour examiner utilement une application, on peut se demander : où se trouve le signal d’arrêt, quelle est la valeur par défaut et où une friction a-t-elle été ajoutée ? Quel avantage légitime pourrait être préservé grâce à une conception moins exploitante ?

L’économie de l’attention ajoute une dimension liée aux incitations commerciales. Sur certaines plateformes financées par la publicité, les revenus peuvent être liés à l’attention des utilisateurs et à leurs données comportementales. Un conflit structurel peut apparaître lorsque les indicateurs de réussite privilégient la durée des sessions, la fréquence des visites ou des réponses prévisibles plutôt que l’objectif de l’utilisateur, qui est de terminer rapidement une tâche. #(p. 1 | evidence=ch1-sc1-e4) Un engagement plus long ne prouve pas automatiquement la valeur : il peut refléter un bénéfice réel, une habitude, une distraction ou une persistance induite par la conception. Une incitation commerciale justifie une évaluation attentive ; elle ne prouve pas que chaque fonctionnalité favorisant l’engagement soit contraire à l’éthique.

Conclusion

L’influence est la catégorie générale ; la persuasion est transparente et compatible avec le refus ; le nudge façonne l’environnement de choix tout en préservant les alternatives ; la manipulation interfère avec le jugement en exploitant certaines vulnérabilités ou en présentant les choses de manière trompeuse ; et la coercition implique la force, les menaces ou une pression extrême. L’architecture des choix montre comment ces effets se manifestent dans les interfaces, tandis que l’économie de l’attention aide à expliquer les conflits possibles entre les indicateurs des plateformes et les objectifs des utilisateurs. En matière de conception responsable, la norme pratique est celle d’un choix véritable : les utilisateurs doivent comprendre l’influence exercée, donner un consentement éclairé lorsque cela est pertinent, pouvoir refuser sans subir de sanction injuste et reprendre le contrôle par la suite. Ce vocabulaire servira de base aux évaluations ultérieures des produits numériques, des modèles économiques et de la responsabilité en matière de conception.

1.2 : Quand le choix est formel, mais que la capacité d’agir reste limitée

{Le choix formel ne garantit pas toujours une capacité d’agir réelle. Un bouton de refus ou une case de consentement ne suffit pas si l’acceptation est plus facile, si les informations sont peu claires, si le refus entraîne des pénalités injustes ou si le retrait est difficile.

• L’influence affecte le comportement ; la persuasion avance des raisons explicites, le nudge modifie le contexte tout en préservant le choix, la manipulation dissimule ou exploite la pression, et la coercition supprime les alternatives raisonnables.
• L’autonomie suppose des décisions autodirigées, fondées sur les valeurs et les raisons d’une personne. Le caractère volontaire suppose l’absence de présentation trompeuse, de honte, d’urgence, de pression émotionnelle ou de contrôle externe.
• Un consentement éclairé réel exige des informations claires, des conséquences compréhensibles, un choix volontaire, un refus équitable et un retrait qui ne soit pas plus difficile que l’acceptation. Un clic enregistré ne prouve ni la compréhension ni la liberté.
• La dignité consiste à traiter les personnes comme des êtres humains plutôt que comme des points de données à monétiser. Le bien-être inclut le bien-être psychologique, social, physique et financier, et pas seulement le temps passé ou la satisfaction immédiate.

Les récompenses imprévisibles, comme des mentions « J’aime », des messages ou des recommandations occasionnels, peuvent encourager à vérifier régulièrement. Les boucles de validation sociale associent la publication ou la vérification à un retour incertain et au besoin d’être rassuré. Le FOMO crée l’anxiété de manquer des expériences gratifiantes, tandis que les faux comptes à rebours fabriquent un sentiment d’urgence. Les relations parasociales peuvent apporter de la compagnie et un sentiment de communauté, mais elles deviennent préoccupantes lorsque l’attachement émotionnel est utilisé de manière opaque pour pousser à l’achat, aux dons ou à l’engagement. Ces mécanismes ne rendent pas automatiquement un service addictif ou exploitant ; leurs effets varient selon les personnes et les contextes.

L’asymétrie de pouvoir accroît la responsabilité des plateformes. Celles-ci disposent souvent de davantage de données comportementales, d’expertise technique, de capacités d’expérimentation et de ressources juridiques que les utilisateurs. Les groupes vulnérables, notamment les enfants, les personnes âgées, les personnes handicapées, les consommateurs en situation de vulnérabilité financière et les personnes en détresse, peuvent être moins capables de résister à la pression. L’évaluation éthique devrait se demander s’il est raisonnable de faire peser sur les individus la responsabilité de résister.

Un test pratique de la capacité d’agir consiste à se demander : les utilisateurs peuvent-ils comprendre l’influence exercée, choisir volontairement, refuser sans pénalité injuste et reprendre le contrôle par la suite ? Une conception éthique peut préserver la commodité, la motivation, le lien social et la compagnie, tout en réduisant la tromperie, les frictions inégales et la pression émotionnelle superflue.}

Objectifs pédagogiques

À la fin de cette section, vous devriez être capable de :

• Expliquer l’autonomie, le caractère volontaire, le consentement éclairé, la dignité, le bien-être, la vulnérabilité et l’asymétrie de pouvoir.
• Analyser pourquoi des parcours d’acceptation et de refus inégaux affaiblissent le consentement réel.
• Décrire comment les récompenses variables, la validation sociale, le FOMO et les interactions parasociales peuvent entretenir l’engagement de certains utilisateurs.
• Évaluer comment la vulnérabilité modifie la responsabilité des plateformes et des utilisateurs.

Le sous-chapitre précédent montrait que l’influence est intégrée aux interfaces. Revenons à la bannière de consentement aux cookies : si Accept all ne prend qu’un clic, tandis que le refus nécessite plusieurs écrans, l’option formelle est-elle une option réaliste ? Considérons également deux notifications. Une application de fitness ou d’apprentissage des langues pourrait rappeler à Mara un objectif qu’elle a choisi. Une autre application pourrait dire : « Ne brisez pas votre série : vous décevez tout le monde », ou afficher un faux compte à rebours. Les deux influencent le comportement, mais leur qualité éthique diffère.

Autonomie, consentement et dépendance émotionnelle

L’influence désigne tout effet exercé sur le comportement ou le jugement d’une autre personne. La persuasion présente ouvertement des raisons. Le nudge modifie la présentation ou le contexte des options tout en laissant le choix disponible. La manipulation oriente les décisions par la dissimulation, une présentation trompeuse ou l’exploitation des émotions et des vulnérabilités. La coercition recourt aux menaces ou à la force, ne laissant aucune alternative raisonnable. Ces catégories peuvent se recouper, mais l’influence n’est pas automatiquement une manipulation. Un rappel transparent peut soutenir l’objectif propre d’un utilisateur ; un signal d’urgence trompeur peut affaiblir sa capacité à se diriger lui-même.

L’autonomie est la capacité à prendre des décisions librement, en se gouvernant soi-même, sur la base de ses valeurs, de ses désirs et de ses raisons #(Deci & Ryan, 2000, The “What” and “Why” of Goal Pursuits). Elle ne se résume pas à disposer d’un bouton de refus. Les choix par défaut, les frictions, les notifications, le défilement infini et les signaux de rareté façonnent l’environnement dans lequel les décisions sont prises. La volontarité consiste à se demander si la décision a été prise librement, plutôt que produite par une présentation trompeuse, un contrôle extérieur, la honte, l’urgence ou une prise de contrôle émotionnelle. Une réaction émotionnelle, à elle seule, n’invalide pas le consentement ; le problème se pose lorsqu’un dispositif utilise délibérément une pression difficile à reconnaître ou à résister.

Un consentement éclairé véritable exige :

• Des informations claires, véridiques et accessibles.
• Une possibilité raisonnable de comprendre les conséquences.
• Un choix volontaire.
• La possibilité de refuser sans subir de pénalité injuste.
• La possibilité de se rétracter, sans que cela soit plus difficile que d’accepter.

Ainsi, une longue politique de confidentialité peut divulguer des informations sans les rendre compréhensibles. L’acceptation et le refus des cookies devraient présenter un niveau de friction comparable. Les décisions concernant des données, des finances ou la santé, lorsqu’elles comportent davantage d’enjeux, exigent également un consentement plus soigneusement recueilli que les opérations ordinaires de navigation #(Beauchamp & Childress, 2019, Principles of Biomedical Ethics). Un clic peut montrer qu’une action a eu lieu ; il ne suffit pas, à lui seul, à démontrer que la compréhension et la volontarité étaient présentes.

La dignité humaine consiste à traiter les personnes comme des fins en soi, et non simplement comme des profils comportementaux ou des points de données à monétiser. Le bien-être englobe la santé physique et psychologique ainsi que le bien-être social et financier. Le temps passé sur une plateforme et la satisfaction immédiate sont donc des indicateurs incomplets. Une fonctionnalité sociale peut offrir de la compagnie tout en créant une pression à rester disponible. Un résultat bénéfique ne justifie pas un traitement trompeur.

Les récompenses incertaines permettent d’expliquer pourquoi la consultation peut se prolonger. Dans un programme à ratio variable, une récompense suit un nombre imprévisible d’actions ; dans un programme à intervalle variable, elle devient disponible après une période imprévisible. Des mentions « J’aime », des messages ou des recommandations imprévisibles peuvent donc entretenir la consultation répétée #(Ferster & Skinner, 1957, Schedules of Reinforcement). Cela ne rend pas les réseaux sociaux identiques aux jeux d’argent, et l’utilisation répétée ne suffit pas à établir l’existence d’une addiction clinique. Les plateformes sociales font également intervenir l’identité, les relations, la recherche d’informations, l’ennui, l’habitude et les effets de réseau.

Une boucle de validation sociale se produit lorsque les utilisateurs publient ou consultent du contenu, reçoivent un retour incertain, interprètent les mentions « J’aime » ou le nombre d’abonnés comme une approbation sociale, puis reviennent chercher davantage d’informations ou de réassurance #(Sherman et al., 2016, The Power of the Like in Adolescence). Le FOMO, ou peur de manquer quelque chose, est la crainte que d’autres vivent des expériences gratifiantes sans nous. Les contenus éphémères, les séries d’actions consécutives et les échéances réelles peuvent créer un sentiment d’urgence ; un compte à rebours fictif le fabrique. Les effets varient selon les utilisateurs et les cultures #(Przybylski et al., 2013, Motivational, Emotional, and Behavioral Correlates of Fear of Missing Out).

L’interaction parasociale est une relation émotionnelle unilatérale avec un créateur ou une personnalité médiatique. Elle peut apporter du divertissement, favoriser l’identification, créer un sentiment de communauté ou offrir de la compagnie ; les relations en ligne ne sont donc pas toutes exploitantes. L’inquiétude augmente lorsqu’un attachement est utilisé de manière opaque pour stimuler les achats, les dons ou l’engagement #(Horton & Wohl, 1956, Mass Communication and Para-Social Interaction).

%HALF left[infograph] %Une boucle circulaire de récompense variable montrant le déclencheur, l’action, la récompense sociale incertaine et l’investissement, placée à côté d’une simple vérification de l’autonomie portant sur la compréhension, la volontarité, le refus et le retrait. Le visuel doit distinguer un mécanisme comportemental du jugement éthique qui lui est appliqué.

flowchart TD
  n1["Choix par défaut, friction ou urgence"] --> n2["Pression attentionnelle ou émotionnelle"]
  n2 --> n3["Le refus devient plus difficile"]
  n3 --> n4["La qualité du consentement diminue"]
  n4 --> n5["Préoccupation concernant l’autonomie et le bien-être"]
  n5 --> n6["Égaliser les parcours et expliquer les conséquences"]

L’asymétrie de pouvoir affine l’analyse. Les plateformes peuvent disposer de vastes quantités de données comportementales, d’une expertise technique, de capacités d’expérimentation à grande échelle et de ressources juridiques importantes, tandis que les utilisateurs peuvent avoir moins d’alternatives et de contrôle. La vulnérabilité peut être accrue chez les enfants, les personnes âgées, les personnes handicapées, les consommateurs en situation de fragilité financière ou les personnes en détresse. La question n’est pas seulement de savoir si un utilisateur parfaitement informé et discipliné pourrait résister, mais s’il est raisonnable de faire peser sur l’individu la responsabilité de cette résistance #(Yeung, 2017, Hypernudge; Susser, Roessler & Nissenbaum, 2019, Online Manipulation: Charting the Field). Une connaissance et un contrôle organisationnels plus importants entraînent généralement une responsabilité de conception plus grande, même si les utilisateurs conservent une part de responsabilité dans leurs choix. Ces critères d’autonomie et de vulnérabilité contribueront à l’évaluation, au chapitre 2, des effets sur les familles, les communautés et les institutions, ainsi que sur les individus.

Conclusion

~Un choix formel devient une capacité d’agir réduite lorsque l’influence est dissimulée, que le refus est déroutant ou humiliant, que la pression remplace la réflexion ou qu’il est difficile de se retirer. Le test pratique consiste à se demander : l’utilisateur peut-il comprendre l’influence exercée, choisir librement, refuser sans subir de pénalité injuste et reprendre le contrôle par la suite ? Une conception éthique peut préserver la motivation, la commodité, le lien et la compagnie tout en réduisant la tromperie, les frictions inéquitables et la pression émotionnelle superflue. Le défi de conception qui demeure consiste à préserver ces avantages légitimes au moyen de formes d’influence moins propices à l’exploitation.~

Chapitre 2 : Évaluer, repenser et gouverner l’influence numérique

{L’éthique numérique exige davantage que de se demander si une fonctionnalité augmente l’engagement ou la commodité. La question centrale est de savoir si les utilisateurs peuvent comprendre comment ils sont influencés, refuser sans subir de sanction injuste et reprendre le contrôle par la suite. L’influence numérique va de la persuasion, qui présente des raisons compréhensibles, à l’incitation, qui modifie la saillance ou les options par défaut, jusqu’à la manipulation ou à la coercition, qui entravent un choix éclairé par la dissimulation, la pression, l’exploitation ou les menaces.

Cinq approches éthiques révèlent différentes dimensions d’une même conception :

• Le conséquentialisme évalue l’ensemble des bénéfices et des préjudices, notamment l’anxiété, la dépendance, les perturbations du sommeil, la perte de vie privée et les effets inégaux — et pas seulement les clics ou la rétention.
• L’éthique déontologique demande si les utilisateurs sont respectés en tant qu’agents rationnels plutôt que traités comme des instruments au service de l’engagement ou des revenus.
• L’éthique des vertus examine les habitudes et le caractère qu’un système cultive, comme l’autodiscipline durable par opposition à la dépendance alimentée par la peur.
• L’éthique du care se concentre sur la vulnérabilité, la dépendance, la détresse, les relations et les personnes qui supportent des risques disproportionnés.
• La conception sensible aux valeurs intègre dès le départ dans le produit des valeurs telles que l’autonomie, la dignité, le bien-être, les signaux d’arrêt et le contrôle de l’utilisateur.

Ces cadres peuvent recommander la même refonte pour des raisons différentes. Un compte à rebours trompeur dans une application de fitness, par exemple, peut produire davantage de préjudices que de bénéfices, contourner la capacité d’agir, encourager une dépendance malsaine, imposer une charge aux utilisateurs vulnérables et intégrer des valeurs donnant la priorité à l’engagement. L’analyse éthique exige donc un jugement plutôt qu’une note mécanique.

Un test pratique en sept volets consiste à vérifier si une fonctionnalité offre :

1. De la transparence sur ce qu’elle fait et sur les raisons de son apparition.
2. Une compréhension de son objectif, de ses conséquences et des intérêts commerciaux en jeu.
3. Un choix véritable permettant de la mettre en pause, de la refuser ou de la modifier sans subir de sanctions injustes.
4. Une proportionnalité entre la pression exercée et le bénéfice légitime invoqué.
5. La réversibilité, grâce à des moyens accessibles de la désactiver, de l’annuler ou de la mettre en pause, et de reprendre le contrôle.
6. Une protection des utilisateurs vulnérables, qui peuvent être exposés à des préjudices psychologiques, physiques ou sociaux accrus.
7. Un alignement sur les intérêts déclarés de l’utilisateur plutôt que sur des priorités cachées telles que l’engagement.

La refonte doit préserver les bénéfices légitimes tout en supprimant l’urgence trompeuse et les frictions inégales. Parmi les garde-fous utiles figurent des explications en langage clair, des parcours d’acceptation et de sortie équivalents, des calendriers ajustables, un classement choisi par l’utilisateur, des points d’arrêt visibles, l’annulation immédiate, des confirmations et des reçus, l’explicitation des conséquences sur les données, des outils d’accessibilité ainsi que l’évaluation du bien-être, de la détresse, du sommeil et d’un usage durable. Un processus d’annulation qui facilite l’inscription mais rend le départ difficile est un « roach motel » ; les coûts cachés et les messages de refus culpabilisants sont d’autres exemples de procédés de conception trompeurs qui affaiblissent le consentement éclairé.

Les différentes technologies créent des risques distincts. Les systèmes de recommandation peuvent être inspectables par les ingénieurs tout en étant difficiles à contester pour les utilisateurs ; ils ont donc besoin d’explications exploitables, de commandes de classement, de paramètres pour les sujets sensibles et d’audits indépendants. L’IA conversationnelle peut créer une pression relationnelle lorsque l’empathie apparente inspire confiance alors que les incitations commerciales, l’incertitude ou le statut artificiel du système ne sont pas divulgués. Les systèmes plus sûrs s’identifient, signalent les contenus sponsorisés, expriment leur incertitude, évitent toute persuasion inappropriée et établissent des limites pour prévenir la dépendance affective. La personnalisation biométrique doit être traitée avec prudence : des signaux tels que le regard, le rythme cardiaque ou les mouvements du visage peuvent suggérer une activation ou une attention, mais ne permettent pas d’établir de manière fiable des émotions ou des intentions précises. Les inférences sensibles ne doivent pas être traitées comme de simples données de personnalisation.

La responsabilité éthique est partagée, mais inégalement répartie. Les plateformes contrôlent les objectifs, les indicateurs et les modèles économiques ; les concepteurs traduisent les valeurs en interfaces et en mécanismes de contrôle ; les autorités de régulation établissent des protections de base ; les enseignants développent la compréhension critique ; les utilisateurs peuvent vérifier leurs paramètres et signaler les préjudices ; et les communautés concernées contribuent à identifier les conséquences plus larges. Ceux qui disposent de davantage d’informations, de pouvoir et de contrôle portent une responsabilité plus grande. La responsabilité comprend donc un examen préalable au lancement, des tests d’accessibilité et de compréhension, une supervision indépendante, un suivi après déploiement et des mesures correctives.

Une évaluation complète cartographie la fonctionnalité et ses mécanismes incitatifs, teste la compréhension, compare les parcours d’acceptation et de refus, vérifie la réversibilité concrète, examine les effets sur la vie privée et les effets collectifs, puis attribue les responsabilités en fonction du pouvoir et du contrôle. Les systèmes éthiques ne sont pas simplement plus agréables ou plus attrayants. Ils rendent l’influence visible, le refus équitable, la reprise de contrôle possible et les objectifs légitimes des utilisateurs plus importants que la dépendance ou l’engagement.}

2.1 : Cinq grilles d’analyse pour évaluer un choix numérique

{Les fonctionnalités numériques doivent être évaluées non seulement selon leur capacité à accroître l’engagement, mais aussi selon leurs effets sur l’autonomie, le bien-être et les utilisateurs vulnérables. Un compte à rebours trompeur dans une application de fitness peut encourager l’exercice, tout en compromettant la capacité à choisir en connaissance de cause en créant un faux sentiment d’urgence.

Cinq grilles éthiques examinent une même conception sous des angles différents :

• Conséquentialisme : Les bénéfices globaux l’emportent-ils sur les préjudices, tels que l’anxiété, les perturbations du sommeil, la dépendance ou les effets sur les familles et les utilisateurs vulnérables ?
• Respect de la capacité d’agir : La fonctionnalité traite-t-elle les utilisateurs comme des décideurs capables, ou simplement comme des moyens au service de l’engagement et des revenus ?
• Éthique de la vertu : L’utilisation répétée favorise-t-elle des habitudes saines et durables, ou une dépendance alimentée par la peur ?
• Éthique du care : La conception tient-elle compte des inégalités en matière de vulnérabilité, de détresse, de dépendance et de relations ?
• Conception sensible aux valeurs : Des valeurs telles que l’autonomie, la dignité, le bien-être et la possibilité de s’arrêter sont-elles intégrées au produit dès le départ ?

Ces approches peuvent recommander la même refonte pour des raisons différentes. Une influence éthique n’est pas automatiquement répréhensible : des rappels transparents, proportionnés et contrôlables par l’utilisateur peuvent soutenir ses objectifs tout en préservant sa liberté de choix. La manipulation devient particulièrement préoccupante lorsque les utilisateurs ne peuvent pas comprendre l’influence exercée, la refuser de manière équitable ou reprendre le contrôle.

Un test pratique en sept points pose les questions suivantes :

1. La fonctionnalité est-elle transparente quant à ce qu’elle fait et aux raisons pour lesquelles elle le fait ?
2. Les utilisateurs ordinaires peuvent-ils comprendre son objectif, ses effets et les intérêts commerciaux en jeu ?
3. Les utilisateurs peuvent-ils la mettre en pause, la refuser ou la modifier sans subir de pénalités injustes ?
4. La pression exercée est-elle proportionnée à un bénéfice légitime ?
5. Les utilisateurs peuvent-ils la désactiver et reprendre le contrôle ?
6. Crée-t-elle des risques accrus pour les utilisateurs vulnérables ?
7. Sert-elle les intérêts déclarés des utilisateurs plutôt que de privilégier silencieusement l’engagement ?

Un meilleur compte à rebours supprimerait la fausse échéance, expliquerait son objectif, proposerait des horaires réglables ainsi que des commandes de mise en pause ou de désactivation, fournirait des indications claires pour s’arrêter et préciserait les exigences qu’il impose à l’attention. La réussite devrait être mesurée à l’aune du bien-être, de la détresse, du sommeil et d’un usage durable — et non de l’engagement seul.

La responsabilité éthique est partagée entre les plateformes, les concepteurs, les autorités de régulation, les enseignants et les utilisateurs, mais ces derniers ne devraient pas en assumer l’essentiel lorsque l’information et le pouvoir sont inégalement répartis.}

Le sous-chapitre précédent a établi que l’autonomie peut être affaiblie par la tromperie, les frictions asymétriques, la pression émotionnelle et les inégalités de pouvoir. Ce vocabulaire permet d’identifier les enjeux, mais il ne montre pas encore comment mettre en balance des bénéfices et des préjudices concurrents. Considérons le cas hypothétique suivant : une application de fitness affiche un compte à rebours qui semble indiquer une véritable échéance de santé, alors que son caractère urgent vise principalement à encourager la poursuite de l’engagement. Un rappel transparent peut soutenir l’objectif d’un utilisateur ; un compte à rebours trompeur peut constituer une pratique de conception manipulatrice. L’influence est inévitable, mais la persuasion avance des raisons compréhensibles, l’incitation modifie l’architecture du choix tout en laissant les options ouvertes, la manipulation entrave la délibération éclairée et la coercition repose sur la force ou sur une menace grave.

À la fin de ce sous-chapitre, vous devriez être capable de :

• Énoncer la question centrale de chaque cadre éthique.
• Appliquer plusieurs grilles d’analyse à une même fonctionnalité numérique.
• Utiliser le test en sept points.
• Expliquer pourquoi les cadres peuvent parvenir à la même recommandation pour des raisons différentes.

Comparer les cadres d’analyse à partir d’un même cas de conception

Les cinq grilles de lecture ne produisent pas cinq verdicts sans rapport les uns avec les autres. Elles attirent l’attention sur différentes dimensions d’un même choix.

%FULL[infograph] %Une matrice de comparaison lisible présentant les cinq grilles éthiques sous forme de questions distinctes autour d’un même cas central de conception numérique : conséquences globales, respect de l’autonomie, habitudes et caractère, protection des relations et de la vulnérabilité, et valeurs intégrées à la conception. Utiliser une formulation minimale et une différenciation visuelle afin que la matrice facilite la comparaison sans se substituer à l’explication.

| Grille éthique | Question appliquée au compte à rebours d’entraînement | | ----------------------------------- | ---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | | Conséquentialisme et utilitarisme | Produit-il davantage de bénéfices globaux que de préjudices, en tenant compte des bienfaits de l’exercice, de l’anxiété, des perturbations du sommeil, des effets sur la famille et des préjudices causés aux utilisateurs vulnérables ? #(Mill, 1863, Utilitarianism) #(Source evidence, Page 3 | evidence=ch2-sc1-e1) | | Respect déontologique de l’autonomie | Traite-t-il l’utilisateur comme un agent rationnel, ou simplement comme un moyen d’augmenter l’engagement ou les revenus ? #(Kant, 1785, Groundwork of the Metaphysics of Morals) #(Source evidence, Page 3 | evidence=ch2-sc1-e2) | | Éthique de la vertu | Son utilisation répétée cultive-t-elle une autodiscipline et une patience durables, ou une dépendance fondée sur la peur ? #(Vallor, 2016, Technology and the Virtues) #(Source evidence, Page 3 | evidence=ch2-sc1-e3) | | Éthique du care | La conception tient-elle compte des inégalités de vulnérabilité, de dépendance et de détresse, ainsi que des relations affectées ? #(Held, 2006, The Ethics of Care) #(Source evidence, Page 3 | evidence=ch2-sc1-e4) | | Conception sensible aux valeurs | L’autonomie, la dignité, le bien-être et les signaux d’arrêt sont-ils intégrés au produit dès le départ ? #(Friedman and Hendry, 2019, Value Sensitive Design: Shaping Technology with Moral Imagination) #(Source evidence, Page 3 | evidence=ch2-sc1-e5) |

Ces grilles peuvent converger vers une refonte tout en s’appuyant sur des raisonnements différents. Le conséquentialisme peut objecter que l’anxiété et la dépendance l’emportent sur les bénéfices incertains de l’exercice. La déontologie peut rejeter la fonctionnalité même si l’exercice augmente, car un traitement trompeur contourne l’autonomie. L’éthique de la vertu s’intéresse à l’habitude qui se forme au fil du temps, tandis que l’éthique du care demande qui supporte un risque disproportionné. La conception sensible aux valeurs transforme ces préoccupations en exigences produit. Aucun cadre ne tranche automatiquement tous les cas, et le conséquentialisme ne signifie pas qu’il faut compter uniquement les clics, la rétention ou le plaisir à court terme. De même, la déontologie n’interdit pas tout rappel ni toute incitation ; une influence transparente et contrôlée par l’utilisateur peut respecter son autonomie.

Le test pratique du seuil éthique, qui découle de ces réflexions, organise ces enseignements en sept questions. Il s’agit d’un outil d’aide au jugement, et non d’un score numérique validé ni d’une règle mécanique d’acceptation ou de rejet #(Source evidence, Page 3 | evidence=ch2-sc1-e6).

1. Transparence : L’application explique-t-elle fidèlement ce que fait le compte à rebours et pourquoi il apparaît ?
2. Compréhension : Un utilisateur ordinaire peut-il comprendre son objectif, ses conséquences et l’intérêt commercial en jeu ?
3. Choix véritable : L’utilisateur peut-il le mettre en pause, le refuser ou le modifier sans subir de pénalité injuste ?
4. Proportionnalité : La pression exercée est-elle proportionnée au bénéfice légitime pour la santé ?
5. Réversibilité : L’utilisateur peut-il désactiver la fonctionnalité et reprendre le contrôle par la suite ?
6. Vulnérabilité : Pourrait-elle aggraver les préjudices subis par des utilisateurs souffrant de troubles alimentaires, ayant des comportements d’exercice compulsifs ou présentant des vulnérabilités en matière de santé mentale ?
7. Alignement : La fonctionnalité sert-elle les intérêts déclarés par l’utilisateur, plutôt que de donner silencieusement la priorité à l’engagement ?

flowchart TD
  n1["Compte à rebours trompeur"] --> n2["Urgence ou dépendance"]
  n2 --> n3["Faible qualité du consentement"]
  n3 --> n4["Préoccupation concernant l’autonomie et le bien-être"]
  n4 --> n5["Signal clair et contrôles pour l’utilisateur"]

Un bouton « Accepter » bien visible ou un fil d’actualité sans friction peut dissimuler le même échec au test du seuil : l’interface peut être facile à utiliser alors que le choix véritable reste flou. La question pratique centrale est donc de savoir si les utilisateurs peuvent comprendre l’influence exercée, la refuser sans subir de pénalité injuste et reprendre le contrôle par la suite.

Une refonte moins exploitante conserverait les rappels tout en supprimant la fausse échéance. Elle expliquerait l’objectif de la fonctionnalité et proposerait des calendriers réglables, des commandes de mise en pause et de désactivation, des signaux d’arrêt véritables, ainsi qu’une étiquette nutritionnelle numérique décrivant les exigences de la fonctionnalité en matière d’attention. L’évaluation devrait porter sur le bien-être, la détresse, le sommeil et un usage durable — et non sur le seul engagement.

La responsabilité est partagée :

• Les plateformes fixent les objectifs et les indicateurs ; elles devraient intégrer le bien-être des utilisateurs et les préjudices inégalement répartis dans leur évaluation.
• Les concepteurs traduisent les valeurs en contrôles, en explications et en tests de compréhension.
• Les régulateurs peuvent définir des exigences minimales en matière de transparence et de choix véritable.
• Les formateurs peuvent enseigner la différence entre persuasion, incitation, manipulation et coercition.
• Les utilisateurs peuvent vérifier leurs paramètres et signaler les préjudices, mais la responsabilité ne peut pas reposer principalement sur eux lorsque le pouvoir et l’information sont asymétriques.

Conclusion

Les cinq angles d’analyse examinent les conséquences, la capacité d’agir, les habitudes, les relations et les valeurs intégrées. Le test en sept volets transforme ces préoccupations en questions pratiques portant sur la transparence, la compréhension, le choix véritable, la proportionnalité, la réversibilité, la vulnérabilité et l’alignement. Leur intérêt ne réside pas dans la production d’un raisonnement identique, mais dans la mise au jour de voies différentes vers une refonte défendable. À mesure que les systèmes numériques deviennent plus adaptatifs, l’évaluation éthique doit rester comparative, attentive aux éléments probants et consciente de la responsabilité partagée en matière de conception.

2.2 : Repenser le système avant qu’il n’apprenne à exploiter les utilisateurs

{La refonte éthique transforme les préoccupations liées à la manipulation en garde-fous concrets. Le test central consiste à déterminer si les utilisateurs peuvent comprendre l’influence, la refuser sans subir de pénalité injuste et reprendre le contrôle ensuite.

• L’influence fournit des raisons ou modifie l’attention ; la persuasion explique les avantages ; l’incitation modifie les choix par défaut ou la saillance. La manipulation dissimule des informations, exerce une pression ou exploite une vulnérabilité, tandis que la coercition menace d’imposer une pénalité inacceptable.
• Les interfaces truquées orientent délibérément les utilisateurs contre leurs propres intérêts. Parmi les exemples figurent la culpabilisation au refus, les parcours en « hôtel à cafards » qui rendent la sortie difficile et les coûts cachés révélés après l’engagement.
• Les interfaces éthiques proposent des conditions rédigées en langage clair, une visibilité équivalente pour accepter et refuser, des commandes accessibles, des options immédiates d’annulation ou de pause, des points d’arrêt explicites, une confirmation, des justificatifs et des explications sur les conséquences liées aux données.

Les différentes technologies nécessitent des garde-fous distincts :

• Systèmes de recommandation : les utilisateurs ont besoin d’explications concrètes, de commandes de classement, de paramètres pour les sujets sensibles, de mécanismes de contestation et d’audits indépendants. L’opacité limite souvent la capacité d’une personne à contester une recommandation précise, même lorsque les ingénieurs peuvent inspecter le système.
• IA conversationnelle : les assistants devraient s’identifier, signaler les parrainages et l’incertitude, éviter toute persuasion inappropriée et maintenir des limites pour prévenir la dépendance affective. Une empathie apparente ne prouve pas une compréhension véritable.
• Biométrie : des signaux tels que le regard, la fréquence cardiaque ou les mouvements du visage peuvent suggérer une activation émotionnelle ou une attention, mais ne permettent pas d’établir de manière fiable des émotions ou des intentions précises. Les inférences concernant des états sensibles nécessitent une protection renforcée.

La responsabilité est partagée, mais inégalement répartie. Les organisations et les personnes qui disposent de davantage d’informations, de pouvoir et de contrôle ont davantage de devoirs, notamment en matière d’examen avant lancement, de tests d’accessibilité, de suivi après déploiement, de protection des consommateurs et d’attention portée aux effets sur les personnes vulnérables, les familles, les communautés, la santé publique et les institutions démocratiques.

Une évaluation pratique pose les questions suivantes :

1. Quels choix, incitations et mécanismes d’influence façonnent cette fonctionnalité ?
2. Les informations communiquées, l’incertitude, les intérêts commerciaux et les conséquences sont-ils compréhensibles ?
3. Les personnes peuvent-elles refuser facilement, équitablement et de manière accessible ?
4. Peuvent-elles annuler, mettre en pause, arrêter ou reprendre le contrôle après avoir agi ?
5. Quels préjudices liés à la vie privée, à la dépendance, aux inégalités, aux inférences sensibles et à la collectivité pourraient en résulter ?
6. Qui détient le pouvoir de prévenir ou de corriger ces préjudices ?

Les conséquences, l’autonomie, la vertu, le souci des autres et la justice révèlent chacun des problèmes différents. Les systèmes éthiques préservent les commodités légitimes tout en rendant l’influence visible, le refus équitable et la reprise de contrôle possible.}

Objectifs d’apprentissage. À la fin de ce sous-chapitre, vous devriez être capable d’identifier les interfaces truquées, d’expliquer les risques spécifiques liés aux systèmes de recommandation, à l’IA conversationnelle et à la biométrie, de repenser une fonctionnalité afin de garantir un choix véritable et la réversibilité, et d’attribuer les responsabilités proportionnellement entre les acteurs concernés.

La comparaison précédente a montré qu’une fonctionnalité trompeuse dans une application de fitness peut être critiquée pour les préjudices qu’elle cause, son manque de respect pour l’autonomie, les dommages qu’elle inflige au caractère ou son incapacité à prendre soin des utilisateurs vulnérables. La refonte rend ces jugements opérationnels. Un rappel transparent pour l’apprentissage des langues peut servir l’objectif de Mara ; un faux compte à rebours lors d’un achat peut fabriquer un sentiment d’urgence. Le test central reste pratique : les utilisateurs peuvent-ils comprendre l’influence, la refuser sans subir de pénalité injuste et reprendre le contrôle ensuite ?

Garanties, refonte et responsabilité partagée

Commencez par distinguer l’influence ordinaire de l’exploitation. L’influence modifie les comportements ; la persuasion fournit des raisons ; le nudge modifie la saillance ou les options par défaut ; la manipulation dissimule, exerce une pression ou exploite la vulnérabilité d’une personne ; la coercition menace d’une sanction inacceptable. Un dark pattern est une interface utilisateur délibérément conçue pour tromper les utilisateurs et les amener à faire des choses qu’ils n’auraient peut-être pas faites autrement #(Deceptive Design (Dark Patterns), 4 | evidence=ch2-sc2-e1). Son analyse exige davantage que l’examen de son apparence visuelle :

• La culpabilisation recourt à la honte ou au jugement moral pour décourager le refus.
• Un motel à cafards rend l’adhésion ou l’acceptation facile, mais la sortie difficile.
• Des coûts cachés n’apparaissent qu’après l’engagement, ce qui affaiblit le consentement éclairé.

Cas hypothétique : Mara ouvre une page d’annulation d’abonnement. Le service peut légitimement fournir un accès récurrent, des contenus enregistrés et un gain de commodité. Une refonte éthique ne supprime pas ces avantages. Elle présente en langage clair le prix, la date de fin, les conditions d’accès et les conséquences pour les données ; accorde à Continue subscription et à Cancel subscription la même visibilité ; propose un bouton d’annulation immédiate ; et fournit une confirmation ainsi qu’un reçu. Le parcours devrait être utilisable au clavier, avec des lecteurs d’écran, dans différentes langues et par des personnes ayant des niveaux variés d’aisance numérique. Un repère d’arrêt ou une option de pause peut également rendre l’utilisation continue plus réversible.

%FULL[infograph] %Un schéma de refonte avant-après pour un parcours d’annulation d’abonnement et un fil de contenus. Le visuel doit montrer des parcours d’entrée et de sortie équivalents, des conséquences formulées en langage clair, une confirmation immédiate, un reçu, des points d’arrêt visibles et des modes de classement sélectionnables par l’utilisateur.

flowchart TD
  n1["Sortie en motel à cafards"]
  n2["Friction inégale"]
  n3["Réduction du choix véritable"]
  n4["Consentement éclairé affaibli"]
  n5["Risque de manipulation"]
  n6["Parcours équivalents et réversibilité claire"]
  n1 --> n2
  n2 --> n3
  n3 --> n4
  n4 --> n5
  n5 --> n6

L’opacité des systèmes de recommandation est différente de l’impossibilité totale de les connaître. Les ingénieurs peuvent examiner les objectifs, les données d’entrée et les indicateurs de performance, tandis qu’un utilisateur donné reste incapable de contester un classement particulier. Le problème tient à la possibilité limitée de contester, d’auditer et de contrôler le système #(Recommenders, generative AI, and biometrics, 4 | evidence=ch2-sc2-e2). Parmi les réponses utiles figurent des explications permettant d’agir, des modes de classement chronologique ou sélectionnables par l’utilisateur, des contrôles concernant les sujets sensibles et des audits indépendants. Cela ne signifie pas que tous les systèmes de recommandation favorisent les contenus extrêmes.

L’IA conversationnelle ajoute une pression relationnelle. Une empathie apparente peut instaurer la confiance alors que les incitations commerciales ou l’incertitude restent non déclarées #(Generative AI introduces a distinct risk, 4 | evidence=ch2-sc2-e3). Un assistant plus sûr s’identifie, signale les recommandations sponsorisées, exprime son incertitude, évite les formes de persuasion inadaptées à l’âge et établit des limites pour prévenir la dépendance affective. Une empathie apparente ne prouve pas une compréhension véritable.

La personnalisation biométrique doit rester considérée comme un risque émergent auquel il convient d’être prudent : la dilatation des pupilles, le rythme cardiaque, le regard et les mouvements du visage peuvent indiquer une activation ou une attention, mais ils ne révèlent pas de manière fiable une émotion ou une intention précises #(Biometric personalization should also be framed as an emerging risk, 4 | evidence=ch2-sc2-e4). Un état sensible inféré ne doit pas être traité comme une donnée ordinaire de personnalisation.

La responsabilité de conception consiste à anticiper la manière dont les choix de produit façonnent la capacité d’agir. La responsabilité structurelle étend cette question aux organisations, aux incitations, à l’expertise et aux institutions qui entourent le produit. Les entreprises, les concepteurs, les régulateurs, les enseignants, les utilisateurs et les communautés concernées jouent tous un rôle, mais leurs obligations sont inégales : les acteurs qui disposent de davantage d’informations et de contrôle portent une responsabilité plus grande #(Business models and responsibility, 4 | evidence=ch2-sc2-e6). La responsabilité inclut donc un examen avant le lancement, un suivi après le déploiement, des tests d’accessibilité, la protection des consommateurs et l’attention portée aux effets sur les familles, la santé publique, les communautés et les institutions démocratiques — et pas seulement à l’engagement #(Kroll et al., 2017, Accountable Algorithms).

Conclusion

Appliquez l’évaluation finale en six vérifications liées. À chaque étape, indiquez si l’utilisateur peut comprendre l’influence exercée, la refuser sans subir de pénalité injuste et reprendre le contrôle :

1. Cartographier la fonctionnalité. Identifiez son architecture des choix, les incitations propres à l’économie de l’attention, et déterminez si elle persuade, oriente, manipule ou contraint.
2. Vérifier la compréhension. Examinez les informations fournies, les explications, l’incertitude, les intérêts commerciaux et le consentement éclairé.
3. Vérifier la possibilité d’un refus véritable. Comparez les parcours d’acceptation et de sortie, les pénalités, l’accessibilité, l’adéquation à l’âge et les protections destinées aux utilisateurs vulnérables.
4. Vérifier la réversibilité. Recherchez les possibilités d’annulation et de mise en pause, les signaux d’arrêt, les reçus, les conséquences sur les données et les moyens concrets de reprendre le contrôle après une décision.
5. Vérifier les effets plus larges. Prenez en compte la vie privée, la dépendance affective, l’inférence d’états sensibles, la répartition inégale des charges et les conséquences collectives.
6. Attribuer et suivre les responsabilités. Répartissez les actions en fonction du pouvoir, de l’information et du contrôle détenus par les plateformes, les concepteurs, les régulateurs, les enseignants, les utilisateurs et les communautés concernées.

Les cadres éthiques précédemment étudiés affinent chacun des vérifications différentes : l’approche conséquentialiste identifie les préjudices et leur répartition ; l’autonomie met l’accent sur le consentement et le contrôle ; l’éthique des vertus examine les habitudes et le caractère des institutions ; l’éthique du care souligne la vulnérabilité et la dépendance ; la justice étudie le pouvoir et les effets collectifs. Aucun cadre ne permet à lui seul de trancher tous les cas. Une refonte centrée sur l’humain préserve la commodité légitime tout en réduisant la tromperie, la pression et la dépendance. Pour les futures politiques ou pratiques de conception, le même relevé peut guider les audits, les décisions de gouvernance et les corrections après déploiement. Les systèmes éthiques ne sont pas simplement des systèmes à l’apparence plus conviviale ; ils rendent l’influence visible, le refus équitable et la reprise de contrôle possible.

%HALF left[AI generated]

Conclusion

L’influence peut prendre la forme de persuasion, d’incitation, de manipulation ou de coercition. Le rappel d’apprentissage de Mara soutient un objectif ; un faux compte à rebours capte artificiellement l’attention. La limite repose sur des raisons claires, des alternatives réelles, un consentement éclairé, un refus facile et la réversibilité. Les bannières de cookies, les récompenses variables, la peur de manquer quelque chose (FOMO) et la validation sociale peuvent préserver un choix formel tandis que le pouvoir et la vulnérabilité érodent l’autonomie, la dignité et le bien-être.

Rappelez-vous la limite ; classez un mécanisme qui vous est inconnu, identifiez l’autonomie ou le bien-être affecté, comparez deux cadres éthiques et proposez une mesure de protection proportionnée. Repensez-le pour garantir la transparence et la réversibilité, en attribuant la responsabilité au concepteur, à l’organisation et à la plateforme. Les jugements peuvent différer, mais il faut évaluer les effets probables et protéger un choix véritable.

⟬

1. Quel exemple illustre le mieux une manipulation plutôt qu’une incitation responsable ? A. Un rappel d’apprentissage des langues qui soutient un objectif choisi par l’utilisateur B. Un paramètre par défaut qui peut être facilement modifié sans pénalité C. Un faux compte à rebours de shopping qui crée un sentiment d’urgence artificiel© D. Une recommandation clairement indiquée que l’utilisateur peut librement ignorer Le faux compte à rebours induit les utilisateurs en erreur en présentant une raison trompeuse d’agir dans l’urgence, ce qui interfère avec leur jugement.
2. Pourquoi une bannière de cookies peut-elle n’offrir qu’un choix formel plutôt qu’un choix véritable ? A. La bannière propose à la fois des options d’acceptation et de refus B. Accepter les cookies nécessite un clic, tandis que les refuser exige de parcourir plusieurs écrans déroutants© C. La bannière explique les conséquences dans un langage clair et accessible D. Les utilisateurs peuvent retirer leur consentement aussi facilement qu’ils l’ont donné Un consentement véritable exige un refus équitable. Des parcours inégaux pour accepter et refuser rendent le refus plus difficile et affaiblissent l’autonomie.
3. Qu’est-ce qu’une boucle de validation sociale ? A. Un utilisateur publie ou vérifie un contenu, reçoit un retour incertain, l’interprète comme une approbation et revient chercher à être rassuré© B. Une plateforme supprime définitivement tout retour social de son interface C. Un utilisateur reçoit une récompense garantie après chaque action D. Un créateur communique avec chaque abonné dans le cadre d’une relation personnelle réciproque Les boucles de validation sociale s’appuient sur des retours incertains, comme les mentions « J’aime » ou le nombre d’abonnés, pour encourager les vérifications répétées en quête d’approbation sociale.
4. Comment l’asymétrie du pouvoir influe-t-elle sur la responsabilité éthique dans la conception numérique ? A. Elle décharge les utilisateurs de toute responsabilité B. Elle signifie que toute fonctionnalité persuasive est automatiquement coercitive C. Elle accroît généralement la responsabilité des plateformes, car celles-ci disposent de davantage de données, d’expertise et de contrôle© D. Elle prouve qu’un engagement plus long des utilisateurs leur est toujours bénéfique Lorsque les organisations disposent de connaissances comportementales et d’un contrôle de la conception nettement supérieurs à ceux des utilisateurs, elles assument une responsabilité accrue dans la prévention des influences exploitantes, en particulier envers les groupes vulnérables. ⟭