L’éthique des données et de l’IA dans le secteur du luxe

Un article de Florence Bonnet, partner, TNP, paru dans le livre blanc « Les défis de la transformation de l’industrie du luxe »

 

La génération Y (1985-1995) et la génération Z (1995-2010), qui représenteront plus de 40% du marché global des produits de luxe d’ici 2025, attendent des marques qu’elles gèrent leurs activités de manière durable, éthique et ouverte : le changement climatique est une priorité absolue, la prise en compte de la diversité et de l’inclusion est vue comme une évidence, au même titre que le respect des droits de l’homme et des normes de travail. La génération Z souhaite que l’organisation ait un impact sur la société.

Quant à la Generation Alpha (2010), elle est née avec l’IA et elle vivra avec. Elle fait son premier achat sur internet dès 9 ans et elle a un rapport beaucoup plus émotionnel aux marques : le moindre faux pas est vécu comme une trahison. « Il n’est plus suffisant pour les entreprises de dire qu’elles se soucient de réduire la consommation de ressources et de respecter les personnes ; elles doivent reconnaître qu’il s’agit de nécessités absolues. » François-Henri Pinault, CEO, Kering.

Les générations évoluent mais le luxe aussi se transforme. S’il reste vécu comme un privilège, le luxe est devenu une expérience digitale, hyper personnalisée, sensorielle et émotionnelle dans laquelle les médias occupent une place grandissante. Les marques s’engagent dans un dialogue avec l’ensemble de l’écosystème pour favoriser la cocréation («test-and-learn»), s’engager dans une relation omni-personnelle, développer de nouveaux canaux de distribution de consommateur à consommateur. Grâce aux technologies d’analytics et d’IA et sur la base des données traitées par ce biais, elles peuvent s’adapter à l’unicité de chaque client.

Les principes relatifs à l’éthique doivent donc être pris en considération lors de la conception et de l’utilisation d’algorithmes, en particulier lorsqu’il s’agit de recourir à l’IA pour traiter des données relatives aux clients, aux collaborateurs ou aux candidats. Malheureusement, ni les critères de l’ESG ni les engagements éthiques actuels des entreprises du secteur du luxe ne traitent vraiment ce sujet.

 

Éthique des données et ESG

L’idée de responsabilité sociale suppose que l’entreprise a non seulement des obligations économiques et légales, mais aussi certaines responsabilités envers la société qui vont au-delà de ces obligations » (McGuire, 1963). « La pyramide de la RSE de Carroll est probablement le modèle le plus connu de la RSE » .

Pour évaluer la RSE des organisations, les analyses ESG s’appuient entre autres sur des critères sociaux. On y trouve parfois des indicateurs sur la protection des données et de la vie privée, la diversité, le respect des droits de l’homme et du droit du travail, mais rarement sur l’éthique et encore moins l’éthique des données.

Pourtant, il s’agit bien de protéger les individus en encadrant le traitement d’informations qui définissent qui ils sont (leurs habitudes, faiblesses, désirs, croyances, relations, « haut potentiel client»…), qui peuvent servir à leur offrir des expériences uniques et des opportunités gratifiantes, mais qui peuvent aussi être utilisées à leur insu.

 

L’éthique des données dans le luxe

Dans les codes et chartes éthiques des entreprises du luxe, l’utilisation des données est généralement abordée sous le seul angle de la conformité. Or, les lois ne progressent pas au même rythme que l’innovation et le cadre législatif existant ne permet pas de traiter tous les risques liés aux nouvelles pratiques. À titre d’exemple, de nombreuses études ont montré qu’il était facile de manipuler une personne dans le monde digital ou de la priver de réels choix : il est possible de lui adresser des messages ultra ciblés (nanotargeting) en fonction de ses caractéristiques psychologiques (émotions, sentiments, comportements) et de ses motivations, de recourir aux techniques de nudge, de créer un environnement média addictif ou de capter son attention à l’aide d’algorithmes.

 

 L’éthique des données et de l’IA, un levier pour renforcer la confiance vis-à-vis des acteurs du luxe

Le futur règlement européen sur l’IA, qui combine droit et éthique, ne sera pas applicable avant 2024. Il concernera les systèmes à risques très élevés ou inacceptables, tels que l’usage de l’IA dans le secteur de l’emploi, les solutions biométriques ou même les Chatbots.

En peu de temps, l’IA s’est invitée à l’ordre du jour de la plupart des autorités dans le monde. Le 29 septembre 2021, l’administration du cyberespace chinois a publié un avis sur le renforcement de la réglementation sur les algorithmes sur Internet dont l’objectif est non seulement de protéger les droits et intérêts légitimes des internautes mais aussi de promouvoir des normes écologiques algorithmiques.

Au-delà de la conformité, l’éthique des données est un état d’esprit, c’est le reflet de valeurs qui ne sont jamais neutres, d’autant plus dans des contextes culturels très différents.

C’est aussi une opportunité qui permet de légitimer l’innovation dans une relation de confiance. En d’autres termes, le consommateur peut s’autoriser d’être vulnérable sans craindre que sa marque préférée exploite ses vulnérabilités.

Mais, aujourd’hui, les individus n’ont pas confiance dans la capacité des entreprises privées à faire face aux dilemmes éthiques que pose l’IA. Selon une récente enquête IFOP, seul 1/3 des répondants pensent que les algorithmes représentent des opportunités grâce à l’accès à des services plus personnalisés, tandis que 2/3 les voient comme une menace.

 

Le plan stratégique des acteurs du luxe avec les enjeux de l’éthique des données et de l’IA

L’engagement du Comex est essentiel au succès de la dé[1]marche. Il s’agira de définir le niveau de maturité de l’organisation et de mettre en place une gouvernance en cohérence avec ce qui existe en matière de RSE et de protection des données personnelles. Un comité devra s’assurer de la mise en œuvre d’une charte éthique, de la formation des collaborateurs, du respect des protocoles à tous les stades des projets pour respecter les principes définis (principes de neutralité, équité, transparence, diversité, respect de la vie privée, explicabilité/intelligibilité, responsabilité, loyauté, robustesse technique et sécurité, intervention et contrôle par l’humain, respect du bien être sociétal et environnemental), de suivre le radar des projets en cours et de l’implémentation d’outils et de bonnes pratiques.

Enfin, il sera intéressant de définir des indicateurs clés de performance basées sur la confiance, tel que « le nombre de clients faisant confiance aux décisions de l’IA » pour mieux mesurer la confiance des clients et communiquer sur les engagements de l’entreprise en matière d’éthique des données