Me cultiver

Faîtes le plein d'inspiration sur les domaines de la Data et de l'IA

Je m'abonne
Accueil   >   Blog   >   La data éthique : nouvel enjeu de la tech ?

La data éthique :
nouvel enjeu de la tech ?

Enjeux

Chaque jour, 2,5 quintillions d’octets de données sont générés dans le monde. Même si chaque octet suit un parcours qui lui est propre, la data passe souvent par un parcours complexe : de sa génération par un utilisateur, à sa collecte, puis à son traitement, son analyse…. Avant de finir par orienter l’action d’une entreprise ou d’une organisation, sur les conseils d’un data scientist ou data engineer.

Si sur le papier, ce cycle de vie de la donnée peut paraître innocent, de plus en plus d’utilisateurs ont la sensation d’être épiés sur le web. De l’enregistrement des discussions sur les réseaux sociaux au tracking de leur comportement sur le moindre site internet visité… Souvent, les internautes ont la désagréable impression que quelqu’un regarde par-dessus leur épaule.

Et à l’ère du Big Data, il ne s’agit pas que d’une impression. Entre catalyseur de croissance pour les uns et harcèlement virtuel pour les autres, l’enjeu de l’usage des données est de plus en plus pressant. Mais comment rendre sa data éthique ? Telle est la question ! Dans cet article, nous vous proposons d’explorer cet enjeu des années à venir…

Le Big Data : avantages et défis éthiques

Le big data : un levier de transformation

Le Big Data est généralement présenté comme un puissant levier de transformation des entreprises et plus globalement, de la manière dont nous collectons et analysons l’information.

Les changements sociétaux et économiques profonds rendus possibles par le volume colossal de données dont nous disposons sont aujourd’hui partie intégrante de notre quotidien.

De la finance à la santé, sans oublier la recherche environnementale ou les statistiques démographiques, le même adage s’applique : knowledge is power. Et plus les connaissances sont nombreuses, plus grand est notre pouvoir.

Les défis éthiques du big data

Mais ces effets positifs ne doivent pas faire oublier les défis complexes et multidimensionnels que pose le Big Data en matière d’éthique.

Prenons un exemple : celui du secteur de la santé. La donnée est aujourd’hui un instrument clé de prévision des risques épidémiques, de personnalisation des traitements ou de suivi des patients.

Mais la collecte de données, l’usage qui en est fait ainsi que leur propriété sont également des sujets de préoccupation valides. Comment respecter le secret médical dans un tel contexte ?

Et à l’inverse, comment s’assurer de disposer des données qui peuvent se révéler vitales pour un patient tout en garantissant que son consentement ait bien été donné à chaque étape de son traitement ?

Nos formations Big Data

Des grands pouvoirs… et de plus grandes responsabilités

Ces dernières années, le débat autour de l’éthique de la donnée s’est concentré sur des préoccupations concernant notamment le respect de la vie privée.

L’anonymisation de la data (via son cryptage), mais aussi l’usage qui en est fait par des technologies de plus en plus autonomes (on pense au machine learning et à l’intelligence artificielle) ajoutent de nouvelles couches de complexité.

Dans un monde de plus en plus globalisé, la question de la propriété de la donnée est également cruciale. Différentes entités se sont mis en tête de créer un cadre légal afin d’assurer un usage éthique des données. C’est le cas par exemple de l’Europe.

Le CEPD (Contrôleur Européen de la protection des données) a ainsi reconnu que l’émergence des mégadonnées s’accompagne d’une grande responsabilité. Par conséquent, des garanties appropriées en matière de protection des données doivent être mises en place.

Encore faut-il que chaque acteur qui manipule la donnée tout au long de son cycle de vie les respecte…

Qu’entend-on par data éthique ?

Data éthique : définition

Face à de tels enjeux (et à leurs conséquences juridiques, ou en termes d’image), la question de l’éthique des données a pris une place de plus en plus importante. Elle englobe à la fois des obligations légales, ainsi que morales. Une sorte de charte de bonne conduite guidant chacune de ses parties prenantes.

Mais au-delà des vœux pieux, un usage responsable du numérique passe avant toute chose par une gouvernance éthique. Avec un volume aussi colossal de données collectées et un éclatement des usages et des responsabilités, le risque est que chacun agisse dans son coin, avec sa propre morale.

L’éthique des données est donc autant une philosophie encadrant la manière dont la data est utilisée qu’une évaluation objective des pratiques en matière de données. De la collecte à la structuration, en passant par l’analyse et la diffusion, la question est de savoir si ces pratiques peuvent avoir un impact négatif sur les individus et la société.

Un excellent contre-exemple est celui de la manipulation des données collectées par Meta pour influencer les débats et le résultat des élections présidentielles américaines. Mais la data éthique englobe des questions beaucoup plus larges et complexes. On pense par exemple à la sécurité des données, à leur véracité ou encore leur impact écologique.

Comment adopter la data éthique : les 5 principes à respecter

Les cadres éthique et juridique n’évoluent malheureusement pas aussi rapidement que l’usage qui est fait du Big Data. L’ampleur et la facilité avec laquelle nous collectons et analysons la donnée sont sans précédent. Et il y a fort à parier pour qu’elle nous paraisse ridicule dans quelques années.

La data éthique se situe donc dans un flou juridique : une zone grise de ce qui est bien ou mal. Néanmoins, les experts s’accordent pour dégager plusieurs principes à respecter pour un usage plus éthique de nos données.

1. La propriété : un ingrédient essentiel de la data éthique

Le premier principe de la data éthique consiste à définir clairement le fait qu’un individu reste propriétaire de ses données personnelles. C’est d’ailleurs dans ce sens que vont les actes de régulation des données comme la RGPD ou le Digital Market Act.

Il doit donc être contraire à l’éthique (et même illégal) de collecter les données personnelles sans consentement. Pour une entreprise, cela implique de ne jamais présumer qu’un client est d’accord pour que vous collectiez ses données. Demandez-lui systématiquement sa permission.

2. La transparence

Les propriétaires des données doivent également savoir comment vous prévoyez de les collecter, stocker et utiliser. La transparence est ainsi un composant essentiel de la data éthique.

Elle se traduit concrètement par la rédaction d’une politique expliquant comment vous utilisez les cookies, stockez et protégez les données, etc.

3. La confidentialité

Même si un client autorise votre entreprise à collecter, stocker et analyser ses informations personnelles identifiables (PII), cela ne signifie pas pour autant qu’il vous autorise à les communiquer à un tiers. Une bonne politique de confidentialité passe par une protection rigoureuse des données (double authentification, cryptage des fichiers, etc.)

4. L’intention (noble, si possible)

L’usage que vous comptez faire des données compte énormément en matière de data éthique. De bonnes intentions peuvent par exemple être d’améliorer votre expérience client ou la conception de vos produits.

5. Les résultats

Même si vos intentions sont bonnes, le résultat de l’analyse de vos données peut causer des dommages involontaires. C’est ce que l’on appelle l’impact disparate. On pense par exemple aux données collectées par les applications de rencontre et aux biais racistes ou misogynes qu’elles ont créés dans leur algorithme de matching…

 

À vous de vous assurer de ne pas tomber dans ces pièges, pour garantir l’aspect éthique de vos données ! Vous souhaitez vous former à la protection des données ? LePont propose deux formations : Data Protection Officer et référent RGPD ainsi que DPO gérer la data privacy dans le monde pour que vous puissiez acquérir toutes les compétences d’un Data Protection Officer.

Cela pourrait vous intéresser

Connect

Pour recevoir nos derniers articles sur la Data et l'Intelligence Artificielle, abonnez vous à Connect, l’email qui fait du bien à vos données.

Le Pont Learning