Quelques exemples
- 2019, 1 an après l’entrée en vigueur du RGPD, Google est condamné à une amende exemplaire de 50 millions d’euros. La CNIL met en cause la politique de gestion des données personnelles de ce géant du web : certes, les utilisateurs consentent à l’utilisation de leurs données, mais sans être clairement informés du traitement qui en sera fait.
- Un autre exemple est le risque de dérive discriminatoire. Il peut surgir dans le développement d’algorithmes « apprenants » : au moment de la phase d’apprentissage lorsque les données mobilisées ne sont pas suffisamment représentatives. Illustration : une école de médecine conçoit un outil technologique d’aide au tri des candidatures. Toutefois, l’outil se base sur les dossiers d’admission des années précédentes, au cours desquelles les femmes et les personnes issues de la migration n’étaient pas représentées. L’outil exclut alors automatiquement les dossiers de candidature de ces personnes, reproduisant les pratiques discriminantes passées
La pratique introduit peu à peu l’importance de pondérer intérêts économiques et enjeux éthiques à l’usage des technologies et systèmes d’information.
Du juste équilibre entre intérêts économiques et enjeux éthiques au maniement de la technologie
L’entreprise, incontestablement, doit innover et ce sont les technologies qui le lui permettent. Exploitation de la data, automatisation intelligente des process, hébergement cloud… ces pratiques stratégiques sont indispensables à l’heure de la transformation digitale. Au-delà de servir la performance de l’entreprise, l’innovation sert les intérêts des consommateurs dont les attentes numériques sont fortes.
La technologie utilisée par Netflix pour recommander des films et séries à l’utilisateur en fonction de ses préférences a contribué au succès de cette plateforme. L’abonné fait une utilisation ludique du service et gagne du temps au moment de faire ses recherches, il est satisfait et conseille la plateforme à son entourage, Netflix accroît rapidement le nombre de ses abonnés – et son CA. Mais l’utilisateur serait-il satisfait d’être envahi par des publicités ciblées sur ses préférences, après commercialisation de ses données personnelles par Netflix ?
Les nouvelles technologies ne doivent pas mener à un usage incontrôlable de la donnée : cette problématique émerge dans un contexte où la technologie a précédé les préoccupations éthiques. Il s’agit alors d’adresser les enjeux métier, tout en respectant les valeurs humaines – et la réglementation croissante…
Le nouveau rôle du responsable SI
D’abord cantonné à un rôle très technique, le responsable SI de l’entreprise doit aujourd’hui adopter une approche plus globale, dans une vision éthique de l’usage des technologies.
#1 Les traitements de données personnelles doivent être strictement encadrés
Le consommateur doit savoir ce qui est fait de ses données, et les maîtriser. À cet effet, le responsable SI :
- Contribue à établir en interne des règles strictes pour préserver la vie privée et les libertés fondamentales du consommateur.
- Met en place une communication externe de manière à rassurer le consommateur sur l’utilisation de ses données personnelles.
- Veille continuellement au respect d’une réglementation mouvante.
#2 L’usage des technologies en interne doit garantir le bien-être des collaborateurs au travail.
La multiplication des technologies pour les usages métier, aussi bénéfique soit-elle, présente des limites.
- Certaines fonctions métier risquent d’être vidées de leur sens.
- Le collaborateur risque d’avoir le sentiment d’être surveillé, et/ou perpétuellement évalué.
Pour éviter ces dérives, le responsable SI doit réfléchir à un usage équilibré de la technologie, en tenant compte de l’humain et en préservant sa part d’autonomie au travail.
#3 La sécurisation de l’architecture SI devient un point d’attention majeur.
La data doit circuler, mais de manière contrôlée. Le système d’information doit être conçu de manière à sécuriser les accès :
- L’entreprise dispose ainsi de données toujours fiables.
- Les données personnelles du consommateur et des collaborateurs sont précieusement gardées.
En adoptant une démarche éthique dans la mise en œuvre du système d’information de l’entreprise, le responsable SI :
- Améliore l’image de marque de l’entreprise, en renforçant la confiance numérique du consommateur.
- Préserve le bien-être au travail, un enjeu majeur pour l’entreprise pour s’adjoindre les meilleurs talents.
- Limite le risque de sanctions en respectant la réglementation.
Sensible à ces enjeux, IMT-BS intègre un module Ethique numérique au sein de son Mastère Spécialisé Conseil et Management des Systèmes d’Information. Son but ? Former des managers innovants et responsables qui guideront les organisations dans la transition numérique.