La confiance dans les technologies numériques est une «erreur»
L'équipe du Prof. Peter Schaber du Centre d'éthique de l'Université de Zurich s'est penchée sur la question de la confiance dans les processus de digitalisation et propose d'adopter une attitude différente envers les technologies numériques.
Les processus de digitalisation créent des incertitudes. Néanmoins, nous voulons en bénéficier. La confiance dans la technologie est donc essentielle, selon un argument fréquent. Mais pouvons-nous vraiment faire confiance aux structures numériques ? Ces questions et d'autres ont été posées par l'équipe de recherche autour du Prof. Peter Schaber du Centre d'éthique de l'Université de Zurich.
Le projet de recherche poursuivait deux objectifs :
- Les structures numériques telles que les algorithmes sont-elles dignes de confiance et comment devrions-nous nous comporter à leur égard si ce n’est pas le cas ?
- Comment la digitalisation affecte-t-elle nos relations non numériques et comment les processus numériques devraient-ils être conçus pour conserver ou renforcer la confiance ?
Le résultat le plus important
L'équipe de recherche zurichoise a pu démontrer qu'il s'agit d'une erreur catégorique catégorie de parler de « confiance numérique » : dans le contexte des choses, le concept de confiance n'a pas de sens. Au lieu de cela, nous devrions nous concentrer sur la fiabilité des technologies numériques et explorer la question de savoir comment et par quels moyens nous devrions nous efforcer d’atteindre leur fiabilité.
En ce qui concerne le deuxième objectif, l'équipe de recherche du professeur Peter Schaber s'est concentrée sur les conséquences des médias sociaux sur le fonctionnement des systèmes démocratiques. La « confiance démocratique » est la capacité des citoyens à adopter le point de vue de leurs concitoyens et à communiquer leur propre position politique d'une manière compréhensible. Dans ce contexte, les chercheurs ont pu prouver que la communication numérique, et en particulier les réseaux sociaux, peut affaiblir la confiance démocratique (voir : Trois messages principaux).
Importance pour la politique et la pratique
À la suite de leur étude, les chercheurs suggèrent une discussion sur le degré de fiabilité nécessaire selon le contexte. Cela pourrait avoir un impact sur la réglementation de la technologie.
Les chercheurs ont appliqué les connaissances théoriques acquises sur le thème de la confiance dans les processus numériques à des domaines spécifiques. Deux recommandations du Prof. Peter Schaber pour la pratique sont les suivantes :
« Pour les médecins et le personnel médical, il est beaucoup plus important de prendre soin des relations interpersonnelles avec les patients que de comprendre le fonctionnement d'un algorithme d'apprentissage automatique particulier. »
« Les ingénieurs logiciels qui se soucient du bien-être des utilisateurs (et de la société dans son ensemble) seraient bien avisés de sacrifier parfois l'efficacité des algorithmes pour permettre une interaction directe et personnelle qui ne réduit pas les utilisateurs à des groupes de caractéristiques spécifiques. »
Trois messages essentiels
- C'est une erreur catégorique de prétendre que l'on fait confiance à un outil numérique, au mieux on peut s'y fier. Cette attitude nous aide à prévenir une humanisation dangereuse de la technologie qui ne profite qu'à l'industrie.
- En médecine, il faut saluer l'utilisation d'algorithmes d'IA, notamment dans le cadre du diagnostic médical. Puisque notre objectif principal est d'assurer la fiabilité des algorithmes d'IA, nous devrions avoir une discussion ouverte sur ce que nous attendons (ou non) de l'IA médicale.
- En médecine, il faut saluer l'utilisation d'algorithmes d'IA, notamment dans le cadre du diagnostic médical. Puisque notre objectif principal est d'assurer la fiabilité des algorithmes d'IA, nous devrions avoir une discussion ouverte sur ce que nous attendons (ou non) de l'IA médicale.
Concernant la manière dont les chercheurs ont procédé méthodologiquement et pour plus de détails sur le projet de recherche, vous pouvez consulter le site web du projet PNR 77:
Est-il raisonnable de se fier aveuglement aux applications digitales?
D’autres projets de recherche sur le thème « Transformation numérique » dans le cadre du Programme national de recherche PNR 77 sont disponibles ici :