Comment garantir une collaboration fructueuse avec l’intelligence artificielle?

De quelle manière l’intelligence artificielle (IA) modifie-t-elle les systèmes de travail, les tâches, les rôles et la collaboration au sein des services ? Pour procéder à ses investigations, l’équipe de recherche s’est appuyée sur l’exemple du secteur de la santé, en particulier des unités de soins intensifs (USI) qui offrent un contexte de recherche optimal dans la mesure où les opportunités et les risques que présente la collaboration avec l’IA y sont particulièrement élevés. A travers six études rassemblant plus de 1101 soignant·es, médecins, étudiant·es en médecine, scientifiques des données et développeurs d’IA, elle est parvenue à la conclusion que concevoir de futurs systèmes de travail intégrant l’IA pouvait améliorer la satisfaction et le bien-être du personnel médical, à condition que les forces et faiblesses respectives des êtres humains et de l’IA se conjuguent de manière optimale. En réduisant les tâches administratives ou en facilitant la résolution de problèmes, une telle innovation serait susceptible de compenser en partie la pénurie de personnel qualifié. L’équipe de recherche a par ailleurs constaté que l’utilisation de l’IA influençait non seulement la collaboration personne-machine, mais aussi des processus humains fondamentaux ayant trait au partage de connaissances, aux formes de communication ainsi qu’à la résolution de problèmes. Les résultats recueillis ont d’importantes implications pratiques, notamment en ce qui concerne le développement de nouvelles approches en matière de travail d’équipe, la gestion des équipes humains-IA et les directives décisionnelles relatives à la mise en œuvre de l’IA dans les secteurs à haut risque comme l’aviation ou l’économie financière.

L’intégration croissante de l’IA aux systèmes professionnels modifie fondamentalement le monde du travail. L’automatisation des tâches et des processus basés sur l’IA peut potentiellement augmenter la productivité, améliorer les processus décisionnels et atténuer la pénurie de main-d’œuvre qualifiée. On ne peut toutefois présumer que cela améliorera automatiquement les performances humaines, car les systèmes présentant des défauts de conception sont susceptibles entraîner des contraintes supplémentaires et de rendre difficile une introduction réussie. Il est donc nécessaire d’étudier de manière approfondie comment l’IA peut améliorer efficacement les conditions de travail et comment les êtres humains peuvent collaborer efficacement avec l’IA.

Ce projet visait à mieux comprendre comment l’être humain et l’IA peuvent collaborer efficacement dans le cadre de systèmes complexes et à haut risque. Grâce à six études quantitatives et qualitatives intégrant différentes perspectives des parties prenantes, l’équipe de recherche a examiné comment l’IA contribue à créer des conditions de travail saines et motivantes et permet au tandem personne-machine d’obtenir de meilleurs résultats que les êtres humains ou l’IA séparément.

Les connaissances clés acquises sur les nouvelles exigences que posent les équipes personne-machine en matière d’organisation du travail et de collaboration, ainsi que sur les profils de compétences requis pour la formation initiale et continue des professionnel·les concernés, ont été résumées sous forme de lignes directrices et de recommandations à l’intention de la pratique et la politique. Ces informations devraient faciliter l’exploitation des opportunités offertes par l’IA et permettre de réagir de manière appropriée aux risques liés à sa mise en œuvre dans le secteur de la santé et d’autres environnements de travail à haut risque. De futures recherches pourront examiner comment l’IA pourrait être dotée de capacités de collaboration plus avancées, par exemple en ce qui concerne le lien entre l’intelligence artificielle et la robotique. Les résultats obtenus s’avèrent non seulement pertinents pour le secteur de la santé, mais aussi dans tous les domaines où des personnes utilisent l’IA dans le cadre de leur travail.

Trois messages essentiels

1. L’IA est potentiellement susceptible d’améliorer la satisfaction, la motivation et le bien-être des professionnel·les de santéet d’atténuer la pénurie de personnel qualifié. Toutefois, cela ne deviendra réalité que si de nouvelles tâches, rôles et pratiques collaboratives sont développés en intégrant les forces et faiblesses respectives des êtres humains et de l’IA. Ne pas tenir compte des formes optimales que peut revêtir la collaboration personne-machine pourrait entraîner des risques notables en matière de sécurité et de performance. Il conviendra notamment de faire preuve de vigilance face à l’excès de confiance, la complaisance, la conscience situationnelle limitée et la perte de savoir-faire. Des directives pratiques devront dès lors définir des règles claires en matière de responsabilité et de contrôle, en particulier dans les situations où l’IA s’avère certes très performante, mais n’est pas complètement interprétable et donc pas vraiment contrôlable.
2. L’IA modifie la façon dont les équipes communiquent et résolvent les problèmes : la collaboration personne-machine peut ainsi influencer non seulement la manière dont les membres de l’équipe interagissent avec l’IA, mais aussi les uns avec les autres. Intégrer l’IA comme «sparring partner» neutre dans la base de connaissances de l’équipe favorise l’émergence de nouvelles idées et les échanges entre les membres. Un système d’IA peut donc contribuer à lever les hiérarchies rigides et les dynamiques d’équipe négatives, telles que le biais de confirmation et la pensée de groupe, et encourager les membres de l’équipe à envisager des alternatives et à exprimer plus librement leurs réticences.
3. Instaurer une collaboration efficace entre l’être humain et l’IA requiert de nouvelles compétences qui dépassent largement les aspects technologiques. Les programmes de formation destinés au personnel médical et infirmier et la formation professionnelle continue en milieu hospitalier doivent se focaliser sur le développement de la capacité à collaborer avec une IA comme nouvelle compétence clé. La manière de calibrer correctement la confiance dans l’IA (ni trop ni pas assez), de communiquer avec elle et au sein de l’équipe et de prendre des décisions conjointement en sont quelques exemples. Les cadres doivent apprendre à gérer ces nouvelles formes de collaboration personne-machine, notamment en ce qui concerne la perte de connaissances spécialisées. Il ne s’agit plus seulement d’utiliser un outil technique, mais d’orchestrer une équipe mixte composée d’êtres humains et de machines intelligentes.

From Tools to Teammates: Human-AI Teaming Success Factors in High-risk Industries