UL Standards & Engagement annonce une collaboration avec le Conseil des normes du Canada pour aider à remédier aux risques liés à l’IA dans les soins de santé et l’informatique médicale  

Ottawa, Canada – Aujourd’hui, UL Standards & Engagement a annoncé la publication d’un nouveau document d’orientation élaboré en partenariat avec le Conseil des normes du Canada, qui examine les impacts de l’intelligence artificielle sur les soins de santé, l’informatique médicale et le bien-être humain en général.  

ULSE a été sélectionnée l’année dernière par SCC pour réunir les parties prenantes et diriger le développement du document. Le document issu de cette démarche a été élaboré en consultation avec des experts issus des communautés de la santé, de la technologie et des normes, afin d’examiner les opportunités et les défis émergents liés à l’IA. Le document, intitulé « Workshop Agreement », définit un cadre pour faciliter le développement des normes dans ces domaines.  

Le document identifie les risques, les opportunités et les domaines où les normes et les directives peuvent contribuer à soutenir le développement et l’utilisation responsables de l’IA dans les applications ayant un impact sur la santé et le bien-être des personnes. Cette initiative fait partie du programme plus large de SCC en matière de normalisation de l’intelligence artificielle et de la gouvernance des données, lancé en réponse à la Charte numérique du Canada et au Cadre de normalisation de la gouvernance des données du Canada.  

L’accord de l’atelier est une initiative à un stade précoce visant à aller de l’avant dans les efforts de sécurité, notamment en proposant des possibilités de développement de normes. Les recommandations spécifiques contenues dans cet accord comprennent : 

• Une meilleure transparence des systèmes et/ou des ensembles de données d’IA dans le domaine de la santé et du bien-être. 
• Développement de systèmes d'IA plus significatifs cliniquement. 
• Conseils pour des interactions plus sécuritaires avec les chatbots génératifs utilisant l’IA. 

“ Au fur et à mesure que l’IA et d’autres technologies émergentes évoluent, il est crucial de prévoir les risques pour la sécurité qu’elles peuvent engendrer ”, a déclaré Glauci Fernandes, responsable des programmes de normes chez UL Standards & Engagement. “ Ce travail constitue le début de la manière dont nous pouvons réunir des perspectives diverses pour élaborer des orientations pratiques et anticipatrices visant à favoriser une utilisation et un développement plus responsables de l’IA dans le domaine de la santé et du bien-être ”.” 

Dans le cadre de son mandat auprès de SCC, ULSE a réalisé une étude de la littérature et une analyse des dangers visant à examiner les risques potentiels liés à l’intersection de l’IA et de la santé humaine. En juin, ULSE a organisé un atelier réunissant des experts de la matière, des représentants de l’industrie et d’autres parties prenantes issues de 19 organisations. Le document d’orientation s’appuie sur cette étude en fournissant un ensemble de directives claires et souligne la nécessité de normes fondées sur le consensus au fur et à mesure que la technologie de l’IA évolue.  

“ Les connaissances issues de cette étude constituent une base précieuse pour un dialogue continu et des possibilités claires de collaboration sur des normes qui contribueront à la sécurité de l’IA dans le domaine de la santé et au-delà ”, a déclaré Noel Corriveau, responsable des politiques et programmes en matière d’IA, des services de normalisation au sein du Conseil des normes du Canada.  

Le document peut être consulté ici.