UL Standards & Engagement anuncia una colaboración con el Consejo de Normas de Canadá para ayudar a abordar los riesgos de la IA en la atención sanitaria y la informática sanitaria  

Ottawa, Canadá – Hoy, UL Standards & Engagement anunció el lanzamiento de un nuevo documento de orientación desarrollado en colaboración con el Consejo de Normas de Canadá que examina los impactos de la inteligencia artificial en la salud, la informática sanitaria y el bienestar humano en general.  

El año pasado, la SCC seleccionó a ULSE para reunir a los interesados y liderar el desarrollo del documento. El documento resultante se basó en la convocatoria de expertos de las comunidades de salud, tecnología y estándares para examinar las oportunidades y desafíos emergentes asociados con la IA. El documento, titulado “Workshop Agreement”, establece un marco para facilitar el desarrollo de estándares en estas áreas.  

El documento identifica los riesgos, oportunidades y áreas emergentes en las que los estándares y las directrices pueden ayudar a respaldar el desarrollo y el uso responsable de la IA en aplicaciones que afectan la salud y el bienestar humanos. La iniciativa forma parte del programa más amplio de SCC para la normalización de la inteligencia artificial y la gobernanza de los datos, lanzado en respuesta a la Carta Digital de Canadá y al Plan de normalización de la gobernanza de los datos canadienses.  

El Acuerdo de taller es un esfuerzo en fase inicial para avanzar hacia nuevas iniciativas de seguridad, incluidas oportunidades para el desarrollo de normas. Las recomendaciones específicas del acuerdo incluyen: 

• Mayor transparencia de los sistemas y/o conjuntos de datos de inteligencia artificial en el ámbito de la salud y el bienestar. 
• Desarrollo de evaluaciones de sistemas de IA más significativas desde el punto de vista clínico. 
• Orientaciones sobre interacciones más seguras con chatbots generativos de IA. 

“A medida que la inteligencia artificial y otras tecnologías emergentes evolucionan, es fundamental anticiparnos a los riesgos para la seguridad que puedan generar”, afirmó Glauci Fernandes, gerente sénior de programas de estándares de UL Standards & Engagement. “Este trabajo es el inicio de cómo podemos incorporar diversas perspectivas para desarrollar una guía práctica y de futuro que apoye un uso y desarrollo más responsables de la inteligencia artificial en salud y bienestar”.” 

Como parte de su colaboración con SCC, ULSE realizó una revisión de la literatura y un análisis de riesgos que examina los posibles riesgos asociados a la intersección entre la inteligencia artificial y la salud humana. En junio, ULSE convocó un taller en el que se reunieron expertos en la materia, representantes de la industria y otros interesados de 19 organizaciones. El documento de orientación se basa en esta labor al ofrecer un conjunto claro de directrices y destaca la necesidad de estándares basados en el consenso a medida que la tecnología de inteligencia artificial evoluciona.  

“Las conclusiones generadas a través de este trabajo proporcionan una valiosa base para un diálogo continuo y oportunidades claras de colaboración en estándares que contribuirán a la seguridad de la IA en la atención sanitaria y más allá”, dijo Noel Corriveau, gerente de políticas y programas de inteligencia artificial, servicios de normalización en el Consejo de Normas de Canadá.  

El documento puede ser consultado aquí.