Artículo original: Geis, J.R., Brady, A., Wu, C.C. et al. Ethics of artificial intelligence in radiology: summary of the joint European and North American multisociety statement. Insights Imaging 10, 101 (2019).
DOI: https://doi.org/10.1186/s13244-019-0785-8
Sociedad: ESR @myESR
Palabras clave: Ethics, Artificial Intelligence, Radiology, Machine Learning, Data
Abreviaturas: Inteligencia Artificial (IA), Machine Learning (ML), European Society of Head and Neck Radiology (ESHNR)
Línea editorial del número:
Durante el mes de octubre, la revista Insights Into Imaging publicó dos artículos dedicados la inteligencia artificial, el libro de abstracts del congreso de la European Society of Head and Neck Radiology (ESHNR), una revisión de casos sobre el uso de la TC de alta resolución en el oído con supuración crónica, otra revisión dedicada a la interpretación de plastias de hombro y un original sobre la detección de la pérdida parcial de la estriación hipocampal.
Motivos para la selección:
Cada vez que entra a debate la Inteligencia Artificial, la discusión está servida, son muchas las dudas y escasas las certezas. El posicionamiento de las sociedades científicas sobre este asunto debe guiar la producción científica y la investigación relativa al imparable avance de la IA en la clínica. La mayoría de veces quedamos absortos por el potencial tecnológico y la diversa aplicabilidad de la IA. No obstante, es imprescindible traer a colación las implicaciones éticas en el desarrollo e implementación de esta tecnología. No se puede obviar las consecuencias profesionales, e incluso sociales, que puede acarrear semejante revolución. Por todo esto, he valorado interesante revisar este documento.
Resumen:
Esta publicación es en realidad un resumen condensado de un posicionamiento más profundo y extenso firmado por el American College of Radiology (ACR), la European Society of Radiology (ESR), la Radiological Society of North America (RSNA) y otras sociedades relevantes de física e informática médica.
En la introducción, el artículo menciona algunas de las potenciales ventajas de la implementación de la inteligencia artificial, entre las que destaca: mejorar drásticamente la precisión diagnóstica y la sensibilidad y especificidad de los diagnósticos, disminuir costes y mejorar la pericia de los radiólogos. Otro posible resultado sería aumentar la eficiencia y consistencia de la interpretación de las imágenes y la guía en las decisiones clínicas. No obstante, no se debe obviar que la inteligencia artificial puede alterar las relaciones entre profesionales, repercutir en la confianza de los pacientes en los sistemas de salud, modificar la jerarquía del conocimiento e impactar en el mercado laboral.
Por otro lado, la IA es altamente compleja y puede magnificar los sesgos en la interpretación o multiplicar posibles pitfalls. Podría incluso existir la posibilidad de aumentar el perjuicio y la incidencia de errores con grandes consecuencias. Se hace necesario aumentar la investigación centrada en la aplicación clínica de la IA. El nuevo rol del radiólogo debería ser conseguir cuanto sea posible del uso ético de la IA en beneficio del paciente. Ese beneficio debería ser repartido de la forma más justa posible, teniendo en cuenta los diversos contextos económicos y la fluctuante facilidad de acceso a estos recursos entre la población. El gran desafío consiste en que, se está aprendiendo sobre la ética de la IA, a la vez que se implementa en la clínica. Este consenso pretende centrar el foco en tres aspectos fundamentales; la ética del uso de datos, la ética de la implementación de los algoritmos y la ética de la práctica clínica de la IA.
Ética en el uso de datos: en este punto se incluye la protección de datos, la privacidad de los mismos y el consentimiento informado. Existe un dilema entre la transparencia que necesariamente tiene que existir y el derecho a la privacidad e intimidad del propio paciente. El uso de datos está condicionado por el principio de no producir daño, directo o indirecto, y la máxima de que sea de utilidad para el paciente. La tecnología de la IA y el machine learning, se basan en una retroalimentación constante en base a etiquetado de datos, dicho etiquetado debe ser justo y libre de sesgos. La posible parcialidad aprendida también podría suponer una importante amenaza ética. También la pérdida de información entre la adquisición de los datos, la reconstrucción de los mismos y la evaluación por medio de la IA. Algunas preguntas clave serían; ¿Como se informará al paciente sobre el uso de sus datos? ¿Como se documentará el uso de datos personales para entrenar algoritmos de IA? ¿Cómo y por quién se generarán las etiquetas de la información? ¿Cuales son los riesgos que podrían surgir si los datos tuviesen sesgados?.
Ética de los algoritmos: la toma de decisiones es un camino transcurrido entre múltiples paradas con distintas opciones. En el caso de los humanos, estas decisiones están ponderadas por conocimientos, creencias y preferencias. Aunque la IA es un pensamiento robot, en el diseño e implementación participan humanos que pueden trasladar sus preferencias y creencias a un sistema inflexible. El sesgo humano parece no escapar de la IA. Aunque la IA tiene unos resultados excelentes en la clasificación de patrones, no hay que olvidar que en su diseño, entrenamiento y aprendizaje, intervienen humanos. La transparencia también parece fundamental en el diseño de los algoritmos de IA. Cuando un algoritmo falla, es necesario poder saber en qué punto del proceso de decisión ocurrió el error. En este mismo sentido, los modelos tienen que ser comprensibles y debe ser factible explicar su funcionamiento de manera clara, de lo contrario, el principio de transparencia no será viable. Paradójicamente, los modelos actuales que son más fácilmente comprensibles, son los que tienen un desempeño más pobre. Otra amenaza ética es que la producción de algunos algoritmos de IA pueden construirse con relativa facilidad, lo que puede favorecer que desarrolladores inexpertos crean y entrenen algoritmos poco fiables. Esto hace imprescindible extender el código ético a todos los niveles, desde el desarrollo hasta la valoración clínica. Algunas preguntas para pensar; ¿Somos capaces de explicar claramente de qué manera un algoritmo de IA predice resultados y toma decisiones? ¿Cómo podemos asegurar que el riesgo de sufrir ataques informáticos que alteren los resultados sea el mínimo? ¿Como se monitorizará el desempeño de los modelos de IA en la clínica para asegurar que no se degradan con el tiempo?
Ética en la práctica: los valores éticos deben controlar la implementación de la IA en la clínica. Un aspecto relevante es el “sesgo de automatización” que consiste en dar prioridad a la valoración hecha por máquinas cuando ésta entra en conflicto con un criterio humano. Esto podría llevar a errores de omisión y de comisión. Este riesgo podría aumentar en zonas poco pobladas donde no exista un radiólogo que valide o rectifique los resultados. ¿Hasta qué punto se podrá delegar en la IA la toma de decisiones que podrían redundar en un perjuicio? ¿Quien responderá ante esta situación? los fabricantes y proveedores de IA deben considerar estas preguntas también. Por otra parte, si los hospitales y centros de salud más precarios no tienen acceso a estos recursos ¿Supondrá ello un agravio ético para sus poblaciones de referencia? ¿Podría este aspecto aumentar la ya importante brecha en el acceso a los recursos de salud?
Valoración personal:
Personalmente he disfrutado con esta revisión, creo que es imprescindible que las sociedades científicas demuestran estar trabajando sobre este tema y generen conciencia ante el inminente y presumiblemente masivo desembarco de la IA. Considero que se trata de un extracto que condensa los aspectos más relevantes aunque evita entrar más profundamente en temas escabrosos como la repercusión de la IA en la organización de los servicios de diagnóstico por imagen o la necesidad de contar con un equipo multidisciplinario más complejo de integrar. Para acabar, me gustaría recalcar que este tema necesita una discusión a nivel local, ya que los valores sociales, los estándares de bienestar y el contexto cultural pueden modificar muchas de las consideraciones que en él se vierten.
Rodrigo García Gorga
Hospital Universitari Parc Taulí de Sabadell, TSIDMN
rgarciag@tauli.cat, @GorgaRodrigo
Soy TSID/MN, trabajo en Medicina Nuclear y como docente en un instituto de formación profesional en Barcelona. Desde marzo 2018 también integro el comité de Medicina Nuclear de la European Federation of Radiographer Societies (EFRS). Me encanta mi profesión y la entiendo como una misión en equipo. Compartir y recibir, enseñar y aprender. Perfil en Twitter: @GorgaRodrigo Perfil en Facebook: https://www.facebook.com/rodrigo.garciagorga
cbseram.com 
Deja una respuesta