La adopción de la IA en la atención sanitaria será lenta y difícil

La inteligencia artificial, incluido el aprendizaje automático, presenta oportunidades apasionantes para transformar los espacios de la salud y las ciencias de la vida. Ofrece perspectivas tentadoras para una toma de decisiones clínicas más rápida y precisa y una capacidad de I+D ampliada. Sin embargo, sigue habiendo cuestiones abiertas en torno a la regulación y la relevancia clínica, lo que hace que tanto los desarrolladores de tecnología como los inversores potenciales se debatan sobre cómo superar las barreras actuales a la adopción, el cumplimiento y la implementación. He aquí los principales obstáculos a tener en cuenta y cómo abordarlos: Desarrollo de marcos normativos. En los últimos años, la Administración de Alimentos y Medicamentos de Estados Unidos (FDA, por sus siglas en inglés) ha ido dando pasos graduales para actualizar su marco regulador con el fin de mantenerse al día con el rápido avance del mercado de la salud digital. En 2017, la FDA publicó su Plan de Acción de Innovación en Salud Digital para ofrecer claridad sobre el papel de la agencia en el avance de las tecnologías de salud digital seguras y eficaces, y abordar las disposiciones clave de la Ley de Curas del Siglo XXI. La FDA también ha estado inscribiendo a desarrolladores selectos de software como dispositivo médico (SaMD, por sus siglas en inglés) en su Programa Piloto de Precertificación de Software de Salud Digital (Pre-Cert). El objetivo del programa piloto Pre-Cert es ayudar a la FDA a determinar las métricas clave y los indicadores de rendimiento necesarios para la precertificación de productos, al tiempo que se identifican formas de facilitar el proceso de aprobación a los desarrolladores y contribuir al avance de la innovación sanitaria. Centro Insight Innovar en atención sanitaria Patrocinado por Medtronic Mejorar los resultados y la experiencia de los pacientes. Recientemente, la FDA publicó en septiembre su "Política para funciones de software de dispositivos y aplicaciones médicas móviles", una serie de documentos orientativos que describen cómo planea la agencia regular el software que ayuda en la toma de decisiones clínicas (CDS), incluido el software que utiliza algoritmos basados en el aprendizaje automático. En una declaración relacionada de la FDA, Amy Abernethy, su comisionada adjunta principal, explicó que la agencia planea centrar la supervisión reguladora en las "funciones de software de mayor riesgo", como las que se utilizan en circunstancias sanitarias más graves o críticas. Esto incluye también el software que utiliza algoritmos basados en el aprendizaje automático, en los que los usuarios podrían no entender fácilmente la "lógica y las entradas" del programa sin más explicaciones. Un ejemplo de software de CDS que entraría en la categoría de supervisión de "mayor riesgo" de la FDA sería uno que identificara a un paciente en riesgo de sufrir una afección médica potencialmente grave -como un episodio cardiovascular postoperatorio- pero que no explicara por qué el software hizo esa identificación. Lograr la aprobación de la FDA. Para tener en cuenta los cambiantes procesos de supervisión y aprobación de la FDA, los desarrolladores de software deben pensar cuidadosamente cuál es la mejor manera de diseñar y lanzar su producto para que esté bien posicionado para la aprobación de la FDA, especialmente si el software entra en la categoría de "mayor riesgo" de la agencia. Un factor que debe tenerse en cuenta es el hecho de que las herramientas terapéuticas o de diagnóstico impulsadas por IA, por naturaleza, seguirán evolucionando. Por ejemplo, es razonable esperar que un producto de software se actualice y cambie con el tiempo (por ejemplo, actualizaciones de seguridad, adición de nuevas características o funcionalidades, actualización de un algoritmo, etc.). Pero dado que el producto ha cambiado técnicamente, su estado de aprobación por la FDA podría ponerse en peligro tras cada actualización o nueva iteración. En este caso, planificar un enfoque basado en versiones para el proceso de aprobación de la FDA podría ser lo mejor para el desarrollador. En este enfoque, se crea una nueva versión del software cada vez que el algoritmo o algoritmos internos de ML del software se entrenan con un nuevo conjunto de datos, y cada nueva versión se somete a la aprobación independiente de la FDA. Aunque engorroso, este enfoque elude las preocupaciones de la FDA sobre la aprobación de productos de software que cambian funcionalmente después de la aprobación de la FDA. Estas consideraciones de desarrollo estratégico son cruciales para que los proveedores de soluciones las tengan en cuenta. Del mismo modo, los inversores también deben tener una comprensión clara de los planes de desarrollo de productos de una empresa y el enfoque previsto para la aprobación continua de la FDA, ya que esto puede proporcionar una clara diferenciación sobre otros competidores en el mismo espacio. Los médicos se verán en apuros para adoptar tecnologías que no hayan sido validadas por la FDA, por lo que los inversores deben asegurarse de que las empresas que están considerando apoyar tienen una hoja de ruta clara para el desarrollo de productos, incluido un enfoque para las aprobaciones de la FDA a medida que los propios productos de software y las directrices reguladoras continúan desarrollándose. La IA es una caja negra Además de la actual ambigüedad normativa, otra cuestión clave que plantea retos para la adopción de aplicaciones de IA en el ámbito clínico es su naturaleza de caja negra y los consiguientes problemas de confianza. Uno de los retos es el seguimiento: Si se produce un resultado negativo, ¿puede rastrearse y evaluarse el proceso de toma de decisiones de una aplicación de IA? Por ejemplo, ¿pueden los usuarios identificar los datos de entrenamiento y/o el paradigma de aprendizaje automático (ML) que condujo a la acción específica de la aplicación de IA? Dicho de forma más sencilla, ¿se puede identificar la causa raíz del resultado negativo dentro de la tecnología para poder evitarlo en el futuro? Desde la reclasificación de los datos de entrenamiento hasta el rediseño de los algoritmos de ML que "aprenden" de los datos de entrenamiento, el proceso de descubrimiento es complejo, e incluso podría dar lugar a la retirada de la aplicación del mercado. Otra preocupación que suscita el aspecto de caja negra de los sistemas de IA es que alguien, a propósito o por error, pueda introducir datos incorrectos en el sistema, provocando conclusiones erróneas (por ejemplo, diagnósticos equivocados, recomendaciones de tratamiento incorrectas). Por suerte, los algoritmos de detección diseñados para identificar entradas manipuladas o incorrectas podrían reducir, si no eliminar, este riesgo. Un reto mayor que plantea la naturaleza de caja negra de los sistemas de IA es que los médicos son reacios a confiar (debido en parte al riesgo de mala praxis-responsabilidad civil) -y por tanto a adoptar- algo que no entienden del todo. Por ejemplo, hay varias empresas emergentes de diagnóstico por imagen con herramientas de software de IA aprobadas por la FDA que pueden ayudar a los médicos a diagnosticar y tratar afecciones como accidentes cerebrovasculares, retinopatía diabética, hemorragias intracraneales y cáncer. Sin embargo, la adopción clínica de estas herramientas de IA ha sido lenta. Una de las razones es que los organismos de certificación de médicos, como el Colegio Americano de Radiología (ACR), sólo han empezado a publicar recientemente casos de uso formalizados sobre cómo pueden utilizarse de forma fiable las herramientas de software de IA. También es probable que los pacientes tengan problemas de confianza con las tecnologías impulsadas por IA. Aunque pueden aceptar la realidad de que pueden producirse errores humanos, tienen muy poca tolerancia a los errores de las máquinas. Aunque se están realizando esfuerzos para ayudar a abrir la caja negra, el papel más útil de la IA en el entorno clínico durante este primer periodo de adopción puede ser el de ayudar a los proveedores a tomar mejores decisiones en lugar de sustituirles en el proceso de toma de decisiones. Puede que la mayoría de los médicos no confíen en una caja negra, pero la utilizarán como sistema de apoyo si ellos siguen siendo el árbitro final. Para ganarse la confianza de los médicos, los desarrolladores de software de IA tendrán que demostrar claramente que cuando las soluciones se integran en el proceso de toma de decisiones clínicas, ayudan al equipo clínico a hacer un mejor trabajo. Las herramientas también deben ser sencillas y fáciles de usar. La aplicación inicial de la IA en tareas de menor envergadura, como la facturación y la codificación (por ejemplo, diagnósticos, tratamientos asistidos por IA), también debería ayudar a aumentar la confianza con el tiempo. A nivel de la industria, tiene que haber un esfuerzo concertado para publicar casos de uso más formalizados que respalden los beneficios de la IA. Los desarrolladores de software y los inversores deberían trabajar con asociaciones profesionales como la ACR para publicar más casos de uso y desarrollar más marcos para estimular la adopción por parte de la industria y conseguir más credibilidad. Reducir los obstáculos en las ciencias de la vida. Aunque la aplicación de la IA en el ámbito de la atención clínica aún se enfrenta a muchos retos, las barreras para su adopción son menores en los casos de uso específicos de las ciencias de la vida. Por ejemplo, el ML es una herramienta excepcional para emparejar pacientes con ensayos clínicos y para el descubrimiento de fármacos y la identificación de terapias eficaces. Pero ya sea en el ámbito de las ciencias de la vida o en el de la atención clínica, lo cierto es que son muchos los stakeholder que pueden verse afectados por la proliferación de la IA en la atención sanitaria y las ciencias de la vida. No cabe duda de que existen obstáculos para una adopción más amplia de la IA, desde las incertidumbres normativas hasta la falta de confianza, pasando por la escasez de casos de uso validados. Pero las oportunidades que presenta la tecnología para cambiar el nivel de atención, mejorar la eficiencia y ayudar a los médicos a tomar decisiones más informadas merecen el esfuerzo de superarlos.

La adopción de la IA en la atención sanitaria será lenta y difícil

Resumen.

Partner Center