Expertos de la industria de la salud temen que los productos basados en inteligencia artificial (IA), no puedan igualar el bombo publicitario. Médicos y defensores de los consumidores se preocupan sobre si la industria de la tecnología pone en riesgo a los pacientes y los reguladores no hacen lo suficiente para mantener a los usuarios seguros.

La verificación de la realidad podría conducir a resultados decepcionantes cuando los productos de IA se introducen en el mundo real. Según el portal Kaiser Health News, en palabras del doctor Eric Topol, cardiólogo y vicepresidente ejecutivo de Scripps Research en California, ninguno de los productos vendidos en los Estados Unidos fue probado en ensayos clínicos aleatorios, la fuente más fuerte de evidencia médica.

“Los primeros experimentos en IA proporcionan un motivo de precaución. Los sistemas desarrollados en un hospital a menudo fracasan cuando se implementan en una instalación diferente. Se ha demostrado que el software utilizado para el cuidado de millones de estadounidenses discrimina a las minorías. Y los sistemas de IA a veces aprenden a hacer predicciones basadas en factores que tienen menos que ver con la enfermedad”, aseguró Mildred Cho, profesora de pediatría en el Centro de Ética Biomédica de Stanford.

Bob Kocher, socio de la firma de capital de riesgo Venrock, dijo que “la mayoría de los productos de IA tienen poca evidencia que los respalde. “Vamos a seguir descubriendo un montón de riesgos y consecuencias no deseadas del uso de estos en los datos médicos”. Algunos no serán evidentes hasta que un gran número de pacientes utilicen uno de estos.

Pocas nuevas empresas tecnológicas publican su investigación en revistas examinadas por pares, según un artículo de enero en la Revista Europea de Investigación Clínica, dicha investigación oculta, descrita solo en comunicados de prensa o eventos promocionales, a menudo exagera los logros de una empresa.

Y aunque los desarrolladores de software pueden jactarse de la precisión de sus dispositivos, los expertos señalan que los modelos se prueban en computadoras, no en hospitales u otras instalaciones médicas. El uso de software no probado “puede convertir a los pacientes en conejillos de indias inconscientes”, afirmóa KHN el doctor Ron Li, director de informática médica para la integración clínica de IA en Stanford HealthCare.

Sin embargo, la mayoría de los dispositivos de IA no requieren la aprobación de la FDA. Los defensores de los consumidores reconocen que algunos instrumentos, como los que ayudan a las personas a contar sus pasos diarios, necesitan menos escrutinio que los que diagnostican o tratan la enfermedad.Según un estudio de 2018 publicado en AnalesdeMedicina Interna, algunos desarrolladores de software no se molestan en solicitar la autorización de la FDA, incluso cuando es legalmente requerido.