La mayoría de los algoritmos médicos se desarrollaron utilizando información de personas tratadas en Massachusetts, California o Nueva York, según un nuevo estudio. Esos tres estados dominan los datos de los pacientes, y otros 34 estados simplemente no estaban representados en absoluto, según la investigación publicada esta semana en el Revista de la Asociación Médica Estadounidense. La estrecha distribución geográfica de los datos utilizados para estos algoritmos puede ser un sesgo no reconocido, argumentan los autores del estudio.
Los algoritmos que estaban analizando los investigadores están diseñados para tomar decisiones médicas basadas en los datos del paciente. Cuando los investigadores construyen un algoritmo que quieren guiar el diagnóstico del paciente, como examinar una radiografía de tórax y decidir si tiene signos de neumonía, lo alimentan con ejemplos del mundo real de pacientes con y sin la afección que quieren que busque. . Es bien sabido que la diversidad racial y de género es importante en esos conjuntos de entrenamiento: si un algoritmo solo obtiene radiografías de hombres durante el entrenamiento, es posible que no funcione tan bien cuando se administra una radiografía de una mujer que está hospitalizada con dificultad para respirar. . Pero aunque los investigadores han aprendido a estar atentos a algunas formas de sesgo, no se ha destacado la geografía.
“Hay todas estas cosas que terminan siendo incorporadas al conjunto de datos y se convierten en suposiciones implícitas en los datos, que pueden no ser suposiciones válidas en todo el país”, dijo el autor del estudio e investigador de la Universidad de Stanford, Amit Kaushal. dicho Noticias de estadísticas.
Kaushal y su equipo examinaron los datos utilizados para entrenar 56 algoritmos publicados, que fueron diseñados para su uso en campos como dermatología, radiología y cardiología. No está claro cuántos están realmente en uso en clínicas y hospitales. De los 56 algoritmos, 40 utilizaron datos de pacientes de Massachusetts, California o Nueva York. Ningún otro estado aportó datos a más de cinco algoritmos.
No está claro si la geografía podría sesgar el rendimiento de un algoritmo ni exactamente cómo. Sin embargo, los centros costeros como Nueva York tienen diferentes datos demográficos y problemas de salud subyacentes que los estados del sur o del medio oeste. Aún así, los investigadores saben, en general, que los algoritmos que funcionan bajo un conjunto de circunstancias a veces no funcionan tan bien con otros. Algunos estudios show que los algoritmos pueden funcionar mejor en las instituciones donde se crean que en otros hospitales.
Muchos centros de investigación académica que realizan investigaciones sobre inteligencia artificial y aprendizaje automático se encuentran en centros de atención médica como Massachusetts, California y Nueva York. Los datos de California, hogar de Silicon Valley, se incluyeron en aproximadamente el 40 por ciento de los algoritmos. Es difícil para los investigadores acceder a datos de instituciones distintas de aquellas en las que trabajan. Esa puede ser la razón por la que los datos se agrupan de esta manera. Ampliar los conjuntos de datos puede ser un desafío, pero identificar la disparidad muestra que la geografía es otro factor que vale la pena rastrear en los algoritmos médicos.