7 TAE Factores-Humanos-JMIR - En.es

Traducido del inglés al español - www.onlinedoctranslator.
com
FACTORES HUMANOS JMIR Asan y Choudhury
Revisar
Tendencias de investigación en aplicaciones de inteligencia artificial en la atención

médica de factores humanos: revisión de mapeo
Onur Asan, doctorado; Avishek Choudhury, MSc

Escuela de Sistemas y Empresas, Instituto de Tecnología Stevens, Hoboken, Nueva Jersey, Estados Unidos
Autor correspondiente:
Onur Asan, PhD
Escuela de Sistemas y Empresas
Instituto de Tecnología Stevens 1
Castle Point Terrace
Hoboken, Nueva Jersey, 07030
Estados Unidos
Teléfono: 1 4145264330
Correo electrónico:oasan@stevens.edu
Abstracto
Fondo:A pesar de los avances en inteligencia artificial (IA) para desarrollar modelos de predicción y clasificación, se ha dedicado poca
investigación a las traducciones del mundo real con un enfoque de diseño centrado en el usuario. Los estudios sobre el desarrollo de la IA en el
contexto de la atención sanitaria a menudo han ignorado dos factores críticos de la validez ecológica y la cognición humana, creando desafíos en
la interfaz con los médicos y el entorno clínico.
Objetivo:El objetivo de esta revisión de la literatura fue investigar las contribuciones realizadas por las principales comunidades de factores humanos en las aplicaciones de IA en el
cuidado de la salud. Esta revisión también analiza las brechas de investigación emergentes y proporciona direcciones de investigación futuras para facilitar una integración más
segura y centrada en el usuario de la IA en el flujo de trabajo clínico.
Métodos:Realizamos una extensa revisión cartográfica para capturar todos los artículos relevantes publicados en los últimos 10 años en las principales
revistas de factores humanos y actas de congresos enumerados en la categoría "Factores humanos y ergonomía" de la Lista maestra de Scopus. En cada
volumen publicado, buscamos estudios que informaran hallazgos cualitativos o cuantitativos en el contexto de la IA en la atención médica. Los estudios se
analizan basándose en principios clave como la evaluación de la carga de trabajo, la usabilidad, la confianza en la tecnología, la percepción y el diseño
centrado en el usuario.
Resultados:En la revisión final se incluyeron cuarenta y ocho artículos. La mayoría de los estudios enfatizaron la percepción del usuario, la usabilidad de
dispositivos o tecnologías basados en IA, la carga de trabajo cognitiva y la confianza del usuario en la IA. La revisión reveló un cuerpo de literatura
incipiente pero creciente que se centra en aumentar la IA en la atención médica; sin embargo, se han hecho pocos esfuerzos para garantizar la validez
ecológica con enfoques de diseño centrados en el usuario. Además, pocos estudios (n=5 frente a estándares clínicos/de referencia, n=5 frente a médicos)
compararon sus modelos de IA con una medida estándar.
Conclusiones:Los investigadores de factores humanos deberían participar activamente en los esfuerzos de diseño e implementación de la IA, así como en las
evaluaciones dinámicas de los efectos de los sistemas de IA en la interacción, el flujo de trabajo y los resultados de los pacientes. Un sistema de IA es parte de un
sistema sociotécnico mayor. Los investigadores con experiencia en factores humanos y ergonomía son fundamentales a la hora de definir la interacción dinámica de la
IA dentro de cada elemento, proceso y resultado del sistema de trabajo.
(Factores de zumbido de JMIR 2021;8(2):e28236)doi:10.2196/28236
PALABRAS CLAVE
inteligencia artificial; factores humanos; sistemas de atención de salud; validez ecológica; usabilidad; confianza; percepción; carga de trabajo
falta de consenso sobre la definición de IA [2]. En general, la IA puede

Introducción definirse como un programa informático o sistema inteligente capaz de
imitar la función cognitiva humana.3]. A lo largo de los años, las
Afluencia de inteligencia artificial en la atención sanitaria
capacidades y el alcance de la IA han aumentado sustancialmente. La IA
La llegada de la inteligencia artificial (IA) ha estado cambiando
ahora abarca desde algoritmos que operan con reglas predefinidas hasta
paradigmas durante la última década. El término "IA" se ha utilizado e
aquellos que se basan en declaraciones si-entonces (clasificadores de árbol
interpretado a menudo con diferentes significados [1], y hay un
de decisión) [4] a un aprendizaje profundo más sofisticado
https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 1

(número de página no para fines de citación)
XLS•FO
RenderX
algoritmos que tienen la capacidad de aprender y mejorar automáticamente a recibe del usuario, creando así lo que llamamos "el bucle de interacción". A
través de análisis estadísticos de grandes conjuntos de datos [5,6]. Se han diferencia de las tecnologías que no son de IA, el resultado de la IA
realizado muchos estudios y avances con la IA a medida que continúa (resultado generado por la IA) depende en gran medida de la información
evolucionando en numerosos ámbitos, incluido el de la atención sanitaria. Se han que se le introduce; por ejemplo, en el aprendizaje por refuerzo basado en
introducido aplicaciones de inteligencia artificial como MelaFind, un software de IA [13], el sistema puede aprender y adaptarse según las aportaciones del
asistente virtual, e IBM Watson para mejorar los sistemas de atención médica, usuario. Por lo tanto, la interacción entre humanos y IA puede influir tanto
fomentar la atención al paciente y aumentar la seguridad del paciente.7]. Se han en el sistema humano como en el de IA: el usuario alimenta a la IA con
desarrollado y estudiado aplicaciones de IA para todas las partes interesadas en cierta información; la IA aprende de esta información, realiza análisis y
la atención médica, incluidos proveedores, administradores, pacientes, familias y envía un resultado al usuario; el usuario recibe el resultado, lo comprende y
aseguradoras. En algunas áreas específicas, como radiología y patología, existen actúa en consecuencia; y los nuevos datos generados por la acción del
fuertes argumentos de que los sistemas de IA pueden reemplazar a los médicos usuario regresan a la IA.Figura 1 ilustra tres bucles de interacción
como resultado de estudios que demuestran fundamentales y típicos
que los algoritmos de IA superaron a los médicos en la detección precisa de transacciones fundamentales plausibles entre las células
cancerosas [8-10]. médicos, pacientes y el sistema de IA, en el que la tecnología de IA (como
Apple Watch) mide continuamente la información de salud del usuario
Además, los avances en las tecnologías de información sanitaria basadas en
(frecuencia cardíaca, nivel de oxígeno) y envía los datos al proveedor de
IA (por ejemplo, registros médicos electrónicos [EHR] o sistemas de apoyo a
atención médica del usuario. Luego, el proveedor de atención puede
las decisiones clínicas) se han beneficiado de la disponibilidad de big data
elaborar planes de tratamiento o recomendaciones clínicas basadas en los
para predecir resultados clínicos y ayudar a los proveedores a analizar sus
resultados de la IA, que luego influirán en la salud del usuario o en el
EHR para encontrar piezas individuales de información médica [11]. A pesar
comportamiento relacionado con la salud (bucle 1). Se pueden observar
de que la IA tiene un gran potencial, todavía está en su infancia. Los
otras interacciones comunes entre el usuario y la IA en los servicios de salud
sistemas de IA clínica existentes están lejos de ser perfectos por varias
en línea en los que el usuario interactúa con un chatbot habilitado para IA
razones bien conocidas, que incluyen (a) sesgos discriminatorios
para diagnósticos preliminares (bucle 2). La tercera interacción entre el
provenientes de los datos de entrada; (b) falta de transparencia en las
usuario y la IA, aunque menos común, se produce cuando un médico y un
decisiones de IA, particularmente en las redes neuronales, debido a la
paciente aprovechan juntos un sistema de IA para obtener un mejor
naturaleza de caja negra; y (c) sensibilidad de las decisiones resultantes a
diagnóstico en un entorno clínico (bucle 3). Para todas estas aplicaciones, es
los datos de entrada [6,12].
esencial que los usuarios hagan una interpretación correcta de los
Interacciones típicas entre IA y usuarios resultados de la IA y tengan una comprensión básica de los requisitos y
limitaciones de la IA. La interacción óptima y exitosa entre el usuario y la IA
Los sistemas de IA son complejos en el sentido de que son una caja negra para
depende de varios factores, incluidos los físicos (por ejemplo, el acceso
los usuarios que quizás no tengan la experiencia adecuada en estadística o
oportuno a la tecnología y la capacidad visual y auditiva, particularmente de
informática para poder comprender el funcionamiento de la IA. Por lo tanto, la IA
los pacientes), cognitivos (por ejemplo, la capacidad de comprender el
puede complicar indeseablemente las relaciones entre los usuarios y los sistemas
funcionamiento de la IA, la capacidad de razonar y utilizar dispositivos
informáticos si no se diseña bien. A diferencia de otras tecnologías de atención
habilitados para IA) y recursos emocionales (p. ej., estado mental actual,
médica, la IA puede interactuar (por ejemplo, a través de chatbots, sistemas de
voluntad de usar IA, experiencia previa con tecnología de IA) de las
recomendación automatizados, aplicaciones de salud) con médicos y pacientes en
personas (p. ej., profesionales de la salud y cuidadores).
función de las aportaciones (retroalimentación) que reciben.

XLS•FO
RenderX
Figura 1.Bucles de interacción usuario-inteligencia artificial (IA).
Los investigadores no han abordado suficientemente algunos factores, a

Esfuerzos para mejorar la IA y el papel esencial de los factores
saber, la validez ecológica y la cognición humana, que pueden crear
humanos
desafíos en la interfaz con los médicos y con el entorno clínico y conducir a
Los desarrolladores de aplicaciones de IA para el cuidado de la salud se han errores. Además, no hay suficiente investigación centrada en mejorar los
centrado principalmente en las capacidades analíticas, la precisión, la factores humanos, principalmente (a) cómo garantizar que los médicos
velocidad y el manejo de datos de la IA (verFigura 2) y han descuidado las estén implementando la IA correctamente, (b) la carga de trabajo cognitiva
perspectivas de los factores humanos, lo que lleva a aplicaciones mal que impone a los médicos que trabajan en entornos estresantes, y (c) su
diseñadas [14]. Aunque estudios recientes han informado del impacto de impacto en toma de decisiones clínicas y resultados del paciente. La verdad
los datos sesgados [15], así como la interpretabilidad, la interoperabilidad y incómoda es que la mayor parte de la IA que muestra una capacidad
la falta de estandarización [7,dieciséis] sobre los resultados de la IA, muy destacada en la investigación y la literatura no es actualmente ejecutable en
pocos han reconocido la necesidad de evaluar las interacciones entre la IA, un entorno clínico [19,20]. Por lo tanto, para identificar mejor el estado
los médicos y los destinatarios de la atención. actual de la participación de HFE en la IA en el cuidado de la salud,
realizamos una revisión cartográfica de los estudios publicados en las
Recientemente, como se reconoció en las Reuniones Anuales de la Sociedad de
principales revistas de factores humanos y actas relacionadas con los
Ergonomía de Factores Humanos [17,18], el aumento de las actividades
sistemas de IA en el cuidado de la salud. El objetivo de la revisión del mapeo
autónomas en la atención sanitaria puede plantear riesgos y preocupaciones con
fue resaltar lo que se ha logrado e informado en las revistas de HFE y
respecto a la IA. Por lo tanto, existe la necesidad de integrar principios y métodos
discutir el papel de HFE en la investigación de IA en el cuidado de la salud
de factores humanos y ergonomía (HFE) en el desarrollo de tecnologías
en un futuro cercano, lo que puede facilitar interacciones más fluidas entre
habilitadas para IA para un mejor uso, integración del flujo de trabajo e
el ser humano y el sistema.
interacción. En la investigación de IA en el cuidado de la salud, dos

XLS•FO
RenderX
Figura 2.Ilustrando algunos de los objetivos de investigación de expertos en factores humanos e inteligencia artificial.
documentos de actas de congresos. Se excluyeron otros materiales como

Métodos resúmenes de conferencias, editoriales, capítulos de libros, presentaciones
de carteles, perspectivas, protocolos de estudio, artículos de revisión y
Diseño y fuente de datos
literatura gris (p. ej., informes gubernamentales y documentos de
Realizamos una revisión de mapeo para explorar las áreas iniciales y
declaraciones de políticas).
de tendencia con respecto a la investigación de IA en el cuidado de la
salud en las publicaciones de HFE. Nuestro protocolo fue registrado en Selección y cribado de papel
Open Science Framework el 2 de octubre de 2020 [21]. Las revisiones Dos revisores (AC y un asistente de investigación) examinaron manualmente los
de mapeo son enfoques bien desarrollados para cubrir la literatura artículos de la lista de revistas y conferencias en función de los títulos y
representativa (no exhaustiva) para explorar y demostrar tendencias resúmenes utilizando uno de los criterios de inclusión (es decir, estar enmarcados
en un tema y una duración determinados.22]. En este estudio, en el contexto de la atención sanitaria). Exportamos todas las publicaciones
seleccionamos como fuente de datos las principales revistas y recuperadas al software Sysrev. En el segundo paso, excluimos todas las
conferencias sobre factores humanos que potencialmente publican publicaciones no elegibles (p. ej., reseñas, resúmenes breves y carteles), como se
trabajos relacionados con la atención médica. Nuestra selección de explica en la sección anterior. En el último paso, dos revisores (AC y un asistente
revistas y conferencias se guió por la categoría “Factores humanos y de investigación) examinaron de forma independiente todos los artículos
ergonomía” de Scopus Master List y Scimago Journal & Country Rank. completos seleccionados en función de los dos criterios de inclusión restantes: (1)
También agregamos dos revistas que potencialmente publican cubrir un algoritmo de IA o tecnología habilitada por IA, como el aprendizaje
trabajos sobre factores humanos relacionados con la seguridad del automático y el procesamiento del lenguaje natural. o robótica; y (2) informar
paciente:Revista de seguridad del pacienteyCalidad y seguridad de BMJ hallazgos/resultados cualitativos o cuantitativos. Los revisores también
. En total, exploramos 24 revistas y 9 actas de congresos (verApéndice confirmaron que los estudios se enmarcaron en un contexto de atención médica.
multimedia 1). Todos los autores aprobaron por consenso la lista final Los revisores lograron un 82% de acuerdo. Luego, el investigador principal (OA)
de revistas y congresos. resolvió todos los conflictos, examinó todos los artículos de texto completo
preseleccionados y finalizó la selección de artículos.
Los criterios de inclusión y exclusión
Realizamos una búsqueda manual exhaustiva para capturar todos los
artículos relevantes publicados en inglés en los últimos 10 años (enero de Extracción y análisis de datos
2010 a diciembre de 2020) en las revistas y actas de congresos enumerados Seguimos un enfoque y análisis de extracción de datos similar al informado
enApéndice multimedia 1. En cada volumen publicado, buscamos estudios por Holden et al [23]. Los metadatos (nombres de los autores, título del
que informaran hallazgos cualitativos o cuantitativos en el contexto de la IA artículo, resumen) de cada uno de los artículos incluidos se registraron en
en la atención médica. Los estudios seleccionados debían (1) enmarcarse en una hoja de Excel estándar. En nuestro análisis, ambos autores (AC y OA)
el contexto de la atención sanitaria; (2) cubrir un algoritmo de IA o codificaron cada artículo incluido en diferentes dimensiones, como (1) tipo
tecnología habilitada para IA, como el aprendizaje automático, el de muestra/participante, (2) sistema de IA utilizado, (3) fuente de
procesamiento del lenguaje natural o la robótica; recopilación de datos y (4) objetivos y resultados. .
y (3) informar, ya sea cualitativo o cuantitativo. También se discutieron estudios basados en los principios de HFE tales hallazgos/
resultados. Solo incluimos artículos de revistas y evaluaciones completas de la carga de trabajo, usabilidad, confianza en la tecnología,

XLS•FO
RenderX
percepción y diseño centrado en el usuario. Estos principios y subcategorías

Resultados
de HFE para las dimensiones se derivaron de los artículos finales
seleccionados y los investigadores verificaron su validez aparente.
Resumen de estudios incluidos
Trabajamos iterativamente en el proceso de extracción de datos y
figura 3ilustra el proceso de selección y selección. Como resultado
revisamos las categorías para lograr un consenso final.
de la selección de 24 revistas seleccionadas y 9 actas de congresos
(Apéndice multimedia 1), finalizamos 48 artículos que cumplían
con nuestros criterios de inclusión, que se incluyeron en la revisión
de alcance con el consenso de todos los revisores. Estos 48
artículos se publicaron en 10 revistas y 3 actas de congresos, como
se ilustra enFigura 4.
Figura 3.Proceso de selección y exclusión. IA: inteligencia artificial.

XLS•FO
RenderX
Figura 4.Resumen de publicaciones seleccionadas y sus lugares.
tabla 1muestra las siguientes dimensiones: (1) objetivo de los datos de fuentes en línea como Reddit, Twitter y estudio clínico;
(2) métodos generales utilizados, incluidas las bases de datos. Aproximadamente 26 estudios realizaron encuestas y adoptaron
métodos de análisis etnográfico/cuantitativo, y el entrevistas para obtener información de los participantes del estudio, como
tipo de datos (columna “Métodos y datos”); (3) participantes del estudio se muestra en la columna "Métodos y datos". Algunos estudios enfatizaron
(usuario del sistema de IA); y (4) resultados/hallazgos primarios del estudio. algoritmos para analizar videos, texto y datos de sensores. En general,
La mayoría de los estudios involucraron participantes humanos, como observamos que la mayoría de los estudios evaluaron la IA desde la
médicos y pacientes (n=33), como se muestra en la columna "Participantes perspectiva del usuario y otros aprovecharon la IA para aumentar el
del estudio" entabla 1. Sin embargo, algunos estudios utilizaron rendimiento del usuario.

XLS•FO
RenderX
Tabla 1.Cuadro probatorio de publicaciones seleccionadas, que resume sus objetivos, métodos, participantes y resultados (N=48).
Estudiar Objetivo Métodos y datos Participantes del estudio Resultado inmediato observado
pantalones
Aldape-Pérez y Promover el aprendizaje colaborativo Datos matemáticos/numéricos N / Aa(en línea La memoria asociativa Delta fue eficaz en el
al [24] entre médicos menos experimentados. base de datos)
reconocimiento de patrones en el campo médico y
ayudó a los médicos a aprender
Azari y otros [25] Predecir maniobras quirúrgicas a partir Datos matemáticos/video 37 cirujanos La predicción de maniobras quirúrgicas mediante
de un registro de vídeo continuo de aprendizaje automático fue comparable a la predicción
simulaciones quirúrgicas de mesa. de plataformas robóticas
Balani y De Detectar niveles de autorrevelación Datos matemáticos/textuales NA (publicaciones de Reddit Los subreddits de salud mental pueden
Choudhury [26] manifestados en publicaciones compartidas de 7248 usuarios) permitir a las personas expresarse o
en diferentes foros de salud mental en revelarse mejor
Reddit.
Cai y otros [27] Identificar las necesidades de los patólogos Estudio de encuesta: modelo de confianza 12 patólogos Los usuarios indicaron tener mayor confianza en
cuando buscan imágenes similares, de Mayer, NASA-TLX, preguntas SMILY; Ofrecía un mejor apoyo mental y era más
recuperadas mediante un algoritmo de ciones de apoyo mental para la probable que los proveedores lo utilizaran en la
aprendizaje profundo. toma de decisiones, utilidad práctica clínica.
diagnóstica, carga de trabajo, uso
futuro y preferencia
CvetkovíCy Analizar la influencia de la edad, Estudio de entrevista utilizando la 84 pacientes La edad y la ocupación de los pacientes tuvieron la influencia
CvetkovíC [28] ocupación, educación, estado civil y guía del Inventario de Depresión de más sustancial sobre la depresión en pacientes con cáncer de
condición económica sobre la Beck mama
depresión en pacientes con cáncer de

mama.
Ding y otros [29] Aprender sobre la salud en entornos Estudio de entrevista: preguntas 10 usuarios La aceptación de la tecnología se vio obstaculizada debido a la
cotidianos con la ayuda de la específicas sobre el tiempo y el lugar baja alfabetización técnica, la baja confianza, la falta de
tecnología de lectura facial. de uso, las percepciones e adaptabilidad, los consejos inviables y los problemas de
interpretaciones de los resultados por usabilidad.
parte de los usuarios y las intenciones

de usarlo en el futuro.
Erebak y Estudiar la interacción humano-robot en centros de Estudio de encuesta: escala de 102 cuidadores No se detectó influencia del antropomorfismo en la
Turgut [30] atención a personas mayores antropomorfismo de Godspeed, lista confianza en los robots; Los proveedores que confiaban
de verificación de confianza [31], en los robots tenían más intención de trabajar con ellos
escalas desde [32], y funciones y preferían un mayor nivel de automatización.
automatizadas de [33].
Gao y otros [34] Detectar el deterioro motor en la enfermedad de Matemático; datos del sensor 42 usuarios La enfermedad de Parkinson se detectó con una
Parkinson mediante la detección y el análisis precisión significativamente mayor en comparación con
implícitos de las interacciones cotidianas de los una referencia clínica
usuarios con sus teléfonos inteligentes.
Hawkins y otros Medir la calidad de la atención percibida Estudio de encuesta; Se pidió a los NA (Tweets) Los pacientes utilizan Twitter para dar su opinión sobre
[35] por los pacientes en hospitales de EE. UU. hospitales que proporcionaran la calidad de la atención hospitalaria que reciben; casi la
comentarios sobre su uso de Twitter para mitad del sentimiento hacia los hospitales fue, en
las relaciones con los pacientes. promedio, favorable
Hu et al [36] Para detectar el dolor lumbar a partir del Matemático; datos del sensor 44 pacientes y El modelo de aprendizaje automático logró
equilibrio del cuerpo y el balanceo del participación saludable identificar pacientes con dolor de espalda y
cuerpo. pantalones factores responsables
Jin y otros [37] Identificar, extraer y minimizar factores Datos matemáticos/textuales NA (datos de 4 El modelo de aprendizaje automático propuesto
de error médico en el proceso de hospitales) identificó 12 posibles factores de error
administración de medicamentos.
Kandaswamy y Para predecir la precisión de un pedido. Datos matemáticos/textuales y 53 médicos Los algoritmos de aprendizaje automático identificaron tasas de
al [38] colocado en la HCEbpor numéricos error en los pedidos de imágenes, laboratorio y medicamentos.
médicos de urgencias
Komogortsev Detectar lesión cerebral traumática leve Datos matemáticos/video 32 pacientes y Participantes clasificados con aprendizaje
y Holanda (TBI) mediante la aplicación de biometría participación saludable automático supervisado y no supervisado con
[39] del movimiento ocular. pantalones puntuaciones de detección≤ –0,870 y≥0,79 como
tener mTBI, respectivamente
Krause y otros Apoyar el desarrollo de modelos Datos matemáticos/numéricos 5 científicos de datos Los sistemas analíticos visuales interactivos ayudaron a los
[40] predictivos comprensibles. científicos de datos a interpretar clínicamente modelos
predictivos

XLS•FO
RenderX
pantalones
Ladstatter y otros Medir la viabilidad de las redes neuronales Estudio de encuesta: Enfermería 465 enfermeras La red neuronal artificial identificó factores de
[41] artificiales en el análisis del proceso de Escala de agotamiento en formato breve personalidad como motivo del agotamiento en las
burnout de las enfermeras. enfermeras chinas
Ladstatter y otros Evaluar si las redes neuronales artificiales Estudio de encuesta: Enfermería 462 enfermeras Las redes neuronales artificiales identificaron una
[42] ofrecen una mayor precisión predictiva para Escala de agotamiento en formato breve personalidad fuerte como una de las principales causas del
identificar el agotamiento de la enfermería agotamiento de la enfermería; produjo un resultado un 15%
que las técnicas estadísticas tradicionales. mejor que los instrumentos estadísticos tradicionales
Lee y otros [43] Determinar cómo los dispositivos portátiles Estudio de entrevista: experiencia 40 pacientes y 2 El algoritmo itchtector basado en aprendizaje
pueden ayudar a las personas a controlar sus de usuario y aceptación del dermatólogos automático detectó el movimiento del rasguño con
condiciones de picazón. dispositivo. mayor precisión cuando los pacientes lo usaron durante
más tiempo
Marella et al. Desarrollar un enfoque semiautomatizado Datos matemáticos/textuales y N/A Naïve Bayes Kernel dio como resultado la mayor
[44] para la detección de casos que describan los numéricos precisión de clasificación; identificó una mayor
peligros asociados con los EHR a partir de proporción de errores de medicación y una menor
un marco de notificación obligatorio basado proporción de errores de procedimiento que la
en la población para la seguridad del detección manual
paciente.
Mazilu et al. Evaluar el impacto de un dispositivo portátil Estudio de entrevista: preguntando 18 pacientes y 5 AICLos pacientes consideraron útil el Gait
[45] en la asistencia para la marcha en pacientes sobre usabilidad, viabilidad, participantes sanos. Assist. Los pacientes informaron una
con enfermedad de Parkinson comodidad y voluntad de utilizar pantalones
reducción en la congelación de la duración de
Gait Assist. la marcha y una mayor confianza al caminar.
McKnight [46] Analizar informes de seguridad del paciente. Datos matemáticos/textuales N/A El procesamiento del lenguaje natural mejoró la
clasificación de los informes de seguridad como Caídas y
Asaltos; también identificó informes sin etiquetar
Moore y otros [47] Evaluar el rendimiento del procesamiento Datos matemáticos/textuales N/A El rendimiento del procesamiento del lenguaje
del lenguaje natural para extraer resultados natural fue comparable al examen manual de
anormales de mamografías de texto libre y un médico
informes de pruebas de Papanicolaou.
Morrison y otros Evaluar la usabilidad y Estudio de entrevista: cuestionarios 51 pacientes, 6 ASSESS MS fue percibido como simple,
[48] aceptabilidad de ASSESS MS. de retroalimentación, escalas de neurólogos y comprensible, efectivo y eficiente; Tanto los
usabilidad. 6 enfermeras pacientes como los médicos acordaron usarlo
en el futuro.
Muñoz et al. Aumentar la relación entre los Estudio de entrevistas para 2 fisioterapia El dispositivo portátil basado en aprendizaje automático identificó
[49] fisioterapeutas y sus pacientes que se comprender cómo trabajan los pistas correctamente ejercicios como levantamientos de piernas (100 % de
recuperan de una lesión de rodilla, fisioterapeutas con sus pacientes; precisión), pero también identificó incorrectamente tres
utilizando un dispositivo sensor Diseño de interfaz de usuario levantamientos que no eran de piernas como levantamientos de
portátil. considerando usabilidad y comodidad. piernas realizados con éxito (3/18 falsos positivos)
Nobles y otros Para identificar períodos de tendencias suicidas. Estudio de encuesta: evaluación de 26 pacientes El modelo de aprendizaje automático identificó con
[50] hábitos comunicativos de estudiantes precisión el 70% de las tendencias suicidas en
de psicología mediante servicios comparación con la precisión predeterminada (56%)
electrónicos de un clasificador que predice la clase más
prevalente.
Ong et al [51] Para categorizar automáticamente informes Datos matemáticos/textuales y N/A Naïve Bayes y la máquina de vectores de soporte identificaron
de incidentes clínicos numéricos correctamente los incidentes de transferencia e identificación
de pacientes con una precisión del 86,29% al 91,53% y del
97,98%, respectivamente.
Parque y otros [52] Comparar temas de discusión en Datos matemáticos/textuales N/A Los grupos de depresión se centraron en aspectos
comunidades de salud mental en contextuales de la depresión autoexpresados, mientras
línea de acceso público sobre que los grupos de trastornos de ansiedad y trastorno de
ansiedad, depresión y trastorno de estrés postraumático abordaron más cuestiones
estrés postraumático. relacionadas con el tratamiento y la medicación.
Patterson y otros Comprender cómo se pueden utilizar Estudio de entrevista: discusión en 3 investigadores Todos los participantes dieron respuestas
[53] algoritmos complejos y transparentes para grupo. contradictorias.
las predicciones, particularmente en lo que
respecta a la mortalidad inminente en un
entorno hospitalario.

XLS•FO
RenderX
pantalones
Pryor y otros [54] Analizar el uso de un software de ayuda Estudio de observación; el estudio probó 34 médicos y Los médicos no siguieron las recomendaciones de las
a la decisión médica por parte de indirectamente la usabilidad y la 32 pacientes no clínicos herramientas, mientras que los no médicos utilizaron el
médicos y no médicos. confianza de los usuarios en el dispositivo individuos apoyo diagnóstico para tomar decisiones médicas.
Putnam y otros Describir un trabajo en progreso que Estudio de entrevistas para comprender 11 terapeutas y Era importante identificar juegos que se adaptaran bien
[55] involucra a terapeutas que utilizan las experiencias, opiniones y expectativas 34 pacientes a los objetivos terapéuticos del paciente; Los objetivos
videojuegos basados en movimiento para la de los terapeutas sobre los juegos de los terapeutas tradicionales eran concentración,
rehabilitación de lesiones cerebrales. basados en movimientos para la secuenciación, coordinación, agilidad, utilización de
rehabilitación de lesiones cerebrales extremidades parcialmente paralizadas, tiempo de
reacción, razonamiento verbal y toma de turnos.
Sbernini et al. Realizar un seguimiento de los movimientos de Datos matemáticos/sensores 18 cirujanos Las estrategias para reducir la complejidad sensorial de
[56] la mano de los cirujanos durante tareas de los guantes y aumentar su comodidad no afectaron
cirugía abierta simuladas y evaluar su sustancialmente el rendimiento del sistema
experiencia manual.
Shiner y otros [57] Identificar notas de progreso de pacientes Datos matemáticos/textuales N/A El procesamiento del lenguaje natural fue muy específico
hospitalizados que describen caídas. (0,97) pero tuvo una baja sensibilidad (0,44) para identificar el
riesgo de caídas en comparación con la revisión manual de
registros.
Hijogramour y arriba Analizar grupos de 12 regiones de Datos matemáticos/textuales y N/A El estudio identificó desigualdades en las
[58] Turquía en términos de capacidad y numéricos tecnologías de imágenes médicas según las
uso de tecnologías de imágenes regiones de Turquía y la propiedad del hospital.
médicas.
Swangnetr y Desarrollar un algoritmo computacional Estudio de encuesta: cuestionario 24 residentes La eliminación de ruido de las señales de respuesta
Caber [59] eficiente de clasificación emocional del de autoevaluación del maniquí galvánica de la piel basada en ondas condujo a un
paciente en interacción con robots de para medir la respuesta emocional aumento en el porcentaje de clasificaciones correctas de
enfermería en la atención médica. al robot estados emocionales y a relaciones más transparentes
entre las respuestas fisiológicas y la excitación y la
valencia.
Wagland y otros Analizar la experiencia del cuidado del Estudio de encuesta sobre N/A Casi la mitad del total de comentarios analizados
[60] paciente y su efecto en la calidad de vida tratamiento, estado de la enfermedad, describieron experiencias de atención positivas. La
relacionada con la salud. actividad física, evaluación funcional mayoría de las experiencias negativas se relacionaron
de la terapia contra el cáncer e con la falta de atención postratamiento y la información
inventario de dificultades sociales. insuficiente sobre las estrategias de autocuidado o los
efectos secundarios del tratamiento.
Wang y otros [61] Evaluar una intervención de salud Datos matemáticos/textuales y NA (datos de 14 clínicas Después de la revisión de los farmacéuticos, solo el 17% de
poblacional para aumentar el uso de numéricos de atención primaria) los pacientes identificados por el algoritmo se consideraron
anticoagulación en pacientes de alto riesgo circuitos integrados) potencialmente subtratados
con fibrilación auricular.
Waqar y otros [62] Analizar el interés de los pacientes en Estudio de encuesta: evaluación de NA (datos de 3 El sistema propuesto resolvió el problema de las
seleccionar un médico. sistemas desde la perspectiva de hospitales) recomendaciones de los médicos con buenos resultados
pacientes y médicos. cuando lo evaluaron expertos en el campo.
Xiao y otros [63] Lograr una identificación personalizada Datos matemáticos/de imagen 20 pacientes El método de predicción y aprendizaje supervisado
del ligamento cruzado y las inserciones desarrollado en este estudio proporcionó información
de tejido blando y, en consecuencia, precisa sobre los sitios de inserción de tejidos blandos
capturar la relación entre la disposición utilizando los contornos de la tibia.
espacial de las inserciones de tejido
blando y las características específicas
del paciente extraídas de los contornos
de la tibia.
Valik y otros [64] Desarrollar y validar un sistema de vigilancia Datos matemáticos/textuales y N/A Los criterios clínicos de Sepsis-3 determinados por
automatizado basado en Sepsis-3 en una numéricos la revisión médica se cumplieron en 343 de 1000
unidad de cuidados no intensivos. casos.
Bailey y otros [sesenta y cinco] Estudiar la implementación de un Estudio de entrevista y 49 médicos Los hospitales enfrentaron dificultades para traducir las
sistema de apoyo a la decisión clínica observación: trabajo organizacional recomendaciones del CDSS en resultados proactivos de
(CDSS) para la lesión renal aguda. de adopción de tecnología. rutina.
Carayón et al. Para mejorar la usabilidad de un Estudio experimental: 32 médicos Los médicos de urgencias enfrentaron una menor carga
[66] CDSS simulación y observación para de trabajo y una mayor satisfacción con el CDSS basado
evaluar la usabilidad. en factores humanos en comparación con el CDSS
tradicional basado en la web.

XLS•FO
RenderX
pantalones
Parekh y otros Desarrollar y validar una herramienta de Datos matemáticos/numéricos 1280 ancianos La herramienta utilizó ocho variables (edad, sexo,
[67] predicción de riesgos de daños relacionados con clientes fármaco antiplaquetario, nivel de sodio, fármaco
la medicación en adultos mayores. antidiabético, reacción adversa anterior al fármaco,
número de medicamentos, vivir solo) para predecir el
daño con una estadística C de 0,69.
Gilbank y otros Comprender las necesidades del usuario y los Estudio de encuesta y entrevista: 15 partes interesadas Nueve médicos enfatizaron la necesidad de un requisito
[68] requisitos de diseño de una herramienta de reuniones informales y de hospitales, previo para confiar en la herramienta. Muchos
predicción de riesgos. semiestructuradas. academia, industria participantes prefirieron que la tecnología desempeñara
intentarlo y sin fines de lucro funciones complementarias a su experiencia en lugar de
organizaciones realizar tareas para las que los médicos habían sido
capacitados. Se consideró fundamental contar con una
recomendación adaptada al contexto local.
Miller y otros [69] Comprender la usabilidad, aceptabilidad Estudio de encuesta para medir la 523 pacientes 425 pacientes informaron que el uso del verificador de
y utilidad de la tecnología de facilidad de uso. síntomas de Ada no habría marcado una diferencia en
asesoramiento y evaluación de síntomas su comportamiento de búsqueda de atención. La
basada en IA. mayoría de los pacientes encontraron el sistema fácil de
usar y lo recomendarían a otros.
ter Stal et al. Analizar el impacto de la apariencia de Estudio de entrevista: Acosta y 20 pacientes El agente conversacional masculino de mayor
[70] un agente conversacional encarnado en Ward Scale [71] edad fue percibido como más autoritario que la
la percepción del usuario. agente femenina joven (PAG=.03). Los
participantes no vieron un valor agregado del
agente a la aplicación de salud.
Gabrielli y otros Evaluar un chatbot online y Diseño experimental, participativo y 20 niños Dieciséis niños encontraron útil el chatbot y 19 lo
[72] promover el bienestar mental de estudio de encuesta para medir la encontraron fácil de usar.
los adolescentes satisfacción.
Liang y otros [73] Desarrollar una cámara de teléfono inteligente Estudio de entrevista para medir 500 voluntarios Dos expertos coincidieron en que OralCam podría dar
para el autodiagnóstico de la salud bucal la usabilidad (NASA-TLX) resultados aceptables. La aplicación también aumentó el
conocimiento sobre salud bucal entre los usuarios.
Chatterjee y otros Acceder a la viabilidad de un sistema Datos matemáticos/numéricos 91 pacientes, 40 A la mayoría de los pacientes les gustó usar un teléfono
[74] móvil basado en sensores que pueda participación saludable inteligente como herramienta de evaluación; les resultó
medir la gravedad de la obstrucción pantalones cómodo (calificación media 4,63 sobre 5 con σ=0,73)
pulmonar.
Beede y otros [75] Evaluar un sistema de detección ocular basado Estudio de observación y 13 médicos, 50 Las enfermeras enfrentaron desafíos al utilizar el sistema de
en aprendizaje profundo desde una perspectiva entrevista: no estructurado. pacientes aprendizaje profundo dentro de la atención clínica, ya que
centrada en el ser humano aumentaría su carga de trabajo. La baja calidad de imagen y
la velocidad de Internet obstaculizaron el rendimiento del
sistema de IA
aNA: no aplicable; estos estudios sólo han utilizado datos para sus respectivos análisis sin involucrar a ningún participante humano (usuario).
bHCE: historia clínica electrónica.
CIA: inteligencia artificial.
Observamos varios algoritmos en la selección final, siendo el En palabras, el enfoque tecnológico de muchos estudios actualmente está en la
aprendizaje automático el más común (n=18). Algunos estudios colaboración entre humanos y IA en la atención médica, mientras se descuida la
también compararon diferentes algoritmos basados en análisis evaluación clínica de la vida real. Discutir estudios que se centraron principalmente
actuación. Sin embargo, pocos estudios (n=5 frente a estándares clínicos/de referencia, n=5 frente a médicos)
compararon Los defectos y tendencias generales de dichos estudios se han
sus modelos de IA frente a una medida estándar. abordado en nuestro trabajo anterior [7].
Tabla 2resume los estudios que utilizaron algoritmos de aprendizaje En general, nuestra revisión indica que las dimensiones de usabilidad,
automático. Estos estudios enfatizaron el desarrollo de algoritmos sin percepción del usuario, carga de trabajo y confianza en la IA han sido el
considerar los factores humanos en profundidad sustancial. En otra interés más común de la investigación en este campo.

XLS•FO
RenderX
Tabla 2.Estudios de inteligencia artificial (IA) que se centraron principalmente en el desarrollo de algoritmos de aprendizaje automático (ML) (n=18).
Referencia IA/ML recomendado por Otra IA/ML/no IA utilizada en el estudio Modelo(s) de IA propuesto(s) para comparación
el estudio (1=comparado; 0=no comparado)
Otra IA Existente Clínico o Clínica-

sistemas sistema estandarte de oro cian o
(no IA) dardo usuario
Aldape-Pérez et al [24] Memoria asociativa delta AdaBoostM1; harpillera; Red de Bayes; Dagging; 1 0 0 0
enfoque ingenuo de la tabla de decisiones; árbol
funcional; árboles modelo logísticos; Regresión
logística; el ingenuo Bayes; comité aleatorio;
subespacio aleatorio de bosque aleatorio; Red de
función de base radial gaussiana; bosque de rotación;
logística sencilla; máquinas de vectores soporte
Azari y otros [25] Bosque aleatorio y modelo de No aplica 1 1 1 0

Markov oculto.
Balani y De perceptrón Bayes ingenuo; k-vecino más cercano; árbol de decisión 1 0 0 0

Choudhury [26]
CvetkovíCy Red neuronal y lógica No aplica 0 0 0 0

CvetkovíC [28] difusa
Gao y otros [34] AdaBoost k-vecino más cercano, máquina de vectores de soporte, 1 1 1 0
árbol de decisión, bosque aleatorio, Bayes ingenuo
Hu et al [36] Red neuronal profunda Red neuronal profunda con diferentes entradas. 1 0 0 0
Kandaswamy y otros [38] bosque aleatorio Bayes ingenuo; Regresión logística; máquinas de 1 0 0 0
vectores soporte
Komogortsev y Hol- Máquina de vectores de soporte Máquina de vectores de soporte no supervisada y 1 0 0 0

tierra [39] supervisados algoritmo heurístico no supervisado desarrollado
por los autores
Marella y otros [44] Núcleo de Bayes ingenuo Bayes ingenuo; k-vecino más cercano; inducción de reglas 1 0 0 1
Nobles y otros [50] Red neuronal profunda Máquinas de vectores soporte 1 0 0 0

Ong et al [51] Bayes ingenuo; máquina de Máquina de vectores de soporte con función lineal. 1 1 1 1
vectores de soporte con función
de polarización radial
Shiner y otros [57] Procesamiento natural del Sistema de notificación de incidentes; revisión manual de 1 1 1 1
lenguaje registros
Wagland y otros [60] No recomendé ningún Máquinas de vectores soporte; bosque aleatorio; árboles 1 0 0 0
algoritmo en particular. de decisión; red de modelos lineales generalizados;
harpillera; máxima entropía; impulso-logi
Waqar y otros [62] Algoritmo híbrido No aplica 0 0 0 0

desarrollado por los autores.
Xiao y otros [63] Los autores desarrollaron un Regresión lineal con regularización; LAZOa; k- 1 0 0 0
nuevo algoritmo.
vecino más cercano; media poblacional
Valik y otros [64] Los autores desarrollaron un No aplica 0 0 1 1

nuevo algoritmo.
Parekh y otros [67] Los autores desarrollaron un No aplica 0 1 0 0

algoritmo basado en regresión
logística multivariable.
Chatterjee y otros [74] Árbol potenciado por gradiente Bosque aleatorio, impulso adaptativo. 0 0 0 1
aLASSO: operador de selección y contracción mínima absoluta.
sistema de recomendación. Algunos estudios incorporaron percepciones tanto de

Percepción, usabilidad, carga de trabajo y confianza
pacientes como de médicos [62,73] en el desarrollo de sus sistemas de IA. Otro
Percepción estudio entrevistó a proveedores (terapeutas) sobre sus experiencias, opiniones,

expectativas y percepciones de un juego basado en el movimiento para la
La percepción de los usuarios fue analizada mediante varios estudios para
rehabilitación de lesiones cerebrales para guiar el
evaluar adecuadamente la calidad de la propuesta basada en IA.

XLS•FO
RenderX
diseño del sistema de recomendación basado en IA propuesto, que era un carga de trabajo de los usuarios. Tres estudios de nuestra revisión se invirtieron en
sistema de razonamiento basado en casos (CBR) [55]. El sistema de inteligencia minimizar la carga de trabajo de los usuarios mediante la evaluación de la usabilidad de
artificial ASSESS MS también se desarrolló y evaluó en función de las percepciones sistemas de IA como ASSESS MS [48], asistencia para la marcha [45] y SONRISA [27].
de los usuarios [48]. Estudios incluidos en nuestra revisión que desarrollaron

aplicaciones basadas en IA [27,29], robots de IA [30] y dispositivos de IA portátiles
Confianza
como Gait Assist [45] y Itchector [43] también representó las percepciones de los
usuarios. Desde una perspectiva psicológica, las emociones podrían facilitar la La confianza da forma al uso, la adopción y la aceptación de la IA por parte de
percepción [76]. Un estudio de nuestra revisión midió la percepción de los médicos y pacientes [6]. La confianza es un fenómeno psicológico que respalda la
usuarios sobre un agente conversacional basado en IA [70], y otro estudio inconsistencia entre lo conocido (conciencia de los médicos, experiencia del
desarrolló un algoritmo de IA para la detección en tiempo real de los estados paciente) y lo desconocido (algoritmos de aprendizaje profundo). Tres estudios
emocionales del paciente y la adaptación del comportamiento para fomentar incluidos en nuestra revisión midieron la confianza de los usuarios en los
experiencias positivas de atención médica [59]. sistemas de IA de atención médica. Un estudio informó que el antropomorfismo
de los robots de atención basados en IA no influye en la confianza de los
Usabilidad proveedores, pero estaba significativamente relacionado con el nivel de
Algunos estudios de nuestra revisión realizaron pruebas de usabilidad de automatización y la intención de trabajar con el robot.30]. Este estudio propuso
sistemas de IA. Por ejemplo, un estudio utilizó IA para desarrollar un CBR que los proveedores que confiaban más en los robots tenían la intención de
adaptable para ayudar a los terapeutas a garantizar la usabilidad y el trabajar con ellos y preferían un mayor nivel de automatización [30]. Una
funcionamiento adecuados del CBR [55]. Guiado por las necesidades de los perspectiva reciente analiza el riesgo de una dependencia excesiva o una
usuarios, un estudio [27] desarrolló una aplicación de inteligencia artificial (SMILY) confianza máxima en la IA (automatización) y, en cambio, sugiere una confianza
para garantizar una buena usabilidad. Los usuarios encontraron que la óptima entre el usuario y el sistema de IA [6]. Además de la experiencia, los
información clínica tenía una mayor utilidad de diagnóstico mientras usaban conocimientos y los conocimientos previos, el rendimiento de la tecnología de IA
SMILY (media 4,7) que cuando usaban la interfaz convencional (media 3,7). también determina la confianza de los usuarios. Un estudio incluido en nuestra
También experimentaron menos esfuerzo (media 2,8) y expresaron mayor revisión, utilizando un cuestionario posterior al estudio, encontró que los médicos
confianza (media 6) en SMILY que con la interfaz convencional (media 4,7;PAG (patólogos) expresaron una mayor confianza en SMILY, una aplicación basada en
=,01), así como una mayor benevolencia (media 5,8 vs 2,6; PAG<.001). Otro IA, debido a su mejor rendimiento, interfaz y mayor benevolencia en comparación
estudio incluido en nuestra revisión señaló la brecha de alfabetización como un con la aplicación convencional [27]. Por el contrario, otro estudio informó una
obstáculo importante en la usabilidad de una aplicación de lectura facial basada menor confianza de los médicos experimentados en una herramienta de
en IA e identificó el impacto de la adaptabilidad y la sensibilidad cultural como un recomendación basada en IA debido a su rendimiento ineficiente.54]. Basándose
factor limitante para la usabilidad [29]. Otro estudio codiseñó un chatbot de IA en los datos de los pacientes, los médicos expertos pudieron identificar la
con 20 estudiantes y realizó una evaluación formativa para comprender mejor su alternativa y la mejor explicación para la salud del paciente en comparación con la
experiencia al usar la herramienta [72]. Dos estudios recientes midieron la herramienta basada en IA [54]. Un estudio reciente identificó el impacto de la
usabilidad percibida de las herramientas de toma de decisiones basadas en IA: interfaz de IA en la confianza del usuario [68]. Los médicos de este estudio
Ada, una herramienta de IA que ayuda a los pacientes a encontrar el tipo de consideraron la transparencia y el desempeño de la IA como facilitadores para
atención adecuado [69], y PE-Dx CDS, una herramienta para diagnosticar la generar confianza.
embolia pulmonar [66]. Sin embargo, en otro estudio, los investigadores se
centraron principalmente en desarrollar el algoritmo para evaluar la gravedad de
Diseño centrado en el usuario
la obstrucción pulmonar y obtuvieron comentarios de los usuarios sobre el
producto final.74]. La mala usabilidad a menudo conduce a una mayor carga de Un diseño centrado en el usuario requiere cooperación multidisciplinaria
trabajo, particularmente cuando el usuario (proveedor o paciente) no está entre expertos, tecnólogos y usuarios finales de HFE. La insuficiencia de un
capacitado en el uso del sistema, dispositivo o aplicación de IA. diseño centrado en el usuario también dificulta la percepción, la usabilidad
y la confianza del usuario, y aumenta la posibilidad de errores. La mayor
parte de la literatura sobre IA en el sector sanitario se centra en
Carga de trabajo
restricciones cuantitativas, incluidas las métricas de rendimiento y la
Los cuidadores están sujetos a estrés laboral y carga de trabajo cognitiva, precisión, y se centra menos en el desarrollo de tecnologías de IA centrado
principalmente debido a las complejidades e incertidumbre de la salud del en el usuario. Debido a la falta de pautas estándar [7,dieciséis], no se ha
paciente y el tratamiento relacionado.77-79], y la IA promete minimizar la carga invertido mucha investigación en incorporar un diseño centrado en el
de trabajo de la atención médica mediante la automatización de varios niveles. usuario en tecnologías basadas en IA dentro de la industria del cuidado de
Sin embargo, si un sistema o programa de IA está mal diseñado, es posible que la la salud. En esta revisión, identificamos estudios que realizaron
carga de trabajo sea elevada. Dos estudios de nuestra revisión utilizaron una red experimentos con médicos y pacientes, y evaluaron consecutivamente la
de funciones de base radial para evaluar el agotamiento entre enfermeras y, en interfaz de su sistema de IA (p. ej., aplicación, dispositivo portátil) [27],
consecuencia, capturaron la relación no lineal del proceso de agotamiento con la aplicabilidad [27,29], y apariencia (antropomorfismo) [30] para garantizar el
carga de trabajo, la experiencia laboral, la interacción conflictiva, la ambigüedad enfoque centrado en el usuario. Otros estudios [43,45,48,49,55,62] también
de roles y otros factores estresantes.41,42]. La teoría del estrés laboral del control abordó los requisitos de los usuarios, como la portabilidad y la privacidad.
de la demanda implica que las anomalías en la carga de trabajo y la intensidad del Un estudio reciente reconoció además la importancia de un estudio de
trabajo pueden agravar la fatiga del usuario por cargas de trabajo excesivas y campo clínico centrado en el usuario e identificó factores externos como la
desencadenar ansiedad.80]. Según Maslach y Leiter [81], se intensifica el poca iluminación, las costosas anotaciones de imágenes y la velocidad de
desajuste entre el conjunto de habilidades (capacidad para realizar una tarea) y la Internet que pueden impedir la eficacia de los sistemas de inteligencia
responsabilidad (habilidades necesarias para completar una tarea). artificial para diagnosticar la retinopatía diabética.75].

XLS•FO
RenderX
Discusión médicos [33]. De hecho, el uso de la IA puede dar forma a las actividades y
deberes de los médicos y podría ayudarlos en su toma de decisiones. En el
ámbito de las imágenes médicas, la IA se ha mostrado muy prometedora y
Hallazgos principales
está aumentando rápidamente. Por ejemplo, el 18 de enero de 2021, una
Las investigaciones sobre la IA en la atención sanitaria se han mostrado
plataforma de análisis de imágenes llamada AI Metrics recibió la
prometedoras para aumentar la calidad de la atención sanitaria. Sin
autorización 510(k) de la Administración de Alimentos y Medicamentos de
embargo, se necesitan más avances teóricos e intervenciones que cubran
EE. UU. (FDA) [86]. Asimismo, en los últimos 5 años, se han aprobado en
todos los niveles y operaciones del sistema de atención de salud.
Estados Unidos aproximadamente 222 dispositivos médicos basados en IA
Necesitamos un enfoque sistemático para utilizar la IA de forma segura y
[87]. A medida que la IA sigue creciendo, los riesgos asociados también
eficaz, proporcionando factores humanos, diseño centrado en el usuario y
aumentan. Muchos sistemas de IA para el cuidado de la salud están mal
ciencia de entrega e implementación. Muchos modelos actuales de IA se
diseñados y no se evalúan exhaustivamente [14], y han descuidado las
centran en la tecnología de ingeniería (conceptos informáticos) y no
limitadas capacidades cognitivas y de absorción de los médicos y su
discuten suficientemente la relevancia de HFE en la atención médica.82]. En
capacidad para utilizar la IA en entornos clínicos bajo una alta carga de
esta revisión, exploramos y describimos la participación de las revistas y
trabajo cognitiva [88-90]. Uso incorrecto o mala interpretación de la IA,
conferencias de HFE en la investigación de la IA en el cuidado de la salud.
similar al de los EHR [91], también puede provocar daños al paciente. Por lo
Identificamos 48 estudios, con una tendencia de publicaciones en los
tanto, más investigaciones sobre HFE deberían centrarse en factores
últimos años, lo que muestra una mayor atención de la comunidad HFE en
cognitivos (sesgos, percepciones, confianza), usabilidad, conciencia de la
este campo.
situación y aspectos metodológicos de los sistemas de IA.
Aunque se han logrado avances y se ha centrado en el uso del

Usabilidad
aprendizaje automático/IA para desarrollar modelos de predicción y
Un diseño centrado en el usuario es esencial para las tecnologías sanitarias,
clasificación, se ha dedicado poca investigación a las traducciones del
donde el usuario participa de forma centralizada en todas las fases del
mundo real con un enfoque de diseño centrado en el usuario. Para
proceso de diseño.92]. Sin embargo, cuando el entorno y las actividades del
determinar las diversas relaciones entre las personas y la tecnología
usuario son variados, diseñar protocolos estandarizados para dispositivos y
dentro de un entorno laboral, es necesario proporcionar una mejor
software de atención médica resulta complicado. Como se afirma en este
explicación de cómo la IA puede ser parte del sistema de atención
estudio, el problema aumenta aún más debido a la heterogeneidad de
médica general a través de una variedad de métodos HFE, como la
aplicaciones y variantes de IA. La comunidad de interacción persona-
Iniciativa de Ingeniería de Sistemas para la Seguridad del Paciente.
computadora ha desarrollado diferentes técnicas de diseño centradas en el
(SEIPS) [83]. El SEIPS proporciona un marco que ayuda a comprender el
usuario. Sin embargo, estos métodos a menudo son infrautilizados por los
sistema de trabajo (personas, herramientas y tecnologías, tareas,
equipos y organizaciones de desarrollo de software [93].
entorno de trabajo y organización), el proceso (proceso clínico y
proceso que lo asiste) y los resultados (resultado del paciente, Por lo general, los algoritmos de IA son complejos, opacos y, por tanto,
resultado organizacional) en el dominio de atención médica [83]. Este difíciles de entender. Por lo tanto, podría resultar difícil para los médicos/
marco también ayuda a evaluar y comprender la compleja interacción usuarios finales comprender e interpretar los resultados de la IA de forma
entre elementos del sistema de trabajo y muestra el impacto de eficaz sin la instrucción adecuada. La ergonomía cognitiva es un principio
cualquier intervención basada en tecnología en el sistema general.83]. fundamental que aborda cuestiones de usabilidad [94]. Para utilizar un
dispositivo técnico se requiere la información procesal necesaria
almacenada en la memoria a largo plazo [95]. Kieras y Polson [95] sugirió
Esta revisión también destaca la necesidad de un enfoque sistemático que
que la teoría de la complejidad cognitiva (CCT) aborda explícitamente la
evalúe el impacto (efectividad) de la IA en la atención al paciente en función
complejidad cognitiva de la interacción usuario-dispositivo/interfaz
de sus capacidades computacionales y su compatibilidad con el flujo de
explicando los objetivos del usuario, por un lado, y la reacción del sistema
trabajo clínico y su usabilidad. Aunque algunos estudios han reconocido los
informático, por otro, utilizando reglas de producción. Las leyes de
desafíos de la IA debido a factores humanos (sesgos y usabilidad) [84] y
producción pueden verse como una serie de reglas en forma de
técnico (calidad de los datos de entrenamiento y estandarización de la IA) [7
condiciones SI (estado de visualización) y ENTONCES acciones (entrada o
] puntos de vista, hasta ahora se ha dado menos énfasis al impacto de la
acción realizada por el usuario). Según CCT, la complejidad cognitiva se
integración de la IA en los procesos clínicos [dieciséis] y servicios, así como
define como el número de reglas de producción segregadas y aprendidas
al diseño centrado en el usuario de sistemas de IA para una mejor
en una secuencia de acción específica. La definición de complejidad
interacción entre humanos y IA [84,85]. En esta etapa, donde los seres
cognitiva en una aplicación de salud basada en IA puede ser tan útil como la
humanos y la IA se unen, es probable que surjan desafíos a los factores
definición de reglas de producción (es decir, la especificación de lo que dice
humanos.
el sistema y cómo reaccionan los usuarios) y factores que pueden contribuir
Próximos pasos simultáneamente a la complejidad de la aplicación (es decir, interfaz,
El próximo impulso para los investigadores debería ser llevar la investigación de la IA estructura de menús, idioma de comunicación, transparencia en la
más allá del mero desarrollo de modelos hacia la investigación de sistemas sociotécnicos denominación de funciones). Sin embargo, es discutible si el mero recuento
y utilizar eficazmente los principios de los factores humanos. Los investigadores de HFE de las reglas de producción evaluará razonablemente los problemas
deben considerar las necesidades, capacidades e interacciones de los usuarios con otros percibidos por los usuarios, considerando que varios factores contribuyen
elementos del sistema de trabajo para garantizar el impacto positivo de la IA en la equitativamente a la complejidad cognitiva. Sistemas de computación
transformación de la atención médica. Los sistemas clínicos no son inherentemente cognitiva [96], que son sistemas informáticos que pueden incorporar
equivalentes a los sistemas mecánicos predecibles y necesitan un enfoque sistemático. capacidades cognitivas similares a las humanas, también pueden aumentar
Uno de los mitos fundamentales de la automatización es la suposición de que la IA y salvaguardar la IA en el cuidado de la salud al hacer que la IAadaptado(
puede reemplazar aprendiendo de un cambio

XLS•FO
RenderX
entorno, cambios en la salud del paciente, cambios en los requisitos Conciencia de la situación
del médico), interactivo (interacción más fácil entre humanos y IA,
La conciencia situacional se define como “la percepción de los
mejor usabilidad, fácil de entender), iterativo y con estado (limitando el
elementos del entorno dentro de un volumen de tiempo y espacio, la
problema, considerando decisiones/consecuencias pasadas mientras
comprensión de su significado y la proyección de su estado en el
se hacen recomendaciones/tareas actuales), y contextual (considere
futuro cercano” [107]. Una "buena" conciencia de la situación es un
elementos contextuales) [96].
requisito previo para un mejor desempeño [84,107]. Podría haber una
Además, los desafíos y dificultades percibidos por los usuarios pueden discusión en curso sobre la conciencia de la situación máxima versus
ser una función de varios factores que no se limitan a la experiencia, el óptima. Es fundamental comprender que la conciencia de la situación
conocimiento, la intención de uso y el entorno de trabajo del usuario. óptima no es necesariamente la conciencia de la situación máxima.108
97]. Por lo tanto, los investigadores de HFE deben crear una escala de ]. Maximizar el conocimiento de la situación del usuario no
usabilidad adaptable que abarque la complejidad de la IA y los factores necesariamente produce el mejor resultado (decisiones de una
de usabilidad comunes aplicables a ese sistema o software en colaboración entre humanos y IA) [108]. Por ejemplo, concentrarse en
particular. La percepción de un sistema de IA o su facilidad de uso detalles irrelevantes como anuncios de radio, pasajeros que hablan o
percibida puede ser potencialmente una función de las capacidades los colores de otros automóviles mientras se conduce puede consumir
cognitivas y físicas de los usuarios. Además, la pregunta obvia es: innecesariamente la memoria de trabajo del conductor, aumentar la
¿dónde deberían considerarse las técnicas y el conocimiento de diseño carga de trabajo o incluso actuar como una distracción.109].
centrado en el usuario en el ciclo de vida del desarrollo de la IA?
De manera similar, en un entorno clínico, es mejor lograr una
Confianza y prejuicios conciencia situacional óptima que una conciencia situacional máxima.
Muchos estudios han demostrado el impacto disuasorio de la
La investigación de factores humanos sobre las “sorpresas de la automatización”
información excesiva e innecesaria en el trabajo clínico.110,111]. Por
comenzó principalmente con la industrialización a gran escala que involucraba
ejemplo, alarmas clínicas falsas o irrelevantes pueden aumentar la
tecnologías autónomas [84,98,99]. La sorpresa de la automatización surge
tensión de las enfermeras e incluso distraerlas. Realizar tareas críticas
cuando una máquina automatizada actúa de manera contraria a la intuición.100].
de atención médica (como administrar medicamentos narcóticos,
En el sector sanitario, las sorpresas de la automatización pueden generar
observar monitores de telemetría) exige un conocimiento óptimo de la
confusión, mayor carga de trabajo, desconfianza y operaciones ineficientes.101].
situación [112]; sin embargo, una conciencia situacional innecesaria o
En el entorno de la atención sanitaria, los modelos mentales inadecuados y la
irrelevante puede perturbar la atención y la memoria de trabajo de los
información insuficiente sobre la tecnología basada en IA pueden provocar
médicos. No se ha estudiado exhaustivamente la exploración de la
sorpresas en la automatización e influir negativamente en la confianza.6]. La
influencia de la IA en la conciencia situacional de los médicos. Se
confianza también puede verse obstaculizada si un sistema automatizado tiende
necesita más investigación basada en HFE para explicar mejor el
a disuadir el desempeño de los médicos [6]. La investigación que evaluó el
concepto de conciencia de la situación óptima en el diseño de IA. Tanto
desempeño de los radiólogos observó su desempeño disuasorio cuando cuentan
los humanos como la IA se muestran escépticos con respecto a la
con la ayuda de un sistema de apoyo a la toma de decisiones [102]. Por lo tanto,
información generada en su entorno y extraen los datos que parecen
se necesitan más estudios de HFE que exploren los factores y requisitos de diseño
vitales para la toma de decisiones clínicas.
que influyen en la confianza óptima de los usuarios y médicos en la IA. Los
estudios futuros también deberían centrarse en la confianza de los pacientes en Validación Ecológica
las recomendaciones generadas por la IA.
El desarrollo, la evaluación y la integración de sofisticados dispositivos
Cuando los sistemas de diagnóstico automatizados se utilizan en clínicas de la vida real, médicos basados en IA puede ser un proceso desafiante que requiere un
lo más probable es que sean en forma de sistemas asistentes o de recomendación compromiso multidisciplinario. Puede permitir un enfoque personalizado
donde el sistema de inteligencia artificial proporciona información a los médicos o de la atención al paciente a través de un mejor diagnóstico y pronóstico de
pacientes como una segunda opinión. Sin embargo, si las sugerencias hechas por la IA las respuestas individuales a las terapias, junto con una comprensión
se basan enteramente en datos sin tener en cuenta la opinión del usuario, como es el eficiente de las bases de datos de salud. Esta solución tiene el poder de
caso de los diseños actuales, los usuarios podrían estar sesgados a favor o en contra de revitalizar las prácticas clínicas. Aunque la llegada del tratamiento
la sugerencia del sistema de IA.103]. Optimizar dicha interacción de confianza entre el personalizado al paciente resulta provocativa, es necesario evaluar el
usuario y la IA sigue siendo un desafío que los expertos de HFE deberían considerar verdadero potencial de la IA. El rendimiento de la IA depende de la cantidad
como su esfuerzo futuro. y calidad de los datos disponibles para el entrenamiento, como se reconoce
en artículos de revisión recientes [7,dieciséis]. Quizás uno de los hechos más
Cabe señalar que defender la confianza en la automatización durante un tiempo
esenciales desde el punto de vista de HFE es que la mala usabilidad provoca
prolongado también puede promover un sesgo en la automatización. Los
un uso inadecuado, inexacto e ineficiente.113]. Aunque la FDA ha declarado
estudios de aviación han registrado casos de sesgos de automatización en los que
sustancialmente la importancia de las pruebas de usabilidad y un diseño
los pilotos no podían rastrear indicadores vitales de vuelo en caso de falla debido
centrado en el usuario para dispositivos médicos [114] y otros expertos en
a una dependencia excesiva del piloto automático [104,105]. Una revisión del
HFE, tanto las directrices regulatorias como los enfoques de evaluación no
sesgo de automatización centrada en la literatura sobre atención sanitaria señaló
reflejan los desafíos que enfrentan los médicos durante su actividad clínica
que la complejidad de cualquier tarea y la carga de trabajo aumentaban la
de rutina [115]. En otras palabras, la mayoría de los estudios identificados
probabilidad de una dependencia excesiva de la automatización.106], lo que
en nuestra revisión se realizaron en un ambiente controlado, por lo que
puede ser perjudicial para la seguridad del paciente. Los factores humanos como
carecen de validez ecológica. Este hallazgo es consistente con la mayoría de
la ergonomía cognitiva y un diseño centrado en el usuario deben utilizarse de
otras investigaciones en el campo de la IA y la atención médica. Revisiones
manera eficiente para minimizar los sesgos de automatización del sistema de IA
sistemáticas recientes [7,dieciséis,116] analizando el papel y el desempeño
de atención médica.
de la IA en la atención médica

XLS•FO
RenderX
reconoció que los sistemas o modelos de IA a menudo se evaluaban en Limitaciones de la revisión

condiciones poco realistas que tenían mínima relevancia para la
Esta revisión no incluye la literatura completa disponible, pero se limitó a las
práctica clínica habitual.
revistas y congresos seleccionados. En esta revisión no se han incluido los
Es posible que los usuarios sometidos a estrés e incomodidad no sean eficientes a estudios que investigan las interacciones entre humanos y la IA en un
la hora de utilizar dispositivos de inteligencia artificial con poca usabilidad. A contexto de atención médica o que aprovechan los principios de HFE para
diferencia de la investigación o los entornos controlados, un entorno clínico exige evaluar los sistemas de IA de atención médica publicados en lugares ajenos
tareas múltiples en las que los médicos (enfermeros) tienen que atender a varios a HFE, como revistas médicas o de informática pura. A pesar de estas
pacientes con diferentes dolencias. También tienen que escribir notas clínicas, limitaciones, nuestro análisis identificó posibles brechas de investigación en
monitorear las fluctuaciones de salud, administrar medicamentos críticos, las disciplinas de la salud que, si se abordan, podrían ayudar a movilizar e
desplazarse a diferentes departamentos durante la escasez de personal, educar a integrar la IA de manera más eficiente y segura.
nuevas enfermeras y responder a protocolos en casos de emergencia. En un
entorno de trabajo y una carga de trabajo cognitivo de este tipo, interpretar o
Conclusión
aprender a utilizar un sistema de inteligencia artificial que no está diseñado
Los investigadores de HFE deberían diseñar e implementar activamente la
adecuadamente puede resultar desafiante y arriesgado. Por lo tanto, un sistema
IA y realizar evaluaciones dinámicas de los efectos de los sistemas de IA en
de IA que califique perfectamente las pruebas de usabilidad en un entorno de
la interacción, el flujo de trabajo y los resultados de los pacientes. Un
investigación puede fallar en un entorno clínico. Dadas estas limitaciones, los
sistema de IA es parte de un sistema sociotécnico mayor. Los
pocos estudios de nuestra revisión que compararon su modelo de IA con
investigadores con experiencia en HFE son fundamentales a la hora de
estándares clínicos (verTabla 2) son menos relevantes porque las comparaciones
definir la interacción dinámica de la IA dentro de cada elemento, proceso y
con los estándares clínicos se realizaron en un entorno controlado (ideal) o sin
resultado del sistema de trabajo. Esto significa que debemos adaptar
proporcionar información contextual sobre el paciente y el entorno [117].
nuestra estrategia a las situaciones y contextos del terreno; Al mismo
Además, los elementos del sistema de trabajo también difieren sustancialmente
tiempo, también debemos encontrar formas prácticas de generar evidencia
de una unidad de cuidados intensivos a una clínica ambulatoria. Por lo tanto, los
más convincente para nuestra investigación.
sistemas médicos basados en IA deben evaluarse en su respectivo entorno
clínico para garantizar una implementación más segura.
Expresiones de gratitud
Agradecemos al Sr. Nikhil Shetty y a la Sra. Safa Elkefi, estudiantes de posgrado del Stevens Institute of Technology, por ayudarnos con la búsqueda
bibliográfica preliminar. Esta investigación no recibió ninguna subvención específica de ninguna agencia de financiación en los sectores público, comercial
o sin fines de lucro.
Contribuciones de los autores
OA concibió y diseñó el estudio; desarrolló el protocolo; participó en la recopilación, análisis e interpretación de datos (revisión de la
literatura); redactó y revisó el manuscrito; y aprobó la versión final para su presentación. AC diseñó el estudio; desarrolló el protocolo de
revisión y las ilustraciones gráficas; participó en la revisión, análisis e interpretación de la literatura; redactó y revisó el manuscrito; y
aprobó la versión final para su presentación.
Conflictos de interés
Ninguno declarado.
Apéndice multimedia 1
Listado de actas de revistas y congresos para la revisión. [
Archivo DOCX, 19 KB -Apéndice multimedia 1 ]
Referencias
1. Wang P. Sobre la definición de inteligencia artificial. J Artif Gen Intell 2019;10(2):1-37. [doi:10.2478/jagi-2019-0002 ]
2. Leão C, Gonçalves P, Cepeda T, Botelho L, Silva C. Estudio del conocimiento y el impacto de la inteligencia artificial en una comunidad
académica. 25 de septiembre de 2018 Presentado en: Conferencia Internacional sobre Sistemas Inteligentes (SI); 2018; Funchal pág.
891-895. [doi:10.1109/is.2018.8710477 ]
3. McCarthy J, Hayes P. Algunos problemas filosóficos desde el punto de vista de la inteligencia artificial. En: Meltzer B, Michie D,
editores. Machine Intelligence 4. Edimburgo, Reino Unido: Edinburgh University Press; 1981:463-502.
4. Pedregosa F, Varoquaux G, Gramfort A, Michel V, Thirion B, Grisel O, et al. Scikit-learn: aprendizaje automático en Python (árboles
de decisión). J Mach Learn Res 2011;12(1):2825-2830.
5. Helm JM, Swiergosz AM, Haeberle HS, Karnuta JM, Schaffer JL, Krebs VE, et al. Aprendizaje automático e inteligencia artificial: definiciones,
aplicaciones y direcciones futuras. Curr Rev Musculoskelet Med 2020 febrero;13(1):69-76 [Texto completo gratis ] [doi:
10.1007/s12178-020-09600-8 ] [Medline:31983042 ]

XLS•FO
RenderX
6. Asan O, Bayrak AE, Choudhury A. Inteligencia artificial y confianza humana en la atención sanitaria: centrarse en los médicos. J Med Internet
Res 2020 19 de junio; 22 (6): e15154 [Texto completo gratis ] [doi:10.2196/15154 ] [Medline:32558657 ]
7. Choudhury A, Asan O. Papel de la inteligencia artificial en los resultados de seguridad del paciente: revisión sistemática de la literatura. JMIR Med
Informe 24 de julio de 2020;8(7):e18599 [Texto completo gratis ] [doi:10.2196/18599 ] [Medline:32706688 ]
8. Ardila D, Kiraly AP, Bharadwaj S, Choi B, Reicher JJ, Peng L, et al. Detección integral de cáncer de pulmón con aprendizaje profundo
tridimensional en tomografía computarizada de tórax de dosis baja. Nat Med, junio de 2019; 25 (6): 954-961. [doi:10.1038/
s41591-019-0447-x ] [Medline:31110349 ]
9. Obermeyer Z, Emanuel EJ. Predecir el futuro: big data, aprendizaje automático y medicina clínica. N Engl J Med 29 de septiembre de
2016; 375 (13): 1216-1219 [Texto completo gratis ] [doi:10.1056/NEJMp1606181 ] [Medline:27682033 ]
10. Esteva A, Kuprel B, Novoa RA, Ko J, Swetter SM, Blau HM, et al. Clasificación a nivel dermatólogo del cáncer de piel con redes neuronales
profundas. Naturaleza 2 de febrero de 2017; 542 (7639): 115-118. [doi:10.1038/naturaleza21056 ] [Medline:28117445 ]
11. Lovett L. Google hace una demostración de su herramienta de documentación clínica similar a la HCE. Noticias de salud de Mobi. 2019. URL:https://www .
mobihealthnews.com/news/north-america/google-demos-its-ehr-clinical-documentation-tool [consultado el 17 de julio de 2020]
12. Kelly CJ, Karthikesalingam A, Suleyman M, Corrado G, King D. Desafíos clave para generar impacto clínico con inteligencia artificial.
BMC Med 29 de octubre de 2019;17(1):195 [Texto completo gratis ] [doi:10.1186/s12916-019-1426-2 ] [Medline:31665002 ]
13. Mnih V, Kavukcuoglu K, Silver D, Graves A, Antonoglou I, Wierstra D. Jugar a Atari con aprendizaje por refuerzo profundo. preimpresión de
arXiv. 2013. URL:https://arxiv.org/abs/1312.5602 [consultado el 15 de junio de 2021]
14. Kleinman Z. La mayoría de las aplicaciones de atención médica no cumplen con los estándares del NHS. Noticias de la BBC. URL:https://www.bbc.com/news/
technology-56083231 [consultado el 20 de enero de 2021]
15. Nicholson Price II W. Riesgos y remedios para la inteligencia artificial en la atención médica. Brookings. URL:https://www .
brookings.edu/research/risks-and-remedies-for-artificial-intelligence-in-health-care/ [consultado el 25 de diciembre de 2020]
16. Choudhury A, Renjilian E, Asan O. Uso del aprendizaje automático en la atención clínica geriátrica para enfermedades crónicas: una revisión
sistemática de la literatura. JAMIA Abierto 2020 Octubre;3(3):459-471 [Texto completo gratis ] [doi:10.1093/jamiaopen/ooaa034 ] [Medline:
33215079 ]
17. Lau N, Hildebrandt M, Althoff T, Boyle LN, Iqbal ST, Lee JD, et al. Humano en el foco: investigaciones futuras y aplicaciones del monitoreo
ubicuo de usuarios. 20 de noviembre de 2019 Presentado en: Actas de la reunión anual de la Sociedad de Factores Humanos y
Ergonomía. /11/01;63(1); 2019; Filidefia pág. 168-172. [doi:10.1177/1071181319631317 ]
18. Lau N, Hildebrandt M, Jeon M. Ergonomía en la IA: diseño e interacción con el aprendizaje automático y la IA. Ergon Des 2020 05
de junio;28(3):3. [doi:10.1177/1064804620915238 ]
19. Panch T, Mattie H, Celi LA. La "verdad incómoda" sobre la IA en la atención sanitaria. NPJ Digit Med 2019 16 de agosto;2(1):77-73.
[doi:10.1038/s41746-019-0155-4 ] [Medline:31453372 ]
20. Rajkomar A, Dean J, Kohane I. Aprendizaje automático en medicina. N Engl J Med 04 de abril de 2019;380(14):1347-1358. [doi:
10.1056/nejmra1814259 ]
21. Choudhury A, Asan O. Factores humanos e inteligencia artificial en torno a la atención médica: un protocolo de revisión de mapeo. Marco de ciencia
abierta. 2020. URL:https://osf.io/qy295/ [consultado el 15 de febrero de 2021]
22. Grant MJ, Booth A. Una tipología de revisiones: un análisis de 14 tipos de revisiones y metodologías asociadas. Información de salud
Libra J 2009 Jun;26(2):91-108. [doi:10.1111/j.1471-1842.2009.00848.x ] [Medline:19490148 ]
23. Holden RJ, vicepresidente de Cornet, Valdez RS. Ergonomía del paciente: revisión cartográfica de 10 años de factores humanos centrados en el
paciente. Appl Ergon 2020 de enero; 82: 102972. [doi:10.1016/j.apergo.2019.102972 ] [Medline:31654954 ]
24. Aldape-Pérez M, Yáñez-Márquez C, Camacho-Nieto O, López-Yáñez I, Argüelles-Cruz AJ. Aprendizaje colaborativo basado en modelos asociativos:
Aplicación a la clasificación de patrones en conjuntos de datos médicos. Comportamiento de Comput Hum, octubre de 2015; 51: 771-779. [doi:
10.1016/j.chb.2014.11.091 ]
25. Azari DP, Hu YH, Miller BL, Le BV, Radwin RG. Utilizar los movimientos de la mano del cirujano para predecir maniobras quirúrgicas. Factores de
zumbido, diciembre de 2019; 61 (8): 1326-1339. [doi:10.1177/0018720819838901 ] [Medline:31013463 ]
26. Balani S, De Choudhury M. Detección y caracterización de la autorrevelación relacionada con la salud mental en las redes sociales. 2015
Presentado en: Actas de la 33ª Conferencia Anual ACM Resúmenes ampliados sobre factores humanos en sistemas informáticos - CHI
EA '15; 2015; Seúl pág. 1373-1378. [doi:10.1145/2702613.2732733 ]
27. Cai C, Stumpe M, Terry M, Reif E, Hegde N, Hipp J. Herramientas centradas en el ser humano para hacer frente a algoritmos imperfectos durante la
toma de decisiones médicas. 2019 Presentado en: Actas de la Conferencia CHI sobre factores humanos en sistemas informáticos
- CHI '19; 2019; Glasgow pág. 1-14. [doi:10.1145/3290605.3300234 ]
28. CvetkoviCJ, CvetkoviCM. Investigación de la depresión en pacientes con cáncer de mama mediante técnica de inteligencia computacional.
Comput Hum Behav, marzo de 2017; 68: 228-231. [doi:10.1016/j.chb.2016.11.042 ]
29. Ding X, Jiang Y, Qin X, Chen Y, Zhang W, Qi L. Lectura de cara, Lectura de salud. 2019 Presentado en: Actas de la Conferencia CHI
sobre factores humanos en sistemas informáticos - CHI '19; 2019; Glasgow pág. 1-13. [doi:10.1145/3290605.3300435 ]
30. Erebak S, Turgut T. Actitudes de los cuidadores hacia posibles compañeros de trabajo robóticos en el cuidado de personas mayores. Cogn Tech Work 24 de
julio de 2018;21(2):327-336. [doi:10.1007/s10111-018-0512-0 ]
31. Jian J, Bisantz A, Drury C. Fundamentos para una escala de confianza determinada empíricamente en sistemas automatizados. Int J Cogn Ergon, marzo
de 2000; 4 (1): 53-71. [doi:10.1207/s15327566ijce0401_04 ]
https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. dieciséis
XLS•FO
RenderX
32. Chang M, Cheung W. Determinantes de la intención de utilizar Internet/WWW en el trabajo: un estudio confirmatorio. Inf Manag 2001
noviembre;39(1):1-14. [doi:10.1016/s0378-7206(01)00075-1 ]
33. Parasuraman R, Sheridan TB, Wickens CD. Un modelo para tipos y niveles de interacción humana con la automatización. IEEE
Trans Syst Man Cybern A Syst Hum 2000 mayo;30(3):286-297. [doi:10.1109/3468.844354 ] [Medline:11760769 ]
34. Gao J, Tian F, Fan J, Wang D, Fan X, Zhu Y. Detección implícita de deterioro motor en la enfermedad de Parkinson a partir de interacciones cotidianas con
teléfonos inteligentes. 2018 Presentado en: Conferencia CHI sobre factores humanos en sistemas informáticos; 2018; Montréal
pag. 1-6. [doi:10.1145/3170427.3188502 ]
35. Hawkins JB, Brownstein JS, Tuli G, Runels T, Broecker K, Nsoesie EO, et al. Medición de la calidad de la atención percibida por los pacientes en
hospitales de EE. UU. mediante Twitter. BMJ Qual Saf 2016 junio;25(6):404-413 [Texto completo gratis ] [doi:10.1136/bmjqs-2015-004309 ]
[Medline:26464518 ]
36. Hu B, Kim C, Ning X, Xu X. Uso de una red de aprendizaje profundo para reconocer el dolor lumbar en posición estática.
Ergonomía 2018 octubre;61(10):1374-1381. [doi:10.1080/00140139.2018.1481230 ] [Medline:29792576 ]
37. Jin H, Qu Q, Munechika M, Sano M, Kajihara C, Duffy VG, et al. Aplicar algoritmos inteligentes para automatizar la identificación de
factores de error. J Patient Saf 2018 03 de mayo: en línea antes de la impresión. [doi:10.1097/PTS.0000000000000498 ]
[Medline:29733301 ]
38. Kandaswamy S, Hettinger AZ, Ratwani RM. ¿Que ordenaste? Desarrollar modelos para medir el impacto de la usabilidad en la precisión de los médicos
de emergencia mediante el ingreso computarizado de pedidos de proveedores. 20 de noviembre de 2019 Presentado en: Reunión Anual de la
Sociedad de Factores Humanos y Ergonomía; 2019; Filidefia pág. 713-717. [doi:10.1177/1071181319631461 ]
39. Komogortsev O, Holland C. La aplicación de la biometría del movimiento ocular en la detección automatizada de lesión cerebral
traumática leve. 2014 Presentado en: Actas de los resúmenes ampliados de la 32ª conferencia anual ACM sobre factores
humanos en sistemas informáticos - CHI EA '14; 2014; Toronto pág. 1711-1716. [doi:10.1145/2559206.2581150 ]
40. Krause J, Perer A, Ng K. Interactuando con predicciones. 2016 Presentado en: Actas de la Conferencia CHI sobre factores humanos
en sistemas informáticos; 2016; Montréal pág. 5686-5697. [doi:10.1145/2858036.2858529 ]
41. Ladstätter F, Garrosa E, Moreno-Jiménez B, Ponsoda V, Reales Avilés JM, Dai J. Ampliando la metodología de salud ocupacional: un
enfoque de red neuronal artificial concatenada para modelar el proceso de agotamiento en enfermeras chinas. Ergonomía
2016;59(2):207-221. [doi:10.1080/00140139.2015.1061141 ] [Medline:26230967 ]
42. Ladstätter F, Garrosa E, Badea C, Moreno B. Aplicación de redes neuronales artificiales a un estudio del agotamiento de enfermería.
Ergonomía 2010 septiembre;53(9):1085-1096. [doi:10.1080/00140139.2010.502251 ] [Medline:20737334 ]
43. Lee J, Cho D, Kim J, Im E, Bak J. Itchtector: un sistema móvil portátil para controlar las condiciones de picazón. 2017 Presentado
en: Actas de la Conferencia CHI de 2017 sobre factores humanos en sistemas informáticos; 2017; Montréal pág. 893-905. [doi:
10.1145/3025453.3025569 ]
44. Marella WM, Sparnon E, Finley E. Detección de informes de seguridad del paciente relacionados con registros médicos electrónicos mediante
aprendizaje automático. J Paciente Saf 2017 Mar;13(1):31-36. [doi:10.1097/PTS.0000000000000104 ] [Medline:24721977 ]
45. Mazilu S, Blanke U, Hardegger M, Tröster G, Gazit E, Hausdorff J. GaitAssist. 2014 Presentado en: Actas de la 32ª Conferencia
Anual ACM sobre Factores Humanos en Sistemas Informáticos - CHI '14; 2014; Toronto pág. 2531-2540. [doi:
10.1145/2556288.2557278 ]
46. McKnight SD. Clasificación semisupervisada de informes de eventos de seguridad del paciente. J Patient Saf, junio de 2012;8(2):60-64. [doi:
10.1097/PTS.0b013e31824ab987 ] [Medline:22543364 ]
47. Moore CR, Farrag A, Ashkin E. Uso del procesamiento del lenguaje natural para extraer resultados anormales de los informes de detección del cáncer. J
Paciente Saf 2017 septiembre;13(3):138-143 [Texto completo gratis ] [doi:10.1097/PTS.0000000000000127 ] [Medline:25025472 ]
48. Morrison C, D'Souza M, Huckvale K, Dorn JF, Burggraaff J, Kamm CP, et al. Usabilidad y aceptabilidad de ASSESS MS: evaluación de la disfunción motora
en la esclerosis múltiple mediante visión por computadora con detección de profundidad. JMIR Hum Factors 24 de junio de 2015; 2 (1): e11 [Texto
completo gratis ] [doi:10.2196/factores humanos.4129 ] [Medline:27025782 ]
49. Muñoz M, Cobos A, Campos A. Drenajes de reinfusión de bajo vacío después de artroplastia total de rodilla: ¿existe un beneficio real? Blood
Transfus 2014 de enero; 12 (Suplemento 1): s173-s175. [doi:10.2450/2013.0236-13 ] [Medline:24120601 ]
50. Nobles A, Glenn J, Kowsari K, Teachman B, Barnes L. Identificación del riesgo de suicidio inminente entre adultos jóvenes que utilizan
mensajes de texto. 2018 Presentado en: Conferencia SIGCHI sobre Factores Humanos en Sistemas Computacionales; 2018; San Francisco.
[doi:10.1145/3173574.3173987 ]
51. Ong M, Magrabi F, Coiera E. Categorización automatizada de informes de incidentes clínicos mediante clasificación estadística de texto. Qual
Saf Health Care 2010 Dec;19(6):e55. [doi:10.1136/qshc.2009.036657 ] [Medline:20724392 ]
52. Parque A, Conway M, Chen AT. Examinando similitudes temáticas, diferencias y membresía en tres comunidades de salud mental en línea
de Reddit: un enfoque de visualización y extracción de textos. Comportamiento humano informático, enero de 2018; 78: 98-112 [Texto
completo gratis ] [doi:10.1016/j.chb.2017.09.001 ] [Medline:29456286 ]
53. Patterson ES, Hansen CJ, Allen TT, Yang Q, Moffatt-Bruce SD. Predecir la mortalidad con aprendizaje automático aplicado: ¿Podemos lograrlo?
Proc Int Symp Hum Factors Ergon Healthc 2019 septiembre;8(1):115-119 [Texto completo gratis ] [doi:
10.1177/2327857919081026 ] [Medline:33024791 ]
54. Pryor M, Ebert D, Byrne V, Richardson K, Jones Q, Cole R, et al. Comportamientos de diagnóstico de médicos y no médicos cuando están
respaldados por una ayuda electrónica de diagnóstico diferencial. 20 de noviembre de 2019 Presentado en: Actas de la reunión anual de
la Sociedad de Factores Humanos y Ergonomía. /11/01;63(1); 2019; Filidefia pág. 68-72. [doi:10.1177/1071181319631420 ]

XLS•FO
RenderX
55. Putnam C, Cheng J, Rusch D, Berthiaume A, Burke R. Apoyo a terapeutas en juegos basados en movimiento para la rehabilitación de
lesiones cerebrales. 2013 Presentado en: CHI '13 Resúmenes ampliados sobre factores humanos en sistemas informáticos; 2013; París
pág. 391. [doi:10.1145/2468356.2468426 ]
56. Sbernini L, Quitadamo L, Riillo F, Lorenzo N, Gaspari A, Saggio G. Evaluación de habilidades de cirugía abierta basada en guantes
sensoriales. IEEE Trans Hum Mach Syst, abril de 2018; 48 (2): 213-218. [doi:10.1109/thms.2017.2776603 ]
57. Shiner B, Neily J, Mills PD, Watts BV. Identificación de caídas de pacientes hospitalizados mediante revisión automatizada de registros médicos
basados en texto. J Patient Saf 2020 septiembre;16(3):e174-e178. [doi:10.1097/PTS.0000000000000275 ] [Medline:27331601 ]
58. hijogramour C, Top M. Agrupación regional de tecnologías de imágenes médicas. Comput Hum Behav, agosto de 2016; 61: 333-343. [doi:
10.1016/j.chb.2016.03.056 ]
59. Swangnetr M, Kaber D. Clasificación del estado emocional en la interacción paciente-robot mediante análisis de ondas y selección de características
basada en estadísticas. IEEE Trans Hum Mach Syst, enero de 2013; 43 (1): 63-75. [doi:10.1109/tsmca.2012.2210408 ]
60. Wagland R, Recio-Saucedo A, Simon M, Bracher M, Hunt K, Foster C, et al. Desarrollo y prueba de un enfoque de extracción de textos para analizar los
comentarios de los pacientes sobre sus experiencias en la atención del cáncer colorrectal. BMJ Qual Saf 2016 de agosto; 25 (8): 604-614. [doi:
10.1136/bmjqs-2015-004063 ] [Medline:26512131 ]
61. Wang SV, Rogers JR, Jin Y, DeiCicchi D, Dejene S, Connors JM, et al. Ensayo aleatorio escalonado para evaluar la intervención de salud de la
población diseñada para aumentar la anticoagulación adecuada en pacientes con fibrilación auricular. BMJ Qual Saf 2019 de octubre; 28
(10): 835-842. [doi:10.1136/bmjqs-2019-009367 ] [Medline:31243156 ]
62. Waqar M, Majeed N, Dawood H, Daud A, Aljohani N. Un sistema adaptativo de médico-recomendador. Comportamiento Inf Technol
2019: 959-973. [doi:10.1080/0144929x.2019.1625441 ]
63. Xiao C, Wang S, Zheng L, Zhang X, Chaovalitwongse W. Un modelo específico del paciente para predecir las inserciones de tejido blando de la tibia a
partir de contornos óseos utilizando un marco de aprendizaje supervisado de estructura espacial. IEEE Trans Hum Mach Syst, octubre de 2016; 46
(5): 638-646. [doi:10.1109/thms.2016.2545924 ]
64. Valik JK, Ward L, Tanushi H, Müllersdorf K, Ternhag A, Aufwerber E, et al. Validación de la vigilancia automatizada de la sepsis basada en los criterios
clínicos de Sepsis-3 frente a la revisión de registros médicos en una población hospitalaria general: estudio observacional utilizando datos de
registros médicos electrónicos. BMJ Qual Saf 2020 06 de septiembre; 29 (9): 735-745 [Texto completo gratis ] [doi:
10.1136/bmjqs-2019-010123 ] [Medline:32029574 ]
65. Bailey S, Hunt C, Brisley A, Howard S, Sykes L, Blakeman T. Implementación de apoyo a las decisiones clínicas para el manejo de la lesión renal
aguda en atención secundaria: un estudio etnográfico. BMJ Qual Saf 2020 03 de mayo;29(5):382-389 [Texto completo gratis ] [doi:
10.1136/bmjqs-2019-009932 ] [Medline:31796574 ]
66. Carayon P, Hoonakker P, Hundt AS, Salwei M, Wiegmann D, Brown RL, et al. Aplicación de factores humanos para mejorar la usabilidad del
apoyo a las decisiones clínicas para la toma de decisiones de diagnóstico: un estudio de simulación basado en escenarios. BMJ Qual Saf
2020 27 de abril; 29 (4): 329-340 [Texto completo gratis ] [doi:10.1136/bmjqs-2019-009857 ] [Medline:31776197 ]
67. Parekh N, Ali K, Davies JG, Stevenson JM, Banya W, Nyangoma S, et al. Daño relacionado con la medicación en adultos mayores después del
alta hospitalaria: desarrollo y validación de una herramienta de predicción. BMJ Qual Saf 2020 16 de febrero; 29 (2): 142-153 [Texto
completo gratis ] [doi:10.1136/bmjqs-2019-009587 ] [Medline:31527053 ]
68. Gilbank P, Johnson-Cover K, Truong T. Diseño para la confianza del médico: hacia una ayuda para la toma de decisiones de aprendizaje automático para el riesgo de
toxicidad por radiación. Diseño Ergon 2019 29 de diciembre;28(3):27-35. [doi:10.1177/1064804619896172 ]
69. Miller S, Gilbert S, Virani V, Wicks P. Utilización y percepción de los pacientes de una tecnología de asesoramiento y evaluación de síntomas basada en
inteligencia artificial en una sala de espera de atención primaria británica: estudio piloto exploratorio. JMIR Hum Factors 2020 10 de julio;7(3):e19713
[Texto completo gratis ] [doi:10.2196/19713 ] [Medline:32540836 ]
70. Ter Stal S, Broekhuis M, van Velsen L, Hermens H, Tabak M. Apariencia del agente conversacional incorporado para la evaluación de la salud de
adultos mayores: estudio exploratorio. Factores de zumbido de JMIR 2020 04 de septiembre; 7 (3): e19987 [Texto completo gratis ] [doi:
10.2196/19987 ] [Medline:32886068 ]
71. Acosta J, Ward N. Lograr una buena relación con colores emocionales paso a paso y sensibles al usuario. Speech Commun 2011
noviembre;53(9-10):1137-1148. [doi:10.1016/j.specom.2010.11.006 ]
72. Gabrielli S, Rizzi S, Carbone S, Donisi V. Una intervención de entrenamiento basada en chatbot para adolescentes para promover habilidades para la vida:
estudio piloto. Factores de zumbido JMIR 2020 14 de febrero; 7 (1): e16762 [Texto completo gratis ] [doi:10.2196/16762 ] [Medline:32130128 ]
73. Liang Y, Fan H, Fang Z, Miao L, Li W, Zhang X. OralCam: permitir el autoexamen y la conciencia de la salud bucal mediante la cámara de un
teléfono inteligente. EE.UU.: Asociación de Maquinaria de Computación; 2020 Presentado en: Conferencia CHI 2020 sobre factores
humanos en sistemas informáticos; 2020; Honolulú. [doi:10.1145/3313831.3376238 ]
74. Chatterjee S, Rahman M, Ahmed T, Saleheen N, Nemati E, Nathan V. Evaluación de la gravedad de la obstrucción pulmonar a partir de la detección de
sibilancias basada en la fase de respiración mediante sensores móviles. EE.UU.: Asociación de Maquinaria de Computación; 2020 Presentado en:
Conferencia CHI 2020 sobre factores humanos en sistemas informáticos; 2020; Honolulú. [doi:10.1145/3313831.3376444 ]
75. Beede E, Baylor E, Hersch F, Iurchenko A, Wilcox L, Ruamviboonsuk P. Una evaluación centrada en el ser humano de un sistema de aprendizaje
profundo implementado en clínicas para la detección de la retinopatía diabética. EE.UU.: Asociación de Maquinaria de Computación; 2020
Presentado en: Conferencia CHI 2020 sobre factores humanos en sistemas informáticos; 2020; Honolulú. [doi:
10.1145/3313831.3376718 ]
76. Phelps EA, Ling S, Carrasco M. La emoción facilita la percepción y potencia los beneficios perceptivos de la atención. Psychol Sci 2006
abril; 17 (4): 292-299 [Texto completo gratis ] [doi:10.1111/j.1467-9280.2006.01701.x ] [Medline:16623685 ]

XLS•FO
RenderX
77. Ruotsalainen JH, Verbeek JH, Mariné A, Serra C. Prevención del estrés laboral en los trabajadores de la salud. Revisión del sistema de base de datos
Cochrane, 7 de abril de 2015 (4): CD002892 [Texto completo gratis ] [doi:10.1002/14651858.CD002892.pub5 ] [Medline:25847433 ]
78. Marine A, Ruotsalainen J, Serra C, Verbeek J. Prevención del estrés laboral en los trabajadores de la salud. Cochrane Database Syst
Rev 18 de octubre de 2006 (4): CD002892. [doi:10.1002/14651858.CD002892.pub2 ] [Medline:17054155 ]
79. McVicar A. Estrés laboral en enfermería: una revisión de la literatura. J Adv Nurs, diciembre de 2003; 44 (6): 633-642. [doi:
10.1046/j.0309-2402.2003.02853.x ] [Medline:14651686 ]
80. Karasek R, Theorell T. Trabajo saludable: estrés, productividad y reconstrucción de la vida laboral. Nueva York: Libros básicos; 12 de abril de
1992.
81. Maslach C, Leiter M. La verdad sobre el agotamiento: cómo las organizaciones causan estrés personal y qué hacer al respecto:. Hoboken, Nueva Jersey:
John Wiley & Sons; 2008.
82. Anderson JE, Ross AJ, Macrae C, Wiig S. Definición de la capacidad de adaptación en la atención sanitaria: un nuevo marco para investigar
el desempeño resiliente. Appl Ergon 2020 de septiembre;87:103111. [doi:10.1016/j.apergo.2020.103111 ] [Medline:32310111 ]
83. Carayon P, Schoofs Hundt A, Karsh B, Gurses AP, Alvarado CJ, Smith M, et al. Diseño de sistemas de trabajo para la seguridad del paciente: el modelo
SEIPS. Qual Saf Health Care 2006 15 de diciembre (Suplemento 1):i50-i58 [Texto completo gratis ] [doi:10.1136/qshc.2005.015842 ] [Medline:
17142610 ]
84. Sujan M, Furniss D, Grundy K, Grundy H, Nelson D, Elliott M, et al. Desafíos de los factores humanos para el uso seguro de la inteligencia artificial en la atención al
paciente. Informe de atención médica de BMJ, 2019 de noviembre; 26 (1): e100081 [Texto completo gratis ] [doi:
10.1136/bmjhci-2019-100081 ] [Medline:31780459 ]
85. Felmingham CM, Adler NR, Ge Z, Morton RL, Janda M, Mar VJ. La importancia de incorporar factores humanos en el diseño e
implementación de inteligencia artificial para el diagnóstico del cáncer de piel en el mundo real. Am J Clin Dermatol 22 de marzo
de 2021; 22 (2): 233-242. [doi:10.1007/s40257-020-00574-4 ] [Medline:33354741 ]
86. Algoritmos de IA aprobados por la FDA. Instituto de Ciencia de Datos. URL:https://models.acrdsi.org [consultado el 15 de febrero de 2021]
87. Muehlematter UJ, Daniore P, Vokinger KN. Aprobación de dispositivos médicos basados en inteligencia artificial y aprendizaje automático en
EE. UU. y Europa (2015-20): un análisis comparativo. Lancet Digital Health, marzo de 2021;3(3):e195-e203. [doi:
10,1016/s2589-7500(20)30292-2 ]
88. Plsek PE, Greenhalgh T. Ciencia de la complejidad: el desafío de la complejidad en la atención médica. BMJ 15 de septiembre de
2001; 323 (7313): 625-628 [Texto completo gratis ] [doi:10.1136/bmj.323.7313.625 ] [Medline:11557716 ]
89. Plsek PE, Wilson T. Complejidad, liderazgo y gestión en organizaciones sanitarias. BMJ 29 de septiembre de 2001;
323 (7315): 746-749 [Texto completo gratis ] [doi:10.1136/bmj.323.7315.746 ] [Medline:11576986 ]
90. Patel VL, Zhang J, Yoskowitz NA, Green R, Sayan OR. Cognición traslacional para el apoyo a la toma de decisiones en entornos de
cuidados críticos: una revisión. J Biomed Informe junio de 2008; 41 (3): 413-431 [Texto completo gratis ] [doi:10.1016/j.jbi.2008.01.013
] [Medline:18343731 ]
91. Schulte F, Fry E. Muerte por 1000 clics: dónde salieron mal los registros médicos electrónicos. Fortuna. 2019. URL:https://khn. org/
noticias/muerte-por-mil-clics/ [consultado el 9 de julio de 2020]
92. De Vito Dabbs A, Myers BA, McCurry KR, Dunbar-Jacob J, Hawkins RP, Begey A, et al. Diseño centrado en el usuario y tecnologías
sanitarias interactivas para pacientes. Comput Informar a las enfermeras 2009; 27 (3): 175-183 [Texto completo gratis ] [doi:
10.1097/NCN.0b013e31819f7c7c ] [Medline:19411947 ]
93. Schnall R, Cho H, Liu J. Escala de evaluación de la usabilidad de la tecnología de la información sanitaria (Health-ITUES) para la evaluación de la
usabilidad de la tecnología sanitaria móvil: estudio de validación. JMIR Mhealth Uhealth 2018 05 de enero;6(1):e4 [Texto completo gratis ] [doi:
10.2196/msalud.8851 ] [Medline:29305343 ]
94. Nunes I. Ergonomía y usabilidad: factores clave en la sociedad del conocimiento. Enterpr Work Innov Stud 2006:88-94 [Texto completo
gratis ]
95. Kieras D, Polson PG. Una aproximación al análisis formal de la complejidad del usuario. Int J Hum Comput Stud 1999 agosto;
51 (2): 405-434. [doi:10.1006/ijhc.1983.0317 ]
96. Schuetz S, Venkatesh V. El surgimiento de las máquinas humanas: cómo los sistemas de computación cognitiva desafían los
supuestos de interacción usuario-sistema. J Assoc Inf Syst 2020: 460-482. [doi:10.17705/1jais.00608 ]
97. Davis F. Aceptación del usuario de la tecnología de la información: características del sistema, percepciones del usuario e impactos en el
comportamiento. Int J Man Machine Stud, marzo de 1993; 38 (3): 475-487. [doi:10.1006/mms.1993.1022 ]
98. Bainbridge L. Ironías de la automatización. Análisis, diseño y evaluación de sistemas hombre-máquina. 1982 Presentado en: Actas de la Conferencia
IFAC/IFIP/IFORS/IEA; mil novecientos ochenta y dos; Baden pág. 151-157. [doi:10.1016/b978-0-08-029348-6.50026-9 ]
99. Salvendy G. Manual de factores humanos y ergonomía. 4ta edición. Hoboken, Nueva Jersey: John Wiley & Sons; 2012.
100. Sarter N, Woods D, Billings C. Sorpresas de automatización. En: Salvendy G, editor. Manual de factores humanos y ergonomía. Hoboken,
Nueva Jersey: Wiley; 1997:1926-1943.
101. Ruskin K, Ruskin A, O'Connor M. Fallos de automatización y seguridad del paciente. Curr Opin Anesthesiol 2020 diciembre;33(6):788-792.
[doi:10.1097/ACO.0000000000000935 ] [Medline:33093302 ]
102. Alberdi E, Povykalo A, Strigini L, Ayton P. Efectos de la salida incorrecta de detección asistida por computadora (CAD) en la toma de
decisiones humanas en mamografía. Acad Radiol agosto de 2004; 11 (8): 909-918. [doi:10.1016/j.acra.2004.05.012 ] [Medline: 15354301 ]

XLS•FO
RenderX
103. Tschandl P, Rinner C, Apalla Z, Argenziano G, Codella N, Halpern A, et al. Colaboración humano-computadora para el reconocimiento del
cáncer de piel. Nat Med 22 de agosto de 2020;26(8):1229-1234. [doi:10.1038/s41591-020-0942-0 ] [Medline:32572267 ]
104. Mosier K, Skitka L, Heers S, Burdick M. Sesgo de automatización: toma de decisiones y desempeño en cabinas de alta tecnología.
Int J Aviat Psychol 1998;8(1):47-63. [doi:10.4324/9781315095080-16 ]
105. Parasuraman R, Mouloua M, Molloy R. Efectos de la asignación adaptativa de tareas en el monitoreo de sistemas automatizados. Hum
Factors, diciembre de 1996; 38 (4): 665-679. [doi:10.1518/001872096778827279 ] [Medline:11536753 ]
106. Lyell D, Coiera E. Sesgo de automatización y complejidad de la verificación: una revisión sistemática. J Am Med Inform Assoc 01 de marzo de
2017; 24 (2): 423-431 [Texto completo gratis ] [doi:10.1093/jamia/ocw105 ] [Medline:27516495 ]
107. Endsley M. Hacia una teoría de la conciencia situacional en sistemas dinámicos. Factores de humo 23 de noviembre de 2016; 37 (1): 32-64. [doi:
10.1518/001872095779049543 ]
108. Kaber D, Endsley M. Los efectos del nivel de automatización y la automatización adaptativa en el desempeño humano, la conciencia de la situación y la
carga de trabajo en una tarea de control dinámico. Cuestiones teóricas Ergon Sci 2004 Mar;5(2):113-153. [doi:
10.1080/1463922021000054335 ]
109. Kass S, Cole K, Stanny C. Efectos de la distracción y la experiencia en la conciencia de la situación y la conducción simulada.
Transport Res F Traffic Psychol Behav 2007 julio;10(4):321-329. [doi:10.1016/j.trf.2006.12.002 ]
110. Carlesi KC, Padilha KG, Toffoletto MC, Henriquez-Roldán C, Juan MAC. Incidentes de seguridad del paciente y carga de trabajo de enfermería.
Rev Lat Am Enfermagem 2017 Abr 06;25:e2841 [Texto completo gratis ] [doi:10.1590/1518-8345.1280.2841 ] [Medline:28403334 ]
111. Fagerström L, Kinnunen M, Saarela J. Carga de trabajo de enfermería, incidentes de seguridad del paciente y mortalidad: un estudio observacional
de Finlandia. Abierto BMJ 2018 24 de abril;8(4):e016367 [Texto completo gratis ] [doi:10.1136/bmjopen-2017-016367 ] [Medline: 29691240 ]
112. Koch S, Weir C, Haar M, Staggers N, Agutter J, Görges M, et al. Necesidades de información de las enfermeras de la unidad de cuidados intensivos y
recomendaciones para pantallas integradas para mejorar el conocimiento de la situación de las enfermeras. J Am Med Informar Assoc 2012;19(4):583-590 [
Texto completo gratis ] [doi:10.1136/amiajnl-2011-000678 ] [Medline:22437074 ]
113. Fairbanks R, Caplan S. El diseño deficiente de la interfaz y la falta de pruebas de usabilidad facilitan el error médico. Joint Comiss J Qual
Safety 2004 Oct;30(10):579-584. [doi:10.1016/s1549-3741(04)30068-7 ]
114. Aplicación de factores humanos e ingeniería de usabilidad a dispositivos médicos: orientación para la industria y el personal de la Administración de Alimentos y
Medicamentos. Administración de Alimentos y Medicamentos de EE. UU. 2016. URL:https://www.fda.gov/regulatory-information/search-fda-guidance-
documents/applying-human-factors-and-usability-engineering-medical-devices [consultado el 12 de abril de 2021]
115. van Berkel N, Clarkson MJ, Xiao G, Dursun E, Allam M, Davidson BR, et al. Dimensiones de validez ecológica para evaluaciones de usabilidad
en entornos clínicos. J Biomed Informe 2020 octubre;110:103553. [doi:10.1016/j.jbi.2020.103553 ] [Medline:32891762 ]
116. Liu X, Faes L, Kale A, Wagner S, Fu D, Bruynseels A, et al. Una comparación del rendimiento del aprendizaje profundo con el de los profesionales de la
salud en la detección de enfermedades a partir de imágenes médicas: una revisión sistemática y un metanálisis. Lancet Digital Health, octubre de
2019; 1 (6): e271-e297. [doi:10,1016/s2589-7500(19)30123-2 ]
117. van Smeden M, Van Calster B, Groenwold RHH. Aprendizaje automático comparado con la evaluación patológica. JAMA 24 de abril
de 2018;319(16):1725-1726. [doi:10.1001/jama.2018.1466 ] [Medline:29710156 ]
Abreviaturas
AI:inteligencia artificial CBR:razonamiento
basado en casos CCT:teoría de la
complejidad cognitiva HCE:historia clínica
electrónica FDA:Administración de
Alimentos y Medicamentos HFE:factores
humanos y ergonomía
SEIPS:Iniciativa de ingeniería de sistemas para la seguridad del paciente
Editado por A. Kushniruk; presentado el 25.02.21; revisado por pares M Sujan, M Knop; comentarios al autor 28.03.21; versión revisada recibida el
14.04.21; aceptado el 05.03.21; publicado el 18.06.21
Por favor cite como:

Asan O, Choudhury A
Tendencias de investigación en aplicaciones de inteligencia artificial en la atención médica de factores humanos: revisión de
mapeo JMIR Hum Factors 2021;8(2):e28236
URL:https://humanfactors.jmir.org/2021/2/e28236
doi:10.2196/28236
PMI:

XLS•FO
RenderX
©Onur Asan, Avishek Choudhury. Publicado originalmente en JMIR Human Factors (https://humanfactors.jmir.org), 18.06.2021. Este es
un artículo de acceso abierto distribuido bajo los términos de la Licencia de Atribución Creative Commons (https://
creativecommons.org/licenses/by/4.0/), que permite el uso, distribución y reproducción sin restricciones en cualquier medio, siempre
que el original El trabajo, publicado por primera vez en JMIR Human Factors, está debidamente citado. Se debe incluir la información
bibliográfica completa, un enlace a la publicación original en https://humanfactors.jmir.org, así como esta información de derechos de
autor y licencia.

XLS•FO
RenderX

7 TAE Factores-Humanos-JMIR - En.es

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

7 TAE Factores-Humanos-JMIR - En.es

Cargado por

Copyright:

Formatos disponibles

Traducido del inglés al español - www.onlinedoctranslator.

FACTORES HUMANOS JMIR Asan y Choudhury

Tendencias de investigación en aplicaciones de inteligencia artificial en la atención

Onur Asan, doctorado; Avishek Choudhury, MSc

segura y centrada en el usuario de la IA en el flujo de trabajo clínico.

(Factores de zumbido de JMIR 2021;8(2):e28236)doi:10.2196/28236

falta de consenso sobre la definición de IA [2]. En general, la IA puede

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 1

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 2

Figura 1.Bucles de interacción usuario-inteligencia artificial (IA).

Los investigadores no han abordado suficientemente algunos factores, a

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 3

documentos de actas de congresos. Se excluyeron otros materiales como

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 4

percepción y diseño centrado en el usuario. Estos principios y subcategorías

Figura 3.Proceso de selección y exclusión. IA: inteligencia artificial.

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 5

Figura 4.Resumen de publicaciones seleccionadas y sus lugares.

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 6

condición económica sobre la Beck mama

depresión en pacientes con cáncer de

interpretaciones de los resultados por usabilidad.

parte de los usuarios y las intenciones

[40] predictivos comprensibles. científicos de datos a interpretar clínicamente modelos

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 7

identificar el agotamiento de la enfermería agotamiento de la enfermería; produjo un resultado un 15%

de incidentes clínicos numéricos correctamente los incidentes de transferencia e identificación

de pacientes con una precisión del 86,29% al 91,53% y del

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 8

riesgo de caídas en comparación con la revisión manual de

anticoagulación en pacientes de alto riesgo circuitos integrados) potencialmente subtratados

con fibrilación auricular.

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 9

conocimiento sobre salud bucal entre los usuarios.

centrada en el ser humano aumentaría su carga de trabajo. La baja calidad de imagen y

la velocidad de Internet obstaculizaron el rendimiento del

bHCE: historia clínica electrónica.

CIA: inteligencia artificial.

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 10

Otra IA Existente Clínico o Clínica-

Azari y otros [25] Bosque aleatorio y modelo de No aplica 1 1 1 0

Balani y De perceptrón Bayes ingenuo; k-vecino más cercano; árbol de decisión 1 0 0 0

CvetkovíCy Red neuronal y lógica No aplica 0 0 0 0

Komogortsev y Hol- Máquina de vectores de soporte Máquina de vectores de soporte no supervisada y 1 0 0 0

Nobles y otros [50] Red neuronal profunda Máquinas de vectores soporte 1 0 0 0

Waqar y otros [62] Algoritmo híbrido No aplica 0 0 0 0

Valik y otros [64] Los autores desarrollaron un No aplica 0 0 1 1

Parekh y otros [67] Los autores desarrollaron un No aplica 0 1 0 0

aLASSO: operador de selección y contracción mínima absoluta.

sistema de recomendación. Algunos estudios incorporaron percepciones tanto de

Percepción estudio entrevistó a proveedores (terapeutas) sobre sus experiencias, opiniones,

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 11

de los usuarios [48]. Estudios incluidos en nuestra revisión que desarrollaron

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 12

Aunque se han logrado avances y se ha centrado en el uso del

puede reemplazar aprendiendo de un cambio

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 13

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 14

reconoció que los sistemas o modelos de IA a menudo se evaluaban en Limitaciones de la revisión

Contribuciones de los autores

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 15

technology-56083231 [consultado el 20 de enero de 2021]

https://humanfactors.jmir.org/2021/2/e28236 Factores de zumbido JMIR 2021 | vol. 8 | iss. 2 | e28236 | pag. 17