Manuscrito aceptado

Informática e ingeniería
Diseño de sistemas inteligentes de fabricación mediante los principios de industrial
cooperación hombre-máquina: un enfoque centrado en el ser humano

Marie-Pierre Pacaux-Lemoine, Damien Trentesaux, Gabriel Zambrano Rey,

Patrick Millot

PII: S0360-8352(17)30218-8
DOI: http://dx.doi.org/10.1016/j.cie.2017.05.014
Reference: CAIE 4745
To appear in: Computers & Industrial Engineering

Fecha recibida: 1 April 2016

Fecha revisada): 11 May 2017
Fecha aceptada): 13 May 2017
Please cite this article as: Pacaux-Lemoine, M-P., Trentesaux, D., Zambrano Rey, G., Millot, P., Designing
Intelligent Manufacturing Systems through Human-Machine Cooperation Principles: A Human-Centered
Approach, Computers & Industrial Engineering (2017), doi: http://dx.doi.org/10.1016/j.cie.2017.05.014

This is a PDF file of an unedited manuscript that has been accepted for publication. As a service to our customers
we are providing this early version of the manuscript. The manuscript will undergo copyediting, typesetting, and
review of the resulting proof before it is published in its final form. Please note that during the production process
errors may be discovered which could affect the content, and all legal disclaimers that apply to the journal pertain.
Diseño de sistemas inteligentes de fabricación mediante los principios de cooperación hombre-
máquina: un enfoque centradoen el ser humano

Marie-Pierre Pacaux-Lemoinea, 1, Damien Trentesauxa, Gabriel Zambrano Reyb, Patrick Millota

a
LAMIH, UMR CNRS 8201, University of Valenciennes et Hainaut-Cambrésis, UVHC
Le Mont Houy, 59313 Valenciennes Cedex, France
{marie-pierre.lemoine, damien.trentesaux, patrick.millot}@univ-valenciennes.fr

b
Department of Industrial Engineering, Pontificia Universidad
Javeriana, Bogotá, Colombia
gzambrano@javeriana.edu.co

Resumen:
Desde el inicio de la industrialización, las capacidades de las máquinas han incrementado de tal manera que el control
humano de los procesos ha evolucionado de simple (con la mecanización) a cognitivo (con la informatización), e incluso
emocional (con la automatización semi/plena). Los procesos también han evolucionado de sistemas simples a complicados,
y ahora a sistemas complejos. Este es el caso, en particular, de los sistemas de fabricación inteligentes, en los que los
procesos se han vuelto tan autónomos que los humanos no son conscientes de los procesos en marcha, mientras que pueden
tener que intervenir para actualizar el plan de fabricación o modificar la configuración del proceso si una máquina se avería,
o para ayudar a las entidades inteligentes de proceso cuando se encuentran en un punto muerto. Este artículo pone de relieve
la falta de atención prestada a la correcta integración de los seres humanos en los sistemas de fabricación inteligentes y
aporta soluciones basadas en los principios de cooperación hombre-máquina para retener a los seres humanos en el bucle
de control del proceso con distintos niveles de implicación identificados por los niveles de automatización. El objetivo de
estos principios es proponer un enfoque centrado en el ser humano para diseñar y evaluar sistemas, procesos y sus
interacciones con los seres humanos. En este documento, se detallan estos principios y se aplican a los sistemas de
fabricación inteligentes utilizando como ejemplo los sistemas artificiales de autoorganización (ASO). Un sistema de
asistencia se ha diseñado para facilitar la cooperación entre el ASO y los operadores humanos. Se realizaron experimentos
para evaluar el sistema y su utilidad para mejorar el rendimiento de los sistemas hombre-máquina, así como su aceptabilidad
en relación con los factores humanos. Los resultados presentados ponen de relieve las ventajas del planteamiento.

Keywords: Techno-Centered Design, Human-Machine Cooperation, Human-Centered Design, Levels Of Automation,

Intelligent Manufacturing Systems.
Palabras claves: Diseño centrado

1. Introducción
Los factores humanos han sido un punto central a la hora de diseñar los procesos de los sistemas de
transporte. Sin embargo, Con el rápido aumento de la complejidad de los sistemas industriales y de la
organización de los seres humanos implicados, los factores humanos se han considerado de forma

1 Corresponding author
diferente, normalmente en respuesta a las exigencias derivadas de experiencias negativas y catástrofes
industriales (por ejemplo, Seveso, Bhopal, AZF, Chernóbil). En Francia, el Ministerio de Ecología,
Desarrollo Sostenible y Energía elaboró un inventario de los accidentes tecnológicos ocurridos en 2014
(Blanc et al., 2015). El informe demostró que, en el caso de los fallos de procesos automatizados, los
accidentes tecnológicos se produjeron en un contexto específico en el que los operadores humanos
participaban directamente en el control de las máquinas, e indirectamente en el diseño, mantenimiento
y supervisión de los sistemas hombre-máquina.
El estudio también menciona que los accidentes tecnológicos están causados principalmente por
errores humanos (63%) y fallos materiales (37%). En cuanto a los errores humanos, destaca que "es
esencial comprender el contexto organizativo que da lugar a estas causas primarias". De hecho, se
identifican dos causas principales que afectan a la ejecución y el diseño automatizados de los procesos.
También destaca varias deficiencias en el diseño del propio proceso (30%), la formación y
organización de la actividad humana (26%), la adaptación de los puestos de trabajo para controlar el
proceso (15%) y las tareas que deben realizarse (23%). Estos resultados ponen de manifiesto el uso
inadecuado de las capacidades humanas y la infravaloración de la importancia de la formación en la
realización de tareas cada vez más difíciles y complejas. El estudio identificó cuatro tipos de errores
humanos durante los accidentes: no acción (40%), acción adecuada pero tardía (31%), acción
agravante (24%) y acción ineficaz (5%). Un estudio reciente destaca que los investigadores suelen
descuidar los puntos fuertes y débiles de los operadores humanos a la hora de diseñar sistemas de
control industrial innovadores (Trentesaux y Millot, 2016). Así, a pesar de que los operadores humanos
están sistemáticamente "en el bucle de control" de los sistemas industriales, los investigadores adoptan
un enfoque centrado en la tecnología, favoreciendo la definición y asignación de tareas a los sistemas
automatizados, y sólo tienen en cuenta a los operadores humanos al final del proceso de diseño, una
vez definido el sistema de control.
Además, se suele considerar que los operadores humanos estarán ahí para gestionar cualquier situación
inesperada de forma eficaz. En consecuencia, para hacer frente a un proceso complejo que falla o se
comporta de forma peligrosa o incluso impredecible, los humanos tienen que ser simultáneamente
coordinados, eficientes y rápidos, es decir, tienen que ser "humanos mágicos" (Trentesaux y Millot,
2016).
El objetivo de este artículo es animar a los investigadores implicados en el diseño de sistemas de
control industrial, y más concretamente de sistemas de control de fabricación -con diferencia aquellos
en los que se produce el mayor número de accidentes (Blanc et al., 2015)-, a abordar el aspecto de los
operadores humanos desde las primeras fases del proceso de diseño y a adoptar un enfoque más
centrado en el ser humano. En este documento, el ámbito se reduce a un tipo específico de sistema de
fabricación innovador denominado "Sistema de Fabricación Inteligente" (SIF), que está justificado:
• En primer lugar, por el hecho de que los IMS se consideran un paradigma prometedor junto
con soluciones tecnológicas maduras actuales (Inteligencia Ambiental, Internet de las Cosas,
sistemas embebidos...) y conceptos (Sistemas Ciber-Físicos, Productos Inteligentes,
Holones...) que potencialmente proporcionan mecanismos de control más eficientes, reactivos
y resilientes que los sistemas de fabricación clásicos (Van Brussel, Wyns, Valckenaers,
Bongaerts, & Peeters, 1998).
• En segundo lugar, como IMS fomenta el uso de mecanismos de decisión más distribuidos, los
sistemas de control IMS están compuestos básicamente por entidades de control de decisión
autoorganizadas, autónomas, inteligentes e interactivas (por ejemplo, modeladas como
holones). En consecuencia, hay más comportamientos nuevos emergentes e imprevistos que
abordar. Esto justifica aún más la necesidad de integrar al operador humano en el proceso de
control de la fabricación para gestionar este comportamiento.
 Sin embargo, hace más difícil definir cómo integrar con éxito a los humanos debido a la falta
de previsibilidad de tales sistemas.

Continuando con el análisis de la situación actual presentado por Trentesaux y Millot (2016), este
artículo aborda un enfoque de diseño centrado en el ser humano para IMS basado en los principios de
cooperación hombre-máquina. El enfoque se evaluó mediante experimentos reales en un sistema
académico de fabricación flexible (FMS) a tamaño real. La sección 2 presenta el diseño actual del
proceso industrial, subrayando algunos problemas en términos de IMS. Algunas soluciones se
presentan en la Sección 3, que trata de los principios de cooperación hombre-máquina y del diseño y
evaluación de los IMS. Estos principios se aplican después para diseñar interacciones más cooperativas
y eficientes entre los seres humanos y los procesos inteligentes de control de la fabricación. En la
sección 4, se presentan algunos resultados experimentales, junto con las ventajas de un enfoque
centrado en el ser humano.

2. Hacia un enfoque de diseño centrado en el ser humano en IMS

Uno de los principales ámbitos de interés para IMS es la programación distribuida en el control de la
fabricación. Las actividades de investigación en este ámbito fomentan un paradigma que pretende
dotar a los sistemas de control de la fabricación de mayor autonomía y capacidad de adaptación
mediante la distribución funcional o geográfica de las capacidades de información y decisión entre
entidades artificiales (por ejemplo, modeladas como holones). Este paradigma crea mecanismos de
comportamiento emergentes "de abajo arriba" complementarios a los posibles "de arriba abajo"
generados por un sistema centralizado y predictivo para limitar o impulsar este comportamiento
emergente que evoluciona dentro de unos límites prefijados (Cardin et al., 2015). Los holones están
diseñados con la capacidad de tener en cuenta el comportamiento de otros holones, así como el estado
actual del entorno. El objetivo de esta adaptación es mejorar la reactividad, resistencia y robustez del
sistema global compuesto únicamente por holones que eligen su propia trayectoria. Este tipo de entidad
también está vinculada al concepto de "producto inteligente" (McFarlane, Giannikas, Wong y Harrison,
2013) y puede integrarse como parte de un "sistema ciberfísico" más global (Lee, Bagheri y Kao,
2015).
Los investigadores en IMS, y los sistemas industriales en general, a menudo consideran al operador
humano como el supervisor general (Gaham, Bouzouia, & Achour, 2015), (Zambrano Rey, Carvalho,
& Trentesaux, 2013). Según este enfoque, el operador humano tiene que determinar los objetivos, así
como ajustar los parámetros, las restricciones y las reglas para influir en el comportamiento del holón.
Aunque
los

perfect observations
perfect
Magic Human perfect
perturbations actions
decisions

command
Intelligent
decision Manufacturing product
needed manufacturing service
system
control observations
performances

“Human-in-the-loop” Intelligent Manufacturing Control Systems

Figure 1. Techno -centered IMS design approach.
diseñadores de sistemas industriales consideren que se trata de un enfoque "humano en el bucle", en
términos de factores humanos puede interpretarse más bien como una forma de mantener a los
humanos en el "bucle de decisión/responsabilidad", pero no en el "bucle de control". Esto significa
que cada decisión individual en un sistema holónico de este tipo repercute en el control global del
sistema y supone la retirada de las decisiones humanas: el ser humano queda excluido de las decisiones
tomadas por el sistema de control holónico. Además, el ser humano, como gestor externo que nunca
participa en la dinámica de construcción de las decisiones del holón, desconoce de hecho el
funcionamiento del sistema y es incapaz de decidir cuál sería la regla o el parámetro adecuado que
habría que afinar. Planificación de recursos empresariales (ERP)

Production Key Objectives

Performance
& constraints Indicators
Este enfoque de diseño está "tecnocéntrico" y se da prioridad a la resolución de problemas técnicos
en lugar de a los aspectos humanos. Un enfoque centrado en la tecnología consiste en automatizar un
número máximo de funciones (en modo nominal o degradado) en un contexto predefinido y se
supone que el operador humano supervisará y gestionará todas las situaciones imprevistas a su
debido tiempo. Varios enfoques que tratan del diseño de Sistemas de Apoyo a la Toma de Decisiones
en sistemas de fabricación se basan paradójicamente en un enfoque "tecno-centrado" de este tipo
(MacCarthy, 2006; Trentesaux, Dindeleux, & Tahon, 1998). Con escarnio, Trentesaux y Millot
(2016) llaman a ese operador humano el humano mágico. En este estudio, se han aportado varios
ejemplos, principalmente del ámbito de las centrales nucleares, que ponen de relieve la
sobreestimación de las capacidades del operador humano. También se observó que el mismo riesgo
surgirá pronto, si no lo ha hecho ya, en los sistemas de fabricación. La Figura 1 presenta una versión
actualizada del trabajo inicial presentado en Trentesaux y Millot (2016). En esta figura, el nivel de
planificación de recursos empresariales (ERP) se encarga de proporcionar al sistema de control de
fabricación inteligente los objetivos de producción (producción que debe alcanzarse) y las
restricciones (umbrales de energía, etc.), al tiempo que recopila los indicadores clave de rendimiento
(por ejemplo, consumo de energía, plazos de producción y rendimiento).

El enfoque tecnocéntrico sobreestima la capacidad del operador humano, que debe comportarse
perfectamente cuando se desea y dentro de unos tiempos de respuesta adecuados, así como
reaccionar perfectamente ante situaciones inesperadas. En las secciones siguientes se presentan
estudios y ejemplos que ponen de manifiesto las dificultades de los operadores humanos para hacer
frente a los imprevistos derivados de la complejidad de los SGI, especialmente cuando se produce un
acontecimiento inesperado para el que no se dispone de una solución técnica prevista y cuando el ser
humano es la única entidad capaz de idearla.

2.1 Revisión bibliográfica sobre el diseño centrado en el ser humano en los IMS

La bibliografía sobre el diseño centrado en el ser humano en los SGI es escasa y aún incipiente. Las
actividades más antiguas se refieren al diseño de sistemas de asistencia para IMS (Erbe, 1998). El
diseño centrado en el ser humano en los SGI se ha abordado más recientemente en algunos estudios
que tratan de los niveles de automatización (Dencker et al., 2009; Frohm, Lindström, Stahre, &
Winroth, 2008; Lindström & Winroth, 2010; Säfsten, Winroth, & Stahre, 2007). En estos estudios, un
método llamado Dynamo (Niveles dinámios de Automatización por Sistemas de Fabricación
Robusta) se propuso para medir el nivel de automatización en términos de tareas de trabajo tanto
mecánicas como informativas. A continuación, se determinaron los niveles de automatización en
función de la estrategia empresarial y de fabricación. Por consiguiente, sus objetivos estaban más
relacionados con el estudio del equilibrio entre los objetivos estratégicos (rendimiento global) y los
niveles de automatización disponibles, que con la adaptación de los niveles de automatización en
función de los factores humanos. Se han realizado otros estudios que consideran cómo el operador
humano puede ser el componente clave para reaccionar rápidamente ante cambios operativos o
peticiones urgentes (Grosse, Glock y Neumann, 2017), para manejar lo inesperado (Valckenaers et
al., 2011) junto con un sistema de control que incorpore modelos precisos de la realidad (proceso de
reflejo) (Valckenaers & Van Brussel, 2016). Por último, Trentesaux y Millot (2016) propusieron un
enfoque centrado en el ser humano basado en un conjunto de especificaciones que deben satisfacerse
al diseñar IMS “humano-en-el-bucle”.

Un número creciente de investigadores, especialmente en ergonomía e ingeniería humana, están

abordando el ámbito de la ingeniería industrial para garantizar diseños de sistemas de control de
fabricación más centrados en el ser humano. Como requisito previo, han trabajado en la cooperación
hombre-máquina, los niveles de Automatización y Conciencia de Situación, y Simbiosis Humano-
Automatización (May et al., 2014; Millot, 2014; Romero, Noran, Stahre, Bernus, & Fast-Berglund,
2015). También se han puesto en marcha algunos proyectos de la Unión Europea para ilustrar este
campo naciente, como SO-PC-PRO (Subject Orientation For People Centred Production) (Orientación
temática para la producción centrada en las personas) y MAN-MADE MANufacturing through
ergonoMic and safe Anthropocentric aDaptive workplacEs for context-aware factories in Europe)
(MANufacturación a través de puestos de trabajo ergonómicos y seguros, antropocéntricos y
adaptativos, para fábricas conscientes del contexto en Europa). Otras investigaciones se centran en la
interacción entre operadores humanos, diseñadores y máquinas, y proponen sistemas de filtrado
ontológico para proporcionar una base de conocimientos que sirva de apoyo a los intercambios para el
diseño y el control (Lepratti, 2006; Nishitani, 1996). Las interacciones entre los operadores humanos
y las máquinas, y entre varios tipos de máquinas se estudian de la misma manera con fines de
armonización para lograr un control más eficiente de una célula de fabricación flexible (Solvang,
Sziebig, & Korondi, 2012). Otro enfoque consiste en estudiar un modelo de operador humano que
pueda utilizarse para mejorar la cooperación hombre-máquina (Oborski, 2004). Pires (2005) destaca
los aspectos semiautónomos de las células robotizadas industriales.

En cuanto al estado de la técnica industrial en este ámbito, se están llevando a cabo numerosos
estudios para integrar correctamente al operador humano en los procesos de fabricación, pero se
están realizando principalmente a nivel ergonómico (medición del tiempo de los métodos MTM,
etc.) y para decisiones operativas y orientadas a la eficiencia de bajo nivel (por ejemplo, gestión
ajustada) (Trentesaux y Millot, 2016). Los niveles superiores, que se ocupan de la supervisión, la
programación y el control, etc., no aplican realmente un enfoque centrado en el ser humano. Lo
mismo ocurre con el IMS, ya que hay pocas implantaciones reales a gran escala en este campo de
investigación.

2.2 Especificando un diseño más centrado en el ser humano en IMS

Los autores piensan que hoy en día, sobre todo en IMS, pero también en los sistemas industriales en
general, es crucial revisar los patrones básicos de diseño de la investigación para adoptar un enfoque
más centrado en el ser humano, con el fin de limitar la suposición oculta del humano mágico.
Obviamente, se trata de un reto enorme y complejo. Sin embargo, este documento no pretende
aportar soluciones absolutas, sino más bien dar la voz de alarma y ofrecer unos primeros modelos
tentativos. Estos modelos se basan en un conjunto de hechos que se identificaron en el trabajo de
Trentesaux y Millot (2016) y que se resumen en los párrafos siguientes.

El ser humano puede ser el demonio y, por desgracia, algunos ingenieros de diseño lo consideran
precisamente eso: su racionalidad está limitada, puede olvidar, cometer errores, reaccionar de forma
exagerada, estar ausente o incluso ser la causa principal de un desastre. Por ejemplo, debido a una
mala comprensión del comportamiento del sistema, el ser humano decide cambiar al modo seguro
(Three Mile Island), o no hace lo correcto por falta de confianza en el sistema automatizado o por
desconocimiento del sistema industrial (Chernóbil) (Schmitt, 2012). El sistema controlado debe
diseñarse en consecuencia para gestionar este riesgo. Un ejemplo típico de este tipo de sistema es el
"dispositivo de vigilancia del hombre muerto" de los ferrocarriles, en el que el conductor tiene que
pulsar periódicamente un botón para que el sistema de control sepa que realmente está al mando. Se
trata de un primer nivel de control mutuo entre el sistema y el ser humano, que asume que el otro
tiene una fiabilidad limitada. Niveles más elaborados podrían abordar la cuestión de las señales de
mando erróneas o anómalas procedentes del ser humano o del sistema de control.

El ser humano puede ser el héroe, y a menudo lo creemos: puede salvar vidas mediante un
comportamiento inesperado e innovador (por ejemplo, Apolo 13). Todo el IMS hombre-máquina
debe diseñarse para que el ser humano pueda integrar procesos y mecanismos imprevistos en la
medida de lo posible. El ser humano también es un oportunista que puede percibir y utilizar
información inesperada de forma que mejore la decisión o acción en curso (Woods, Tittle, Feil y
Roesler, 2004).
El ser humano puede ser el testigo impotente: puede ser incapaz de actuar a pesar de estar seguro de
tener razón y de que el sistema automatizado está equivocado. El ser humano puede asistir impotente
al desarrollo de una catástrofe debido al diseño de una central automatizada pero mal dimensionada,
por ejemplo (Fukushima) (Schmitt, 2012). La parte automatizada del sistema de control del IMS
debe diseñarse de forma que pueda ser observada y controlada por el ser humano siempre que lo
desee.

El ser humano es responsable legal y socialmente responsable: la cuestión de la asignación de

autoridad y responsabilidades entre humanos y máquinas no es tan fácil de resolver (por ejemplo, el
control automático de cruceros, el control del tráfico aéreo, los procesos automatizados de
contratación de compras, la programación automática de procesos). El diseñador debe tener en
cuenta este aspecto a la hora de diseñar y asignar las capacidades de decisión entre las entidades de
control de fabricación (Flemisch et al., 2012). En otras palabras, si el ser humano es responsable,
debe permitírsele controlar plenamente el IMS

Basados en estos hechos, algunas de las especificaciones para diseñar un IMS centrado en el ser
humano puede ser formulado. Algunas de ellas se describen en el trabajo de Trentesaux y Millot
(2016), y se detallan en los párrafos siguientes
El ser humano debe ser siempre consciente de la situación: según Endsley (1995), la Conciencia de
la Situación (SA) se compone de tres niveles: SA1 (percepción de los elementos), SA2 (comprensión
de la situación) y SA3 (proyección de estados futuros). Por lo tanto, hay que tener en cuenta cada
nivel de SA para garantizar que los humanos puedan tomar decisiones y desarrollar continuamente
sus modelos mentales del IMS (por ejemplo, para recuperar el control o simplemente para saber cuál
es la situación).
Los niveles de automatización (LoA) deben ser adecuados y adaptables: algunas tareas deben
automatizarse (por ejemplo, las operaciones de fabricación automatizadas), pero otras no. Sin
embargo, la LoA correspondiente no debe estar predefinida y establecida de forma definitiva. Debe
evolucionar en función de las situaciones, los acontecimientos y las competencias y capacidades
humanas y del holón. Algunas veces debe facilitar el trabajo del humano (en condiciones normales,
por ejemplo), y otras devolverle el control de tareas críticas (cuando se producen situaciones
anómalas en el IMS, por ejemplo). Por consecuencia, la parte automatizada del sistema de control
IMS debe cooperar de forma diferente con el humano en función de la situación global. Así pues, la
asignación de tareas debe ser dinámica, gestionarse de forma adaptativa y estar justificada.

La diversidad y la repetibilidad de las decisiones debe ser tenerse en cuenta: por lo general, para
evitar acciones/decisiones repetitivas y aburridas, como suele ocurrir en la fabricación. Para ello
también es necesario aclarar, en la medida de lo posible, todas las decisiones poco frecuentes para las
que el ser humano no está preparado (por ejemplo, salida de emergencia y parada segura de la
producción, procedimiento de recuperación tras un fallo grave o situaciones peligrosas). Para ello, se
puede definir una jerarquía basada en el tiempo y la abstracción (por ejemplo, niveles estratégico,
táctico y operativo) y una tipología de decisiones (por ejemplo, según el comportamiento basado en
habilidades, reglas o conocimientos (Rasmussen, 1983)).

Por lo tanto, la carga mental humana debe regularse cuidadosamente: según algunos de los
principios anteriores, puede encontrarse una "carga de trabajo óptima" entre "nada que hacer", que
induce una posible falta de interés, y "demasiadas cosas que hacer", que induce estrés y fatiga. Una
consecuencia típica es que el diseñador debe definir cuidadosamente diferentes horizontes
temporales (desde el tiempo real hasta el largo plazo), y equilibrar los tiempos de reacción del ser
humano con los de la parte automatizada del SGI. Esta es una de las cuestiones tradicionales tratadas
por los investigadores en ingeniería humana (M. P. Lemoine, Debernard, Crevits, & Millot, 1996),
(Trentesaux, Moray, & Tahon, 1998).

Relacionado con el punto anterior está el sentimiento de necesidad de cooperar. La necesidad de

cooperar puede aparecer cuando los seres humanos se sienten desbordados y necesitan ayuda. Si la
carga de trabajo está por debajo de un umbral determinado, el ser humano no percibe ninguna
necesidad de cooperar y se siente capaz de realizar la tarea solo. Si la carga de trabajo aumenta o
puede aumentar en los próximos minutos, el ser humano necesita cooperar a pesar de la carga extra
debida a la propia cooperación (Millot & Pacaux-Lemoine, 2013).

Por último, un aspecto humano importante se refiere a la voluntad de cooperar. La disposición a

cooperar está relacionada con las relaciones entre humanos, así como entre humanos y sistemas de
asistencia en lo que respecta a la autoconfianza y la confianza (Millot & Pacaux-Lemoine, 2013). La
disposición a cooperar puede considerarse una función creciente de la confianza en el sistema y una
función decreciente de la confianza en uno mismo. Por lo tanto, cuanto más confíe el ser humano en
el sistema de asistencia, más dispuesto estará a cooperar. Cuanto más seguro de sí mismo está el ser
humano, menos quiere cooperar. Esto parece coherente con un estudio realizado por Lee y Moray
(1992) sobre la asignación de funciones entre humanos y sistemas de control automatizados. Además,
Rajaonah, Tricot, Anceaux y Millot (2008) demostraron que la confianza también desempeña un papel
en la interacción.

3. Propuesta de un marco de diseño centrado en el ser humano en IMS

A partir de estas especificaciones es, por supuesto, imposible desarrollar un modelo genérico que
cumpla todos los principios anteriores para cada caso posible. A pesar de eso, podemos proponer un
marco de diseño centrado en el ser humano para investigadores en IMS, y sistemas industriales en
general, con algunas ideas para limitar el mágico efecto humano en sus sistemas de control. Para
ello, la Figura 2 presenta un marco global que es una versión mejorada de un marco parcial inicial
presentado en Trentesaux y Millot (2016). Este marco presenta algunas de las especificaciones
introducidas anteriormente y debe compararse con la Figura 1. A continuación, detallamos algunos
aspectos del marco sugerido pertinentes para estas especificaciones.

En primer lugar, como se sugiere en una de las especificaciones presentadas anteriormente, la

estructura es simétrica y se ha descompuesto en 3 niveles para cada uno de los actores: operativo (a
corto plazo, directamente relacionado con el mando), táctico (en un nivel jerárquico superior para
alcanzar objetivos intermedios) y estratégico (el nivel decisorio más alto, para planificar objetivos
intermedios). La cooperación entre el operador humano y el sistema inteligente de control de
fabricación se consigue mediante el intercambio de información a nivel estratégico, táctico u
operativo. Además, las decisiones y peticiones se intercambian entre dos niveles. Por ejemplo, una
decisión estratégica para el operador humano puede ser aumentar la importancia del consumo de
energía en el sistema. Una decisión táctica correspondiente para el operador humano podría ser
retrasar algunos productos para igualar el consumo de energía, mientras que una decisión operativa
sería encender o apagar inmediatamente un robot dada la evolución del consumo total instantáneo de
energía. La cooperación con el sistema de control inteligente de la fabricación en cada nivel
facilitaría la definición del nuevo coste energético (nivel estratégico), la lista de productos a retrasar
(nivel táctico) y el robot que debe encenderse/apagarse. Es importante señalar que, debido a los
posibles tiempos de reacción rápidos a nivel operativo, la cooperación debe limitarse a este nivel. Sin
embargo, esto no significa que el sistema esté totalmente automatizado. Por tanto, podemos
considerar la automatización del sistema en 3 subconjuntos. Un subconjunto está totalmente
automatizado, pero el ser humano puede intervenir si es necesario para modificar o corregir los
transportadores y las posiciones de los productos. Una segunda está parcialmente automatizada, pero
la retroalimentación de la experiencia permite diseñar procedimientos que el humano debe seguir
(una especie de automatización humana). El último subconjunto no está automatizado ni previsto,
por lo que debe lograrse utilizando la capacidad de inventiva humana. Esto exige prestar especial
atención a la hora de diseñar todo el sistema para que los seres humanos puedan dar lo mejor de sí
mismos, sobre todo cuando no se dispone de una solución técnica.
En segundo lugar, una propuesta clave está relacionada con la integración de la observación mutua (a
través del proceso de cooperación) que se compromete a investigar la fiabilidad limitada del ser
humano o del sistema de control de fabricación inteligente. Para ello, cada "agente" cooperante (el
operador humano o el sistema de control de fabricación inteligente) dispone de un modelo de
comportamiento del otro. Detallar en profundidad estos modelos de comportamiento no entra dentro
del ámbito de este artículo, pero cabe imaginar diferentes soluciones y formas de definir dichos
modelos. Por ejemplo, el modelo de comportamiento del operador humano del sistema de control de
fabricación inteligente puede construirse mediante experiencias de programación, aprendizaje y
enseñanza. El segundo modelo de comportamiento del operador humano, integrado en el sistema de
control de fabricación inteligente, puede contener conocimientos sobre ubicaciones
normales/anormales para que el operador humano se encuentre en el sistema de fabricación, en
función de la ubicación y las tareas reales de los robots inteligentes y los AGV (vehículos de guiado
automático), o sobre su conjunto actual de tareas con su tiempo medio de realización (incluidas las
técnicas inspiradas en el dispositivo de vigilancia del hombre muerto), etc. Los modelos de
comportamiento más elaborados del operador humano pueden incluir un modelo de su creatividad,
comportamiento emocional, estrés y confianza (Martínez-Miranda y Pavón, 2010).

Algunas otras especificaciones que no pueden representarse realmente en la Figura 2, pero se tienen
en cuenta en el marco propuesto. Este suele ser el caso de los que se ocupan de los niveles de
automatización (LoA). Sheridan (1992) propuso unas directrices bien conocidas basadas en 10
niveles. En el nivel 1, el control es completamente manual, mientras que en el nivel 10 está
totalmente automatizado. El nivel intermedio 4 corresponde al sistema de ayuda a la decisión (el
control selecciona una posible acción y la propone al operador humano). En el nivel 6, el control deja
al operador humano un tiempo limitado para contrarrestar la decisión antes de su ejecución
automática. Esto puede especificarse para cada nivel (estratégico, táctico y operativo). Por ejemplo,
hoy en día es concebible que el sistema de control inteligente de la fabricación representado en la
figura 2 cambie el propio nivel de decisión operativa de los niveles 1 a 4 al nivel 10 debido a la
necesidad de reaccionar en milisegundos para evitar un accidente, mientras que deja el nivel de
decisión táctica sin cambios en un nivel intermedio. Los investigadores en aeronáutica y conducción
abordaron la automatización adaptativa, que podría inspirar la investigación en IMS e ingeniería
industrial en general (Inagaki, 2003; Kaber & Endsley, 2004).

El marco propuesto abarca varios aspectos relacionados con la cooperación, los niveles de decisión,
los niveles de automatización, etc. Como se presenta en la Figura 2, la cooperación está en el centro
del marco y es uno de sus elementos clave. Además, la tecnología actual permite diseñar esquemas de
cooperación innovadores. Por estas razones, el resto del documento se centra en este aspecto.

3.1 Principios de cooperación hombre-máquina en el marco

Los trabajos sobre cooperación hombre-máquina son muy prometedores, ya que la tecnología actual
permite integrar cada vez más capacidades de decisión en holones tanto materiales (por ejemplo,
máquinas, productos) como inmateriales (por ejemplo, órdenes de producción), transformándolos en
eficientes sistemas de asistencia para ayudar a los humanos a mejorar su rendimiento. En este
contexto, se sugiere que cada uno de estos sistemas de asistencia incorpore capacidades tanto
individuales como cooperativas. A continuación, se presentan las capacidades, y también las
herramientas, que pueden apoyar la cooperación entre los holones y el operador humano.

Se han estipulado los principios de la Cooperación Hombre-Máquina (CMM) centrándose en la

Asignación Dinámica de Tareas, y se han propuesto conceptos genéricos para identificar todo tipo de
interacciones entre uno o varios operadores humanos y uno o varios sistemas de asistencia (Millot &
Hoc, 1997; Millot & Mandiau, 1995). Los principios de cooperación hombre-máquina se han
aplicado a varios ámbitos: control del tráfico aéreo (Jean-Michel Hoc y Lemoine, 1998), robótica
(Pacaux et al., 2011), aviones de combate (M P Pacaux-Lemoine y Loiselet, 2002) y conducción de
automóviles (Marie-Pierre Pacaux-Lemoine, Simon y Popieul, 2015). Uno de los objetivos de esta
contribución es evaluar la utilidad de tales principios en el contexto de los IMS. Partiendo
principalmente de la presentación global del enfoque de Cooperación Hombre-Máquina utilizado en
diferentes dominios (Marie Pierre Pacaux-Lemoine, 2014), este artículo se centra en el uso y la
adaptación de los modelos en IMS para diseñar sistemas de asistencia.

Pueden darse situaciones de cooperación entre al menos dos "agentes". En este documento, el
término "agente" se utiliza en un sentido general para definir una entidad con capacidad de decisión
y denota, por ejemplo, un operador humano, un sistema de control inteligente (por ejemplo, un único
holón o una arquitectura de control holónica completa) o un Sistema de Ayuda a la Decisión. La
definición básica utilizada para estudiar la cooperación es: "Dos agentes de un sistema se encuentran
en situación de cooperación si (a) cada uno se esfuerza por alcanzar objetivos interfiriendo en los
objetivos de los demás (al menos en lo que respecta a recursos o procedimientos), y (b) tratan de
gestionar dicha interferencia para facilitar las actividades de los demás" (M.-P. Lemoine & Hoc,
1996). Así, los agentes cooperativos, que interactúan y participan en el control del mismo proceso
IMS, realizan tareas tanto individuales como cooperativas. The abilities corresponding to each type
of task are called “know-how” and “know-how-to-cooperate”, respectively (Millot & Lemoine,
1998) (cf. Figure 3).
  Know-how (KH)

 Internal ability to solve problems (regarding the process)

 capabilities: knowledge, rules, skills / experience, expertise
 processing abilities: workload, fatigue, distraction… External ability to:
 get information (from the process and the environment)
 act (on the process)

 Know-how-to-cooperate (KHC)
 Internal ability to:
 build a model of other agents (KH and KHC)
 deduce the other agents’ intentions
 analyze the task and identify the cooperative organization
 produce a common plan regarding tasks and coordination External ability to
communicate:
 understanding other agents
 providing other agents with information

Figure 3. Model of a cooperative agent

El know-how (saber-como) del agente (KH) es la capacidad de un agente para controlar el proceso
sin tener en cuenta los intercambios con otros agentes, y puede dividirse en dos partes: know-how
(saber -como) interno y externo. Los conocimientos internos se refieren a las habilidades y la
capacidad del agente para controlar el proceso y abordar la resolución de problemas, es decir,
analizar situaciones y tomar decisiones. Las capacidades están más relacionadas con las habilidades
de los agentes para resolver problemas en relación con su experiencia y conocimientos. Así, la
resolución de problemas puede basarse en las habilidades del agente si el problema es bien conocido,
en las reglas del agente si el problema está claramente identificado y pueden utilizarse reglas
predefinidas, o en los conocimientos del agente si el problema es nuevo y el agente tiene que
analizarlo para encontrar una nueva solución (Rasmussen, 1983). Las capacidades de procesamiento
se refieren a la capacidad de los agentes para resolver el problema. La solución está identificada,
pero los agentes pueden estar sobrecargados o no disponer de más recursos para aplicarla. Los
conocimientos técnicos externos están asociados a la capacidad de obtener información del proceso y
a la capacidad de actuar sobre el proceso (es decir, entrada/salida de agentes con el proceso). Este
saber hacer permite identificar, compartir y asignar tareas o funciones a los agentes para alcanzar un
objetivo común.
El saber cooperar de los agentes, Agent know-how-to-cooperate (KHC) en inglés, también se divide
en dos partes: interna y externa. El saber cooperar interno permite a un agente construir un modelo
de otros agentes (su saber hacer y su saber cooperar) para facilitar la cooperación con ellos. El "saber
cooperar" externo es la capacidad de intercambiar información con los demás (es decir,
entrada/salida con los demás). El saber cooperar permite gestionar las interacciones entre los agentes
y favorece la comprensión y el control mutuos.

KH y KHC pueden considerarse dos funciones utilizadas por los agentes por turnos o al mismo
tiempo, con distinta prioridad según el estado del sistema, el tipo de actividad y la carga de trabajo
del agente, por ejemplo. La figura 4 se centra en un ser humano y un sistema de asistencia que
trabajan en cooperación en un nivel (mientras que la figura 2 se refiere a tres niveles). Las funciones
KH se describen según los modelos propuestos por Parasuraman, Sheridan y Wickens (2000) y por
Rasmussen (1983). Las funciones KHC se basan principalmente en la definición de cooperación
(Jean-Michel Hoc y Lemoine, 1998). "Sistema de asistencia" es un término genérico utilizado para
referirse a cualquier tipo de agente no humano; puede ser un sistema de apoyo a la toma de
decisiones, un robot, un holón, etc. En la Figura 4, entre el KH y el KHC del humano y el sistema de
asistencia, el rectángulo azul claro representa el Espacio de Trabajo Común (CWS), que puede
proponer una representación de los estados pasados, actuales y futuros del proceso, así como de las
actividades individuales y cooperativas de los agentes (M.-P. Pacaux-Lemoine & Debernard, 2002).
También facilita el intercambio de información entre los agentes y ayuda a mejorar el conocimiento
de la situación del equipo (Millot y Pacaux-Lemoine, 2013).
Objetivos Limitaciones

Según las capacidades de las personas y los sistemas de asistencia, pueden cooperar para "recopilar información", "analizar
información", "tomar decisiones" y "ejecutar acciones". Estas subfunciones pueden compartirse, intercambiarse y
combinarse mediante el control de funciones KHC a través del control deslizante de cada escala que aparece en el CWS.
Cuanto más cerca esté el control deslizante del lado humano, mayor será la autoridad del ser humano y mayor la
responsabilidad de la subfunción. Cuanto más cerca esté el control deslizante del lado del sistema de asistencia, mayor será la
autoridad del sistema de asistencia para controlar la subfunción. Sin embargo, en la actualidad sigue siendo difícil abordar
las responsabilidades de los sistemas de asistencia. La mayoría de las veces, los diseñadores de sistemas de asistencia no se
preocupan por estas responsabilidades. La posición del deslizador se gestiona como resultado de las funciones KHC, lo que
significa que tanto el humano como el sistema de asistencia pueden aceptar, rechazar o negociar la propuesta del otro (M.-P.
Pacaux-Lemoine & Debernard, 2002).
La figura 4 presenta la cooperación entre un ser humano y un sistema de asistencia con el mismo
objetivo. Sin embargo, esta representación también puede utilizarse para estudiar o diseñar la
cooperación entre varios humanos, o la cooperación entre varios humanos y sistemas de asistencia, o
incluso la cooperación entre varios sistemas de asistencia (normalmente sistemas de apoyo a la toma
de decisiones a nivel táctico y estratégico y holones a nivel operativo). Esta representación puede
utilizarse para estudiar y diseñar la cooperación entre niveles de actividad o niveles jerárquicos
(véase la figura 5).

Level

Strategic level → definition of the plan

Agent x1 Agent xn

Cooperation inside level

Tactical level → application of the plan by triggering tasks

Agent y1 Agent y2 Agent yn

Cooperation
Operational level → control of the process
between levels
Agent z1 Agent z2 Agent zn

Number of agents

Figure 5. Multi-level cooperation based on Lemoine et al. (1996)

Las personas y los sistemas de asistencia pueden cooperar en relación con cada subfunción y los
objetivos complementarios de cada nivel de actividad. Pueden denominarse extensión horizontal y
extensión vertical, respectivamente, del concepto de control compartido (Marie-Pierre Pacaux-
Lemoine & Itoh, 2015).

3.2 Implementación del enfoque de cooperación hombre-máquina en el marco propuesto

Los principios de cooperación hombre-máquina que tienen en cuenta aspectos multinivel pueden ser
extremadamente útiles para identificar las capacidades humanas y del sistema actuales en IMS y para
proponer mejoras con respecto a dichas capacidades. El siguiente ejemplo procede de un estudio
realizado con posterioridad a la publicación de un conjunto de ideas iniciales sugeridas por
Zambrano Rey, Carvalho y Trentesaux (2013). En este caso, la idea es evaluar el impacto de un
diseño centrado en el ser humano sobre el rendimiento del sistema de fabricación (por ejemplo, la
energía utilizada, la producción completada en un tiempo fijo...) en comparación con un diseño
centrado en la tecnología. También se evaluarán otros indicadores de rendimiento relacionados con
aspectos humanos (carga de trabajo, facilidad de uso...) también serán evaluados.

Este estudio se basa en el control inteligente autoorganizado artificial específico de un sistema de

fabricación flexible (FMS). Los sistemas de autoorganización artificial (ASO) son una posible forma
de aplicar los principios de los SMI y se estudian en el resto de este documento. Se han seleccionado
por su reactividad potencial frente a las intervenciones humanas. El sistema de control de fabricación
ASO (ASO-MCS) propuesto se basa en paradigmas holónicos y bioinspirados (Barbosa, Leitão,
Adam, & Trentesaux, 2015). En un enfoque de diseño centrado en la tecnología, el sistema interpreta
la intervención humana como una perturbación externa. Sin embargo, dado que el comportamiento
del ASO es altamente reactivo y difícil de predecir por el ser humano, el enfoque centrado en el ser
humano debe abordar las siguientes cuestiones: ¿Cómo puede el ser humano supervisar al ASO-
MCS? ¿Cómo puede el ASO-MCS percibir la intervención del ser humano como una ayuda y no
como una perturbación?
Intentamos responder a estas preguntas poniendo en práctica una solución técnica del marco de
diseño centrado en el ser humano propuesto con los principios de cooperación Hombre-Máquina
presentados anteriormente. En lugar de centrarse en el nivel ASO y operativo, se analizaron tres
niveles de actividad para ayudar a los humanos y gestionar las interacciones entre niveles. La figura
6 detalla los niveles estratégico, táctico y operativo. Cada nivel se describe según el modelo de
cooperación presentado en la sección anterior. En este ejemplo, consideramos que los humanos
presentes en cada nivel son personas diferentes, pero podría tratarse de la misma persona en función
del tamaño del ASO y de la organización del sistema de fabricación.

A nivel estratégico, el ser humano conoce o define los objetivos globales del sistema de fabricación
en términos de rendimiento que debe alcanzar utilizando la información proporcionada por el ERP.
En el ejemplo, intentamos controlar el número de productos y el consumo de energía, es decir, el KH
estratégico del ser humano. En función de estos objetivos, un sistema de ayuda a la decisión
estratégica propone al ser humano un plan de fabricación; éste es el KH del sistema. El ser humano y
el sistema de asistencia intercambian información a través del Espacio Común de Trabajo (CWS),
una interfaz visual para el intercambio de información entre cada uno de los agentes que intervienen
en el sistema de gestión de la fabricación. El CWS es global a nivel estratégico, pero se centra con
más detalle en partes más pequeñas del sistema de fabricación a nivel táctico y aún más a nivel
operativo. A nivel estratégico, el CWS permite al ser humano dar objetivos al sistema de ayuda a la
decisión. Sin embargo, para poder hacerlo, el ser humano necesita un modelo del sistema de
asistencia, que es su KHC. Gracias a esta capacidad de cooperación, puede proporcionar información
que el sistema de asistencia puede calcular correctamente. A la inversa, el sistema de asistencia
proporciona su análisis y toma de decisiones, y muestra un conjunto de decisiones a través del CWS.
El sistema de asistencia también necesita una KHC para mostrar decisiones visibles, comprensibles y
aceptables para el ser humano.

A nivel táctico, el ser humano y el sistema de asistencia conocen el plan de fabricación previsto a
nivel estratégico. Los objetivos locales del humano son supervisar el progreso del plan controlado
por el ASO-MCS, por lo que se espera que el humano rectifique o actualice el plan de fabricación
tras una tendencia negativa. Este es el KH táctico del ser humano. No obstante, como ya se ha
explicado, los sistemas ASO son sistemas complejos y muy reactivos que el ser humano puede
entender poco y gestionar sin detener el proceso. Para evitar una situación tan extrema, en la figura 7
se presenta un ASO-MCS con un sistema de asistencia táctica capaz de utilizar el estado actual del
ASO y proporcionar decisiones. En el ASO-MCS propuesto, el ASO se compone de productos y
máquinas. Los productos se modelan como holones (PH1,PHn) que pueden decidir, por sí mismos,
en qué holón de máquina (MH1,MHm) se procesará su siguiente operación. Además, los PH pueden
decidir dinámicamente qué ruta de encaminamiento, compuesta por segmentos (y nodos) de
transporte sucesivos, se utilizará para llegar al MH seleccionado. Estas decisiones se basan en la
evolución de un conjunto específico de variables propagadas a través del sistema de transporte que
representan el atractivo de las máquinas e indican las rutas de cada nodo a cualquier máquina. El
diseño de estas variables se basa en los campos potenciales (FP) emitidos por las máquinas: cuanto
mayor es el campo potencial, más atractiva resulta la máquina o el segmento de transporte que
propaga el campo. El valor del campo potencial es percibido por los productos y les ayuda a elegir su
próxima máquina/dirección. El FP aumenta o disminuye dinámicamente, en función del estado de la
máquina, por ejemplo (disponible, no disponible, ocupada). Los campos potenciales se propagan por
la red de encaminamiento y se atenúan en función de la distancia (cuanto más lejos esté la máquina,
menos interesante es para un producto; cuanto más transitada esté la ruta de encaminamiento, mayor
será la atenuación). El lector puede encontrar más información en Pach, Berger, Sallez y Trentesaux
(2015).

La figura 7 describe la interacción entre el ASO, el sistema de asistencia y el operador humano a

nivel táctico. La asistencia contiene una emulación del sistema de fabricación que se desea controlar
que puede considerarse como un "espejo" de la realidad, por lo que es necesario un análisis fuera de
línea para identificar la información necesaria (es decir, disposición, máquinas, operaciones, sistema
de transporte, etc.) del sistema real a fin de construir el emulador. Si se realizan cambios de diseño
importantes en el FMS real, debe realizarse un nuevo análisis para actualizar el emulador. El objetivo
principal del sistema de asistencia y del emulador es ayudar al humano a supervisar el progreso del
plan (nivel táctico, KH en la Figura 6). Esto ayudará al humano a tomar las decisiones correctas y
emitir las órdenes adecuadas que se aplicarán al FMS real a través del MCS real (nivel táctico, KHC
en la figura 6). Para ello, el sistema de asistencia permite probar posibles decisiones utilizando el
emulador. Por lo tanto, al actualizar el estado del producto (PSn) y el estado de la máquina (MSm) en
el emulador, el operador humano puede utilizar la asistencia para mejorar su comprensión y explicar
el comportamiento del ASO (nivel táctico, KHC en la Figura 6), antes de tomar realmente una
decisión en el MCS real. La posible decisión del operador es un parámetro de entrada del sistema de
asistencia y una estimación de las funciones objetivo (OF) proporciona al humano información
valiosa a través del CWS. La KHC del ser humano consiste en proporcionar al sistema de asistencia
la información correcta. La misión del sistema de asistencia es tomar decisiones que satisfagan las
peticiones del ser humano y justificarlas de forma que éste pueda entenderlas y aceptarlas. Por lo
tanto, como se presenta en la Figura 6, el principal objetivo del ASO-MCS con un sistema de
asistencia táctica es permitir el análisis y la comprensión del sistema autoorganizado y, en este caso,
la posibilidad de utilizar campos potenciales para ayudar al sistema a recuperarse tras una
perturbación. Por consiguiente, la interacción del ser humano con el sistema de asistencia táctica le
permite tomar decisiones con mayor conocimiento de causa antes de tomarlas en el sistema real.

A nivel operacional, el humano comparte el espacio físico con los componentes ASO-MCS. Por lo
tanto, las consecuencias de cualquier decisión o acción realizada por el humano se reflejarán
inmediatamente. Por ejemplo, los objetivos funcionales del ser humano son intervenir si se produce
un problema que pueda causar un bloqueo, como un problema mecánico o eléctrico con los
transportadores, las máquinas o los productos. El ser humano, por lo tanto, debe actuar porque el
ASO-MCS no puede gestionar este tipo de problemas por sí solo. La capacidad del ser humano para
abordar estas cuestiones específicas de la forma adecuada es su KH. El humano, por tanto, se centra
en uno o unos pocos elementos del ASO-MCS (por ejemplo, un holón de máquina en
mantenimiento), y desconoce el funcionamiento global del ASO-MCS. En este nivel, sin asistencia,
el ser humano no dispone de ninguna KHC que le ayude a intervenir en una parte del ASO-MCS sin
perturbarlo, porque es incapaz de construir una representación de un sistema tan reactivo (lo que
significa que en la Figura 2 no hay ninguna casilla "Modelo de comportamiento del sistema de
control de fabricación inteligente" en esta situación). La ausencia de cooperación a este nivel puede
resolverse mediante un sistema de asistencia y cooperación a nivel táctico.
Los detalles de los sistemas de asistencia utilizados durante los experimentos breves figuran en la
sección siguiente.
4. Pasos iniciales para probar el enfoque

Los experimentos se realizaron en el sistema de fabricación flexible de la Universidad de

Valenciennes y Hainaut-Cambrésis (denominado AIP-PRIMECA FMS). Este sistema es una célula
de ensamblaje con transportadores en los que los productos, fijados a lanzaderas móviles, llegan a las
máquinas para obtener servicios de fabricación (cf. Figura 8: una imagen real (a) y un diagrama
esquemático (b) del FMS).

4.1 Descripción del sistema de ayuda a la decisión táctica implantado

Como se ve en la Figura 7, el sistema de asistencia táctica aquí está compuesto por un emulador
instanciado del sistema de fabricación a controlar, un módulo de entrada, un controlador de campo
potencial y un módulo de salida (CWS). El emulador consta de tres partes: el modelo estructural del
FMS, el comportamiento de las entidades decisorias y el estado actual del FMS. El modelo
estructural del FMS se corresponde con el del FMS AIP-PRIMECA (Figura 8 y parte inferior
derecha de la Figura 7), y modela los componentes físicos, las restricciones físicas y las restricciones
de gestión. Las entidades de decisión se crean para reflejar los algoritmos de decisión y las relaciones
entre productos y holones de máquinas (ASO) tal y como se implementan en el FMS AIP-
PRIMECA. Por último, el estado actual del FMS se compone de un conjunto de parámetros del FMS
que pueden cambiar en función de las condiciones del FMS, por ejemplo, la disponibilidad de la
máquina, la disponibilidad del segmento transportador y la longitud de las líneas de espera. Por lo
tanto, los dos primeros módulos no están conectados al FMS real, sino que están fuera de línea para
que el emulador pueda actualizarse si cambia el FMS de AIPPRIMECA. El tercer módulo requiere
que el ASO-MCS esté conectado para que el emulador pueda proporcionar información válida. N
 o obstante, se aceptó un error de alrededor del 15% entre el estado del FMS AIP-PRIMECA
(hardware) y el FMS emulado debido al comportamiento estocástico de los productos y a la falta de
ciertas restricciones técnicas (por ejemplo, la fricción) consideradas en el emulador, así como a las
duras suposiciones necesarias para modelar el FMS, como confirman estudios anteriores (Trentesaux
et al., 2013).
A través del módulo de entrada, el ser humano proporciona objetivos (rendimiento del sistema y
consumo de energía, tal y como se ha introducido anteriormente). Dichos objetivos se transfieren al
controlador del campo de potencial en el que se implementó un controlador proporcional-integral
para calcular el mejor campo de potencial recomendado para cada máquina (aPF(MHm) en la Figura
7) y para estimar los objetivos (cf. eOF en la Figura 7) de acuerdo con los objetivos solicitados. El
sistema de asistencia táctica propone dichos valores al humano mediante el módulo de salida (véase
la parte izquierda de la figura 9). El módulo de salida es un marco de referencia común al humano y
al sistema de ayuda a la decisión táctica, y se utiliza para diseñar el CWS de nivel táctico. En el
emulador, el humano también puede optar por no utilizar el controlador PF y validar sus propias
elecciones (véanse los controles deslizantes de la figura 9). Esto puede ayudar al humano a observar
las consecuencias de sus decisiones antes de interactuar con el FMS real. Tras esta prueba, el KH del
sistema de ayuda a la decisión táctica se compuso del emulador y de la evaluación de todo el ASO-
MCS según los valores de campo potenciales de las máquinas.

Figure 9. Common work space (CWS) in the tactical assistance system (the output module is highlighted by the red rectangle)

El humano calculó los campos potenciales utilizando el emulador, con o sin ayuda, y luego cooperó
con el AIP PRIMECA real asignando los campos potenciales a las máquinas reales explotadas por los
holones de máquina a través del ASO-MCS (rPF(MHm) en la Figura 7). Las consecuencias de tales
decisiones se mostraban entonces mediante los valores reales de las funciones objetivo (rOF en la
Figura 7). Con esta organización, el ser humano es consciente del estado, el rendimiento y el
procesamiento del ASOMCS.

4.2 Presentación del protocolo experimental

Para este protocolo experimental no se utilizó el FMS real, por lo que el operador humano sólo se
enfrentó al emulador. El sistema de ayuda a la toma de decisiones tácticas se evaluó mediante
experimentos breves realizados con un participante. Por supuesto, entonces era imposible realizar un
análisis estadístico. Sin embargo, nuestro principal objetivo era validar un enfoque de diseño
centrado en el ser humano completamente factible, basado en el marco sugerido y centrado en la
cuestión de la cooperación. Para ello, se diseñaron tres experimentos:
• El Experimento 1 se realizó con un enfoque centrado en la tecnología en el que no intervino
ningún operador humano.
• El Experimento 2 se realizó con un enfoque centrado en la tecnología. Participó un operador
humano, pero no se le proporcionaron campos potenciales recomendados; el humano tomó
sus propias decisiones basándose en su propia percepción del entorno.
• El Experimento 3 se realizó con un enfoque centrado en el ser humano. El sistema de ayuda a
la toma de decisiones tácticas proporcionó los campos potenciales recomendados por el
controlador PF y el ser humano pudo utilizar estos valores o tomar sus propias decisiones.

Los escenarios fueron realizados por el participante. Del análisis de los datos se obtuvieron
resultados subjetivos y objetivos.

Subjective data deal with workload evaluation and were collected using online and offline
questionnaires. The online questionnaire consist ed in asking the participant to evaluate his workload
every 3 min on a scale from 0 and 7. The offline questionnaire consist ed in using the NASA-TLX
method proposed by Hart and Staveland (1988). The participant had to evaluate his workload
according to 6 different sources. The participant had to place a mark on each scale that r epresented
the magnitude of each factor of the task already executed (cf. Figure 10).

Low High
Mental demand

Low High
Physical demand

Low High
Temporal demand

Good Poor
Own performance

Low High
Effort

Low High
Frustration level

Figure 10. NASA-TLX rating scales

El siguiente paso de este método consistió en seleccionar el miembro de cada par que proporcionaba
la fuente más significativa de variación de la carga de trabajo de la tarea (véase la Figura 11).
 Physical demand / Mental demand Temporal demand / Physical demand Temporal demand / Frustration level

Temporal demand / Mental demand Own performance / Physical demand Temporal demand / Effort

Own performance / Mental demand Frustration level / Physical demand Own performance / Frustration level

Frustration level / Mental demand Effort / Physical demand Own performance / Effort

Effort / Mental demand Temporal demand / Own performance Effort / Frustration level

Figure 11. NASA-TLX pair-wise comparison of factors

Los datos objetivos se calcularon en función de los rendimientos esperados del sistema de
fabricación, es decir, el rendimiento y el consumo de energía.

El protocolo experimental consistió en presentar al participante los objetivos del proyecto (objetivos,
ASO-MCS, campos potenciales, emulador FMS) (10 min), y después entrenar al participante en el uso
del sistema (15 min). El primer escenario (Experimento 2) se realizó sin el sistema de asistencia (10
min) y, a continuación, se completó el cuestionario NASA-TLX (5 min). El segundo escenario
(Experimento 3) se realizó con el sistema de asistencia (10 min) y, a continuación, se completó el
cuestionario NASA-TLX (5 min). Se desarrollaron dos escenarios con niveles de dificultad similares.
En cada escenario se podían utilizar 6 máquinas para realizar sucesivamente operaciones con
productos, y las máquinas podían realizar uno o varios tipos de operación. Tres máquinas estaban
activas al principio del experimento; otras tres estaban inactivas pero disponibles en caso de avería de
la máquina. Se desencadenaron eventos inesperados para que el ASO-MCS se volviera inestable y
necesitara así la intervención humana. El imprevisto consistía en que una máquina se averiaba en cada
escenario. Por lo tanto, el humano tenía que seleccionar otra máquina en función de sus capacidades
(tipo de operación) y ajustar los campos potenciales de todas las máquinas, incluida la de reserva, para
alcanzar los objetivos de producción. En cuanto a la productividad, no se trataba de maximizar el
rendimiento, sino de mantenerlo entre un límite inferior (4 productos por 300 s) y un límite superior (6
productos por 300 s). Mantener limitado el rendimiento ayuda a mantener bajo control el consumo de
energía, para el que se fijó un nivel máximo de 20 kWh.

4.3 Resultados

Un estudiante de 2º curso de máster de la Universidad de Valenciennes y Hainaut-Cambrésis dirigió

el experimento. Este participante no había recibido formación previa sobre la célula flexible. Los
resultados presentados en esta sección se obtuvieron tras completar el escenario y rellenar los
cuestionarios.

Throughputwithouthuman (Experiment 1)
Throughput with human and techno-centered approach (Experiment 2)
Throughput with human and human-centered approach (Experiment 3)
 Production time (Sec.)

Figure 12. Objective results: throughput

Los resultados obtenidos en cuanto al número de productos fabricados (rendimiento) ponen de

manifiesto la utilidad del sistema de asistencia y del enfoque centrado en el ser humano
(Experimento 3). La Figura 12 subraya que cuando el ASO-MCS es completamente autónomo
(Experimento 1) y una máquina se avería, el ASO-MCS puede reorganizarse pero llega a su límite
porque las máquinas inactivas no se utilizan ya que el FP se fija en cero. Por lo tanto, las máquinas
restantes disponibles no pueden mantener el rendimiento dentro de los límites. Cuando el humano
está en el bucle, es consciente de la situación y pone en marcha una nueva máquina y/o modifica los
campos potenciales de las máquinas. Sin embargo, sin la ayuda a la decisión táctica sugerida
(Experimento 2), el humano es incapaz de mantener el indicador dentro de los límites, ya que se
supera el número de productos y, por tanto, el umbral de consumo de energía. Los mejores resultados
se obtuvieron cuando el humano estaba presente y prestaba asistencia (Experimento 3).

Energy consumption with techno -centered approach (Experiment 2)

Energy consumption with human -centered approach (Experiment 3)

Production time (Sec.)

Figure 13. Objective results: energy consumption

Since the throughput and the energy consumption can be two opposite indicators, particular attention
was paid to energy consumption. Energy consumption is mainly considered according to machine
usage. Hence, when a machine breaks down, the first reaction is to start one or several idle machines.
Dado que el rendimiento y el consumo de energía pueden ser dos indicadores opuestos, se prestó
especial atención al consumo de energía. El consumo de energía se considera principalmente en
función del uso de la máquina. Por eso, cuando una máquina se avería, la primera reacción es poner
en marcha una o varias máquinas paradas. Sin embargo, un enfoque mejor podría ser equilibrar el
uso de las máquinas modificando los campos potenciales de las máquinas actualmente disponibles en
lugar de encender más máquinas. Esta segunda opción no es obvia para el ser humano, y los
resultados de la Figura 13 ponen de relieve la ayuda prestada por el sistema de asistencia en el
enfoque centrado en el ser humano. La mayoría de las veces se supera el límite de consumo deseado
(línea roja de la Figura 13) sin el sistema de asistencia (Experimento 2), pero se respeta con el
sistema de asistencia en el bucle (Experimento 3).
Estos resultados derivados de los datos objetivos ponen de relieve que el sistema de fabricación es
mucho más estable y los objetivos se alcanzan cuando el ser humano está en el bucle y ayudado por
el sistema de asistencia cooperativa. Sin embargo, aunque el rendimiento mejore con el enfoque
centrado en el ser humano, los factores humanos como la carga de trabajo deben demostrar que este
buen rendimiento se debe a las buenas interacciones con el proceso, el sistema de asistencia y los
holones. En estos experimentos, la calidad de la interacción viene dada por dos conjuntos de datos
subjetivos evaluados de la siguiente manera.

El primer conjunto de datos subjetivos se obtuvo a partir del análisis del cuestionario NASA-TLX
cumplimentado. El cálculo de la carga de trabajo global se basa en la ecuación (1). Ri procede del
cuestionario "NASA-TLX rating scales" (Figura 10). Ri representa la posición de la marca en la línea
de 100 milímetros de la pregunta vinculada al factor de carga de trabajo "i". αi es el número de
ocurrencias del factor de carga de trabajo "i" propuesto por los cuestionarios.
(1)

La carga de trabajo global calculada con el método NASA-TLX es del 42% sin el sistema de
asistencia (Experimento 2) y del 24,67% con el sistema de asistencia (Experimento 3). Este descenso
a casi la mitad se debe principalmente a una disminución de la demanda mental como resultado de la
ayuda proporcionada por el sistema de asistencia para anticipar el comportamiento futuro del ASO,
un aumento del rendimiento debido a un aumento de la autoconfianza y la confianza en el sistema de
asistencia, y una disminución del esfuerzo porque el sistema de asistencia realiza parte de la tarea.

El segundo conjunto de resultados subjetivos se refiere a la evaluación en línea de la carga de trabajo

por parte del participante. La figura 14 vuelve a poner de manifiesto una disminución más rápida de
la carga de trabajo con el sistema de asistencia. El elevado valor de la condición "con sistema de
asistencia" (Experimento 3) a los 300 y 600 segundos podría deberse a la cantidad de entrenamiento
que recibió el participante al principio del experimento, que probablemente fue insuficiente.

Techno-centered approach (Experiment 2)

Human-centered approach (Experiment 3)
6

0
0 300 600 900 1200 1500
Seconde

Figure 14. Subjective results: online evaluation of workload

4.4 Debate
El objetivo de estos experimentos era comparar las ventajas del enfoque de diseño centrado en el ser
humano con el enfoque de diseño centrado en la tecnología para controlar un sistema de fabricación
inteligente basado en ASO-MCS. Los resultados objetivos y subjetivos subrayan la tendencia de que
un enfoque de diseño centrado en el ser humano mejora el rendimiento global frente a objetivos de
producción complejos y conflictivos descritos en términos de consumo energético y rendimiento, así
como de carga de trabajo del operario humano. Los principios de cooperación hombre-máquina
ayudan a identificar los elementos que pueden ayudar al operador humano a controlar el IMS y, más
concretamente, en los experimentos, el ASOMCS. De hecho, se analizó la actividad del operador
humano en la actualidad y se comparó con la que tendría en el futuro con el ASO-MCS. Esta
comparación pone de manifiesto la necesidad de proporcionar un sistema de asistencia que pueda
ayudar al control del ASO-MCS cuando se produzcan bloqueos o averías en la máquina. Este sistema
de asistencia táctica estaba equipado con KH para analizar y tomar decisiones en relación con el
ASO-MCS, y con KHC para transmitir su análisis al operador humano. El modelo detallado
presentado en la Figura 4, y su adaptación al IMS y los aspectos multinivel presentados en la Figura
6, muestran los elementos que debíamos tener en cuenta, así como sus interacciones. So, the trend
towards an improvement in performance is due to a good balance between what the ASO-MCS is
able to do at operational level and what the human operator is able to do when assisted at tactical
level. Human operators and ASO take advantage of each other if the Human-ASO system is well
defined and cooperative. Además, la tendencia a la disminución de la carga de trabajo del operador
humano se debe al modelo ASO que el operador humano ha podido construir gracias al ASO KHC y
a la información que proporciona a través del CWS. No obstante, el ASO KHC no es capaz
actualmente de modelar el KH y el KHC del operador humano, lo que supone un reto entre otros que
se presentan en la siguiente sección.

5. Conclusión y búsqueda futura

El objetivo de este documento era concienciar sobre los riesgos ligados a la mayor complejidad de
los sistemas de fabricación inteligentes, así como a la eliminación del ser humano del bucle de
control. La investigación actual ha puesto de relieve el impacto de tales riesgos a través de ejemplos,
y se han señalado factores humanos específicos para controlarlos. No obstante, algunas
investigaciones avanzadas ya han abordado estos aspectos y se han presentado varios estudios. Entre
estos estudios, uno trata de los principios para desarrollar la cooperación persona-sistema basándose
en un marco de diseño centrado en el ser humano. Este enfoque se ha detallado y aplicado a los
sistemas. Se ha diseñado un sistema de asistencia para ayudar a los humanos cuando tienen que
supervisar y controlar un sistema artificial de control de fabricación autoorganizado. Se han
presentado los resultados de los experimentos realizados en el sistema de fabricación flexible de la
Universidad de Valenciennes y Hainaut-Cambrésis, que subrayan la contribución positiva de la
cooperación hombre-máquina en el diseño y la supervisión de sistemas de control de fabricación
autoorganizados.

El primer aspecto es mejorar las condiciones experimentales. Obviamente, estos resultados iniciales
deben reforzarse mediante estudios estadísticos sólidos realizando más experimentos con más
participantes. El tipo de participante también podría ser una variable experimental para investigar. De
hecho, los experimentos podrían realizarse con operadores humanos noveles o experimentados,
formados o no en el uso de ASO-MCS y sistemas de asistencia. Otro aspecto experimental por
mejorar es el realismo. En estos experimentos no se utilizó el FMS real, por lo que el operador
humano sólo se enfrentó al emulador. El siguiente paso sería realizar experimentos en el FMS real
con varias dimensiones nuevas que controlar, como el tamaño de la plataforma y el hecho de que el
operador humano no tenga una visión general del FMS completo (excepto con el sistema de
asistencia), las limitaciones en tiempo real (controladas con el emulador) y los problemas técnicos
con transportadores, lanzaderas o máquinas que se evitaron con el emulador pero que son aspectos
reales que hay que tener en cuenta con un FMS real. La última mejora se refiere al método de
evaluación. Un modelo de agente cooperativo también puede utilizarse para evaluar las interacciones
entre un operador humano y los sistemas de asistencia mediante la codificación de las actividades
individuales y cooperativas de cada uno. Los modelos KH y KHC pueden codificar la actividad
durante los experimentos, pero también después de los experimentos mediante un método de
autoconfrontación (Jean-Michel Hoc y Lemoine, 1998). La comparación de la codificación de varios
experimentos puede poner de relieve resultados cuantitativos y significativos, como los
malentendidos del operador humano o las dificultades para utilizar un nuevo sistema.

Un segundo aspecto se refiere a las mejoras del sistema de asistencia. En estos experimentos, el
sistema de asistencia KHC, que proporciona información al operador humano a través del espacio de
trabajo común, era limitado. Este KHC podría mejorarse si el sistema de asistencia es capaz de
construir una representación del operador humano. Por supuesto, este aspecto debe lograrse mediante
un enfoque multidisciplinar. El sistema de asistencia podría aprender de la toma de decisiones
humana, disponer de información sobre su carga de trabajo, su posición en el FMS, por ejemplo, y,
utilizando dicha información, podría adaptar su comportamiento a las necesidades o errores del
operador humano. Esta representación del operador humano puede utilizarse para anticipar riesgos y
gestionarlos mediante una mejor asignación de tareas hombre-máquina. Esto debe hacerse desde un
punto de vista organizativo, pero también en tiempo real para evitar accidentes.

En conclusión, en el contexto del desarrollo sostenible, este documento ha puesto de relieve la

importancia de los diseños centrados en el ser humano en los IMS y la principal ambición de los
autores es fomentar la investigación en este contexto.
Referencias
Barbosa, J., Leitão, P., Adam, E., & Trentesaux, D. (2015). Dynamic self-organization in holonic multi-
agent manufacturing systems: The ADACOR evolution. Computers in Industry, 66, 99– 111.
http://doi.org/10.1016/j.compind.2014.10.011
Blanc, P., Normand, A., Robert, C., Gauthier, A., Michel, J.-F., Pitrat, D., … Truchot, M.-J. (2015).
Inventaire 2015 des accidents technologiques. Ministère de l’Écologie, du Développement
durable et de l’Énergie, Direction générale de la prévention des risques.
Cardin, O., Trentesaux, D., Thomas, A., Castagna, P., Berger, T., & Bril El-Haouzi, H. (2015). Coupling
predictive scheduling and reactive control in manufacturing hybrid control architectures: state of
the art and future challenges. Journal of Intelligent Manufacturing, 1–15.
http://doi.org/10.1007/s10845-015-1139-0
Dencker, K., Fasth, Å., Stahre, J., Mårtensson, L., Lundholm, T., & Akillioglu, H. (2009). Proactive
assembly systems-realising the potential of human collaboration with automation. Annual
Reviews in Control, 33(2), 230–237. http://doi.org/10.1016/j.arcontrol.2009.05.004
Endsley, M. R. (1995). Toward a theory of situation awareness in dynamic systems: Situation
awareness. Human Factors, 37(1), 32–64.
Erbe, H.-H. (1998). Assistance systems supporting operations in manufacturing. In Proceedings of the
BASYS - 3rd IEEE/IFIP International Conference on Information Technology for Balanced
Automation Systems in Manufacturing (pp. 447–456).
Flemisch, F., Heesen, M., Hesse, T., Kelsch, J., Schieben, A., & Beller, J. (2012). Towards a dynamic
balance between humans and automation: Authority, ability, responsibility and control in shared
and cooperative control situations. Cognition, Technology and Work, 14(1), 3–18.
http://doi.org/10.1007/s10111-011-0191-6
Frohm, J., Lindström, V., Stahre, J., & Winroth, M. (2008). Levels of Automation in Manufacturing.
Ergonomia - an International Journal of Ergonomics and Human Factors, 30(3), 1–28.
Gaham, M., Bouzouia, B., & Achour, N. (2015). Human-in-the-Loop Cyber-Physical Production
Systems Control (HiLCP2sC): A Multi-objective Interactive Framework Proposal. In T.
Borangiu, A. Thomas, & D. Trentesaux (Eds.), Service Orientation in Holonic and Multi-agent
Manufacturing (pp. 315–325). Cham: Springer International Publishing.
http://doi.org/10.1007/978-3-319-15159-5_29
Grosse, E. H., Glock, C. H., & Neumann, W. P. (2017). Human factors in order picking: a content
analysis of the literature. International Journal of Production Research, 55(5), 1260–1276.
http://doi.org/10.1080/00207543.2016.1186296
Hart, S. G., & Staveland, L. E. (1988). Development of NASA-TLX (Task Load Index): Results of
Empirical and Theoretical Research. In P. A. H. and N. M. B. T.-A. in Psychology (Ed.), Human
Mental Workload (Vol. Volume 52, pp. 139–183). North-Holland.
http://doi.org/http://dx.doi.org/10.1016/S0166-4115(08)62386-9
Hoc, J.-M., & Lemoine, M.-P. (1998). Cognitive Evaluation of Human-Human and Human-Machine
Cooperation Modes in Air Traffic Control. International Journal of Aviation Psychology, 8(1), 1–
32. http://doi.org/10.1207/s15327108ijap0801_1
Inagaki, T. (2003). Adaptive Automation: Sharing and Trading of Control. In E. Hollnagel (Ed.),
Handbook of Cognitive Task Design (pp. 147–169). Lawrence Erlbaum Associates.
http://doi.org/10.1201/9781410607775
Kaber, D. B., & Endsley, M. R. (2004). The effects of level of automation and adaptive automation on
human performance, situation awareness and workload in a dynamic control task.
Theoretical Issues in Ergonomics Science (Vol. 5).
http://doi.org/10.1080/1463922021000054335
Lee, J., Bagheri, B., & Kao, H. A. (2015). A Cyber-Physical Systems architecture for Industry 4.0-
based manufacturing systems. Manufacturing Letters, 3, 18–
23. http://doi.org/10.1016/j.mfglet.2014.12.001
Lee, J., & Moray, N. (1992). Trust, control strategies and allocation of function in human-machine
systems. Ergonomics, 35(10), 1243–1270.
Lemoine, M.-P., & Hoc, J.-M. (1996). Multi-level Human-Machine Cooperation in Air Traffic
Control : an experimental evaluation. In T. R. G. Green, J. J. Cañas, & C. Waren (Eds.), ECCE8:
Proceedings of the Eighth European Conference on Cognitive Ergonomics : Granada, Spain, 10-
13 September 1996. Granada, Spain: European Association of Cognitive Ergonomics.
Lemoine, M. P., Debernard, S., Crevits, I., & Millot, P. (1996). Cooperation Between Humans and
Machines : First Results of an Experiment with a Multi-Level Cooperative Organisation in Air
Traffic Control. Computer-Supported Cooperative Work, 5(2), 299–321.
Lepratti, R. (2006). Advanced human-machine system for intelligent manufacturing : Some issues in
employing ontologies for natural language processing. Journal of Intelligent Manufacturing,
17(6), 653–666. http://doi.org/10.1007/s10845-006-0035-z
Lindström, V., & Winroth, M. (2010). Aligning manufacturing strategy and levels of automation: A
case study. Journal of Engineering and Technology Management - JET-M, 27(3–4), 148–159.
http://doi.org/10.1016/j.jengtecman.2010.06.002
MacCarthy, B. (2006). Organizational, Systems and Human Issues in Production Planning,
Scheduling and Control. In J. W. Herrmann (Ed.), Handbook of Production Scheduling (pp. 59–
90). Boston, MA: Springer US. http://doi.org/10.1007/0-387-33117-4_3
Martínez-Miranda, J., & Pavón, J. (2010). Human Attributes in the Modelling of Work Teams BT -
Balanced Automation Systems for Future Manufacturing Networks: 9th IFIP WG 5.5
International Conference, BASYS 2010, Valencia, Spain, July 21-23, 2010. Proceedings. In Á.
Ortiz, R. D. Franco, & P. G. Gasquet (Eds.), (pp. 276–284). Berlin, Heidelberg: Springer Berlin
Heidelberg. http://doi.org/10.1007/978-3-642-14341-0_32
May, G., Maghazei, O., Taisch, M., Bettoni, A., Cinus, M., & Matarazzo, A. (2014). Toward Human-
Centric Factories: Requirements and Design Aspects of a Worker-Centric Job
Allocator. In B. Grabot, B. Vallespir, S. Gomes, A. Bouras, & D. Kiritsis (Eds.), Advances in
Production Management Systems. Innovative and Knowledge-Based Production Management in
a Global-Local World: IFIP WG 5.7 International Conference, APMS 2014, Ajaccio, France,
September 20-24, 2014, Proceedings, Part III (pp. 417–424). Berlin, Heidelberg: Springer Berlin
Heidelberg. http://doi.org/10.1007/978-3-662-44733-8_52
McFarlane, D., Giannikas, V., Wong, A. C. Y., & Harrison, M. (2013). Product intelligence in industrial
control: Theory and practice. Annual Reviews in Control, 37(1), 69–88.
http://doi.org/10.1016/j.arcontrol.2013.03.003
Millot, P. (2014). Risk Management in Life-Critical Systems. (P. Millot, Ed.). Wiley Blackwell.
Millot, P., & Hoc, J.-M. (1997). Human-Machine Cooperation: Metaphor or possible reality? In 2nd
European Conference on Cognitive Science ECCS’97 (pp. 165–174). Manchester, U.K.
Millot, P., & Lemoine, M.-P. (1998). An Attempt for generic concepts toward Human-Machine
Cooperation. In IEEE International Conference on Systems, Man and Cybernetics. San Diego,
USA.
Millot, P., & Mandiau, R. (1995). Men-Machine Cooperative Organizations: Formal and Pragmatic
implementation methods. In J.-M. Hoc, P.-C. Cacciabue, & E. Hollnagel (Eds.), Expertise and
Technology: Cognition Computer Cooperation (pp. 213–228, 199). New Jersey: Lawrence Erlbraum
Associates.
Millot, P., & Pacaux-Lemoine, M. P. (2013). A common work space for a mutual enrichment of human-
machine cooperation and team-situation awareness. IFAC Proceedings Volumes
(IFACPapersOnline), 12(PART 1), 387–394. http://doi.org/10.3182/20130811-5-US-2037.00061
Nishitani, H. (1996). Human-computer interaction in the new process technology. Journal of Process
Control, 6(2), 111–117.
Oborski, P. (2004). Man-machine interactions in advanced manufacturing systems. The International
Journal of Advanced Manufacturing Technology, 23(3–4), 227–232.
http://doi.org/10.1007/s00170-003-1574-5
Pacaux-Lemoine, M.-P., & Debernard, S. (2002). Common work space for human – machine
cooperation in air traffic control. Control Engineering Practice, 10, 571–576.
http://doi.org/10.1016/S0967-0661(01)00060-0
Pacaux-Lemoine, M.-P., & Itoh, M. (2015). Towards vertical and horizontal extension of shared control
concept. In IEEE International Conference on Systems, Man, and Cybernetics (pp. 3086–3091).
Hong Kong, China. http://doi.org/10.1109/SMC.2015.536
Pacaux-Lemoine, M.-P., Simon, P., & Popieul, J. (2015). Human-Machine Cooperation principles to
support driving automation systems design. In 3rd International Symposium on Future Active
Safety Technology Toward zero traffic accidents (FAST-zero’15). Gothenburg, Sweden.
Pacaux-Lemoine, M. P. (2014). Human-Machine Cooperation Principles to Support Life-Critical
Systems Management. In Risk Management in Life-Critical Systems (pp. 253–277). Wiley
Blackwell. http://doi.org/10.1002/9781118639351.ch12
Pacaux-Lemoine, M. P., & Loiselet, A. (2002). A common work space to support the cooperation into
the cockpit of a two-seater fighter aircraft. Cooperative Systems Design: A Challenge of Mobility
Age, 157–172.
Pacaux, M. P., Debernard, S., Godin, A., Rajaonah, B., Anceaux, F., & Vanderhaegen, F. (2011).
Levels of automation and human-machine cooperation: Application to human-robot interaction.
IFAC Proceedings Volumes (IFAC-PapersOnline), 18(PART 1),
6484–6492. http://doi.org/10.3182/20110828-6-IT-1002.00312
Pach, C., Berger, T., Sallez, Y., & Trentesaux, D. (2015). Reactive control of overall power
consumption in flexible manufacturing systems scheduling: A Potential Fields model. Control
Engineering Practice, 44, 193–208. http://doi.org/10.1016/j.conengprac.2015.08.003
Parasuraman, R., Sheridan, T. B., & Wickens, C. D. (2000). A Model for Types and Levels of Human
Interaction with Automation, 30(3), 286–297.
Pires, J. N. (2005). Semi-autonomous manufacturing systems: The role of the human-machine interface
software and of the manufacturing tracking software. Mechatronics, 15(10), 1191– 1205.
http://doi.org/10.1016/j.mechatronics.2005.06.008
Rajaonah, B., Tricot, N., Anceaux, F., & Millot, P. (2008). The role of intervening variables in driver-
ACC cooperation. International Journal of Human Computer Studies, 66(3), 185–197.
http://doi.org/10.1016/j.ijhcs.2007.09.002
Rasmussen, J. (1983). Skills, Rules, and Knowledge; signals, Signs, and Symbols, and Other
Distinctions in Human Performance Models. IEEE Transactions on Systems, Man, and
Cybernetics, 13(3), 257–266.
Romero, D., Noran, O., Stahre, J., Bernus, P., & Fast-Berglund, Å. (2015). Towards a HumanCentred
Reference Architecture for Next Generation Balanced Automation Systems: HumanAutomation
Symbiosis. In S. Umeda, M. Nakano, H. Mizuyama, H. Hibino, D. Kiritsis, & G. von Cieminski (Eds.),
Advances in Production Management Systems: Innovative Production Management Towards
Sustainable Growth: IFIP WG 5.7 International Conference, APMS
2015, Tokyo, Japan, September 7-9, 2015, Proceedings, Part II (pp. 556–566). Cham: Springer
International Publishing. http://doi.org/10.1007/978-3-319-22759-7_64
Säfsten, K., Winroth, M., & Stahre, J. (2007). The content and process of automation strategies.
International Journal of Production Economics, 110(1–2), 25–38.
http://doi.org/10.1016/j.ijpe.2007.02.027
Schmitt, K. (2012). Automations influence on nuclear power plants: a look at three accidents and how
automation played a role. In International Ergonomics Assocociation World Conference . Recife,
Brazil.
Sheridan, T. B. (1992). Telerobotics, automation, and human supervisory control. MIT Press.
Solvang, B., Sziebig, G., & Korondi, P. (2012). Shop-floor architecture for effective human-machine
and inter-machine interaction. Acta Polytechnica Hungarica, 9(1), 183–201.
Trentesaux, D., Dindeleux, R., & Tahon, C. (1998). A multicriteria decision support system for
dynamic task allocation in a distributed production activity control structure. International
Journal of Computer Integrated Manufacturing, 11(1), 3–17.
http://doi.org/10.1080/095119298130930
Trentesaux, D., & Millot, P. (2016). A Human-Centred Design to Break the Myth of the ``Magic
Human’’ in Intelligent Manufacturing Systems. In T. Borangiu, D. Trentesaux, A. Thomas, &
D. McFarlane (Eds.), Service Orientation in Holonic and Multi-Agent Manufacturing (pp. 103–
113). Cham: Springer International Publishing. http://doi.org/10.1007/978-3-319-30337-6_10
Trentesaux, D., Moray, N., & Tahon, C. (1998). Integration of the human operator into responsive
discrete production management systems. European Journal of Operational Research, 109(2), 342–
361. Trentesaux, D., Pach, C., Bekrar, A., Sallez, Y., Berger, T., Bonte, T., … Barbosa, J. (2013).
Control Engineering Practice Benchmarking fl exible job-shop scheduling and control systems.
Control Engineering Practice, 21(9), 1204–1225. http://doi.org/10.1016/j.conengprac.2013.05.004
Valckenaers, P., & Van Brussel, H. (2016). Design for the Unexpected: From Holonic Manufacturing
Systems towards a Humane Mechatronics Society (1st Editio). ButterworthHeinemann.
Valckenaers, P., Van Brussel, H., Bruyninckx, H., Saint Germain, B., Van Belle, J., & Philips, J. (2011).
Predicting the unexpected. Computers in Industry, 62(6), 623–637.
http://doi.org/10.1016/j.compind.2011.04.011
Van Brussel, H., Wyns, J., Valckenaers, P., Bongaerts, L., & Peeters, P. (1998). Reference architecture
for holonic manufacturing systems: PROSA. Computers in Industry, 37(3), 255– 274.
http://doi.org/10.1016/S0166-3615(98)00102-X
Woods, D. D., Tittle, J., Feil, M., & Roesler, A. (2004). Envisioning Human – Robot Coordination in
Future Operations. IEEE Transactions on Systems, Man and Cybernetics, 34(2), 210–218.
http://doi.org/10.1109/TSMCC.2004.826272
Zambrano Rey, G., Carvalho, M., & Trentesaux, D. (2013). Cooperation models between humans and
artificial self-organizing systems: Motivations, issues and perspectives. Proceedings - 2013 6th
International Symposium on Resilient Control Systems, ISRCS 2013, 156–161.
http://doi.org/10.1109/ISRCS.2013.6623769

Highlights
Models to design and evaluate the performance of Human-Machine Systems are presented.
A human-centered approach is proposed to design human-aware Intelligent Manufacturing Systems.
The first results of the experiments relating to the usefulness of a human-centered approach are
encouraging.