Documentos de Académico
Documentos de Profesional
Documentos de Cultura
com
Gerente de Redes
nominado por
La Comisión Europea
EUROCONTROL
De Safety-I a Safety-II: un
libro blanco
Seguridad DNM
RESUMEN EJECUTIVO
En 2012, la industria de la aviación experimentó el año Para desarrollarse, estos ajustes se vuelven cada vez más
más seguro registrado, según IATA, con una tasa de importantes para un desempeño exitoso. Por lo tanto, el
accidentes muy baja. Este logro es a pesar de la constante desafío para la mejora de la seguridad es comprender estos
expansión en el tráfico aéreo, que se espera que continúe ajustes, comenzando por comprender cómo el desempeño
en el futuro. Con esta expansión viene una demanda de generalmente funciona bien. A pesar de la importancia obvia
mejoras paralelas en la seguridad, para que no aumente el de que las cosas salgan bien, hasta ahora la gestión de la
número de accidentes. seguridad ha prestado relativamente poca atención a esto.
La mayoría de la gente piensa en la seguridad como la ausencia de Por lo tanto, la gestión de la seguridad debería
accidentes e incidentes (o como un nivel de riesgo aceptable). En pasar de garantizar que "menos cosas salgan mal" a
esta perspectiva, que se denomina Seguridad-I, la seguridad se garantizar que "tantas cosas como sea posible
define como un estado en el que la menor cantidad posible de salgan bien". Esta perspectiva se denomina
cosas sale mal. Según Safety-I, las cosas salen mal debido a causas Seguridad-II y se relaciona con la capacidad del
técnicas, humanas y organizativas: fallas y mal funcionamiento. Por sistema para tener éxito en diversas condiciones. De
lo tanto, los humanos son vistos predominantemente como una acuerdo con Safety-II, la variabilidad del desempeño
responsabilidad o un peligro. El principio de gestión de la diario necesario para responder a condiciones
seguridad es responder cuando algo sucede o se clasifica como un cambiantes es la razón por la cual las cosas salen
riesgo inaceptable. En consecuencia, el propósito de la bien. En consecuencia, los humanos son vistos
investigación de accidentes es identificar las causas y los factores como un recurso necesario para la flexibilidad y
que contribuyen a los resultados adversos, mientras que la resiliencia del sistema. El principio de gestión de la
evaluación de riesgos tiene como objetivo determinar su seguridad es anticiparse continuamente a los
probabilidad. Ambos enfoques intentan eliminar las causas o desarrollos y eventos. El propósito de una
mejorar las barreras, o ambas cosas. investigación cambia a comprender cómo las cosas
generalmente salen bien como base para explicar
Esta visión de la seguridad se desarrolló entre las décadas de cómo las cosas ocasionalmente salen mal.
1960 y 1980, cuando las demandas de rendimiento eran
significativamente más bajas y los sistemas eran más simples A la luz de las crecientes demandas y la complejidad
e independientes. Se asumió que los sistemas podían del sistema, debemos adaptar nuestro enfoque a la
descomponerse y que los componentes del sistema seguridad. Si bien muchos eventos adversos aún
funcionaban de manera bimodal, ya sea trabajando pueden tratarse con un enfoque basado en la
correctamente o trabajando incorrectamente. Estas seguridad I sin consecuencias graves, hay un número
suposiciones permitieron descripciones detalladas y estables creciente de casos en los que este enfoque no
del sistema y permitieron una búsqueda de causas y funcionará y nos dejará sin saber cómo las acciones
soluciones para fallas. Estos supuestos no encajan en el cotidianas logran la seguridad. Por lo tanto, el camino
mundo actual, donde los sistemas como ATM no se pueden a seguir radica en avanzar hacia Safety-II mientras se
descomponer de manera significativa, donde las funciones del combinan las dos formas de pensar. La mayoría de los
sistema no son bimodales, sino donde el desempeño diario es métodos y técnicas existentes pueden seguir
(y debe ser) variable y flexible. utilizándose, aunque posiblemente con un énfasis
diferente. Pero la transición hacia una vista de
Fundamentalmente, el punto de vista de Seguridad-I no explica por qué seguridad II también incluirá algunas prácticas nuevas
el desempeño humano prácticamente siempre sale bien. La razón por la para buscar lo que funciona bien, centrarse en eventos
que las cosas van bien no es que las personas se comporten como se les frecuentes, permanecer sensible a la posibilidad de
dice, sino que las personas pueden ajustar su trabajo para que coincida fallas, ser minucioso y eficiente y ver una inversión en
con las condiciones. A medida que los sistemas continúan seguridad. como una inversión en productividad.
cada vez mayor. Esto quizás se vea más fácilmente en las formas
4
En los primeros días de los vuelos comerciales, el foco de atención que las explicaciones de los resultados no deseados del
y de seguridad, por así decirlo, estaba casi exclusivamente en las rendimiento del sistema ya no pueden limitarse a una
fallas tecnológicas. Los componentes en el aire o en el suelo comprensión de las relaciones causa-efecto descritas por
podrían romperse o no funcionar según lo previsto. La modelos lineales. La importancia de la ingeniería de resiliencia
comprensión de cómo funcionaba la tecnología se basaba en para ATM se ha explorado en un libro blanco anterior
relaciones causa-efecto simples y los modelos utilizados para (EUROCONTROL, 2009). Este informe técnico analiza más de
explicar accidentes o incidentes eran lineales, por ejemplo, el cerca las consecuencias de los conceptos de ingeniería de
modelo Domino de Heinrich (Heinrich, 1931). resiliencia para el pensamiento y la gestión de la seguridad.
La seguridad es un término utilizado y reconocido por casi todo el Para ilustrar las consecuencias de definir la seguridad por
mundo. Debido a que lo reconocemos de inmediato y lo lo que sale mal, considere la Figura 2. Aquí la delgada línea
encontramos significativo, damos por sentado que otros hacen lo roja representa el caso donde la probabilidad (estadística)
mismo y, por lo tanto, rara vez nos molestamos en definirlo con de una falla es 1 de 10,000. Pero esto también significa
mayor precisión. El propósito de este White Paper es precisamente que se debe esperar que las cosas salgan bien 9999 veces
eso y explorar las implicaciones de dos interpretaciones diferentes de 10 000, lo que corresponde al área verde en la Figura 2.
de la seguridad. (En aviación, la probabilidad de tener un accidente fatal en
un vuelo comercial es 1.4 * 10-7. )
perjudiciales para los trabajadores, el público o el medio ambiente sea 1 - 10-⁴: = 9.999 no fallo
aceptablemente bajo. La OACI, por ejemplo, define la seguridad como: en 10.000 eventos
6
La situación es bastante diferente para los 9.999 eventos que El estado actual de las cosas representa un entendimiento común
salen bien. A pesar de su importancia crucial, por lo general de la seguridad, que llamaremos Seguridad-I. Esto define la
reciben poca atención en las actividades de gestión de la seguridad como una condición en la que el número de resultados
seguridad, como la gestión de riesgos de seguridad, la adversos es lo más bajo posible. Dado que el propósito de la
garantía de la seguridad y la promoción de la seguridad. No gestión de la seguridad es lograr y mantener esa condición, los
existen requisitos por parte de las autoridades y los objetivos de seguridad se definen en términos de una reducción de
reguladores para observar lo que funciona bien y, por lo tanto, los resultados medidos durante un período de tiempo
Figura 3: Las cosas que van bien y las cosas que van mal suceden de diferentes maneras
8
Las Manifestaciones de la Seguridad-
I: Mirando lo que sale mal
La definición de Seguridad-I significa que las manifestaciones son están precedidos por causas, es un error suponer que las
resultados adversos. Se considera que un sistema (ATM) no es causas son triviales o que siempre se pueden encontrar.
seguro si se producen resultados adversos o si el riesgo se
considera inaceptable, y seguro si no se producen tales resultados Élcredo de la causalidada lo largo de los años se ha expresado
o si el riesgo se considera aceptable. Esta es, sin embargo, una en muchos modelos diferentes de accidentes. La versión
definición indirecta porque la seguridad se define por su opuesto, fuerte de lacredo de la causalidades la suposición sobre las
por lo que sucede cuando está ausente en lugar de cuando está causas fundamentales, expresada por el análisis de las causas
presente. fundamentales. Esto corresponde al pensamiento lineal simple
representado por el modelo Domino (Heinrich, 1931). Si bien
La curiosa consecuencia de esta definición es que el nivel de esto probablemente fue adecuado para la primera mitad de
seguridad está inversamente relacionado con el número de los 20elsiglo, los entornos sociotécnicos cada vez más
resultados adversos. Si muchas cosas van mal, se dice que el nivel complicados e incomprensibles que se desarrollaron en la
de seguridad es bajo; pero si pocas cosas salen mal, se dice que el última mitad, y especialmente a partir de la década de 1970,
nivel de seguridad es alto. En otras palabras, cuantas más requirieron mecanismos más intrincados y más poderosos. El
manifestaciones hay, menos seguridad hay y viceversa. Un nivel modelo de accidente más conocido es el modelo del queso
perfecto de seguridad significa que no hay resultados adversos, suizo, que explica los resultados adversos como resultado de
por lo tanto, no hay nada que medir. Desafortunadamente, esto una combinación de fallas activas y condiciones latentes. Otros
hace que sea imposible demostrar que los esfuerzos para mejorar ejemplos son enfoques como TRIPOD (Reason et al., 1989),
la seguridad han funcionado, por lo que es muy difícil argumentar AcciMap (Rasmussen & Svedung, 2000) y STAMP (Leveson,
a favor de recursos continuos. 2004). Sin embargo, en todos los casos el mecanismo incluye
alguna forma de causalidad que permite que el análisis
Para ayudar a describir las manifestaciones, se dispone de retroceda desde las consecuencias hasta las causas
varias tipologías de error, que van desde las simples (omisión- subyacentes.
comisión) hasta las elaboradas (diversas formas de 'error
cognitivo' y violaciones o incumplimiento). Tenga en cuenta
que estas tipologías a menudo conducen a una confusión
problemática entre el error como resultado (manifestación) y La base de la seguridad-I:
el error como causa. O funciona o no funciona
mundial de que los resultados adversos (accidentes, Sabemos que podemos construir sistemas (incluidos
incidentes) ocurren porque algo sale mal, por lo tanto, tienen aviones y aeropuertos) juntando cosas y combinando y
causas que se pueden encontrar y tratar. Aunque obviamente organizando cuidadosamente los componentes. La
es razonable suponer que las consecuencias primera suposición es que este proceso puede
revertirse y que podemos entender los sistemas por
constituyentes (departamentos, agentes, roles, partes Si bien las dos suposiciones (descomponibilidad y
interesadas). Y finalmente asumimos que se puede hacer lo bimodalidad) hacen que sea conveniente buscar causas y
mismo para tareas y eventos, en parte debido a la seductora responder "arreglándolas", también conducen a
simplicidad de la línea de tiempo. Pero nos equivocamos en descripciones y escenarios de sistemas con manejabilidad
todos los casos. y especificidad ilusorias, y cuantificación con precisión
ilusoria. Por lo tanto, son insuficientes como base para la
- El funcionamiento es bimodal. gestión de la seguridad en el mundo de hoy.
También se supone que los 'componentes' de un sistema
pueden estar en uno de dos modos, ya sea funcionando
correctamente o fallando (mal funcionamiento),
posiblemente embellecidos al incluir varios modos
degradados de operación. Los componentes del sistema
generalmente están diseñados o diseñados para
proporcionar una función específica y cuando eso no
sucede, se dice que fallaron, funcionaron mal o fallaron.
10
EL MUNDO CAMBIANTE DE LOS CAJEROS AUTOMÁTICOS
Safety-I se basa en una visión de la seguridad que se desarrolló aproximadamente entre 1965 y 1985. Las demandas y
condiciones de trabajo, en ATM y en otros lugares, eran muy diferentes a las de ahora. Considere el crecimiento del tráfico en 15
estados de la UE, que se muestra en la Figura 6.
16000000
Crecimiento del tráfico de aeródromos EU15 1978-2008
14000000
12000000
10000000
8000000
6000000
4000000
2000000
0
1978 1983 1988 1993 1998 2003 2008
UE15
Figura 6: Tráfico de
aeródromo EU15 por año Año 1978 1983 1988 1993 1998 2003 2008
(1978 - 2008)
4874379 5210819 5916008 6362527 8804091 12044932 13338594
(Datos cortesía de la OACI)
Las condiciones de trabajo de los controladores, así como de los - Los procedimientos son amplios, completos y
pilotos, también eran bastante diferentes a las de hoy. La evolución correctos.
del entrenamiento ATC, por ejemplo, se puede ver en las Figuras 7
Los sistemas industriales de la década de 1970 eran hacerlo. (Funcionan como se supone o se imagina que lo hacen).
y mantenidos correctamente.
12
Desarrollos tecnológicos desenfrenados
Como la mayoría de las industrias, ATC está sujeta a un flujo cada Los desarrollos de los sistemas industriales desde 1960 han
vez mayor de diversos cambios y mejoras. Algunos cambios surgen estado marcados por una serie de fuerzas mutuamente
como respuesta a una tecnología más potente, pero otros son una dependientes. El primero es el desarrollo de la tecnología en
respuesta a las mayores demandas de rendimiento. La Comisión sí, sobre todo la TI y el software 'inteligente'. Luego está el
Europea, por ejemplo, ha establecido objetivos ambiciosos para los aumento de las necesidades y demandas de los usuarios. Esto
desarrollos durante la próxima década en relación con cuatro parece seguir la llamada 'Ley de los sistemas estirados', que
direcciones: seguridad, impacto ambiental, capacidad y dice que cada sistema se estira para operar a su máxima
rentabilidad. (SESAR se ha fijado más concretamente los siguientes capacidad y que cualquier mejora, siempre que se realice y por
objetivos: permitir triplicar la capacidad, mejorar la seguridad en cualquier motivo, se utilizará para lograr una nueva
un factor de 10, reducir los costos de los cajeros automáticos a la intensidad. y ritmo de actividad. Y finalmente, dado que hace
mitad y reducir el impacto ambiental en un 10 %. El objetivo de mucho que pasamos el punto en que los humanos sin ayuda
seguridad por sí solo plantea la interesante cuestión de cómo se podían controlar los procesos, existe la atracción irónica de las
puede medir un aumento de diez veces en la seguridad contando soluciones tecnológicas, como la automatización, para
cuántas cosas menos salen mal). resolver los problemas. Todo esto se ilustra en la Figura 10 a
continuación.
Compensación
Sistema automatización
funcionalidad "Elegante"
tecnología
14
Trabajo como se imaginó y trabajo como se hizo
Si la suposición de que el trabajo se puede analizar y prescribir equivocado. Esto constituye un desafío para los modelos y
por completo es correcta, entonces el trabajo imaginado se métodos que comprenden la corriente principal de la
corresponderá con el trabajo realizado. Work-As-Imagined es ingeniería de seguridad, los factores humanos y la ergonomía.
una visión idealista de la tarea formal que no tiene en cuenta Una implicación práctica de esto es que solo podemos
cómo se debe ajustar el desempeño de la tarea para que comprender los riesgos si salimos de nuestro escritorio, de las
coincida con las condiciones cambiantes del trabajo y del reuniones y entramos en entornos operativos con personas
mundo. Work-As-Imagined describe lo que debería suceder en operativas.
condiciones nominales de trabajo. Work-As-Done, por otro
lado, describe lo que realmente sucede, cómo se desarrolla el Los ambientes de trabajo de hoy en día requieren que miremos el
trabajo a lo largo del tiempo en una situación concreta. trabajo tal como se hizo en lugar del trabajo imaginado, por lo
Según IATA (2013), cerca de 3.000 millones de personas volaron de La solución a esto es sorprendentemente simple: en lugar
forma segura en 37,5 millones de vuelos en 2012. Esto significa de solo mirar el caso de cada 10,000 en los que las cosas
que cada día, aproximadamente 100.000 vuelos llegaron a salvo a salen mal, también deberíamos mirar los 9,999 casos en
su destino. Lamentablemente, también hubo 75 accidentes en los que las cosas salen bien para entender cómo sucede
2012, con quince de ellos con consecuencias fatales (414 muertes). eso. Debemos reconocer que las cosas van bien porque las
Sin embargo, las cifras muestran que un accidente es un evento personas son capaces de ajustar su trabajo a las
poco frecuente: el equivalente a un accidente por cada 500.000 condiciones y no porque trabajan como se imaginan. La
vuelos en 2012. Para los jets de fabricación occidental, la tasa de ingeniería de resiliencia reconoce que los resultados
accidentes es aún más baja, con seis accidentes con pérdida de aceptables y los resultados inaceptables tienen una base
casco en 2012, lo que equivale a uno accidente por cada 5 millones común, a saber, los ajustes de desempeño diarios
de vuelos. (consulte la Figura 11).
Los pilotos, controladores, ingenieros y otros pueden lograr estos Debido a que el cajero automático de hoy en día es intratable,
resultados porque pueden ajustar su trabajo para que coincida con es imposible prescribir lo que se debe hacer en detalle,
las condiciones. (Lo mismo, por supuesto, se aplica a todos los excepto en las situaciones más triviales. No obstante, la razón
demás dominios industriales, aunque las tasas de accidentes por la que las personas pueden trabajar con eficacia y éxito es
pueden ser diferentes). Sin embargo, cuando tratamos de que ajustan continuamente su trabajo a las condiciones
administrar la seguridad, nos enfocamos en los pocos casos que actuales, incluido lo que otros hacen o es probable que hagan.
salen mal en lugar de en los muchos que salen bien. Pero centrarse A medida que los sistemas se vuelven cada vez más
en casos raros de fallas atribuidas a 'errores humanos' no explica complicados y se expanden tanto vertical como
por qué el desempeño humano prácticamente siempre sale bien y horizontalmente, estos ajustes se vuelven cada vez más
cómo ayuda a cumplir los objetivos de ATM. Centrarse en la falta importantes para un desempeño exitoso y, por lo tanto,
de seguridad no nos muestra qué dirección tomar para mejorar la presentan tanto un desafío como una oportunidad para la
seguridad. gestión de la seguridad.
Figura 11: Las cosas que van bien y las cosas que van mal suceden de la misma manera
dieciséis
De acuerdo con este punto de vista, deberíamos evitar Las premisas para la gestión de la seguridad en el mundo
tratar las fallas como eventos únicos e individuales, y más industrial actual se pueden resumir en las siguientes:
bien verlas como una expresión de la variabilidad del
desempeño cotidiano. Con la excepción de los grandes - Los sistemas no pueden descomponerse de manera
desastres, es una apuesta segura que algo que sale mal significativa (no hay 'elementos' o 'componentes' naturales).
habrá salido bien muchas veces antes y volverá a salir bien - Las funciones del sistema no son bimodales, pero el
muchas veces en el futuro. Comprender cómo se desempeño diario es, y debe ser, flexible y variable.
producen los resultados aceptables es la base necesaria - Los resultados surgen de la variabilidad del
para comprender cómo se producen los resultados desempeño humano, que es la fuente de éxitos y
inaceptables. En otras palabras, cuando algo sale mal, fracasos.
debemos comenzar por entender cómo (si no) suele salir - Si bien algunos resultados adversos pueden atribuirse
bien, en lugar de buscar causas específicas que solo a fallas y mal funcionamiento, otros se entienden
explican la falla (ver Figura 12). mejor como resultado de la variabilidad del
rendimiento acoplado.
Las situaciones laborales son cada vez más intratables, a pesar de
nuestra mejor intención de evitarlo. Una de las razones de esto es, En consecuencia, la definición de seguridad debería
irónicamente, nuestra capacidad limitada para anticipar las cambiarse de 'evitar que algo salga mal' a 'garantizar que
consecuencias de los cambios de diseño u otras intervenciones. todo salga bien'.Safety-II es la capacidad del sistema
– tanto las consecuencias previstas como los efectos secundarios para tener éxito en diversas condiciones, de modo que
no previstos. Este problema se abordó hace muchos años en una el número de resultados previstos y aceptables (en
discusión sobre automatización, donde Bainbridge (1983) señaló otras palabras, actividades cotidianas) sea el mayor
que “el diseñador que trata de eliminar al operador aún deja que el posible.Por lo tanto, la base para la seguridad y la gestión
operador haga las tareas que el diseñador no puede pensar en de la seguridad debe ser la comprensión de por qué las
cómo automatizar”. Este argumento se aplica no solo al diseño de cosas van bien, lo que significa la comprensión de las
la automatización, sino también a la especificación del trabajo y al actividades cotidianas.
diseño del lugar de trabajo en general. Cuanto más complicada sea
detalles.
Co
co
nd
nd
ic
io
io
n
ne
es
s
de
cl
lc
im
am
Lloviendo fuerte
át
in
ic
o
as
Accidente automovilistico
Somnoliento
o
ul
íc
or
eh
ad
ol
lv
tr
on
de
lc
Neumáticos desgastados
de
do
do
ta
ta
Es
Es
18
Esta representación, y esta forma de pensar, parte del hecho De manera similar, la evaluación de riesgos proyecta los
de que los efectos finales son cambios (relativamente) desarrollos desde la(s) causa(s) eficiente(s) hasta los posibles
estables en alguna parte del sistema, que son 'reales'. resultados.
También se supone que las causas son estables, lo que
significa que se pueden encontrar retrocediendo desde el En el caso de la emergencia, los resultados observados
resultado. Las causas son 'reales' en el sentido de que pueden (finales) también son observables o 'reales', pero lo mismo
estar asociadas con componentes o funciones que de alguna no es necesariamente cierto para lo que los produjo. Los
manera han 'fallado', donde la 'falla' es visible después del resultados pueden, por ejemplo, deberse a fenómenos
hecho o puede deducirse de los hechos. transitorios o condiciones que solo existieron en un punto
particular en el tiempo y el espacio. Estas condiciones
Cuando algo sale mal, habrá un cambio observable de pueden, a su vez, haber surgido de otros fenómenos
algo. (De lo contrario, no podríamos saber que sucedió transitorios, etc. (ver Figura 14). Las "causas" se
algo). El resultado puede ser una incursión en la pista, reconstruyen (o infieren) más que se encuentran. Por lo
un barco volcado o una crisis financiera. Seguridad-I tanto, pueden ser imposibles de eliminar o contener de la
asume que las causas son reales y el propósito de la manera habitual, pero aún es posible controlar las
investigación de accidentes e incidentes es rastrear los condiciones que los hicieron existir, siempre que
desarrollos hacia atrás desde el resultado observable entendamos cómo se hace el trabajo normalmente.
hasta la causa eficiente.
12
2 9
3
1
8
10
5 11
La definición de Seguridad-II significa que las manifestaciones son Para ayudar a describir las manifestaciones de Safety-II,
todos los resultados posibles, como se ilustra en la Figura 15, y actualmente hay pocas tipologías disponibles. Aunque las
especialmente los resultados típicos o de alta frecuencia que cosas van bien todo el tiempo, no nos damos cuenta porque
generalmente son ignorados por la gestión de la seguridad. Aún se nos acostumbramos. Pero dado que el desempeño diario no
considera que un sistema (ATM) no es seguro si se producen es excepcional, se puede explicar en términos relativamente
resultados adversos; sin embargo, es más importante comprender simples. Por ejemplo, el desempeño cotidiano puede
cómo es seguro cuando las cosas van bien: la seguridad se define, describirse como ajustes de desempeño que sirven para crear
en consecuencia, por lo que sucede cuando está presente, en lugar o mantener las condiciones de trabajo requeridas, que
de por lo que sucede cuando está presente. está ausente y, por lo compensan la falta de tiempo, materiales, información, etc., y
tanto, está directamente relacionado con los resultados aceptables que tratan de evitar condiciones que se sabe que son
de alta frecuencia. En otras palabras, cuantas más manifestaciones perjudiciales para el trabajo. Y debido a que la variabilidad del
haya, mayor será el nivel de seguridad y viceversa. Esto hace desempeño diario es omnipresente, es más fácil de
posible demostrar que los esfuerzos para mejorar la seguridad han monitorear y administrar.
funcionado, por lo que es más fácil argumentar a favor de recursos
productividad,
19,1% 19,1%
15,0% 15,0%
9,2% 9,2%
20
IV: EL CAMINO POR DELANTE
Seguridad-I Seguridad-II
Definición de seguridad Que la menor cantidad de cosas posibles Que la mayor cantidad de cosas posibles salgan
salgan mal. bien.
Principio de gestión de la seguridad Reactivo, responde cuando algo Proactivo, tratando continuamente de
sucede o se categoriza como un anticipar desarrollos y eventos.
riesgo inaceptable.
Visión del factor humano en la Los seres humanos son vistos predominantemente Los seres humanos son vistos como un recurso
gestión de la seguridad como una responsabilidad o un peligro. necesario para la flexibilidad y resiliencia del
sistema.
Investigacion del accidente Los accidentes son causados por fallas Básicamente, las cosas suceden de la misma
y mal funcionamiento. El propósito de manera, independientemente del resultado. El
una investigación es identificar las propósito de una investigación es comprender
causas. cómo suelen salir bien las cosas como base
para explicar cómo las cosas salen mal
ocasionalmente.
Evaluación de riesgos Los accidentes son causados por fallas y Comprender las condiciones en las que la
mal funcionamiento. El propósito de una variabilidad del rendimiento puede volverse
investigación es identificar las causas y difícil o imposible de monitorear y controlar.
los factores contribuyentes.
Lo que la gente hace en situaciones de trabajo cotidianas suele ser Históricamente, el objetivo de la administración y los
una combinación de Seguridad-I y Seguridad-II. El equilibrio reguladores ha sido asegurarse de que los clientes o el público
específico depende de muchas cosas, como la naturaleza del no estén sujetos a daños. Otra razón es que estos niveles
trabajo, la experiencia de las personas, el clima organizacional, las están alejados en el tiempo y el espacio de la operación real de
presiones de la gerencia y del cliente, etc. Todo el mundo sabe que los sistemas y servicios (p. ej., ATM) y, por lo tanto, tienen una
es mejor prevenir que curar, pero las condiciones no siempre oportunidad limitada de observar o experimentar cómo se
permiten que la prevención desempeñe el papel que le realiza realmente el trabajo. Una tercera razón es que es
corresponde. mucho más sencillo contar los pocos eventos que fallan que
los muchos que no lo hacen; en otras palabras, una
Es un asunto diferente cuando se trata de los niveles de compensación entre eficiencia y exhaustividad (Hollnagel,
gestión y actividades regulatorias. Aquí domina el punto 2009). (También se supone, erróneamente, que es más fácil
de vista Seguridad-I. Una de las razones es que la principal dar cuenta de lo primero que de lo segundo).
exitosa requiere que se realice un cierto esfuerzo por adelantado Mire lo que sale bien, así como lo que sale mal y aprenda de lo
para pensar en cómo se realiza el trabajo, proporcionar los que tiene éxito y de lo que falla. De hecho, no espere a que
recursos necesarios y prepararse para lo inesperado. La presión suceda algo malo, sino que intente comprender lo que
hacia la eficiencia, como el objetivo de SESAR de reducir los costos realmente sucede en situaciones en las que parece que no
de los cajeros automáticos a la mitad, hace que esto sea más difícil sucede nada fuera de lo común. Las cosas no salen bien
de lograr. porque la gente simplemente sigue los procedimientos y
trabaja como se imagina. Las cosas van bien porque la gente
Puede ser difícil gestionar la seguridad de manera proactiva hace ajustes sensatos según las exigencias de la situación.
para la gran cantidad de eventos a pequeña escala que ¡Descubrir cuáles son estos ajustes y tratar de aprender de
constituyen las situaciones laborales cotidianas. Aquí, las cosas ellos es al menos tan importante como encontrar las causas
pueden desarrollarse rápida e inesperadamente, hay pocos de los resultados adversos!
indicadores principales y, a menudo, los recursos pueden
estirarse hasta el límite. El ritmo de trabajo deja pocas Cuando algo sale mal, como una incursión en la pista, es
oportunidades para reflexionar sobre lo que está sucediendo y poco probable que sea un evento único. Es más bien algo
actuar estratégicamente. De hecho, las presiones laborales y que ha ido bien muchas veces antes y que irá bien muchas
las demandas externas a menudo requieren soluciones veces de nuevo. Es necesario comprender cómo funcionan
oportunistas que fuerzan al sistema a un modo reactivo. Salir bien estas actividades cotidianas, cómo tienen éxito, para
de esto, cambiar de un modo reactivo a uno proactivo, comprender cómo fracasan. Desde el punto de vista de
requiere un esfuerzo deliberado. Si bien esto puede no Safety-II, no fallan debido a algún tipo de error o mal
parecer asequible a corto plazo, sin duda es una buena funcionamiento, sino debido a combinaciones inesperadas
inversión a largo plazo. de la variabilidad del desempeño diario.
Es algo más fácil gestionar la seguridad de manera proactiva para La diferencia entre una vista de Seguridad-I y Seguridad-II
eventos a gran escala porque se desarrollan con relativa lentitud. se ilustra en la Figura 16. Seguridad-I se centra en los
– aunque pueden comenzar abruptamente. (Un ejemplo sería eventos en las colas de la distribución normal, y
la erupción de un volcán que puede conducir al cierre del especialmente en los eventos en la cola izquierda que
espacio aéreo. En otras palabras, perturbaciones en lugar de representan accidentes. Dichos eventos son fáciles de ver
desastres). A menudo, hay indicadores claros de cuándo se porque son raros y porque los resultados difieren de los
necesita una respuesta. Además, se conoce la respuesta habituales. Sin embargo, son difíciles de explicar, a pesar
apropiada, de modo que se pueden hacer los preparativos con del atractivo de las causas fundamentales y los modelos
anticipación. lineales. Debido a que son raros y difíciles de entender,
también son difíciles de cambiar y administrar.
Es importante enfatizar que Seguridad-I y Seguridad-II
representan dos puntos de vista complementarios de la
seguridad en lugar de dos enfoques incompatibles o en
conflicto. Por lo tanto, muchas de las prácticas existentes
pueden seguir utilizándose, aunque posiblemente con un
énfasis diferente. Pero la transición a un
22
Fácil de ver 'Difícil' de ver Fácil de ver
Etiología complicada Etiología no complicada Etiología complicada
di culto al cambio Fácil de cambiar di culto al cambio
di culto a administrar Fácil de administrar di culto a administrar
19,1% 19,1%
15,0% 15,0%
9,2% 9,2%
Safety-II se enfoca en eventos en el medio de la El ambiente de trabajo, y por lo tanto también el propio
distribución. Estos son 'difíciles' de ver, pero solo trabajo, es cada vez más impredecible. Esto significa que las
porque habitualmente los ignoramos en nuestras rutinas que funcionan bien hoy pueden no funcionar bien
actividades diarias. La 'lógica' parece ser que si algo mañana y, por lo tanto, es importante prestar atención a cómo
funciona, ¿por qué dedicarle más tiempo? Pero el funcionan. Este es el tipo de minuciosidad que nos permite ser
quid de la cuestión es que, por lo general, no eficientes cuando llega el momento de hacer cambios, y
funcionan de la manera que asumimos, y que el hacerlos rápidamente.
trabajo realizado es significativamente diferente del
trabajo imaginado. Los eventos intermedios pueden
entenderse y explicarse en términos de los ajustes Enfócate en eventos frecuentes
de desempeño mutuos que brindan la base para el
trabajo diario. Debido a que son frecuentes, porque Busque lo que sucede regularmente y concéntrese en los
son de pequeña escala y porque podemos entender eventos en función de su frecuencia en lugar de su
por qué y cómo suceden, son fáciles de monitorear gravedad. Muchas pequeñas mejoras del desempeño
y administrar. Las intervenciones están enfocadas y diario pueden contar más que una gran mejora del
tienen un alcance limitado (porque el tema no es desempeño excepcional.
complicado),
La investigación de incidentes a menudo está limitada por
el tiempo y los recursos. Por lo tanto, existe una tendencia
Por supuesto, hay un beneficio evolutivo en no prestar a mirar los incidentes que tienen consecuencias graves y
atención (o demasiada atención) a lo habitual siempre que no dejar el resto para otro momento, que nunca llega. La
nos perjudique y mientras el entorno sea estable. Pero en suposición tácita es que el potencial de aprendizaje es
nuestra sociedad, el medio ambiente ya no es estable. proporcional a la gravedad del incidente/accidente.
emplear un sesgo de confirmación o centrarse en la como un costo. De hecho, la seguridad en sí misma es vista como
perspectiva o los resultados más optimistas. un costo. Esto refleja la visión de Seguridad-I, donde una inversión
Para seguir siendo sensible a la posibilidad de fallar, es Conocemos los costos, al igual que cuando compramos un seguro.
necesario crear y mantener una visión general integral del Pero no sabemos de lo que nos salvamos, ya que es incierto y de
trabajo, tanto a corto como a largo plazo. Esto puede tamaño desconocido. En el negocio del riesgo, el adagio común es
anticipar y, por lo tanto, prevenir la acumulación de 'si crees que la seguridad es costosa, prueba con un accidente'. Y si
pequeños problemas o fallas al señalar pequeños ajustes calculamos el coste de un accidente importante, como el 447 de Air
que pueden amortiguar combinaciones potencialmente France o el vuelo 214 de Asiana, casi cualquier inversión en
dañinas de la variabilidad del rendimiento. Muchos seguridad es rentable. Sin embargo, dado que no podemos probar
resultados adversos se derivan de la agregación que las precauciones de seguridad realmente son o fueron la
oportunista de atajos en combinación con una supervisión razón por la que no ocurrió un accidente, y dado que no podemos
de procesos o identificación de peligros inadecuada. Ser decir cuándo es probable que ocurra un accidente, el cálculo está
sensible a lo que sucede, a las formas en que puede tener sesgado a favor de reducir la inversión. (Esto es algo que se ve
éxito, así como a las formas en que puede fallar, es por lo típicamente en tiempos difíciles).
24
En Safety-I, las inversiones en seguridad se consideran Conclusión
costosas o improductivas. Así si se hace una inversión y no
hay accidentes, se ve como un gasto innecesario. Si hay Dado que los sistemas sociotécnicos de los que depende
accidentes, se ve como una inversión justificada. Si no se nuestra existencia continúan volviéndose cada vez más
hacen inversiones y no hay accidentes, se ve como un complicados, parece claro que mantener un enfoque de
ahorro justificado. Mientras que si ocurren accidentes, se Seguridad-I será inadecuado a largo plazo y probablemente
ve como mala suerte o mal juicio. también a corto plazo. Por lo tanto, adoptar un enfoque de
seguridad II no debería ser una elección difícil. Sin embargo, el
En Safety-II, una inversión en seguridad se ve como una camino a seguir no radica en reemplazar Safety-I por Safety-II,
inversión en productividad, porque la definición y el sino más bien en una combinación de las dos formas de
propósito de Safety-II es hacer que la mayor cantidad de pensar (consulte la Figura 17). Todavía se da el caso de que la
cosas salgan bien como sea posible. Por lo tanto, si se mayoría de los eventos adversos son relativamente simples
realiza una inversión y no hay accidentes, el rendimiento – o pueden tratarse como relativamente simples sin
diario seguirá mejorando. Si hay accidentes, la inversión consecuencias graves – y que, por lo tanto, pueden tratarse de
volverá a verse justificada. Si no se realizan inversiones y manera familiar. Pero hay un número creciente de casos en
no hay accidentes, el desempeño puede seguir siendo los que este enfoque no funcionará. Para estos, es necesario
aceptable pero no mejorará. Mientras que si ocurren adoptar una visión de seguridad II, lo que esencialmente
accidentes, se ve como un mal juicio. significa adoptar una visión de ingeniería de resiliencia. Safety-
II es, ante todo, una forma diferente de ver la seguridad y, por
lo tanto, también una forma diferente de aplicar muchos de
los métodos y técnicas familiares. Además de eso, también
requerirá métodos por sí mismo, para ver las cosas que van
bien, para analizar cómo funcionan las cosas y para gestionar
la variabilidad del rendimiento en lugar de limitarla.
Enfoque de Seguridad-II:
19,1% 19,1%
Enfoque de Seguridad-I:
9,2% 9,2%
asignar algunos recursos para observar los eventos que van bien y
26
REFERENCIAS
-------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------
-------------------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - EUROCONTROL (2009).Libro blanco sobre ingeniería de resiliencia para cajeros automáticos. Bruselas: EUROCONTROL.
------------------------------------------------------------------------------------------------------------------------------
---------------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - Hollnagel, E. (2009).El principio ETTO: equilibrio entre eficiencia y exhaustividad. Por qué las cosas que van bien a veces salen mal. Farnham, Reino
Unido: Ashgate.
---------------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - Hollnagel, E., Woods, DD y Leveson, NG (2006).Ingeniería de resiliencia: Conceptos y preceptos. Aldershot, Reino Unido: Ashgate.
------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - - - - - - - - - - IATA (2012)2012 mejor en la historia de mejoras continuas de seguridad. Comunicado de prensa n. 8. 28 de febrero de 2013.
-------------------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - OACI (2013)La OACI pronostica un crecimiento continuo del tráfico hasta 2015. Comunicado de prensa 16 de julio de 2013. Montreal.
---------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - - - - - - - Leveson, NG (2004). Un nuevo modelo de accidentes para diseñar sistemas más seguros.Ciencias de la seguridad,42(4), 237-270.
--------------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - - Rasmussen, J. y Svedung, I. (2000).Gestión proactiva del riesgo en una sociedad dinámica. Karlstad, Suecia: Agencia Sueca de Servicios de Rescate.
------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - - - - - - - - - - Reason, J., Shotton, R., Wagenaar, WA, Hudson, PTW y Groeneweg, J. (1989).Trípode: una base de principios para operaciones
----------------------------------------------------------------------------------------------------------------------------------
- - - - - - - - - - - - - - - - - - - Shorrock, S. y Licu, T. (2013). Cultura objetivo: lecciones sobre consecuencias no deseadas.Retrospectiva 17. Bruselas: EUROCONTROL.
------------------------------------------------------------------------------------------------------------------------------
-----------------------------------------------------------------------------------------------------------------------------------------------------
Ajustes (aproximados):Cuando las condiciones de trabajo no están es irregular, que las descripciones son complicadas en términos de
bien especificadas o cuando el tiempo o los recursos son limitados, es partes y relaciones, y que es difícil entender los detalles de cómo
necesario ajustar el desempeño para que coincida con las condiciones. funciona el sistema. Los sistemas intratables también están
Esta es una de las principales razones de la variabilidad del rendimiento. subespecificados, lo que significa que es imposible proporcionar
Pero las mismas condiciones que hacen que los ajustes de rendimiento una especificación completa de cómo se debe realizar el trabajo
sean necesarios también significan que los ajustes serán aproximados para un conjunto suficientemente grande de situaciones.
en lugar de perfectos. Sin embargo, las aproximaciones son lo
suficientemente buenas en la mayoría de las condiciones para Variabilidad del rendimiento:El enfoque contemporáneo
garantizar un desempeño exitoso. de la seguridad (Seguridad-II), se basa en el principio de
equivalencia de éxitos y fracasos y el principio de ajustes
Bimodalidad:Los componentes y sistemas tecnológicos aproximados. El rendimiento es, por lo tanto, en la práctica
funcionan de manera bimodal. Estrictamente hablando, esto siempre variable. La variabilidad del rendimiento puede
significa que para cada elementomide un sistema, siendo el propagarse de una función a otra y, por lo tanto, dar lugar
elemento cualquier cosa desde un componente hasta el a efectos emergentes o no lineales.
propio sistema, el elemento funcionará o no funcionará. En
este último caso se dice que el elemento ha fallado. Sin Resiliencia:Se dice que un sistema es resiliente si puede ajustar su
embargo, el principio bimodal no se aplica a los seres funcionamiento antes, durante o después de cambios y
humanos y las organizaciones. En cambio, los seres humanos perturbaciones y, por lo tanto, mantener las operaciones
y las organizaciones son multimodales, en el sentido de que su requeridas en condiciones esperadas e inesperadas.
desempeño es variable, a veces mejor y a veces peor, pero
nunca fallando por completo. Un 'componente' humano no Ingeniería de resiliencia:La disciplina científica que se enfoca
puede dejar de funcionar y ser reemplazado de la misma en desarrollar los principios y prácticas que son necesarios
manera que un componente tecnológico. para permitir que los sistemas sean resilientes.
Equilibrio entre eficiencia y exhaustividad:El trade-off de Seguridad-I:La seguridad es la condición en la que el número de
eficiencia a fondo (ETTO) describe el hecho de que las resultados adversos (accidentes/incidentes/casi accidentes) es el
personas (y las organizaciones) como parte de sus actividades menor posible. La seguridad-I se logra tratando de asegurarse de
prácticamente siempre deben hacer un trade-off entre los que las cosas no salgan mal, ya sea eliminando las causas del mal
recursos (tiempo y esfuerzo) que dedican a preparar una funcionamiento y los peligros, o conteniendo sus efectos.
actividad y los recursos (tiempo, esfuerzo y materiales) que
gastan en hacerlo.
Seguridad-II:La seguridad es una condición en la que el
Aparición:En un número creciente de casos es difícil o número de resultados exitosos es lo más alto posible. Es la
imposible explicar lo que sucede como resultado de procesos capacidad de tener éxito en diversas condiciones. La
o desarrollos conocidos. Se dice que los resultados son seguridad II se logra tratando de asegurarse de que las cosas
emergentes en lugar de resultantes. Resultados emergentes salgan bien, en lugar de evitar que salgan mal.
como no aditivos, no predecibles a partir del conocimiento de
sus componentes y no descomponibles en esos componentes. Sistemas manejables:Los sistemas se denominan tratables si
es posible seguirlos y comprender cómo funcionan. Esto
normalmente significa que el rendimiento es muy regular, que
Sistemas intratables:Los sistemas se denominan intratables las descripciones son relativamente simples en términos de
si es difícil o imposible seguirlos y comprender cómo partes y relaciones, y que es fácil comprender los detalles de
funcionan. Esto normalmente significa que el rendimiento cómo funciona el sistema.
28
AUTORES
erik hollnageles profesor en el Instituto de Investigación en Salud Regional de la Universidad del Sur de Dinamarca (DK),
consultor jefe en el Centro de Calidad de la Región del Sur de Dinamarca y profesor emérito en el Departamento de Ciencias
investigación e industrias en varios países y con problemas de muchos dominios, incluida la generación de energía nuclear,
aeroespacial y aviación, ingeniería de software, tráfico terrestre y atención médica. Los intereses profesionales de Erik
incluyen la seguridad industrial, la ingeniería de resiliencia, la seguridad del paciente, la investigación de accidentes y el
modelado de sistemas sociotécnicos a gran escala. Ha publicado extensamente y es autor/editor de 20 libros, incluidos cinco
libros sobre ingeniería de resiliencia, así como una gran cantidad de artículos y capítulos de libros. Los títulos más recientes,
de Ashgate, son "Cuidado de la salud resiliente", "FRAM: el método de análisis de resonancia funcional", "Gobernanza y
control de los sistemas financieros" e "Ingeniería de resiliencia en la práctica: una guía". Erik también coordina el FRAMily
(www.funcionalresonance.com).sensei@funcionalresonance.com
•
Jörg Leonhardtes Jefe del Departamento de Factores Humanos en Gestión de la Seguridad en DFS - Deutsche Flugsicherung -
el proveedor alemán de servicios de navegación aérea. Tiene una Maestría en Factores Humanos y Seguridad Aérea de la
Universidad de Lund, Suecia. Copreside el Su-Group de Seguridad y Desempeño Humano de EUROCONTROL y es el líder del
con
Tony Licúes Jefe de la Unidad de Seguridad dentro de la Dirección de Gestión de Redes de EUROCONTROL. Dirige el apoyo a
los programas de gestión de seguridad y despliegue de factores humanos de EUROCONTROL. Tiene una amplia experiencia
en ingeniería y operaciones ATC y tiene una maestría en aviónica. Tony copreside el Equipo de Seguridad de EUROCONTROL y
•
Steven Shorrockes líder de proyecto, desarrollo de seguridad en EUROCONTROL y profesor titular adjunto en la
Escuela de Aviación de la Universidad de Nueva Gales del Sur. Es un ergonomista registrado y un psicólogo
colegiado con experiencia en factores humanos y gestión de la seguridad en varias industrias, el gobierno y la
Agradecimientos
Los autores agradecen los comentarios y contribuciones de Christoph Peters (DFS), Shahram Etminam (DFS), Radu
Cioponea (EUROCONTROL) y Seppe Celis (EUROCONTROL), así como a los revisores del documento.
Una pregunta común sobre Safety-II se refiere a los métodos y enfoques que encuesta, que incluye cuestionarios, talleres, entrevistas y observaciones
se pueden utilizar en la práctica. Como se mencionó en la Conclusión, todavía informales. Las tarjetas de debate sobre la cultura de la seguridad de
se pueden aplicar muchos métodos familiares, pero es posible que deban EUROCONTROL también se pueden utilizar para comprender el trabajo diario
aplicarse de manera diferente. Es posible que sea necesario adaptarlos o e identificar lo que funciona bien, por ejemplo, mediante la narración de
ampliarlos para ampliar el enfoque e incluir lo que funciona bien. Además, se historias o el análisis de puntos fuertes y oportunidades.
sobre los enfoques para descubrir qué funciona bien. Esto se ampliará en un Desarrollo de la seguridad.Se pueden usar varios enfoques de desarrollo
futuro documento de orientación. Tenga en cuenta que estos no son organizacional con un enfoque en la seguridad y lo que va bien.Investigación
'métodos de Seguridad-II', sino enfoques que pueden usarse para examinar lo para la Acciónes un enfoque participativo y colaborativo de la indagación para
que funciona bien. generar nuevos conocimientos y generar cambios en las organizaciones.
Observación de seguridad.Varios métodos de observación se enfocan en que ya funciona bien en un sistema, en lugar de lo que no funciona.
observar el trabajo diario y pueden usarse para comprender mejor lo que Cuentacuentosyenfoques narrativos proporcionar una forma natural y
funciona bien. Los ejemplos incluyen el enfoque de 'Encuesta de seguridad memorable de compartir experiencias y conocimientos sobre seguridad. Las
diaria' (utilizado en NATS) y EUROSS (utilizado en MUAC). Dichos enfoques se experiencias cotidianas se pueden capturar a través de material escrito,
pueden utilizar para comprender la variabilidad del rendimiento y los ajustes entrevistas, talleres, etc.
ejemplo, en áreas operativas), con o sin un método particular, es Gestión de recursos de equipo (TRM).TRM implica estrategias para el mejor
particularmente importante para que los especialistas en seguridad uso de todos los recursos disponibles (información, equipos y personas) para
comprendan cómo funcionan realmente las cosas. optimizar la seguridad y la eficiencia. Por lo tanto, debería ser una
Investigación de seguridad.La investigación de sucesos se enfoca en lo que operaciones. Parte del tiempo dedicado a TRM podría redirigirse para
salió mal, pero las investigaciones también pueden enfocarse en lo que salió comprender los ajustes, la variabilidad del rendimiento y las compensaciones
bien en el contexto de 1) eventos adversos (¿qué salió bien durante el entre eficiencia y minuciosidad en las operaciones.
rendimiento excepcional (¿por qué a veces las cosas van excepcionalmente En términos más generales, se pueden usar muchos métodos de factores humanos
bien?). Por lo tanto, las habilidades del investigador pueden emplearse para para la recopilación de datos, el análisis de tareas y sistemas y el análisis de datos
comprender por qué las cosas van bien. Los métodos, las taxonomías y el para ver qué funciona bien. Algunos de estos están incluidos en el sitio web de
lenguaje deben modificarse para que estén menos orientados al fracaso y EUROCONTROL HIFA (Integración de factores humanos en futuros sistemas ATM).
descubran lo que funciona bien y lo que está mal. Consulte también los libros blancos de EUROCONTROL sobre 'Desempeño humano
evaluación de la seguridad (como la 'Evaluación de la seguridad simplificada' Los ANSP sin duda ya estarán realizando algunas de las actividades y
de EUROCONTROL) tienen la capacidad de hacer esto, por ejemplo, con un utilizando algunos de los enfoques mencionados anteriormente. Sin embargo,
'enfoque de éxito' integrado. FRAM (método de análisis de resonancia la pregunta es si el objetivo es que la menor cantidad de cosas salga mal o
funcional) también se puede utilizar de forma proactiva para la evaluación de que la mayor cantidad de cosas salga bien. Para centrarse en que las cosas
la seguridad, utilizando la idea de resonancia que surge de la variabilidad del salgan bien, es necesario evolucionar nuestros enfoques de la seguridad.
rendimiento diario.
Cultura de seguridad.Las encuestas o evaluaciones de la cultura de seguridad, por cualquier Para más información contacte:
método, deben centrarse tanto en las fortalezas como en las debilidades. En términos más Steven Shorrocksteven.shorrock@eurocontrol.int
generales, deberían ayudar a comprender el trabajo como se ha hecho todos los días. Uno de Tony Licúantonio.licu@eurocontrol.int
30
NOTAS
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
............................................................................................................................................................................................................................................................................................................................................
www.eurocontrol.int