C CW / GGE.1 / 2019 / CRP.1 / Rev.

2
Grupo de Expertos Gubernamentales de las Altas Partes sólo el 21 de agosto de

Contratantes en la Convención sobre prohibiciones o

2019 Inglés
restricciones del empleo de ciertas armas
convencionales que puedan considerarse excesivamente
nocivas o de efectos indiscriminados

Ginebra, 25-29 de marzo de 2019 y 20-21 de agosto de 2019

Punto 6 del orden del día

Aprobación del informe

Proyecto de Informe de la 2019 reunión del Grupo de Expertos

Gubernamentales sobre las tecnologías emergentes en el área de sistemas de
armas letales Autónomas

YO. Introducción

1. 2018 Reunión de las Altas Partes Contratantes en la Convención sobre prohibiciones o restricciones del
empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos
indiscriminados (CCW), celebrada en Ginebra del 21 al 23 de noviembre de 2018, decidió, como contenida en su
documento final (CCW / MSP / 2018/11):

“El Grupo de Expertos Gubernamentales relacionadas con las tecnologías emergentes en el área de los
sistemas letales autónomas de armas (leyes) en el contexto de los objetivos y propósitos de la Convención sobre
prohibiciones o restricciones del empleo de ciertas armas convencionales, establecidos en la Decisión 1 de la
quinta Conferencia de Examen de las altas Partes Contratantes en la Convención (CCW / CONF.V / 10), se
reunirá con una duración de siete (5 + 2) días en 2019 en Ginebra, en consonancia con el documento CCW /
CONF.V / 2.

Se aplicarán las Reglas de Procedimiento de las Reuniones de las Altas Partes Contratantes mutatis
mutandis al Grupo. El grupo realizará su labor y adoptará por consenso su informe que será sometido a la
2019 Reunión de las Altas Partes Contratantes en la Convención. De acuerdo con los objetivos del
Programa de patrocinio de la Convención, la Junta alentó a la mayor participación posible de todas las
Altas Partes Contratantes.

El Grupo estará presidido por el Sr. Ljupco Jivan Gjorgjinski, Ministro Consejero, Encargado de
Negocios interino de la ex República Yugoslava de Macedonia “.

2. El Grupo de Expertos Gubernamentales se reunió del 25 al 29 de marzo y 20 y 21 de agosto de 2019. El

Presidente organizó reuniones informales el 15 de mayo, 28 de Junio ​y 19 de agosto
2019.

II. Organización y el trabajo del Grupo de Expertos Gubernamentales

3. El lunes 25 de marzo de 2019, se abrió la sesión por el Presidente, Ljupco Jivan Gjorgjinski Norte de
Macedonia. Michael Møller, Director General de la Oficina de las Naciones Unidas en Ginebra una declaración en
nombre del Secretario General de las Naciones Unidas.

GE.19- (MI)
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

4. En la misma sesión, el Grupo aprobó su programa 1, en su forma enmendada, que figura en el anexo I, confirmó las Reglas
de Procedimiento, tal como fue aprobado por la Quinta Conferencia de Examen 2,
y aprobó su programa de trabajo 3, modificada por vía oral, tal como figura en el anexo II. Peter Kolarov, oficial de
asuntos políticos, DAD, se desempeñó como Secretario del Grupo, y fue asistido por Amy Dowler, Mélanie Gerber,
y Heegyun Jung, oficiales de asuntos políticos, DAD.

5. Los siguientes Altas Partes Contratantes en la Convención participaron en el trabajo del Grupo: Albania,
Argelia, Argentina, Australia, Austria, Bangladesh, Belarús, Bélgica, Benin, Bosnia y Herzegovina, Brasil, Bulgaria,
Canadá, Chile, China, Colombia, Costa Rica, Croacia, Cuba, Chipre, República Checa, Dinamarca, Djibouti,
República Dominicana, Ecuador, El Salvador, Estonia, Finlandia, Francia, Alemania, Grecia, Guatemala, Santa
Sede, Honduras, Hungría, India, Iraq, Irlanda, Israel, Italia, Jamaica, Japón, Jordania, Kazajstán, Kuwait, República
Democrática Popular Lao, Letonia, Líbano, Lituania, Luxemburgo, México, Mongolia, Montenegro, Marruecos,
Países Bajos, Nueva Zelanda, Nicaragua, el norte de Macedonia, Noruega, Pakistán, Panamá, Perú , Filipinas,
Polonia, Portugal, Qatar, República de Corea, Rumania, Federación de Rusia, Arabia Saudita, Senegal, Serbia,
Sierra Leona,Eslovaquia, Eslovenia, Sudáfrica, España, Sri Lanka, Estado de Palestina, Suecia, Suiza, Turquía,
Uganda, Emiratos Árabes Unidos, Reino Unido de Gran Bretaña e Irlanda del Norte, Estados Unidos de América,
Uruguay, Venezuela (República Bolivariana de) .

6. El siguiente Estado signatario del Convenio participó en la labor del Grupo: Egipto y Sudán.

7. Los siguientes estados no son partes en la Convención participaron en calidad de observadores: Haití, Irán, Mozambique y
Myanmar.

8. participaron los representantes de la Unión Europea, el Comité Internacional de la Cruz Roja (CICR) y el
Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR) en el trabajo del Grupo de
acuerdo con las reglas de procedimiento.

9. participaron los representantes de las siguientes organizaciones no gubernamentales en la labor del Grupo:
campaña para detener Killer Robots [Amnistía Internacional, Orientación Finanzas, Human Rights Watch, Comité
Internacional para el Control del robot armas (ICRAC), Mines Action Canada, Iniciativa de Mujeres Nobel ,
fundación noruega Paz, Pax, Pax Christi Internacional, Pax Christi Irlanda, Pax Christi Vlaanderen, Project
Ploughshares, protección, Conferencias Pugwash sobre Ciencia y Asuntos Mundiales, Rete Italiana per il Disarmo,
Seguridad Humana y en Latinoamérica y el Caribe (SEHLAC), para mujeres Liga Internacional para la Paz y la
Libertad (WILPF)], ConsciousCoders, futuro de Life Institute, Fundación ICT4Peace, Red Internacional de Acción
sobre armas pequeñas, del Centro para una Nueva Seguridad estadounidense (CNAS) y Zonta Internacional.

10. University College de Belfast de Santa María, Stockholm International Peace Research Institute (SIPRI),
Universidad de Derecho Takaoka. De la Universidad de Tampere, Universidad de Trier, Universidad general
Gutiérrez Mellado, Universidad de Barcelona, ​Universidad de China, la Universidad de Kent, Universidad de Lyon,
Universidad de Nueva Gales del Sur Universidad de Canberra en la academia australiana Fuerza de Defensa de la
Universidad de Carolina del Norte, Universidad de Oxford de la Universidad de Portsmouth, Universidad de
Queensland, Universidad de Tasmania, Universidad de las Fuerzas Armadas

1 CCW / GGE.1 / 2019/1.

2 CCW / CONF.V / 4.
3 CCW / GGE.1 / 2019/2.

2
 CCW / GGE.1 / 2019 / CRP.1 / Rev.2

Fuerzas de Alemania (UniBW), Universidad de Zurich, la Universidad Pablo de Olavide (Sevilla), Escuela de Viena de
Estudios Internacionales y Vrije Universiteit Amsterdam.

11. De acuerdo con su programa de trabajo, el Grupo examinó los siguientes temas del programa:

5 (a) Una exploración de los posibles retos que plantean las tecnologías emergentes en
el área de Sistemas de Armas Letales Autónomas al derecho internacional humanitario;

5 (b) Caracterización de los sistemas bajo consideración con el fin de promover una
entendimiento común sobre los conceptos y características relacionadas con los objetivos y
propósitos de la Convención;

5 (c) Además consideración del elemento humano en el uso de la fuerza letal; aspectos
de la interacción hombre-máquina en el desarrollo, despliegue y uso de las tecnologías emergentes en

el área de sistemas de armas letales autónomas; 5 (d) Examen de las posibles aplicaciones militares de las

tecnologías relacionadas en el contexto

de la labor del Grupo;

5 (e) Posibles opciones para hacer frente a la humanitaria y de seguridad internacional

retos que plantean las tecnologías emergentes en el área de sistemas de armas letales
autónomas en el contexto de los objetivos y propósitos de la Convención, sin prejuzgar los
resultados de política y teniendo en cuenta el pasado, presente y futuras propuestas.

12. Sin que sirva de precedente para futuras reuniones y sin perjuicio de la labor futura del Grupo, con la intención
de estructurar el debate, el Presidente presentó las posibles preguntas, tal como figura en el anexo III. El Presidente
fue asistido en su trabajo por los Amigos del Presidente de Argentina, Australia, Canadá, Costa Rica, Estonia, Irak,
México, Pakistán, Sudáfrica y Suecia.

13. El debate de fondo sobre los temas 5 (a) a 5 (e) se llevó a cabo en sus sesiones plenarias del 25 al 29 de
marzo. El 20 y 21 de agosto el Grupo examinó su proyecto de informe final.

14. El Grupo examinó los documentos enumerados en el anexo V. El Grupo tomó nota con reconocimiento de las
contribuciones de aquellas Altas Partes Contratantes que presenten documentos de trabajo, la presentación de sus políticas
nacionales y posiciones, y el aporte de la sociedad civil, la academia y la industria.

15. Un resumen de los debates celebrados durante las reuniones de marzo y agosto del Grupo, preparado bajo la responsabilidad
del Presidente y en consulta con las Altas Partes Contratantes, se adjunta como Anexo VI del presente informe. El Grupo observó
que este documento no había sido acordado y no tenía ningún estatus.

III. conclusiones

dieciséis. El Grupo tomó en consideración los principios rectores afirmados por el Grupo de
2018, como figura en el párrafo 21 de CCW / GGE.1 / 2018/3, y se utilizan los principios de base para su trabajo en 2019. Con
el fin de elaborar más los principios de guía, el Grupo considerado varias posibles principios de orientación adicionales,
basado en sus cinco temas del programa, de la siguiente manera.

a. Sobre la base de las discusiones sobre los cinco temas del programa, un principio rector adicional

fue identificado:

interacción hombre-máquina, que puede adoptar diversas formas y aplicarse en distintas etapas del ciclo de vida de un
arma, debe asegurarse de que el uso potencial de los sistemas de armas basadas en las tecnologías emergentes en el
área de sistemas de armas autónomas letales está en conformidad con los reglamentos derecho internacional, en
particular, el DIH. En la determinación de la calidad y el grado de interacción hombre-máquina, una serie de factores se
debe considerar que incluye el contexto operacional, y las características y capacidades del sistema de armas como un
todo.

3
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

17. En el tema del programa “Una exploración de los posibles retos que plantean las tecnologías emergentes en
el área de sistemas de armas letales autónomas a la ley humanitaria internacional” Grupo concluyó lo siguiente:

a. El uso potencial de los sistemas de armas basadas en tecnologías emergentes en el

área de sistemas de armas letales autónomas debe llevarse a cabo de conformidad con el derecho internacional aplicable, en
particular, el DIH y sus requisitos y principios, incluyendo entre otras cosas distinción, proporcionalidad y precauciones en el
ataque.

si. DIH impone obligaciones a los Estados, las partes en los conflictos armados y los individuos,
no máquinas.

C. Estados, partes en conflictos armados e individuos permanecen en todo momento responsables

para adherirse a sus obligaciones bajo el derecho internacional aplicable, incluido el DIH. Los Estados también deben
garantizar la responsabilidad individual por el empleo de medios o métodos de guerra que impliquen el uso potencial de los
sistemas de armas basadas en las tecnologías emergentes en el área de sistemas de armas letales autónomas de acuerdo
con sus obligaciones en virtud del DIH.

re. Los requisitos del DIH y los principios incluidos distinción entre otras cosas,
proporcionalidad y las precauciones en el ataque deben ser aplicados a través de una cadena de mando y control responsable
por los operadores humanos y comandantes que utilizan sistemas de armas basadas en las tecnologías emergentes en el área
de sistemas de armas letales autónomas.

mi. El juicio humano es esencial a fin de garantizar que el uso potencial de

sistemas de armas basadas en las tecnologías emergentes en el área de sistemas de armas letales autónomas se ajusta
a la legislación internacional, y en particular el DIH.

F. El cumplimiento de los requisitos y principios del DIH, incluyendo entre otras cosas
distinción, proporcionalidad y precauciones en el ataque, en el uso potencial de los sistemas de armas basadas en las
tecnologías emergentes en el área de sistemas de armas autónomas letales requiere entre otras cosas que los seres humanos
hacen ciertos juicios de buena fe sobre la base de su evaluación de la información disponible para ellos en el tiempo.

sol. En los casos de los sistemas de armas basadas en las tecnologías emergentes en el área de
de sistemas de armas autónomas letales que no están cubiertos por la Convención y sus Protocolos anexos o en otros
acuerdos internacionales, la población civil y los combatientes en todo momento deberá permanecer bajo la protección y
el imperio de los principios del derecho de gentes derivados de los usos establecidos, de los principios de la humanidad y
de los dictados de la conciencia pública.

h. Un sistema de armas basado en las tecnologías emergentes en el área de la letal

sistemas de armas autónomas, no se deben utilizar si es de tal índole que causen males superfluos o sufrimientos
innecesarios, o si es inherentemente indiscriminada, o que sea incapaz de ser utilizado de acuerdo con los
requisitos y principios del DIH.

yo. opiniones legales, a nivel nacional, en el estudio, desarrollo, adquisición o

adopción de una nueva arma, los medios o métodos de guerra son una herramienta útil para evaluar a nivel nacional si los sistemas de
armas potenciales basadas en tecnologías emergentes en el área de sistemas de armas autónomas letales serían prohibidas por
ninguna norma de derecho internacional aplicables a dicho Estado en la totalidad o algunas circunstancias. Los Estados son libres para
determinar de forma independiente los medios para llevar a cabo una revisión legal, aunque el intercambio voluntario de mejores
prácticas podría ser beneficioso, teniendo en mente las consideraciones de seguridad nacional o restricciones comerciales en propiedad
de la información.

18. En el marco del mismo tema del programa, el Grupo examinó una serie de aspectos, se describe en detalle en el
resumen del Presidente, incluyendo los siguientes aspectos que pueden beneficiarse de aclaración o revisión adicional:

a. El derecho internacional, en particular la Carta de las Naciones Unidas y el derecho internacional humanitario, así como

perspectivas éticas pertinentes aplicables al uso de los sistemas de armas basadas en las tecnologías emergentes en
el área de sistemas de armas letales autónomas, siguen orientando la labor del Grupo.

4
 CCW / GGE.1 / 2019 / CRP.1 / Rev.2

si. Es necesario seguir trabajando para construir la comprensión compartida sobre el papel de funcionamiento

limitaciones en cuanto a tareas, perfiles de destino, marco de tiempo de funcionamiento y el alcance del movimiento en
una superficie y el entorno operativo. No fue compartido entendimiento sobre cómo las limitaciones y capacidades
podrían reducir la probabilidad de causar bajas civiles o daños a bienes de carácter civil y con ello ayudar con la
aplicación del DIH por las partes en un conflicto armado.

C. Posibles buenas prácticas en la realización de exámenes legales, a nivel nacional, de las

un sistema de armas potencial basado en las tecnologías emergentes en el área de sistemas de armas letales
autónomas para determinar si su empleo, a la luz de su uso previsto o esperado, estaría prohibida por los requisitos y
principios del DIH en todas o algunas circunstancias.

19. En el tema del programa “Caracterización de los sistemas en estudio con el fin de promover un
entendimiento común sobre los conceptos y características relacionadas con los objetivos y propósitos de la
Convención”, el Grupo concluyó lo siguiente:

a. El papel y los impactos de funciones autónomas en la identificación, selección

o el compromiso de un blanco son algunas de las características esenciales de los sistemas de armas basadas en las tecnologías
emergentes en el área de sistemas de armas letales autónomas, que es de interés fundamental para el Grupo.

si. Identificar y llegar a un entendimiento común entre contratante

Partes sobre los conceptos y características de los sistemas de armas letales autónomas podrían ayudar a un nuevo examen de los
aspectos relacionados con las tecnologías emergentes en el área de las leyes.

20. En el marco del mismo tema del programa, el Grupo examinó una serie de aspectos, se describe en detalle en el
resumen del Presidente, incluyendo los siguientes aspectos que pueden beneficiarse de aclaración o revisión adicional:

a. Posible sesgo en los conjuntos de datos utilizados en la programación basada en el algoritmo relevante

a las tecnologías emergentes en el área de sistemas de armas letales autónomas.

si. Diferentes características potenciales de las tecnologías emergentes en el área de la letal

sistemas de armas autónomas, entre ellas: la auto-adaptación; previsibilidad; explainability; fiabilidad; capacidad de ser objeto
de intervención; capacidad de redefinir o modificar los objetivos o metas o no adaptarse al medio ambiente; y la capacidad para
realizar por propia iniciativa.

21. En el tema del programa “examen del resto del elemento humano en el uso de la fuerza letal; aspectos de
la interacción hombre-máquina en el desarrollo, despliegue y uso de las tecnologías emergentes en el área de
sistemas de armas letales autónomas”Grupo concluyó lo siguiente:

a. responsabilidad humana por el uso de sistemas de armas basado en emergentes

tecnologías en el área de sistemas de armas letales autónomas pueden ejercerse de diversas maneras en todo el ciclo de
vida de estos sistemas de armas ya través de la interacción hombre-máquina.

22. En el marco del mismo tema del programa, el Grupo examinó una serie de aspectos, se describe en detalle en el
resumen del Presidente, incluyendo los siguientes aspectos que pueden beneficiarse de aclaración o revisión adicional:

a. Aunque existe un acuerdo acerca de la importancia del factor humano en el

el uso de sistemas de armas basadas en las tecnologías emergentes en el área de sistemas de armas letales autónomas, sería
necesario seguir trabajando para desarrollar una comprensión compartida de este concepto y su aplicación.

si. Se necesita más aclaraciones sobre el tipo y grado de hombre-máquina

la interacción necesaria, incluidos los elementos de control y juicio, en diferentes etapas del ciclo de vida de un arma, con el fin
de garantizar el cumplimiento del DIH en relación con el uso de sistemas de armas basadas en las tecnologías emergentes en
el área de sistemas de armas letales autónomas.

C. la intervención humana en la etapa de desarrollo de un sistema de armas basado en

tecnologías emergentes en el área de sistemas de armas letales autónomas puede no ser suficiente para garantizar el
cumplimiento del DIH por los ataques en los conflictos armados, dada la naturaleza variable e impredecible de los
entornos operativos del mundo real. Tecnologías emergentes en el área de sistemas de armas letales autónomas puede
ser útil para mejorar la aplicación

5
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

del DIH aplicable a los ataques en los conflictos armados por una parte en conflicto dado el potencial de tecnologías para reducir los
errores humanos y para aumentar la precisión de los ataques emergentes.

23. En el tema del programa “Examen de las posibles aplicaciones militares de las tecnologías relacionadas en el
contexto de la labor del Grupo” Grupo concluyó lo siguiente:

a. Durante el diseño, desarrollo, prueba y despliegue de sistemas de armas

basado en tecnologías emergentes en el área de sistemas de armas letales autónomas, los riesgos entre otras cosas de las
víctimas civiles, así como las precauciones para ayudar a minimizar el riesgo de pérdidas de vidas, deben ser consideradas
lesiones a civiles y daños a bienes de carácter civil. Otros tipos de riesgos deben ser considerados, en su caso, incluyendo, pero
no limitado al riesgo de compromisos no deseados, el riesgo de pérdida de control del sistema, el riesgo de la proliferación, y el
riesgo de adquisición por parte de grupos terroristas.

si. medidas de mitigación de riesgos pueden incluir: a rigurosas pruebas y evaluación de

sistemas, opiniones legales, interfaces hombre-máquina de fácil comprensión y controles, la formación del personal, el
establecimiento de la doctrina y procedimientos, y las armas que circunscriben utilizan a través de normas apropiadas de
compromiso.

C. Investigación y desarrollo de tecnologías autónomas no deben estar

restringido basado en la única razón de que esas tecnologías podrían ser utilizados para los sistemas de armas. Al mismo
tiempo, dada la naturaleza de doble uso de las tecnologías subyacentes en el área de sistemas de armas letales autónomas,
es importante para promover la innovación y el uso de tales tecnologías responsable.

24. En el marco del mismo tema del programa, el Grupo examinó una serie de aspectos, se describe en detalle en el
resumen del Presidente, incluyendo los siguientes aspectos que pueden beneficiarse de aclaración o revisión adicional:

a. Algunas delegaciones sostuvieron que las tecnologías emergentes en el área de la letal

sistemas de armas autónomas podrían ayudar al operador humano y el comandante humano en entornos de combate
complejos, y que una serie de medidas de precaución, incluidas las pruebas y la evaluación del sistema, capacitación y
procedimientos establecidos, podrían permitir el uso del sistema de acuerdo con el DIH. Otras delegaciones sostuvieron
que en entornos operativos complejos, sistemas de armas basadas en las tecnologías emergentes en el área de las
leyes no realizar tareas como se esperaba o ser capaz de ser utilizado de acuerdo con los principios del DIH y requisitos,
y que el juicio humano y las evaluaciones basadas en contexto son necesario.

si. Se debe considerar por el Grupo de Expertos Gubernamentales sobre

tecnologías emergentes en el área de sistemas de armas letales autónomas a los posibles efectos de los sistemas de armas
basadas en las tecnologías emergentes en el área de sistemas de armas letales autónomas sobre la seguridad regional y global
y la estabilidad, incluidos los umbrales de los conflictos armados, y el cumplimiento del DIH.

25. En el tema del programa “opciones posibles para hacer frente a los retos humanitarios y de seguridad
internacionales que plantean las tecnologías emergentes en el área de sistemas de armas letales autónomas en el
contexto de los objetivos y propósitos de la Convención”, el Grupo concluyó lo siguiente:

a. En el contexto de la CAC, las delegaciones plantearon una diversidad de puntos de vista sobre el potencial

riesgos y retos que plantean las tecnologías emergentes en el área de sistemas de armas autónomas letales incluso en
relación con el daño a civiles y combatientes en conflictos armados en contravención de las obligaciones de DIH,
exacerbación de los dilemas regionales e internacionales de seguridad a través de la carrera de armamentos y la reducción
del umbral de el uso de la fuerza. Proliferación, la adquisición y el uso por parte de terroristas, la vulnerabilidad de estos
sistemas a la piratería y la interferencia, y el posible debilitamiento de la confianza en los usos civiles de las tecnologías
relacionadas también resucitados.

si. Las delegaciones presentaron diferentes opciones para hacer frente a estos riesgos potenciales y

retos en el contexto de los objetivos y propósitos de la CCAC. Sus ventajas y desventajas se discutieron en cuatro
categorías, incluyendo un instrumento jurídicamente vinculante, una declaración política, y la claridad en la aplicación de las
obligaciones existentes en virtud del derecho internacional, en particular el DIH.

6
 CCW / GGE.1 / 2019 / CRP.1 / Rev.2

IV. recomendaciones

26. El Grupo recomienda que:

a. Altas Partes Contratantes, en su reunión 2019, asumen los principios rectores

afirmado por el Grupo que figura en el anexo IV de este informe.

si. El Grupo de Expertos Gubernamentales relacionadas con las tecnologías emergentes en el

área de sistemas de armas autónomas letales en el contexto de los objetivos y propósitos de la Convención sobre
prohibiciones o restricciones del empleo de ciertas armas convencionales se reunirá para un total de [treinta y / veinticinco
/ veinte] días durante 2020 y 2021 en Ginebra de conformidad con la Decisión 1 de la Quinta Conferencia de Examen de
las altas Partes Contratantes en la Convención (CCW / CONF.V / 10), en consonancia con CCW / CONF.V / 2 y con
sujeción a la situación financiera de la Convención.

C. El reglamento interno de la Conferencia de Examen se aplicarán mutatis mutandis

al Grupo. El grupo realizará su labor y adoptará sus informes por consenso, una de las cuales deberá ser presentado a la
reunión de las Altas Partes Contratantes en 2020, y el otro presentado a la Sexta Conferencia de Examen de 2021. La
mayor participación posible de todas las Altas Partes Contratantes se ha de promover, de acuerdo con los objetivos del
Programa de patrocinio de la Convención.

re. En este periodo, el grupo es explorar y acordar posibles recomendaciones

sobre las opciones relacionadas con las tecnologías emergentes en el área de sistemas de armas autónomas letales, en
el contexto de los objetivos y propósitos de la Convención, teniendo en cuenta todas las propuestas (pasado, presente y
futuro) y los temas del programa como se refleja en el párrafo 11 y en el anexo I. en sus deliberaciones sobre cada tema
del programa, el Grupo examinará los aspectos jurídicos, tecnológicos y militares y la interacción entre ellos, y teniendo en
mente las consideraciones éticas. Se anima a las delegaciones para incluir expertos jurídicos, tecnológicos y militares.

mi. El Grupo es tener en cuenta:

(I) los principios rectores, que se puede desarrollar aún más elaborada y (ii) el trabajo sobre los

aspectos jurídicos, tecnológicos y militares (iii) las conclusiones del Grupo, como se refleja en sus

informes de 2017, 2018 y

2019,

y utilizarlos como base para la clarificación, la consideración [y desarrollo]

de los aspectos del marco normativo y operacional en las tecnologías emergentes en el área de sistemas de armas
letales autónomas. Se reportaron las recomendaciones del Grupo, en su caso, para su examen en el 2020 Reunión
de Altas Partes Contratantes y 2021 Sexta Conferencia de Examen.

V. Aprobación del informe

27. El 22 de agosto 2019, el Grupo examinó y aprobó su informe final, que figura en el CCW / GGE.1 / 2019 /
CRP.1, en su forma modificada.

7
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

Anexo I

Programa

A medida adoptada por el Grupo de Expertos Gubernamentales de marzo de 2019, el 25

1. Apertura de la reunión.

2. Aprobación del programa (primera sesión solamente).

3. La confirmación de las reglas de procedimiento (primera sesión solamente).

4. Organización de los trabajos del Grupo de Expertos Gubernamentales.

5. Foco de trabajo del Grupo de Expertos Gubernamentales en 2019: (a)

Una exploración de los posibles retos que plantean las tecnologías emergentes en el área de
sistemas de armas letales Autónomas al derecho internacional humanitario; (si)

Caracterización de los sistemas en estudio con el fin de promover un entendimiento común sobre
los conceptos y características relacionadas con los objetivos y propósitos de la Convención; (C)

Además consideración del elemento humano en el uso de la fuerza letal; aspectos de la interacción
hombre-máquina en el desarrollo, despliegue y uso de las tecnologías emergentes en el área de
sistemas de armas letales autónomas; (re)
Revisión de los potenciales aplicaciones militares de las tecnologías relacionadas en el contexto de la labor del

Grupo; (mi)

Las posibles opciones para abordar los retos humanitarios y de seguridad internacionales que
plantean las tecnologías emergentes en el área de sistemas de armas letales autónomas en el
contexto de los objetivos y propósitos de la Convención, sin prejuzgar los resultados de política y
teniendo en cuenta el pasado, presente y futuras propuestas.

6. Aprobación del informe (segunda sesión).

8
 CCW / GGE.1 / 2019 / CRP.1 / Rev.2

anexo II

Programa de trabajo 4

A medida adoptada por el Grupo de Expertos Gubernamentales de marzo de 2019, el 25 Lunes, 25 de

marzo 2019 10:00-13:00

1. Apertura de la reunión

2. Aprobación del programa

3. Confirmación de las reglas de procedimiento

4. Organización de los trabajos del Grupo de Expertos Gubernamentales 5 (d) Examen de las posibles aplicaciones

militares de las tecnologías relacionadas en el contexto de

de trabajo del Grupo (presentaciones sobre las experiencias de las Altas Partes Contratantes invitadas)

15:00-18:00

5 (b) Caracterización de los sistemas bajo consideración con el fin de promover un común
la comprensión de los conceptos y características relacionadas con los objetivos y propósitos de la Convención

Martes, 26 de marzo 2019

10:00-13:00

5 (a) Una exploración de los posibles retos que plantean las tecnologías emergentes en el área de
de los sistemas de armas letales autónomas al derecho internacional humanitario

15:00-18:00

5 (c) Además consideración del elemento humano en el uso de la fuerza letal; aspectos de la humana
la interacción de la máquina en el desarrollo, despliegue y uso de las tecnologías emergentes en el área de
sistemas de armas letales autónomas

Miércoles, 27 de marzo 2019

10:00-13:00

5 (e) Posibles opciones para hacer frente a los retos humanitarios y de seguridad internacionales
que plantean las tecnologías emergentes en el área de sistemas de armas letales autónomas en el contexto de
los objetivos y propósitos de la Convención, sin perjuicio de los resultados de política y teniendo en cuenta el
pasado, presente y futuras propuestas

15:00-18:00

Continuación de cualquier lista de oradores que no se han agotado

Jueves, 28 de marzo 2019

10:00-13:00

Continuación de cualquier lista de oradores que no se han agotado

4 Como se refleja en el párrafo 13 del informe, las sesiones plenarias del 20 al 21 de agosto se dedicaron a la consideración y aprobación

del informe final de conformidad con el punto 6 del programa.

9
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

15:00-18:00

Múltiples partes interesadas discusión facilitada

Viernes, 29 de marzo 2019

10:00-13:00

Una consideración de los elementos emergentes y los puntos comunes

15:00-18:00

Discusión sobre el camino a seguir

10
 CCW / GGE.1 / 2019 / CRP.1 / Rev.2

anexo III

Posibles preguntas para el Grupo de Expertos Gubernamentales para explorar en 2019

Presentado por el Presidente

1. En relación con el tema 5 (a) “Una exploración de los posibles retos que plantean las tecnologías emergentes en el
área de sistemas de armas letales autónomas al derecho internacional humanitario”

• Hace autonomía en las funciones críticas de los sistemas de armas impugnar la capacidad de los Estados o las
partes en un conflicto, los comandantes y combatientes individuales para aplicar los principios del DIH en la
conducción de las hostilidades (distinción, proporcionalidad, precauciones) para llevar a cabo ataques en los
conflictos armados?

• ¿Tiene autonomía en las funciones críticas de los sistemas de armas desafiar el mantenimiento de la
responsabilidad combatiente y comandante de las decisiones de usar la fuerza?

• ¿Cuál es la responsabilidad de los Estados o las partes en conflicto, los comandantes y combatientes
individuales en las decisiones de utilizar la fuerza relacionado con los sistemas de armas autónomas, a la luz de
los principios del derecho de gentes derivados de los usos establecidos, de los principios de humanidad y los
dictados de la pública conciencia (Cláusula Martens)?

• ¿Cómo pueden los exámenes jurídicos de las armas con funciones autónomas contribuir al cumplimiento
del DIH? ¿Cuáles son los desafíos del pasado o potenciales en la realización de una revisión de armas de
armas con autonomía en sus funciones críticas, y cómo se pueden abordar estos retos?

2. En relación con el tema 5 (b) “Caracterización de los sistemas en estudio con el fin de promover un entendimiento
común sobre los conceptos y características relacionadas con los objetivos y propósitos de la Convención”

• ¿Qué características de los sistemas de armas autónomas serían importantes desde el punto de
vista del derecho internacional humanitario (DIH) y la Convención sobre prohibiciones o
restricciones del empleo de ciertas armas convencionales que puedan considerarse
excesivamente nocivas o de efectos indiscriminados (CCW ) específicamente?

• Es la autonomía un atributo de un sistema de armas en su conjunto o en caso de que se adjunta a las diferentes tareas de

los sistemas de armas?

• Es el entorno de despliegue, limitaciones específicas de la hora de la operación, o el alcance del movimiento

sobre un área, importante desde el punto de vista / CCW DIH?

• Es una diferenciación entre antipersonal y armas anti-material significativos desde una perspectiva
/ CCW DIH?

3. En tema del programa 5 (c) “Además consideración del elemento humano en el uso de la fuerza letal; aspectos de la
interacción hombre-máquina en el desarrollo, despliegue y uso de las tecnologías emergentes en el área de
sistemas de armas letales autónomas”

• Específicamente, el tipo y el grado de participación humana (en la forma de control, la supervisión

y / o sentencia) se requiere o apropiado utilizando las armas con autonomía en sus funciones críticas
para asegurar el cumplimiento del DIH? Incluso:

• ¿Cuál es la forma y grado, en su caso, de la supervisión humana - tales como la capacidad para
intervenir y abortar - el cual, durante el funcionamiento de un arma que forma autónoma puede
seleccionar y atacar blancos, puedan considerarse suficiente para el cumplimiento del DIH?

11
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

• ¿Hay un nivel de previsibilidad y fiabilidad que sería necesaria o apropiada en las funciones
autónomas de tal sistema de armas, teniendo en cuenta las tareas previsibles del arma y el
entorno operativo, para que su uso sea compatible con el DIH? ¿Cómo el nivel de
previsibilidad y fiabilidad ha evaluado en la práctica?

• ¿Cómo hacer factores tales como las tareas de un arma previsibles, sus objetivos previstos (por ejemplo
MATERIEL o personal), el alcance de movimiento y sus entornos operacionales (por ejemplo, densidad de
población o área no poblada), afectar el tipo y grado de implicación humana requerida con el fin de
garantizar el cumplimiento de DIH?

• Puede interacción hombre-máquina compatible DIH será garantizada en un sistema de armas con
autonomía en sus funciones críticas?

4. En relación con el tema 5 (d) “Examen de las posibles aplicaciones militares de las tecnologías relacionadas en el
contexto de la labor del Grupo” (presentaciones sobre las experiencias de las Altas Partes Contratantes invitadas)

• ¿Cómo y en qué medida es la participación humana en el uso de la fuerza ejercida actualmente con las
armas existentes que emplean o se puede emplear autonomía en sus funciones críticas, en diferentes
etapas de su ciclo de vida?

• ¿Cómo se garantiza la responsabilidad derivada del uso de la fuerza con armas existentes que emplean o se
pueden emplear con autonomía en sus funciones críticas? armas existentes pertinentes podrían incluir tipos
de:

- sistemas de armas de defensa aérea con modos o funciones autónomas;

- Misiles con modos o funciones autónomas;

- sistemas de armas de protección activas con modos o funciones autónomas;

- Loitering armas con modos o funciones autónomas;

- minas navales o terrestres con modos o funciones autónomas;

- armas “centinela” con modos o funciones autónomas.

5. En relación con el tema 5 (e) “Posibles opciones para hacer frente a los retos humanitarios y de seguridad internacionales
que plantean las tecnologías emergentes en el área de sistemas de armas letales autónomas en el contexto de los
objetivos y propósitos de la Convención, sin perjuicio de los resultados de política y teniendo en cuenta de pasado,
presente y propuestas de futuro”

• ¿Cuáles son las ventajas y desventajas de los enfoques propuestos para asegurar el cumplimiento
del DIH y la responsabilidad de las decisiones sobre el uso de sistemas de armas y el uso de la
fuerza?

- instrumento jurídicamente vinculante;

- declaración política;

- directrices, principios o códigos de conducta;

- mejorar la aplicación de los requisitos legales existentes, incluidos los exámenes jurídicos de las
armas.

• Teniendo en cuenta que estas opciones no son necesariamente excluyentes entre sí, y el objetivo común de garantizar el

cumplimiento del DIH y el mantenimiento de la responsabilidad humana por el uso de la fuerza, ¿cuáles son los posibles

próximos pasos a seguir por el Grupo de Expertos Gubernamentales?

• ¿Cómo puede la acumulación de GEI en las áreas de convergencia capturado en los 'principios rectores
posibles' acordado en 2018? ¿Cómo pueden llevarse a la práctica esos principios?

12
 CCW / GGE.1 / 2019 / CRP.1 / Rev.2

anexo IV

Principios rectores

Se afirmó que el derecho internacional, en particular la Carta de las Naciones Unidas y el derecho internacional humanitario (DIH), así
como las perspectivas éticas pertinentes, debe guiar el trabajo continuo del Grupo. Tomando nota de los posibles retos que plantean las
tecnologías emergentes en el área de sistemas de armas letales autónomas a DIH, 1 Estuvieron afirmado, sin perjuicio del resultado de las
discusiones futuras:

(una) El derecho internacional humanitario sigue aplicándose plenamente a todos los sistemas de armas, incluyendo la

potencial de desarrollo y uso de sistemas de armas letales autónomas.

(si) la responsabilidad humana en las decisiones sobre el uso de los sistemas de armas debe ser retenido desde

la rendición de cuentas no se puede transferir a las máquinas. Esto debe ser considerado en todo el ciclo de vida del sistema de armas.

(C) interacción hombre-máquina, que puede adoptar diversas formas y ser implementado en varias etapas
del ciclo de vida de un arma, debe asegurarse de que el uso potencial de los sistemas de armas basadas en las tecnologías emergentes en el área de
sistemas de armas letales autónomas está en conformidad con el derecho internacional aplicable, en particular, el DIH. En la determinación de la
calidad y el grado de interacción hombre-máquina, una serie de factores se debe considerar que incluye el contexto operacional, y las características y
capacidades del sistema de armas como un todo.

(re) La rendición de cuentas para el desarrollo, despliegue y el uso de cualquier sistema de armas en el emergente

marco de la CCW debe ser garantizada de acuerdo con el derecho internacional aplicable, en particular mediante la operación de tales sistemas
dentro de una cadena responsable de mando y control humano.

(mi) En conformidad con las obligaciones de los Estados en virtud del derecho internacional, en el estudio, desarrollo,

adquisición, o la adopción de una nueva arma, o nuevos medios o métodos de guerra, se debe determinar si su empleo, en ciertas condiciones o
en todas las circunstancias, prohibida por la ley internacional.

(F) Cuando el desarrollo o la adquisición de nuevos sistemas de armas basadas en las tecnologías emergentes en el área de los sistemas autónomos
letales armas, de protección físicas, no físicos apropiados (incluida la seguridad cibernética contra la piratería informática o la suplantación de datos), el riesgo de
adquisición por parte de grupos terroristas y el riesgo de la proliferación debe ser considerado.

(sol) Las evaluaciones de riesgos y medidas de mitigación deben ser parte del diseño, desarrollo, prueba y
ciclo de despliegue de tecnologías emergentes en cualquiera de los sistemas de armas.

(H) Se debe considerar que el uso de las tecnologías emergentes en el área de letal
sistemas de armas autónomas en defender el cumplimiento del DIH y de otras obligaciones legales internacionales aplicables.

(yo) En la elaboración de posibles medidas políticas, tecnologías emergentes en el área de letal autónoma
sistemas de armas no deben ser antropomorfo.

(J) Las discusiones y las posibles medidas políticas tomadas en el contexto de la CAC no debería
obstaculizar el progreso en el acceso o al uso pacífico de las tecnologías inteligentes autónomos.

(K) El CCW ofrece un marco adecuado para hacer frente a la cuestión de las tecnologías emergentes en
el área de los sistemas de armas letales autónomas dentro del contexto de los objetivos y propósitos de la Convención, que busca
encontrar un equilibrio entre la necesidad militar y las consideraciones humanitarias.

****

13
CCW / GGE.1 / 2019 / CRP.1 / Rev.2

anexo V

Lista de documentos

CCW / GGE.1 / 2019/1 Agenda provisional. Presentado por el Presidente

CCW / GGE.1 / 2019/2 Programa de trabajo provisional. Presentado por el Presidente

CCW / GGE.1 / 2019/3 Reporte final

CCW / GGE.1 / 2019 / WP.1 Posibles oportunidades y limitaciones de los usos militares de los
sistemas de armas letales autónomas. Presentado por la
Federación de Rusia.

CCW / GGE.1 / 2019 / WP.2 / Rev.1 Sistema de Australia de control y aplicaciones para sistemas de
armas autónomas. Presentado por Australia

CCW / GGE.1 / 2019 / WP.3 Posible resultado de 2019 del Grupo de Expertos Gubernamentales
y las futuras acciones de internacional
comunidad en Lethal Autónomas sistemas de armas. Presentada
por el Japón

CCW / GGE.1 / 2019 / WP.4 Alimentos-Documento de reflexión. Presentada por Bélgica, Irlanda y
Luxemburgo

CCW / GGE.1 / 2019 / WP.5 La implementación del derecho internacional humanitario en el uso
de la autonomía en Sistemas de armas. Presentado por los Estados
Unidos de América

CCW / GGE.1 / 2019 / WP.6 Cuestionario sobre los mecanismos de examen jurídico de las
armas, los medios y métodos de guerra. Presentado por la
Argentina

CCW / GGE.1 / Misc.1 Lista provisional de participantes

CCW / GGE.1 / 2019 / INF.1 Lista de participantes

14