Documentos de Académico
Documentos de Profesional
Documentos de Cultura
24215/25916386e062
(*) Abogado y Notario, Facultad de Derecho y Ciencias Sociales, Universidad Católica de Córdo-
ba. Doctorando en Educación, Universidad Católica de Córdoba (UCC). Escribano Público. Prof. be-
cado Programa Intensivo de Nivel Doctoral sobre Altos Estudios de Derecho Histórico, Dogmático y
Comparado, Pontificia Universidad Católica de Chile. Prof. Derecho Romano, Derecho Privado VI,
Derecho Notarial I y Derecho Notarial II, Universidad Católica de Córdoba. Prof. de la Maestría en
Derecho Administrativo, Universidad Libre Seccional Socorro de Colombia.
(1) Recuperado de https://dpicuantico.com/2019/02/04/inteligencia-artificial-en-la-corte-consti
tucional-colombiana-otra-experiencia-prometea/
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
680 Derecho y Nuevas Tecnologías
I. Introducción
Debemos tener presente en este punto que Colombia adhiere al acuerdo sobre
inteligencia artificial ante los países de la OCDE (2).
La OCDE sostiene que deben ser los gobiernos los que garanticen que el dise-
ño de los sistemas de IA respete los valores y leyes imperantes. El desafío consiste
en que las personas puedan confiar que su seguridad y privacidad se respetarán,
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 681
- Jorge F. Villalba (pp. 679-698)
En el caso de Europa hay una marcada y clara estrategia de que el ser humano
sea el centro de la cuestión. Esto quiere decir que las aplicaciones de IA no solo
deben ajustarse a la ley, sino que también deben respetar los principios éticos y
garantizar que su implementación evite daños involuntarios o colaterales.
Este espacio pretende servir de punto de discusión y análisis sobre dicha mate-
ria, garantizando, a la vez, un diálogo de carácter independiente y multidisciplinar.
Otra de las iniciativas es la denominada “We The Humans (4)”, que nace por el
interés en una inteligencia artificial ética, por pedido de una serie de profesionales
de diversos ámbitos, que quieren cambiar la visión tecnológica por no aceptar un
determinismo en el que la tecnología “es” de una cierta forma, poniendo el acento
en que la potencialidad tiene una intencionalidad que debe ser dirigida hasta la
humanización de la tecnología y no a la inversa.
(3) Presentación del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA)
(19 de octubre de 2019). Recuperado de https://www.youtube.com/watch?v=y9IzF96125s
(4) Recuperado de http://wethehumansthinktank.com/sobre-nosotros/
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
682 Derecho y Nuevas Tecnologías
Muchos autores han tratado de aportar una definición más concisa, tratando
de establecer una delimitación del objetivo principal de esta tecnología, refiriendo
que la misma persigue imitar la forma de actuar o pensar de los seres humanos o
construir sistemas que razonen o que actúen como ellos, pero la imitación tiene
como intencionalidad el incremento de la potencialidad humana.
En el año 1985, Judith Jarvis Johnson puso de manifiesto en la revista The Yale
Law Journal algunas preguntas que llevaban rondando desde principios del
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 683
- Jorge F. Villalba (pp. 679-698)
“Cada aspecto de nuestras vidas será transformado [por AI]”, y podría ser “el
evento más grande en la historia de nuestra civilización” (Hawking, 2018).
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
684 Derecho y Nuevas Tecnologías
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 685
- Jorge F. Villalba (pp. 679-698)
(10) Recuperado de https://www.lanacion.com.ar/opinion/columnistas/inquietante-vinculo-
entre-el-ganchao-y-el-temor-a-un-ataque-cuantico-nid2337839
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
686 Derecho y Nuevas Tecnologías
En esta línea, algunos autores proponen distinguir entre una IA débil y una
fuerte (11) (López de Mántaras, 2015) (12). Esta distinción entre IA débil e IA fuerte
fue introducida inicialmente por el filósofo John Searle en el año 1980.
Según esta visión, la IA débil sería la ciencia que permitiría diseñar y programar
ordenadores capaces de realizar tareas de forma inteligente, mientras que la IA
fuerte sería la ciencia que permitiría replicar en máquinas la inteligencia humana,
tiene conciencia, empatía, etc., siendo incluso capaces de comprender perfecta-
mente cada uno de sus actos y sus consecuencias.
(11) Qué es la Inteligencia Artificial Avanzada (Inteligencia Artificial Fuerte) (8 de enero de 2018).
Recuperado de https://www.youtube.com/watch?v=JFpDp7H1mNM
(12) Entrevista a Ramón López de Mántaras, OpenMind (13 de junio de 2019). Recuperado de
https://www.youtube.com/watch?v=qo_78YIBF7I
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 687
- Jorge F. Villalba (pp. 679-698)
Aun así, es preciso afirmar que incluso en estos sistemas la capacidad de toma
de decisiones es solo aparente: están programados para realizar un cálculo de pro-
babilidades teniendo en cuenta una diversidad de factores y circunstancias, con
alto contenido experimental producto de la carga de casos o minería de datos para
evaluaciones de tipo estadísticos siguiendo patrones de repetición de decisiones
ante determinados eventos; es decir, que el sistema otorga una respuesta correcta
a priori según un escenario determinado y un conjunto de datos limitados, selec-
cionando el curso de acción óptimo.
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
688 Derecho y Nuevas Tecnologías
Entre los documentos disponibles merece la pena destacar los publicados por
distintos órganos de la Unión Europea, que abordan también la dimensión regu-
latoria de los robots y sistemas autónomos; las recomendaciones del Foro Econó-
mico Mundial, en las que se proponen distintos métodos para asegurar un buen
uso de la IA por parte de empresas y Gobiernos; y los informes publicados por el
UNICRI, Centre for AI and Robotics de las Naciones Unidas y por la Unesco.
En los últimos años, también han visto la luz diversas iniciativas de la mano de
empresas, asociaciones profesionales o académicos que han contribuido a formu-
lar criterios de buenas prácticas para el uso de la IA. Entre ellas destacan los están-
dares formulados por la IEEE (Institute of Electrical and Electronics Engineers); los
principios Asilomar sobre IA propuestos por el Future of Life Institute; o la declara-
ción para el desarrollo responsable de la IA, elaborada por el Forum on the Socially
Responsible Development of Artificial Intelligence, celebrado en la Université de
Montréal en el 2017.
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 689
- Jorge F. Villalba (pp. 679-698)
Estos principios no poseen una formulación tan específica como cabría espe-
rar de un código de conducta o de una serie de normas. Se trata, más bien, de una
serie de imperativos en los que se presenta un bien humano que debe ser respeta-
do en toda situación y promovido mediante nuestras acciones.
2) Un robot debe obedecer las órdenes dadas por los seres humanos, excepto
si estas órdenes entrasen en conflicto con la primera ley.
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
690 Derecho y Nuevas Tecnologías
Por esto mismo, las consideraciones éticas y sociales deben comparecer desde
la primera fase de diseño de la tecnología (Buchholz y Rosenthal, 2002). Incorpo-
rar criterios éticos durante la fase de diseño reviste una gran importancia, pero no
es suficiente para garantizar que las aplicaciones provistas de IA sean seguras y se
empleen de manera responsable.
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 691
- Jorge F. Villalba (pp. 679-698)
VI. IA y política
Para ello, hay una marcada necesidad de definir marcos normativos basados en
la ética y en las recomendaciones. La regulación vendrá, pero cuando el mercado
esté un poco más maduro.
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
692 Derecho y Nuevas Tecnologías
VII. Interrogantes
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 693
- Jorge F. Villalba (pp. 679-698)
Si el derecho natural existe para el hombre por el solo hecho de ser hombre:
· ¿Qué sucede con la captación y respeto por el derecho natural en una sociedad
que puede tender a ser cada vez más deshumanizada y direccionada a la Inteligen-
cia Artificial?
Entonces:
· ¿Podemos sostener una asimilación del ser humano con la inteligencia artificial
al valorar el hacer y el obrar?
· ¿De sostener que no, donde anclan sus diferencias estructurales, cuando la in-
teligencia artificial se va perfeccionando con cada toma de decisiones producto del
sistema de machine learning?
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
694 Derecho y Nuevas Tecnologías
VIII. Conclusiones
IX. Propuesta
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 695
- Jorge F. Villalba (pp. 679-698)
Sirva como propuesta el llamado que debemos hacer como sociedad, y sobre
todo como pueblo latinoamericano, a debatir y analizar la verdadera gravitación
de la ética en la inteligencia artificial para salvaguardar nuestras notas distintivas,
nuestros derechos como personas y propender a una sociedad evolucionada pero
cada vez más justa.
Los actores de las ciencias sociales tenemos este desafío por delante, y el resul-
tado será alcanzado en la medida que generemos espacios de diálogo, investiga-
ción y divulgación de conocimiento.
El gran aporte del evento que nos convoca es que permite construir espacios
de ciencia abierta, ya que solo en la medida en que podamos abrir la ciencia, los
diseños, los campos de análisis, la divulgación y conclusiones de proyectos cola-
borativos de investigación, podremos lograr reglas, normas, y principios comunes
que pregonen las prácticas éticas de la inteligencia artificial.
X. Bibliografía
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
696 Derecho y Nuevas Tecnologías
Comisión europea (2018). Artificial intelligence for Europe, 237. final, 1. Recu-
perado de https://ec.europa.eu/digital-single-market/en/news/communication-
artificialintelligence-europe
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
Algor-ética: la ética en la inteligencia artificial 697
- Jorge F. Villalba (pp. 679-698)
Molina, M. (2017). ¿Inteligencia artificial? Primero hay que conocer bien nuestra
propia mente. Recuperado de https://www.elmundo.es/tecnologia/2017/08/01/5
97f5de6468aeb14378b4649.html
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386
698 Derecho y Nuevas Tecnologías
TeleSUR; AVR; MER (2020). Papa Francisco insta a una inteligencia artificial
con ética. Recuperado de https://www.telesurtv.net/news/papa-francisco-inteli-
gencia-artificial-etica-20200228-0049.html
Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP.
Año 17/Nº 50-2020. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386