LOS DERECHOS DE LOS ROBOTS Y LA HUMANIDAD Por: Guiber CONDORI MAMANI I. INTRODUCCION.

“Nosotros decidimos si evolucionar en armonía con las máquinas inteligentes ó preparnos para ser relegados como inteligencia predominante del planeta”. (Jurista Rafael Garcia Cepas). El presente trabajo deber ser considerado solamente como un intento de: tratado sobre los derecho de los robots y su relación con la humanidad, dado que su desarrollo fue en casi un semana, y a la bibliografía científica de difícil acceso dado que estos son publicados en su mayoría en ingles, de cualquier forma le hacemos la lucha por tratar y desarrollar el tema; el mismo que se construye en base a las ideas y argumentos cientificos que provienen de centros especializados de investigación en robotica, cibernetica, nanotecnologia, ingenieria genetica, biotecnología, informatica, etc. Como el Massachussets institute of tecnology, y algunas de las universidades mas importantes del mundo, y autores, entre los que se destacan Raymond Kurzweil (1999), Hans Moravec (1999; 2003), Bill Joy (2004), Michael Knasel (1979), Jack Dunietz, Thomas Sturm (2003), Rodney Brooks (2002) y Nick Bostrom (2000; 2001), notoriamente, no son profetas del futuro, futurólogos o escritores de ciencia-ficción, sino que, en la gran mayoría de los casos, se trata de inventores y especialistas en robótica, tecnología e inteligencia artificial que, desde los centros más poderosos de investigación del planeta, han participado desde hace años en el desarrollo de las tecnologías sobre las que ahora se reflexionan. Cuando la sociedad es agraviada por una conducta que daña o lesiona un bien jurídico protegido, es el estado quien en su representación opera mecanismos jurisdiccionales para reparar el daño causado y alcanzar la indemnización debida. Pero, si aquella acción u omisión que daña o lesiona no se encuentra regulada o prescrita, vale decir existe un vació o laguna legal, como será tratado?. Acaso quedaran impunes y sea necesario recién regularlos?. Porque, recordemos que, en el derecho penal rige el principio nollum crimen nollum poena sine lege, el

principio de legalidad por el cual no hay pena ni crimen sino esta previamente tipificada la conducta delictuosa. Es necesario crear mecanismo de prevención frente a la llegada de maquinas o robots pensantes que en un futuro no muy lejano convivirán con nosotros, no solo como una política de Estado sino como una política mundial pro-humanitario, tienen que batallar en ello organizaciones mundiales como la ONU y otros. Es propósito de este trabajo, alertar los riesgos que pueda presentar los robots inteligentes para la humanidad, el que puede degenerar no solo la convivencia en paz de la humanidad o vulneración encubierta de los derechos fundamentales de la persona humana, sino también en vía de escape e impunidad la utilización nociva o ilegal de estos robots. Sin duda en el presente trabajo planteado, no solo se queda en alertar los peligros que pueda significar los robots inteligentes autónomos, sino que también, en un argumento algo documentado para un intento de legislación de la futura convivencia de humanos y maquinas inteligentes autónomos. El presente trabajo esta desarrollado en un único fascículo que comprende siete títulos: Derecho de los robots, Derechos de Cuarta Generacion, Los Robots Conquistan sus Derechos, Derechos que tendran los Robots, Leyes de la Robotica, Roboética o Ética Robotica, Codigo de Etica Robotica. Para terminar este liminar, solo colmaremos nuestras aspiraciones, si solamente logramos despertar en el lector el interés por conocer el desarrollo acelerado y sus posibles implicancias de la ciencia con la humanidad, concretamente la convivencia entre los robots inteligentes autónomos y los humanos. "Nosotros no nos dedicamos a predecir el futuro", explicaba Sir David King, asesor científico del Gobierno británico, "pero necesitamos contemplar y explorar todas las posibilidades para asegurarnos de que el Gobierno está preparado para ejercer sus responsabilidades a largo plazo". GUIBER CONDORI y RENE NINA. II. DERECHOS DE LOS ROBOTS.

de sostener debates interesantes o de hacer nuevos descubrimientos científicos (en suma. la persona no es objeto de comercio y los robots inteligentes sí. en consecuencia. los robots son simplemente una propiedad inanimada sin derechos ni deberes.¿Tienen derechos los robots? En la actualidad. al igual que los negros. o a destruir su . los extranjeros tampoco fueron considerados como personas legales (las empresas). reacciones y sentimientos totalmente humanos. se debemos recordar que. ¿Tendrá el propietario derecho a desenchufarla. Pero. cualquier robot se considera un bien instrumental. fuese capaz de pensar. las computadoras o cualquier otro electro-domestico) y nuestro sistema judicial no los toma como sujeto de derechos y obligaciones. En el presente siglo. que pasara entonces con los humanos-prótesis. Esto es porque la tecnología actual no es capaz de crear robots con apariencia. por lo que cualquier conflicto de derechos entre hombres y máquinas inteligentes no tiene cabida y no debe generar ninguna duda. si desarrollase habilidades cognitivas y afectivas) al igual que un humano. este último en algún momento de la historia del Hombre. solo la persona física orgánica o su extensión en persona jurídica es la única legitimada como sujeto de derechos y obligaciones. por tanto meras propiedades. habría que empezar a pensar seriamente sobre qué posición ocupa u ocupara la máquina. Si un robot antropomorfo. qué pasara cuando esto sea posible? En un futuro no muy lejano. por ejemplo las mujeres con prótesis mamarias. los niños. Sin embargo. De acuerdo con las leyes vigentes (nuestro ordenamiento jurídico nacional y supranacional). si ello fuere cierto. No son personas legales (al igual que las máquinas. las mujeres. acaso será esa diferencia la que determine quien es sujeto de derechos o no. su propietario puede hacer el uso que quiera… incluso hasta destruirlo. cuando la diferencia entre un robot y un ser humano sea tan solo la cantidad de tejido orgánico que contiene uno u otro. esta pregunta tiene fácil respuesta: no tienen derechos. Actualmente.

con un nivel mental equivalente a ese animal y su limitada gama de emociones. 2000]. 1985. o sería nada más que golpear a piezas metálicas o de plástico? [Storrs Hall. ¿sería cruel pegarle.programación inteligente? ¿Constituiría esto un asesinato? [Ritchie. Que derechos tendrán los robots cuando sean casi seres humanos? Si hasta los animales conquistaron relativamente sus derechos. si en vez de ser intelectualmente brillante. III. 145] ¿Aunque. se pudiese reconstruir tan bien como si fuera nueva? ¿Sería este caso un “intento de asesinato”? [Freitas Jr. solo las leyes establecen derechos y obligaciones cuya inobservancia deviene en sanciones impuestas por el Estado. y hoy en día se habla de “derechos de Cuarta Generación” referidos a la bioética que busca impedir la destrucción de la vida y regular la creación a través de la ingeniería genética. como lo hace Corea del Sur. pág. DERECHOS DE CUARTA GENERACION?. ¿Te puedes imaginar un país sin leyes? ¿Sabes para qué sirven? Las leyes son las normas que organizan y facilitan nuestra convivencia en paz social. 1985]. ¿qué sucedería si mostrase una gama de emociones equivalentes a las que componen al ser humano promedio? Incluso más. Segunda Generación referido a los derechos políticos. lo que hace . podremos negarle acaso a que conquisten sus derechos?. Pero. ayudándonos a resolver los problemas que puedan surgir de ella sin tener que recurrir a la violencia. Por ello deviene en necesario tener un código de ética de los robots. "La llamada cuarta generación de los derechos humanos vendrá de la mano de un desarrollo crítico del concepto ciudadanía digital" Javier Bustamante.. si tuviese la forma de un perro. Tercera Generación referidos a los derechos sociales. una vez “asesinada”. Debemos recordar que existen derechos de Primera Generación referido a los derechos civiles. DIRECTOR DEL CICTES Y VICEPRESIDENTE DE FIAP.

piense que algún día esta podrá demandarlo por abuso de autoridad. Es por eso que en una hábil jugada. IV. Lo que hace que un robot solo difiera de la humanidad en la cantidad de tejido orgánico humano. no hacen más que mostrarnos uno de los miedos más profundos del hombre: ser desplazados por sus propias creaciones. Cuando nació la robótica imperaba el miedo a que los robots se levantaran contra la humanidad. las relaciones entre el hombre y las máquinas. La próxima vez que golpee el teclado por alguna frustración con su PC. hoy. lo que no constituye en condición suficiente y necesaria para que se le niegue a conquistar sus derechos. Y a la Robótica como “El conjunto de conocimientos teóricos y prácticos que permiten concebir. como: El informe. ellos tendrían derechos y también obligaciones a observarse durante su desempeño en la sociedad. Entre otros se define a un Robot como un “Aparato automático que realiza funciones normalmente ejecutadas por los hombres”. según estudios. Películas como Terminator o Series como Battlestar Galactica. el escritor de ciencia ficción Isaac Asimov creó las tres leyes de la robótica que regularían. En su apartado "¿Sueño utópico o el . a través de la lógica. LOS ROBOTS CONQUISTAN SUS DERECHOS. realizar y automatizar sistemas basados en estructuras mecánicas poliarticuladas. Por lo que cabe en necesario crear y/o dictar normas de convivencia entre los hombres y robots inteligentes autónomos.obligatorio su observancia en nuestras relaciones de convivencia y que mejor si tenemos conciudadanos digitales (robots). fue realizado por la oficina en Gran Bretaña del Centro de Observación del Horizonte de la Ciencia y la Innovación. dotados de "inteligencia artificial" y destinados a la producción industrial o a sustituir al hombre en diversas tareas. que se titula "Sigma y Delta".

pagar impuestos y tener seguridad social. La elaboración de las 246 páginas del informe. los robots serán tan listos que querrán votar. dentro de 50 años. dicen los expertos. algún día. El experto ha explicado que los avances. éstos argumenten que son seres conscientes y demanden la igualdad de derechos. La investigación realizada por el programa Horizon Scanning del Departamento de Ciencia e Innovación del Reino Unido. derechos y responsabilidades". principalmente debido a la importancia de su fuerza colectiva y por ser el verdadero motor de los medios de producción burgueses. ubicado en Estados Unidos. ¿Que pasaría si los robots se desarrollan hasta alcanzar la capacidad de reproducirse. incluso puede ser que. en este terreno. quienes acaben exigiendo que se les reconozcan sus derechos o finalmente demandando a sus dueños ante los tribunales. . fue el motor de uno de los cambios sociales más importantes del siglo 20. El tema controvertido tiene que ver con la Inteligencia Artificial. hay quienes afirman que el homo sapiens compartirá el planeta con formas de vida sintética que hasta podrían tener “derechos legales”. etc. confluyen en que.. por uno u otro camino. y posean "como las personas. "Nuestra relación con estas criaturas artificiales será bastante diferente a la que manteníamos con las máquinas y sistemas anteriores. Según Rodney Brooks "criaturas artificiales" alcancen un nivel de inteligencia competitivo con el de las personas. Es por eso que. en los últimos años. se teme que tendran que convivir los humanos con la primera inteligencia artificial. fueron tarea conjunta de la sociedad Outsights-Ipsos Mori y el Instituto para el Futuro (IFTF). llamado Escaneos Sigma y Delta. por ejemplo.ascenso de las máquinas?". superarse y desarrollar su propia inteligencia artificial? El proletariado. Centro de Investigaciones Europeo de Robots. porque se comportarán como nosotros". permiten pronosticar la aparición de numerosos aparatos con "funcionamiento autónomo que tomarán decisiones y juicios por sí mismos en un número creciente de aspectos de nuestra vida".

muy por debajo del nivel de sofisticación necesario para construir un robot humanoide (Moravec 1999a y 2003). En 1999. 4. de pagar impuestos.. afirma. Lo difícil de alcanzar. de hecho. se volverán no sólo más profundamente creativas. lanzaron. dice Moravec. aun hoy.Entonces. ¿tendrán derecho a reclamar? Si esto ocurriera. dos científicos. cuando un robot sea igual que un Humano o supere a éste. sean concientes. En los próximos años aparecerán progresivamente generaciones de robots universales cada vez más inteligentes que sobrepasarán. mejorar o pensar por sí mismos. alegan estos dos autores. al cerebro humano. que sigue estando. Raymond Kurzweil y Hans Moravec.2 Sobre el desarrollo intelectivo de un robot.. Mas facil no puede ser. etc. es el cerebro artificial basado en la computadora. sostiene Moravec. sino más profundamente emotivas. Con todo. los robots cobrarán conciencia de su papel en la sociedad. de forma independiente. poco a poco. libros académicamente serios proclamando que en el próximo siglo nuestra propia tecnología computacional nos sobrepasará intelectual y espiritualmente. es que luego de décadas de 1 MIPS (millones de instrucciones por segundo. los robots adquirirían ciertas responsabilidades tales como el deber de votar. Las computadoras. las cosas están cambiando. brazos articulados y otros mecanismos de movimiento ya existen en los robots industriales.. por el contrario. cuando las máquinas dominen áreas que hasta ahora eran indómitas para el hombre. Cuando estos alcancen la capacidad de reproducirse.1 Cuando tendrán derechos lo robots? El día que se les dé la capacidad de reproducirse. siendo una instrucción un trabajo simple . Moravec sostiene que no es el cuerpo mecánico lo difícil de obtener. superarse y desarrollar su propia inteligencia artificial competitiva con el del ser humano. ¿Por qué de repente ahora? La respuesta. y por tanto usurparán nuestro lugar privilegiado de “producto más elevado de la evolución” 4. concretamente cuando hayan desarrollado sus capacidades intelectivas y emocionales al igual que un ser humano.

Si estimamos la población humana en 10 mil millones de personas. Raymond Kurzweil en un tono aun más profético pero con todo científico: “Una vez que. Bösch. la capacidad de rendimiento por masa de retina multiplicado por la masa del cerebro es igual a la capacidad de cálculo necesaria para alcanzar la inteligencia humana. cognición y razonamiento que poseen los seres humanos. el poder de computación disponible para robots de investigación se disparó en la década del noventa a 10. Por supuesto. Así. 100 millones de MIPS (Hager. Así. 100 y ahora 1000 MIPS. El camino recorrido por las computadoras en las últimas décadas y la consecuente proyección para las próximas parece indicar que en no mucho tiempo será posible construir una máquina automática con las capacidades intelectuales de un ser humano.000 veces más débiles que el cerebro humano. es decir. el objetivo de desempeño humano no es imposiblemente lejano. puedo equivocarme en un . Bruckmeyer 2003). se haya conseguido la capacidad humana en un ordenador personal de mil dólares. dice Moravec. A pesar de que las PCs en 2003 son todavía 100.como sumar dos números de dos dígitos). La analogía entre la capacidad de cálculo de una computadora y un cerebro humano se basa en la cantidad de MIPS que requiere una tarea “sencilla” como la que realiza la retina al reconocer una imagen. se podrán construir robots con las mismas capacidades de percepción. Esto significa que la capacidad de computación se duplicará diez veces en cada década. sostiene Moravec. hacia el año 2030 un ordenador personal estará en condiciones de simular el poder cerebral de un pueblo pequeño. y en 2060 el de un billón de cerebros humanos. en 2048 el de toda la población de Estados Unidos. hacia el año 2099 un centavo de dólar de informática tendrá una capacidad de computación mil millones de veces superior a la de todos los seres humanos de la tierra. alrededor del año 2020. lo que equivale a un factor igual a mil cada diez años. con computadoras que ejecuten no menos de 100 billones de instrucciones por segundo. nuestras máquinas mejorarán el coste de su capacidad de cálculo por un factor igual a dos cada doce meses. A mediados del siglo XXI.

Según diversos expertos. La inteligencia artificial progresa cada vez más rápido. Programas con emociones artificiales que se asemejen a las de los seres humanos.000 veces mayor. En apenas 30 o 40 años los ordenadores serán mucho más poderosos y los científicos podrán crear robots muy similares a las personas. o cuándo deben regresar a la fuente para recargar sus baterías. No hay nada que nosotros podamos hacer que un robot no pueda hacer dentro de 30 años. 4. Mucho más rápido que hace 20 años. doctor en inteligencia artificial. sino el producto de años de investigación y del cotejo de fuentes muy variadas. Sus creadores reconocen que la perfección de la réplica es relativa y cifran en 10 segundos el tiempo que una persona tarda en darse cuenta de . En un nivel simple por ejemplo. Pero los ordenadores del siglo XXI no adolecerán de falta de capacidad de computación ni de memoria.3 Sobre el desarrollo emocional de los Robots. Es una réplica exacta de una periodista de la televisión nipona.año o dos. Y tardarán unos 10 años más en crear uno cuya capacidad sea 10. y esto abre la puerta a un futuro incierto. Fíjese usted en esta mujer [abre un libro de robótica y aparece una hermosa presentadora]. David Levy. Hoy ni siquiera los ordenadores más poderosos son tan poderosos como el cerebro humano. sobre su tesis “un día habrá matrimonios entre robots y seres humanos.” Establece que no es una opinión superficial las bases de su tesis. Entrevistado Levy. A partir de 2040. pueden ser aspiradoras que "deciden" cuándo deben desplazarse de una habitación a otra. Lo que usted ve es un robot japonés. Esa es la esencia de la tesis de Levy. todo lo que hace de alguien una persona atractiva se podrá reproducir artificialmente.” Los robots autónomos son capaces de tomar decisiones sin intervención humana. dice: No tengo duda de que habrá robots que se parezcan más y más a los seres humanos. en unos 12 años los científicos podrán crear un ordenador con el mismo poder que el cerebro humano. Y progresará todavía más rápido en el futuro.

tratará de averiguar el motivo y de cambiar tu estado de humor. Si lo logra por ejemplo con un abrazo. No serán libres para tener esas emociones pero los efectos serán los mismos. se enfadarán. cada vez más hasta que las diferencias sean imperceptibles. los robots podrán ser más inteligentes. le ponen unos sensores que miden su presión arterial o el pulso cardiaco… Son aparatos hoy por hoy muy grandes. Apenas crucen esa línea. Cuando tengan robots que se comporten como personas. Pues bien. más hermosos. aprenderá de la experiencia y hará lo mismo la próxima vez. se pondrán contentos. Estoy seguro de que las podrán tener emociones los robots. Serán más agradables que las personas. Y si estás enfadado. La Cuestión. pero la ciencia los creará mucho más pequeños. -¿Cuál es según usted el Rubicón a partir del cual empezaremos a considerarlos no como aparatos sino como semejantes? -Quizá cuando creemos robots capaces de percibir nuestro estado de humor y comportarse de acuerdo con él. Los robots llorarán. Cuando estos dispositivos sean más precisos y se puedan implantar dentro de un robot. ¿De verdad cree usted que no acabaremos enamorándonos de ellos? No tengo duda de que acabará habiendo matrimonios con robots. .que no es una persona sino un robot. Dentro de unas décadas. Y me permito apuntar que se legalizarán primero en el Estado de Massachusetts. O al menos se comportarán como si las tuvieran. la gente dejará de verlos como robots y la cuestión entonces será como tratarlos. éste podrá decir si estás enfadado o feliz. Sensores que puedan evaluar nuestro estado de humor. los mismos expertos dicen que dentro de unos años ese tiempo de reacción habrá crecido hasta los 10 minutos. Cuando usted va al hospital. la generación futura los acabará aceptando. se emocionarán… según estén o no programados para ello. más nobles que los seres humanos. Hoy ya existen aparatos que pueden evaluarlo con un 70% de acierto pero piense en el futuro. Y poco a poco.

sin contar a los robots y a los híbridos. es exponer la carta de derechos de mis pares robots. no era la única. —El tema a analizar para generar opciones de votación será explicado por la unidad TR-27 llamada "Justo" —aclaró el presidente del consejo. poca gente notaba que en realidad la humanidad no estaba en tierra firme desde hacía mas de doscientos años. sólo en el "Sistema Tierra"). como las mejores cosas. Un nuevo murmullo ahora más pronunciado pobló la sala. Unas doradas hebras de luz se comenzaban a escurrir por las ventanas. —Silencio por favor —solicitó el presidente. devenida a gobierno global a fines del siglo XXI. aunque había sido parte del cúmulo de palabras. sino en unos gigantescos complejos que giraban alrededor de la reserva natural tierra. El sistema de simulación de rotación era increíble si se lo analizaba en profundidad. No era habitual que un robot planteara sus sugerencias al consejo.4 CUENTO SOBRE DERECHOS NO HUMANOS DERECHOS NO HUMANOS (Matías Parmigiani) El consejo del gobierno terrestre estaba reunido en el gran salón del complejo gubernamental. Uno de los concejales no aguantó su indignación y en tono irónico dijo: —¡Claro! ¡Seguro! ¡Y después van a querer formar parte del consejo! . —Pedimos —continuó Justo— que se nos dé el derecho a votar las acciones que implican a los de nuestra clase y a futuro. que mi unidad de reconocimiento emocional detecta como atípica y de hecho lo es. que al ver disminuidas sus funciones y ser sólo administradores se limitaban a apenas unas cincuenta personas (con la administración de una población de veinte mil millones de seres humanos. tan increíble que. su sociedad. Con el tiempo y la estandarización de las costumbres humanas se había hecho prescindible contar con tanta cantidad de miembros. ante la mirada atónita y los murmullos que venía de los demás miembros. que dicho sea de paso. las acciones de toda índole.4. Justo comenzó su alocución: —Señores humanos: la razón de mi visita. El consejo era una evolución lógica de lo que había comenzado en el ya lejano siglo XX: La Organización de las Naciones Unidas. derechos civiles como miembros de ésta.

la apreciación sonaba lógica y. además de ser vital. no veo por qué su sugerencia puede ser ilógica. La exposición había sido tan brillante que la jerárquica audiencia de Justo realmente quedó impresionada. y como era debido. todo robot posee sistema circulatorio de fluidos. —¿Y si un robot pudiera canjear su capacidad de vivir más y su precisión por sus derechos o al menos los derechos a decidir sobre su vida y la de sus pares? Se hizo silencio en el recinto.. a la que le robot. Sólo tendremos que agregar a quienes acepten ser miembros civiles de esta sociedad un componente esclerotizante a la mezcla de esos fluidos.—Si bien registro un tono irónico de 6. respondió con una mueca. Luego de aquella mañana. sin mencionar las capacidades mentales y emocionales profundas muy superiores todavía de un ser humano. ustedes poseen un sistema circulatorio que no sólo lleva nutrientes a las distintas partes del cuerpo sino también oxígeno. —No exactamente. Bajo el marco de la última adaptación de estandarización a la cual fuimos sometidos. El sacrificio de la inmortalidad por sus propios derechos era algo que ni siquiera los humanos se habían atrevido a hacer en muchas ocasiones.. Justo —dijo el presidente. tratando de poner paños fríos al asunto—. le pondrá un cronómetro a cada unidad? Una carcajada surcó el aire ante la irónica pregunta. Ningún ser humano aceptaría tener los mismos derechos que un ser que piensa mucho más rápido y precisamente que él. Según tengo entendido. Otro concejal habló: —¿Y cómo planea hacer que un robot viva una cantidad estipulada de tiempo Justo. nadie aventuró una palabra. . y que además tiene una expectativa de vida varias veces mayor. El concejal se hizo para atrás como si le hubiesen lanzado una granada de mano.5 puntos. sus memorias a un nuevo ser más avanzado. —¡Yo no he sugerido nada! ¡Digo que esto es un disparate! —Convengamos en que hay una difícil barrera a sortear. habituado a las costumbres humanas. y ésta fue aprobada. lo que en realidad es una prolongación de su vida. mientras se sostuviera el control de las decisiones sobre humanos. el consejo envió la propuesta a través de Meganet para que todos los ciudadanos humanos votaran la medida. concejal Suárez. sólo signada por el avance de la tecnología para luego trasladar. nadie encontraba pretextos racionales para frenar una medida. también produce el deterioro permanente de sus sistemas. y este último. en algunos casos.

porque tendrian mejores elementos de juicio que al de un humano ordinario. DERECHOS QUE TENDRÁN LOS ROBOTS. las patentes si crea algo nuevo. el Estado de cada país debería proveerles y/o garantizar entonces de Seguridad Social y jurídica a sus nuevos “ciudadanos digitales”. el derecho a la propiedad. un robot consciente lucharía contra la noción de propiedad. a la no discriminación por razón de estar el cuerpo de uno u otro conformado por tejidos orgánicos o no. o sus propias creaciones de nuevos artefactos. igualdad. Dichos derechos incluyen el voto. los robots cobrarán conciencia de su papel en la sociedad y podrán reclamar derechos: ¿Qué tipos de derechos se les debería otorgar y/o negar? ¿Se les pueden aplicar los “derechos humanos”? Si un robot emula perfectamente las características humanas. revelan que los robots podrán reclamar en un futuro los mismos derechos de los que gozan los seres humanos. derecho a la libertad. ¿Cuál será el lugar que los robots ocupen dentro de la sociedad? ¿Formarán su propia sociedad? Entre los multiples estudios en paginas arriba señalados. porque serian dueños de terrenos en el que construirian industrias. ¿podría reclamar ser miembro de la especie? No se podría exigirle que tenga un cuerpo físico como el humano. ya que –con ese criterio– se deberían rechazar también a las personas que cuentan con partes artificiales. derecho de autor. . V. El día que se les dé la capacidad de reproducirse. los beneficios sociales que correspondan al igual que un trabajador humano. mejorar o pensar por sí mismos. Por lo que.Algunos la aprobaron por creer que era justa y otros tan sólo por el humano placer de ver la caída de la inmortalidad robot frente a sus ojos.

pero el mal ya estaría hecho.. de la empresa que la diseñó. u observar las leyes que postulo Asimov. "Si fabricamos robots tan conscientes que acaban reclamando derechos. Este problema cesaría si los robots estan parcialmente controladas en sus procesos de lógica. tendrán también obligaciones frente sus semejantes humanos o no y el estado. . además hasta la fecha no hay un sistema que sea seguro 100 % para un hacker y menos para una IA que programe su propio código fuente. ¿deberían los robots llevar armas? Si se envía un robot para asesinar a un ser humano. probablemente deberíamos dárselos". comenta Henrik Christensen. no fusionándonos con ellas o son utilizadas exclusivamente por humanos porque la responsabilidad siempre sería imputable a "Si un robot autónomo mata a alguien. funciones. director del centro de Robótica de la Universidad de Tecnología de Georgia. no debe significar que tengan capacidad de elegir ni libre albedrío. Por otra parte. LEYES DE LA ROBOTICA (ASIMOV). crearan industrias. de las personas que la diseñaron. ¿de quién es la culpa: de la máquina. por lo que es necesario dictar leyes. si están limitadas a unas determinadas una persona. etc.. como conquistasen sus derechos los robots. el servicio militar. VI. que los robots tengan conciencia artificial.. de las personas que la construyeron o de la empresa que la construyó? Desde una perspectiva penal la camisón de un delito por una unidad robótica inteligente totalmente autónoma sería muy dificil de demostrar -controlar y su pena sería la eliminación de esa unidad o de todas las unidades similares por imperfectas. ¿de quién será la culpa?".. de lo contrario esto seria incontrolable y a lo mejor signifique el fin de la humanidad.Así. El hecho.. porque estos serian trabajadores incansables. pudiendose remotamente sabotear una unidad para la comisión de un ilícito. como el pago de impuestos.

. señoría. cuando nos ha servido durante tanto tiempo y tan lealmente y ha ganado tanto dinero para nosotros? No nos debe nada más. porque es una máquina y nos pertenece.Un robot debe proteger su propia existencia. podemos ordenarle cualquier cosa y expresarlo con la mayor rudeza posible. En algunos sentidos. a excepción de aquellas que interfieran con la primera ley. elaboró las famosas Leyes de la Robótica. Con el fin de preservar la sociedad humana ante la incorporación de criaturas que superarían en muchos aspectos a su propio creador. Comprendamos qué significa ser libre en el caso de Andrew. Winfield. . no ligarlo con el mundo de la robótica. Lleva por lo menos veinte años sin que un miembro de la familia Martin le ordene hacer algo que él no hubiera hecho por propia voluntad. Pero si lo deseamos. por inactividad. los deudores somos nosotros. El mismo Asimov. pero espero que todos presten atención al significado e ignoren las palabras. esto no es un tema porque la responsabilidad yace en el diseñador o quien opera ese robot.Un robot debe obedecer las órdenes que le da un ser humano. siempre a conservado una profunda preocupación moral ante los desafíos que presentan la ciencia al hombre moderno. más borrosa se hace esa línea de responsabilidad". permitir que un ser humano sea dañado."Ahora. él nos . Aunque se nos prohibiera legalmente someter a Andrew a una cervidumbre involuntaria. pero mientras más autónomos son los robots. Asimov se ha convertido en un clásico de la ciencia ficción y se hace imposible. Fundación e Imperio. ya lo es. -Porqué ha de seguir en esa situación. siempre y cuando esta protección no interfiera con la segunda ley. un paradigma lógico que imbuiría de moral a los seres artificiales.Un robot no puede dañar a un ser humano ni. -Gracias. exponía este tema en El Hombre del Bicentenario. Autor de libros tales como Yo robot. No soy abogada y no sé hablar con propiedad. tal como podemos ver en este extracto: -Amanda Laura Martin Charney puede acercarse al estrado. . hoy en día.

por falta de acción. existe el supuesto tácito de que sólo el ser humano puede gozar de libertad. Lo cierto es que a este respecto no existe una ley obligatoria ni un precedente. considerada la Ley Definitiva. contenido. Asimov publicó un relato en la que uno de sus robot se ve obligado a herir a un ser humano por el bien del resto de la humanidad. o permitir. La evolucion robotica que puede tornarse contra su hacedor. Isaac Asimov ha establecido tres leyes que me atrevo humildemente a completar con dos nuevos postulados derivados de las tres primeras (dice el jurista español Rafael Garcia Cepas): 4. pero no puedo fallar en contra de ese supuesto. Sin embargo. En 1985. Por un momento pareció que el juez contenía una sonrisa. que un ser humano sufra daño. número de unidades. . señora Charney.-“ Un robot nunca podrá programar -reproducir otra Inteligencia Artificial aunque peligre su propia existencia. hace imperioso desarrollar un marco base que regule unos sólidos principios universales inmutables que deban regir las relaciones de los humanos con la Inteligencia Artificial Autonoma (Robot) si queremos evolucionar con ellas en un grado de complementariedad y desarrollo controlando sus técnicas de autocreación para que no lleguen a superarnos. Así el gran maestro D. Le daría todo y no nos costaría nada. permitir que la humanidad sufra daños". ¡Andrew!. la llamada Ley Cero. Permítame interpelar al robot. salvo que exista un exhaustivo control de procedimientos de programación. pero significaría muchísimo para él.serviría voluntariamente. compresión. superior a todas las demás: "Un robot no puede lastimar a la humanidad o. o someterme a la decisión de un tribunal superior. -Entiendo su argumentación. Surge así una nueva ley. a menos que tal acción viole la Ley Cero". por inacción. Puedo establecer una nueva ley. Quedando así modificada la primera ley: "Un robot no debe dañar a un ser humano. Concederle la libertad será sólo una triquiñuela verbal.

lo “bueno” y lo “malo”.destino y autorización por parte de seres humanos y no entre en conflicto con la primera ley”. Hasta hoy. a fin de que sus acciones no se aparten mucho de las normas humanas (ya que se tornaría imposible controlarlos).-“Un robot nunca se fusionará con un ser humano formando un solo individuo. es aquella parte de la ética que se ocupa de los problemas relacionados con los robots y con su interacción con el hombre. 2006]. la naturaleza y el mundo. los animales. 5. La ética es la ciencia que estudia el comportamiento moral del hombre y su accionar. artificial uno. Wallach y Smit. VII. ya es hora . La idea es otorgarles un determinado conjunto de reglas o guías de comportamiento universal. Se relaciona con los propios actos que cada uno realiza. ROBOÉTICA O ÉTICA ROBÓTICA. ambos serán siempre dos cuerpos diferenciables e independientes.. sino permitir el discernimiento –dentro de un determinado contexto– entre lo “correcto” y lo “equivocado”. La ética artificial de los robots. a medida que se vayan haciendo cada vez más complejas. ni adoptará similar apariencia ni figura humana. sólo el Hombre se comprometió a un razonamiento ético. ambos serán reconocidos diferentes y diferenciables a distancia”. o “roboética”. un “código de ética”. la sociedad.“Un robot nunca generará confusión en identidad con un ser humano. orgánico. las cuales –a su vez– dependen de los propios valores. 6. No es su función prohibir o aceptar indiscriminadamente. Se trata de un nuevo campo de estudio que considera a las máquinas. computadoras y robots como un tipo de agentes éticos e intenta implementar en ellos facultades morales de toma de decisiones [Allen.humano el otro”.

• Proteger los datos obtenidos por los robots. Por ejemplo. y los adultos tienen deberes para con ellos. la mayoría de las personas establece una frontera divisoria para la ética entre lo que considera consciente y lo que considera noconsciente. Incluso. aunque no tengamos la oportunidad de convivir con ellos. Por ejemplo. Recientemente un equipo internacional de científicos y académicos – pertenecientes a EURON (EUropean RObotics research Network)– elaboró un prototipo de “código de ética”. las decisiones sobre su curso actual y futuro no deben involucrar únicamente a los científicos. los perros tienen un sentido de lo que es correcto y lo que es incorrecto. los empresarios y los gobernantes. si se piensa que una máquina no es consciente.1 Otros agentes éticos Este enfoque se sustenta en el hecho de que existen casos de otras clases de agentes éticos. hay una variación continua de agente ético que va desde el bebé hasta el adolescente. si se piensa que una serpiente no es consciente. • Prevenir su utilización nociva o ilegal. se tendrá mucho menos escrúpulo en lastimarla. De igual manera. 7. no se harán muchos cuestionamientos en caso de tener que matarla. 2006]. sus recomendaciones son las siguientes: • Asegurarse el control de los humanos sobre los robots. Es más. . tenemos que fijar los lineamientos adecuados con la humanidad por el que se regirá la actividad lógica de los Robots.de incorporarle una dimensión ética a algunas máquinas complejas [Anderson y Leigh Anderson. sino a todos nosotros “seres humanos” que habitamos este mundo. A grandes rasgos. los niños son una forma distinta de agente ético: tienen limitados derechos y responsabilidades. Sin embargo. Dado que las investigaciones científicas y los objetos tecnológicos tienen el poder de afectar a toda la humanidad.

.• Rastrear y grabar la actividad de los robots. El estudio sobre los derechos de los robots. ministro de Comercio. superarse y desarrollar su propia inteligencia artificial. Por el otro lado. Industria y Energía. ojalá para cuando los robots tengan derechos. “El código de ética es una prevision frente a la llegada de los robots pensantes en un futuro cercano. En la investigación se señala que podría darse un "cambio monumental" si los robots se desarrollan hasta alcanzar la capacidad de reproducirse. "El gobierno planea establecer las líneas éticas relacionadas a los roles y funciones de los robots. • Brindar una identificación única a cada robot. indica el informe. Mas allá de lo fantasioso o no que suene esto. Dentro de 20 ó 50 años se les podría reconocer los derechos. la sociedad asumiría la responsabilidad de cuidar a sus nuevos ciudadanos digitales. Corea del Sur quiere ser un referente mundial en robótica" Shim Hak-bong. largamente ignorados y violados por las injusticias del mundo. El nuevo código es un intento de establecer las reglas para un futuro convivencial entre humanos y robots. titulado "Sueño utópico o el surgimiento de las máquinas". podrían incluir la certeza del control humano sobre los robots. protegiendo los datos adquiridos por estas máquinas y previniendo su uso ilegal. los humanos podamos hacer valer los nuestros primero. CÓDIGO DE ÉTICA ROBÓTICA. VIII. Industria y Energía. examina el desarrollo en el campo de la inteligencia artificial y cómo este pude afectar al derecho y la política. pues se espera que éstos desarrollen mayor inteligencia en un futuro cercano". dijo el ministerio de Comercio.

El año pasado. Los finales del año dos mil siete será “recordado” por los robots como el año en el que se inicio la elaboración de la Carta Ética de los Robots en Corea del Sur. La verdad es que la carta ética de los robots se debió haber terminado a finales del año pasado. mayor debe ser su sentido de la responsabilidad. . De cualquier forma. Es responsabilidad del homo sapiens ser mucho más crítico con respecto a lo que hace y por qué lo hace. Sólo queda como única posibilidad la de tomar adecuadas decisiones a fin de suavizar los peligros que pudiese originar. Cuanto más amplio es su poder. Se han encargando un grupo de expertos en este tema por los meses de octubre-noviembre el año pasado. Corea del Sur es uno de los países asiáticos muy avanzado tecnológicamente y al parecer.Otras organizaciones también están pensando en el futuro robótico. En otras palabras. pero hasta ahora no se tienen noticias sobre su conclusión o no. pero sin renunciar a la multiplicidad de sus ventajas. desea garantizar e incentivar las futuras demandas que realizarán los robots. Para garantizar una conducta ética de las futuras generaciones de robots pensantes que están por llegar en su relación con los seres humanos. ya no es posible revertir el inevitable proceso de aceleración tecnológica acaecido en las últimas décadas. sino solamente la forma en que se la va a emplear. sólo así podrá –en parte– prever algunas de las consecuencias indeseadas. no se discute si se utiliza o no la tecnología. probablemente siga en proceso de construcción. un estudio del gobierno del Reino Unido predijo que en los próximos 50 años los robots podrían exigir los mismos derechos que los seres humanos. La Red de Investigación Robótica Europea también está creando una serie de lineamientos para el uso de robots.

podrán darse cuenta de su rol en la sociedad. a través de la roboética se puede controlar capacidad de elegir y el libre albedrío de los robots.IX. RECOMENDACIÓN ÚNICA. el código de ética de los robots que formulara el gobierno de Corea del Sur sea no solo para ese Estado. 1) En la actualidad un Robot no es sujeto de derechos ni obligaciones. Que. 4) Que la roboética regulara la conducta de los robots cuando estos convivan con los humanos en la sociedad. cuando los robots hayan desarrollado sus facultades intelectivas y emocionales. 6) Que. CONCLUSIONES. sino que se tome como referencia y/o establezca un solo código de ética de los robots de carácter mundial para la protección de la humanidad y prevenir un desarrollo irresponsable de los robots. 2) Que es posible que las modernas y futuras inteligencia artificiales autónomas superen a la inteligencia humana. . 3) Que. X. y terminen reclamando sus derechos al gobierno o humanidad. 5) Es necesario y preventivo que se regule a través de leyes y principios la autonomía de los robots inteligentes.

.org/biblioteca/transhumanismo.http://www. . http://es.http://www.php.LAFLECHA. .uk/hi/spanish/science/newsid_6588000/6588791.http://news.cristalab.http://axxon.-nuevo-campo-deinvestigacion_a1557.co.com/Temas/cyborg.http://www.NET/CANALES/CIENCIA/NOTICIAS/ LOS-CIENTIFICOS-PIDEN-UN-DEBATE-SOBRE-EL-USOETICO-DE-ROBOTS-Y-NO-SOBRE-SUS-DERECHOS.htm.htm. BIBLIOGRAFIA VIRTUAL. . .htm.ar/rev/139/c-139Cuento3.co.co.ricardoroman.html.html.http://www.htm. .net/La-etica-para-las-maquinas.http://yo.kiyoaki.http://www.espinoso.HTTP://WWW.ar/investigando/vision_arti2.http://www.htm.santillana.http://alfinal. . .http://www. .org/wiki/Usuario_Discusi%C3%B3n:Juridico.com/blog/637/i-robot---isaac-asimov.indexnet.tendencias21.htm. .net/tc/?p=169. stm. .org.com/SoHo/Cafe/3627/cybrogs.mundivia. .bbc.http://www.cl/content/view/583/Robots_derechos_y_emociones.uk/hi/spanish/misc/newsid_6201000/6201131.es/web/es/tecnologia/hardware/2007/02/19/159630.com/archivos/2004/02/12/los-derechos-de-los-robots/.XI. .com.html.psicofxp.http://news. html.http://news. .com/doc/doc199908080011.integrando.html.wikipedia.http://www.consumer. .es/rcs2/filosofia/un_ordenador_bajo. .shtml.uk/hi/spanish/science/newsid_6427000/6427827.http://www. .com/articulos/tecnologia-internet/435696-leyes-de-larobotica-corea-del-sur-prepara-un-codigo-tico. .http://www.bbc.terceracultura.http://www.redcientifica. .stm.stm.bbc.es/mpp2/maquina/robot/robot.geocities. .

Sign up to vote on this title
UsefulNot useful