Usamos cookies para mejorar su experiencia en nuestro sitio web.

Al usar nuestro sitio web, usted acepta

Acepto
todas las cookies de acuerdo con nuestra política de cookies actualizada.

Los dilemas morales de la Cuarta

Revolución Industrial

Imagen: REUTERS/Ronen Zvulun

27 feb 2017

Vinayak Dalmia
Investor, Amber

Kavi Sharma
Chief Operating Officer, President Electronics USA

¿Debe su automóvil sin conductor valorar su vida más que la de otro peatón? ¿Debería
usarse Fitbit contra usted en un caso judicial? ¿Deberíamos permitir que los drones se
conviertan en los nuevos paparazzi? ¿Se puede patentar un gen humano? Los científicos ya
se están enfrentando a estos dilemas. A medida que entramos en la nueva era digital,
necesitamos un nuevo conjunto de normas codificadas globales.

Esto está comenzando a suceder. El año pasado, la Universidad Carnegie Mellon de Estados
Unidos anunció un nuevo centro de estudios de la ética de la inteligencia artificial; durante la
presidencia del Presidente Obama, la Casa Blanca publicó un trabajo sobre el mismo tema y
los gigantes de la tecnología, incluyendo Facebook y Google, han anunciado una asociación
para redactar un marco ético para la inteligencia artificial (IA). Tanto los riesgos como las
oportunidades son inmensos: Stephen Hawking, Elon Musk y otros expertos firmaron una
carta abierta en la que llaman a hacer todos los esfuerzos posibles para garantizar que la IA
sea un beneficio para la sociedad:

"Los beneficios potenciales son enormes, ya que todo lo que la civilización tiene que ofrecer
es un producto de la inteligencia humana; no podemos predecir lo que podríamos lograr
cuando esta inteligencia se magnifique por las herramientas que la IA pueda proporcionar,
como podría ser la erradicación de las enfermedades y la pobreza. Dado que la IA tiene un
potencial enorme, es importante investigar cómo disfrutar de sus beneficios evitando sus
posibles riesgos".

¿A quién salvar? Simulación del dilema de un auto sin conductor. Imagen: MIT

Estos son grandes nombres y grandes ideales. Sin embargo, muchos esfuerzos carecen de
cooperación mundial. Además, las implicaciones de la Cuarta Revolución Industrial van más
allá de Internet y de la IA.

El profesor Klaus Schwab, fundador del Foro Económico Mundial, cree que esta fase se
construirá en torno a los "sistemas ciberfísicos" con el desdibujamiento de los sistemas
físicos, digitales y biológicos. A medida que adoptemos esta era de las máquinas,
necesariamente nos enfrentaremos a nuevos desafíos éticos, que exigirán nuevas leyes. En
algunos casos, es posible que se deba reiniciar el código moral en su totalidad. Tal es la
naturaleza de los avances tecnológicos. Creemos que la humanidad pronto estará en el
umbral de repensar los valores morales: una ética 2.0.
Los orígenes de la ética
La ética derivada de la filosofía o la religión no encaja fácilmente en el mundo de la tecnología.
Todo, desde Aristóteles hasta los Diez Mandamientos, nos da una dirección moral, pero
cualquier conjunto de reglas establecido tiende a presentar dilemas. El mundo de la ciencia
también ha hecho algunos intentos, desde Las tres leyes de la robótica de Asimov al trabajo
sobre ética de Nick Bostrom. Sin embargo, los seres humanos tienen gran dificultad para
desarrollar virtudes para su propia conducta, menos aún para construir virtudes relevantes en
nuevas tecnologías.

Las implicaciones éticas van desde lo inmediato (¿cómo influyen los algoritmos detrás de
Facebook y Google en todo, desde nuestras emociones hasta nuestras elecciones?) hasta el
futuro (¿qué pasará si los vehículos autodirigidos eliminan los puestos de trabajo de los
conductores de camiones?) Lo que sigue es una muestra, no exhaustiva, de las decisiones
éticas que deberemos enfrentar:

Ciencias de la vida

¿Debe la modificación de genes ser legal para manipular a la raza humana y crear "bebés de
diseño"? El investigador del cáncer Siddhartha Mukherjee, en su aclamado libro The Gene,
destacó las profundas preguntas éticas que los avances en la ciencia del genoma plantearán.
La lista de preguntas éticas es larga: ¿qué pasaría si una prueba prenatal predijera que su hijo
tendrá un coeficiente intelectual de 80 puntos, muy por debajo del promedio, a menos que le
haga una pequeña modificación? ¿Qué pasaría si solo las personas ricas pudiesen usar estas
tecnologías?

IA, aprendizaje de las máquinas y datos

Con el tiempo, la inteligencia artificial nos ayudará a tomar todo tipo de decisiones. Pero,
¿cómo podemos garantizar que estos algoritmos estén diseñados de manera apropiada?
¿Cómo eliminamos nuestras inclinaciones en estos sistemas, que eventualmente se utilizarán
para determinar las promociones en el trabajo, admisiones universitarias e, incluso, nuestra
elección de un compañero de vida?

Medios sociales y artefactos

¿Qué pasaría si nuestros Kindles tuvieran software de reconocimiento facial y sensores

biométricos incorporados, de modo que el dispositivo pudiera decir cómo cada oración
influyó en nuestra frecuencia cardíaca y presión arterial?

Robots y máquinas
¿Cómo determinamos las decisiones que deben tomar los autos sin conductor? ¿Cómo
determinamos qué decisiones deben tomar los robots? ¿Será necesario que un robot tenga
algo equivalente a una Declaración de derechos? ¿Qué pasará con los derechos de los seres
humanos a casarse con los robots y de los robots de ser propietarios? ¿Debería permitirse a
un Cyborg muy avanzado postularse para cargos políticos?

El camino por delante

Comúnmente, en el pasado, los mercados libres han decidido el destino de las nuevas
innovaciones y, con el tiempo, los gobiernos locales intervienen (Uber está prohibido en
Japón, pero operativo en la India). Sin embargo, en este caso tal enfoque podría ser
desastroso.

No estamos a favor de que el gobierno se interponga en la innovación: estamos pidiendo un

diálogo mundial coherente sobre la ética en el siglo XXI. El diálogo necesita ir más allá de las
revistas académicas y los artículos de opinión, e incluir comités gubernamentales y
organismos internacionales como la ONU.

Hasta ahora hemos adoptado un enfoque unilateral: desde la prohibición mundial de la

clonación humana hasta las restricciones parciales a los alimentos genéticamente
modificados. Las diferentes regiones también han adoptado puntos de vista dispares y no han
logrado una respuesta unificada: el enfoque de la UE para controlar el impacto social de las
nuevas tecnologías es muy diferente al de los Estados Unidos. China, por otra parte, siempre
ha adoptado una visión a largo plazo.

La tecnología es como el agua, siempre encontrará la forma de abrirse camino. En un

mundo interconectado, las decisiones locales solo son eficaces cuando están
permitidas por consenso internacional.

Existe la necesidad de un foro internacional estructurado para armar una lista de tecnologías
que requieran dirección, para evaluar cada una de ellas y publicar un modelo para su código
de conducta. Por ejemplo, un organismo gubernamental internacional podría establecer
reglas específicas, tales como hacer obligatoria la publicación de la lógica detrás de ciertos
algoritmos de la IA.

El mundo de la ciencia se jacta de algunos ejemplos exitosos de cooperación internacional. El

Protocolo de Montreal de 1987 (para abordar el problema de la capa de ozono) y la
Conferencia de Asilomar de 1975 (para regular la tecnología del ADN) me vienen a la mente.

Conclusión
La humanidad se enfrentará a preguntas que aún no ha tenido que responder. Debemos
empezar este debate ahora mismo.
Si no nos preparamos con anticipación, nos enfrentaremos a varios riesgos. Nos arriesgamos
a perder nuestro poder y a ponerlo en las manos de las máquinas. Nos arriesgamos a alterar
el curso de la humanidad sin comprender plenamente las consecuencias. Corremos el riesgo
de crear una desigualdad masiva entre “una clase tecnológica rica” y una inmensa clase
marginal.

Cualquiera que haya visto incluso un solo episodio de la galardonada serie de televisión Black
Mirror debería estar preocupado por el futuro antiutópico que podría esperarnos si no
abordamos estas difíciles preguntas filosóficas y legales ahora.

Fuente: Black Mirror (Netfix)

Esta no es la primera revolución tecnológica. Las preocupaciones no son nuevas. Han estado
presentes por más de 200 años desde la Revolución Industrial. Pero como lo expresa el
historiador y filósofo Yuval Harari, es cuestión de que el niño (que gritó lobo) llegue
eventualmente a tener razón.

Tradicionalmente, el progreso de la tecnología deja rezagado a los procesos políticos: ya

perdimos la oportunidad de redactar una carta moral para el uso de Internet, y seguimos
jugando hasta el día de hoy. No podemos darnos el lujo de permanecer ciegos ante los
próximos avances, ya sea en biotecnología o en IA. Cada vez más, el guión de nuestro futuro
está siendo escrito por ingenieros y empresarios, que no necesariamente se tienen en cuenta.

La sociedad se adapta a los cambios con facilidad, desde la máquina a vapor hasta el iPhone,
hasta el notable aumento de las expectativas de vida. Como Bill Gates sostiene, "la
tecnología es amoral". Depende de nosotros decidir cómo usarla y dónde trazar la línea

Este artículo se publicó por primera vez en Medianama. Consulte también: La biblioteca de
ensayos sobre la ética de las tecnologías emergentes.

Escrito por

Vinayak Dalmia, Investor, Amber

Kavi Sharma, Chief Operating Officer, President Electronics USA

Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.

Suscribirse a las actualizaciones

Una actualización semanal de lo que hay en la Agenda Global

Email Subscribe

© 2019 World Economic ForumPolítica de privacidad y normas de uso