3.

- Ética en el uso de datos y herramientas digitales

Con el auge de la inteligencia artificial ha surgido la necesidad de comprender como funcionan
sus algoritmos para evitar sesgos. Los sesgos son aquellos fallos sistemáticos que se cometen
cuando, en muestras o ensayos, se favorecen o eligen unas respuestas frente a otras
comprometiendo así el correcto funcionamiento de los sistemas.

Moral Machine es una plataforma creada para recopilar distintas perspectivas sobre las
decisiones que toma una máquina inteligente como es un coche autónomo. Un coche autónomo, o
coche sin conductor, debe decidir ante dos situaciones que pueden darse antes de que ocurra un
accidente de tráfico, cuál de ellas es la menos mala. Es decir, la máquina tiene que tomar una
decisión que podría poner en peligro la integridad física humana.

El usuario puede juzgar cuál es el resultado que considera más aceptable moralmente.
Finalmente, sus respuestas se comparan con las de otras persona.

1. Entre en www.moralmachine.net , escoge idioma y pula en Comenzar a juzgar .

2. En la siguiente pantalla se mostrará un escenario o situación con dos posibilidades. Pulsa

Mostrar descripción para ver en qué consiste cada una de ellas.

3. Haz tu elección pulsando la imagen de la posibilidad que consideres menos mala y pasa a
la siguiente pantalla. Hay 13 escenarios distintos. Cada vez que empiezas a juzgar
cambian los escenarios. Es importante leer las descripciones para observar los detalles de
cada posibilidad.

4. Cuando acabes, tendrás una pantalla de resultados en la que podrás analizar cómo han
sido tus intervenciones. Realiza una captura de pantalla [5] y pégala en tu documento.

5. A continuación, puedes ayudar a la máquina a entender tus respuestas pulsando la

opción Sí de la pregunta ¿Te gustaría ayudarnos a entender tus respuestas? . Los datos,
anónimos, se recopilarán para un estudio de investigación del instituto Max Planck para
el Desarrollo Humanos.

6. Explica qué sesgos has tenido en tus respuestas y cómo podría afectar a los distintos
grupos de personas que tú fueses el programador/a del coche autónomo.