IEP Franciscana "Padre Pio Sarobe"

"TOMA DE DECISIONES ETICAS EN LA ERA DE LA

INTELIGENCIA ARTIFICIAL: IMPORTANCIA DE LA
CONCIENCIA ETICA DE LOS ESTUDIANTES DE SECUNDARIA
DE LA INSTITUCIÓN EDUCATIVA 'PADRE PÍO SAROBE'" EN EL
DESARROLLO Y USO DE LA INTELIGENCIA ARTIFICIAL "

Docente Asesor
Chávez Piñas Esther Loayza Integrantes
Castro Quispe Alicia  Laureano De La Cruz Mayra Lizet
 Paucar Laureano Xiomara Alondra
"CATEGORIA  Segura Córdova Dayana

“B”
1
 INDICE
1. RESUMEN DEL PROYECTO..........................................................................................................3
2. PLANTEAMIENTO DEL PROBLEMA:............................................................................................3
2.1. Preguntas Generales:.............................................................................................................4
2.2. Preguntas Especificas:............................................................................................................4
3. JUSTIFICACIÓN...........................................................................................................................4
4. MARCO TEÓRICO........................................................................................................................4
4.1. Ética Y Moral..........................................................................................................................4
4.2. Conciencia Ética......................................................................................................................5
4.3. Inteligencia Artificial...............................................................................................................5
4.4. Conflictos Éticos Del Uso De IA...............................................................................................5
5. OBJETIVOS DEL PROYECTO.........................................................................................................7
5.1. Objetivo General....................................................................................................................7
5.2. Objetivos Específicos..............................................................................................................7
6. METODOLOGIA DE LA INVESTIGACIÓN......................................................................................8
7. RESULTADOS DE LA ENCUESTA..................................................................................................8
7.1. Resultados generales..............................................................................................................8
7.2. Resultados de acuerdo al género...........................................................................................9
7.3. Resultados nivel de conciencia ética frente a dilemas relacionados con la inteligencia
artificial............................................................................................................................................10
7.4. Resultados del nivel de conocimiento y percepción ética frente al uso de la inteligencia
artificial............................................................................................................................................10
7.5. Resultados del nivel de conocimiento de ética y moral........................................................11
7.6. Relación entre el nivel de conocimiento de ética y moral y el nivel de conocimiento y
percepción ética frente al uso de la inteligencia artificial................................................................12
8. MEDIDAS PROPUESTAS PARA FOMENTAR EL DESARROLLO ÉTICO Y RESPONSABLE DE LA
INTELIGENCIA ARTIFICIAL EN LA COMUNIDAD EDUCATIVA.............................................................13
9. DEBATE DESARROLLADO EN EL SALON DE CLASES...................................................................13
10. CONCLUSIONES....................................................................................................................14
11. RECOMENDACIONES............................................................................................................14
12. ANEXOS................................................................................................................................15

2
1. RESUMEN DEL PROYECTO
El presente proyecto tiene como objetivo analizar la conciencia ética de los estudiantes de
secundaria de la Institución Educativa 'Padre Pío Sarobe' respecto al desarrollo y uso de la
inteligencia artificial (IA). En los últimos tiempos el desarrollo de la inteligencia artificial ha
transformado muchas áreas de nuestra sociedad. Los estudiantes de secundaria, que se
encuentran cada vez más influenciados por la tecnología, redes sociales y la inteligencia artificial,
sin embargo, su uso involucra conflictos morales y éticos por lo que es importante que los
adolescentes puedan analizar y tomar decisiones correctas.

Se realizó una la técnica de recopilación de datos utilizando una encuesta para poder obtener un
panorama sobre la percepción y los conocimientos que tienen los estudiantes de la institución
sobre la ética y su relación con la inteligencia artificial. Para el análisis de datos se utilizó técnicas y
gráficos estadísticas.

Los resultados obtenidos nos muestran que, a mayor conocimiento de ética y moral de los
estudiantes, mayor es su conciencia ética frente a dilemas relacionados con la inteligencia
artificial, permitiéndonos concluir que el conocimiento de la ética y moral influye en las decisiones
y la actitud de los estudiantes hacia el desarrollo y uso de la inteligencia artificial. Sin embargo,
también observamos que a mayor conocimiento y percepción ética frente al uso de la inteligencia
artificial existe menor conciencia ética frente a dilemas relacionados con la inteligencia artificial.
Concluyendo que, cuando los estudiantes tienen un alto conocimiento de la inteligencia artificial
pueden prestar menos atención a aspectos éticos que involucran la inteligencia artificial.

Finalmente, se concluye que es importante fomentar tanto el conocimiento de los aspectos

técnicos como éticos sobre el uso de la inteligencia artificial y así promover una mayor conciencia
ética entre los jóvenes, quienes serán los actores del futuro. Los resultados obtenidos contribuirán
en la implementación de estrategias para promover la conciencia entre los estudiantes de la I.E.
Pio Sarobe y que así puedan tomar las mejores decisiones informadas y éticas al momento de usar
esta tecnología del futuro.

Es importante destacar que nuestra investigación se basa en un grupo específico de estudiantes

encuestados y están sujetas al contexto de los estudiantes adolescentes del 4to grado de
secundaria de la I.E.” Padre Pio Sarobe”.

2. PLANTEAMIENTO DEL PROBLEMA:

El desarrollo de la inteligencia Artificial (IA) ha generado un gran impacto en la sociedad, en
especial en los adolescentes quienes vivirán en un mundo altamente influenciado por esta nueva
tecnología. Este crecimiento acelerado nos plantea dilemas éticos que involucran los valores
humanos. Por esta razón es importante que los estudiantes de secundaria sean capaces de tomar
decisiones para asegurar que esta tecnología se use de manera responsable en su etapa como
estudiantes y en la vida diaria.

3
Para poder obtener estrategias que ayuden a promover el uso correcto de esta tecnología es
importante realizar un análisis que ayude a comprender la importancia de la conciencia ética y
como esta puede influir en el la implementación y uso responsable de esta tecnología en el futuro.

2.1.Preguntas Generales:
¿Cómo la conciencia ética de los estudiantes de secundaria de la Institución Educativa 'Padre Pío
Sarobe' influye en la toma de decisiones relacionadas con el desarrollo y uso de la inteligencia
artificial?

2.2.Preguntas Especificas:
¿Qué conocimientos tienen los estudiantes de secundaria de la Institución Educativa “Padre Pío
Sarobe” sobre la moral, los dilemas éticos y la toma de decisiones éticas?

¿Cuál es el nivel de conciencia ética de los estudiantes de secundaria de la Institución Educativa

'Padre Pío Sarobe' en el uso de la inteligencia artificial en distintos ámbitos de su vida cotidiana?

¿Cómo podemos fomentar el desarrollo ético y responsable de la inteligencia artificial en la

comunidad educativa?

3. JUSTIFICACIÓN
La presente investigación se justifica por el rápido avance tecnológico de la inteligencia artificial.
En un mundo cada vez más influenciado por la IA en diversos aspectos de la vida cotidiana, los
estudiantes de secundaria en la Institución Educativa 'Padre Pío Sarobe' representan la generación
que interactuará y tomará decisiones relacionadas con esta tecnología. Por eso es importante
comprender como cómo la conciencia ética de estos estudiantes afecta sus decisiones
relacionadas con el desarrollo y uso de la Inteligencia Artificial. Nuestra investigación brindara
información que será de mucha ayuda para poder diseñar estrategias educativas que promueva
una toma de decisiones ética y responsable en el contexto de la Inteligencia Artificial.

4. MARCO TEÓRICO

4.1.Ética Y Moral
La moralidad se refiere a las normas y valores sociales que guían a las personas y su interacción
con el prójimo, las comunidades, y su entorno. En todos estos tipos de interacción hay valores
importantes en juego; reglas y normas para proteger estos valores; deberes implícitos en las
funciones y posiciones sociales que pueden fomentar estos valores y promover estas reglas; y
virtudes humanas o capacidad que nos permiten actuar en consecuencia. Estos factores morales
están normalmente relacionados con prácticas religiosas y estructuras de poder social.

4
La ética es un análisis sistemático y crítico de la moralidad, de los factores morales que guían la
conducta humana en una determinada práctica o sociedad. Como la pesca representa una
interacción entre personas y el ecosistema acuático, la ética de la pesca se refiere a los valores,
reglas, deberes y virtudes pertinentes al bienestar de las personas y el ecosistema,
proporcionando un análisis normativo crítico de las cuestiones morales en juego en ese sector de
las actividades humanas.

4.2.Conciencia Ética
Es un juicio, un acto de la inteligencia por el cual se juzga un hecho, conducta o suceso en
particular, aprobándolo o reprobándolo. No es reducible a sólo conciencia psicológica, del
mismo modo que los hechos de la conciencia moral tampoco se reducen a meras vivencias,
conflictos o sentimientos. La conciencia humana no puede delegar en otro su responsabilidad
personal, pues es una realidad singular, propia e intransferible. La conciencia ética del hombre ha
de encontrase a solas consigo mismo; los demás podrán ayudarle con el consejo, con el buen
ejemplo o con la compañía solidaria, pero el juicio último y el inherente y natural mérito o
demérito, necesaria e inevitable ha de ser personal.

4.3.Inteligencia Artificial
La inteligencia artificial es la habilidad de una máquina de presentar las mismas capacidades que
los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear.
La IA permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan
problemas y actúen con un fin específico. La máquina recibe datos, los procesa y responde a ellos.

Los sistemas de IA son capaces de adaptar su comportamiento en cierta medida, analizar los
efectos de acciones previas y de trabajar de manera autónoma.

Algunas tecnologías con inteligencia existen desde hace más de 50 años, pero los avances en la
potencia informática, la disponibilidad de enormes cantidades de datos y nuevos algoritmos han
permitido que se den grandes avances de IA en los últimos años. La inteligencia artificial tiene un
papel central en la transformación digital de la sociedad. Se espera que sus aplicaciones futuras
impliquen grandes cambios, pero la IA ya está presente en nuestras vidas. Algunas IA presentes en
la actualidad son: asistentes virtuales, software de análisis de imágenes, motores de búsqueda,
sistemas de reconcomiendo de voz y rostro, robots, drones, vehículos autónomos, etc.

4.4.Conflictos Éticos Del Uso De IA

Algunos conflictos éticos relacionados con el uso de la IA son:

- Privacidad y datos personales: Un dilema ético común es cómo equilibrar la recopilación y uso
de datos personales para mejorar la experiencia del usuario o la personalización de servicios,
sin violar la privacidad y el consentimiento informado de las personas. Por ejemplo, el uso de
análisis de datos para comprender el comportamiento del usuario puede llevar a invasiones
de privacidad o la venta no autorizada de información personal.

5
- Sesgos y discriminación: Los algoritmos de inteligencia artificial pueden aprender de datos
históricos que reflejan sesgos culturales o prejuicios humanos. Esto puede llevar a decisiones
discriminatorias en áreas como el empleo, la vivienda o el acceso a servicios, lo que plantea el
dilema de cómo mitigar estos sesgos y garantizar la equidad.
- Responsabilidad y toma de decisiones: Los sistemas de IA pueden tomar decisiones
complejas, pero cuando estas decisiones tienen consecuencias significativas, es difícil asignar
responsabilidad a un algoritmo o desarrollador específico. Esto plantea preguntas éticas sobre
quién es responsable si ocurre un error o daño debido a la IA.
- Reemplazo de empleos y automatización: La adopción de la inteligencia artificial en ciertas
industrias puede llevar a la automatización de trabajos, lo que puede afectar negativamente a
los trabajadores y comunidades. Los dilemas éticos surgen al equilibrar los beneficios
económicos y la eficiencia con el impacto social y laboral de la automatización.
- Armas autónomas: La IA aplicada a sistemas militares o armas autónomas plantea dilemas
éticos sobre la responsabilidad en la toma de decisiones y la pérdida del control humano en
situaciones de conflicto. La cuestión de permitir o prohibir el desarrollo y uso de armas
autónomas es un tema de debate ético.
- Manipulación de la información: Los algoritmos de IA pueden ser utilizados para propagar
noticias falsas o contenido engañoso, lo que plantea el dilema de cómo abordar la
desinformación sin restringir la libertad de expresión.
- Privacidad en sistemas de vigilancia: El uso de sistemas de IA en vigilancia y reconocimiento
facial puede plantear cuestiones éticas sobre la invasión de la privacidad y el potencial uso
inadecuado de esta tecnología para el control social.
- Beneficio social vs. beneficio económico: Los avances en inteligencia artificial pueden
utilizarse para resolver problemas sociales, como el diagnóstico temprano de enfermedades,
pero también pueden priorizar el beneficio económico sobre el bienestar de las personas.
- Desigualdad digital: La brecha entre aquellos que tienen acceso a la inteligencia artificial y
aquellos que no pueden llevar a la exclusión y desigualdad digital. El dilema ético es cómo
garantizar un acceso justo y equitativo a la tecnología.
- Autoaprendizaje sin control: La IA con capacidad de autoaprendizaje puede evolucionar más
allá de lo que fue diseñada para hacer, lo que plantea dilemas éticos sobre cómo limitar o
controlar este aprendizaje autónomo.
- Asistentes de voz y privacidad: Los asistentes virtuales como Alexa o Google Assistant pueden
grabar y almacenar conversaciones privadas de los usuarios sin su conocimiento. Esto plantea
preocupaciones éticas sobre la privacidad y el uso no autorizado de datos personales.
- Sistemas de chatbots y ética médica: La utilización de chatbots de IA en el ámbito médico
para proporcionar información médica puede plantear dilemas éticos sobre la precisión de los
diagnósticos y la responsabilidad en caso de errores.
- Adicción a la tecnología: El diseño de productos y servicios de tecnología basados en la
inteligencia artificial puede aumentar la adicción y dependencia de los usuarios, lo que
plantea cuestiones éticas sobre la manipulación de la conducta humana con fines
comerciales.

¿CÓMO LOS ADOLESCENTES PODEMOS UTILIZAR DE FORMA ETICA LA IA?

6
 - Uso responsable de redes sociales: Los adolescentes pueden ser conscientes de cómo las
plataformas de redes sociales utilizan algoritmos de IA para mostrar contenido
personalizado. Pueden optar por compartir y promover contenido que sea positivo,
inclusivo y respetuoso, evitando la difusión de información falsa o perjudicial.
- Evaluación de aplicaciones y juegos: Antes de descargar y utilizar aplicaciones o juegos que
emplean IA, los adolescentes pueden investigar y leer reseñas para asegurarse de que
sean seguros, protejan la privacidad y no promuevan comportamientos inapropiados o
adictivos.
- Uso de asistentes virtuales: Los asistentes de voz como Siri, Alexa o Google Assistant son
comunes en los dispositivos electrónicos. Los adolescentes pueden utilizarlos de manera
ética, siendo conscientes de no dar información personal confidencial y respetando la
privacidad de otros cuando los utilizan en entornos compartidos.
- Proyectos de IA escolares: Si los adolescentes trabajan en proyectos relacionados con la
inteligencia artificial en la escuela, pueden asegurarse de que sus enfoques sean éticos y
tengan en cuenta el impacto social y ambiental de sus soluciones.
- Ciberseguridad: Los adolescentes pueden protegerse a sí mismos y a sus amigos al
aprender sobre ciberseguridad y utilizar contraseñas seguras. También pueden evitar
participar en actividades en línea que puedan violar la privacidad o dañar a otros.
- Apoyo a la educación ética en IA: Los adolescentes pueden ser defensores de la educación
sobre ética en IA en sus comunidades escolares. Pueden alentar a sus profesores y
escuelas a incluir temas de ética y responsabilidad en la tecnología en el currículo.
- Participación en debates y foros: Los adolescentes pueden unirse a debates y foros en
línea o en su comunidad sobre temas éticos en IA. Compartir sus perspectivas y aprender
de otros les ayudará a desarrollar un mayor sentido de conciencia ética en el uso de la
tecnología.
- Voluntariado en proyectos sociales: Pueden involucrarse en proyectos sociales que utilicen
la IA para abordar problemas comunitarios, como mejorar el acceso a la educación o
ayudar en la conservación del medio ambiente.

5. OBJETIVOS DEL PROYECTO

5.1.Objetivo General
Analizar la influencia de la conciencia ética de los estudiantes de secundaria de la Institución
Educativa ‘Padre Pío Sarobe’ en la toma de decisiones relacionadas con el desarrollo y uso de la
inteligencia artificial

5.2.Objetivos Específicos
Investigar los conocimientos que poseen los estudiantes de secundaria de la Institución Educativa
'Padre Pío Sarobe' sobre la moral, los dilemas éticos y la toma de decisiones éticas.

7
Evaluar el nivel de conciencia ética de los estudiantes de secundaria de la Institución Educativa
'Padre Pío Sarobe' en el uso de la inteligencia artificial en distintos ámbitos de la vida cotidiana.

Proponer recomendaciones para fomentar el desarrollo ético y responsable de la inteligencia

artificial en la Institución Educativa 'Padre Pío Sarobe'.

6. METODOLOGIA DE LA INVESTIGACIÓN
Se realiza una investigación cuantitativa y se realizara la técnica de recopilación de datos y el
instrumento de la encuesta con preguntas de opción múltiple para evaluar el nivel de conciencia
ética de los estudiantes y su conocimiento sobre dilemas éticos relacionados con la inteligencia
artificial.

Nuestra población son los estudiantes de secundaria de la Institución Educativa “Padre Pio
Sarobe”. Se toma como muestra representativa 10 estudiantes seleccionados de forma aleatoria
de cada grado académico, en total 50 estudiantes de un total universal de xxx estudiantes.

El análisis de datos se realizó utilizando gráficos estadísticos con los resultados de las encuestas lo
que nos permitió entender como la conciencia ética de los estudiantes afecta su toma de
decisiones relacionadas al uso responsable de la inteligencia emocional.

Finalmente, en conjunto formulamos recomendaciones para fomentar la toma de decisiones

éticas en el uso y desarrollo de la inteligencia artificial en la Institución Educativa 'Padre Pío
Sarobe'.

7. RESULTADOS DE LA ENCUESTA

7.1.Resultados generales
NIVEL DE NIVEL DE CONOCIMIENTO NIVEL DE CONCIENCIA
N GRADO CONOCIMIEN Y PERCEPCCION ETICA ETICA FRENTE A DILEMAS
GENERO EDAD
ª ACADEMICO TO DE ETICA Y FRENTE AL USO DE LA RELACIONADOS CON LA
MORAL INTELIGENCIA ARTIFICIAL INTELIGENCIA ARTIFICIAL
1 MASCULINO 16 4º A 67% 57% 56%
2 FEMENINO 16 4ª A 75% 86% 100%
3 FEMENINO 15 4º A 79% 71% 78%
4 FEMENINO 15 4º A 96% 93% 67%
5 MASCULINO 18 4º A 75% 75% 78%
6 FEMENINO 15 4º A 96% 89% 89%
7 MASCULINO 15 4º A 88% 89% 56%
8 FEMENINO 15 4º A 92% 89% 67%
9 FEMENINO 15 4º A 83% 89% 78%
10 FEMENINO 15 4º A 88% 68% 100%
11 MASCULINO 15 4º B 75% 75% 67%
12 FEMENINO 15 4º A 75% 71% 89%
13 FEMENINO 15 4ºB 83% 75% 100%

8
14 FEMENINO 16 4º B 83% 75% 100%
15 FEMENINO 16 4º B 83% 64% 100%
16 FEMENINO 15 4º A 67% 71% 100%
17 MASCULINO 16 4º B 79% 82% 78%
18 FEMENINO 16 4º A 75% 75% 89%
19 FEMENINO 16 4º B 79% 75% 100%
20 MASCULINO 15 4º A 75% 75% 78%
21 MASCULINO 15 4º A 75% 75% 78%
PROMEDIO 80 % 77% 83%

Resultados Generales
NIVEL DE CONOCIMIENTO DE ET-
ICA Y MORAL
NIVEL DE CONOCIMIENTO Y
PERCEPCCION ETICA FRENTE AL
USO DE LA INTELIGENCIA AR-
TIFICIAL
NIVEL DE CONCIENCIA ETICA
FRENTE A DILEMAS RELA-
CIONADOS CON LA INTELIGEN-
CIA ARTIFICIAL

TOTAL

Se observa que los estudiantes del cuarto grado de secundaria de la I.E. Padre Pio Sarobe tienen
un alto nivel de Conciencia Ética frente a dilemas relacionados con la Inteligencia Artificial y el
nivel de conocimientos de Ética y Moral también es medianamente alto. Mientras que, el nivel de
conocimiento y precepción ética frente al uso de la inteligencia artificial de los estudiantes es bajo
comparado con los mencionados anteriormente. Sin embargo, también es cierto que el nivel
promedio de las tres categorías altas es alto para cada una de estas.

7.2.Resultados de acuerdo al género.

NIVEL DE NIVEL DE CONOCIMIENTO Y NIVEL DE CONCIENCIA ETICA

GENERO CONOCIMIENTO DE PERCEPCCION ETICA FRENTE AL USO FRENTE A DILEMAS RELACIONADOS
ETICA Y MORAL DE LA INTELIGENCIA ARTIFICIAL CON LA INTELIGENCIA ARTIFICIAL
FEMENINO 82% 78% 90%
MASCULINO 76% 76% 70%

9
 Resultados de acuerdo al Genero
de los Estudiantes
NIVEL DE CONOCIMIENTO
DE ETICA Y MORAL
NIVEL DE CONOCIMIENTO
Y PERCEPCCION ETICA
FRENTE AL USO DE LA
INTELIGENCIA ARTIFICIAL
NIVEL DE CONCIENCIA ET-
ICA FRENTE A DILEMAS
RELACIONADOS CON LA
INTELIGENCIA ARTIFICIAL

FEMENINO MASCULINO

Observamos que las estudiantes de género femenino tienen un nivel promedio mayor al de los
estudiantes del género masculino en las tres categorías evaluadas.

7.3.Resultados nivel de conciencia ética frente a dilemas relacionados

con la inteligencia artificial.
NIVEL DE CONCIENCIA ETICA FRENTE A DILEMAS
CANTIDAD PORCENTAJE
RELACIONADOS CON LA INTELIGENCIA ARTIFICIAL
BAJO (1-3) 0 0%
MEDIO (4-7) 11 52%
ALTO (8-9) 10 48%
TOTAL 21 100%

N i v e l de c onc i enc i a é ti c a f re nte a di l e m a s re l a c i ona dos

c on l a i nte l i g e nc i a a rti fi c i a l e n l os e s tudi a nte s de 4 to
a ño de s e c unda ri a .

BAJO (1-3)
MEDIO (4-7)
48% ALTO (8-9)
52%

Observamos que ninguno de los estudiantes de cuarto año de secundaria de la I.E. Padre Pio
Sarobe tiene una baja conciencia ética frente a dilemas relacionados con la inteligencia artificial.
Mientas que 52% de los estudiantes tiene una conciencia ética media y el 48% tiene una alta
conciencia ética frente a dilemas relacionados con la inteligencia artificial.

10
 7.4.Resultados del nivel de conocimiento y percepción ética frente al
uso de la inteligencia artificial
NIVEL DE CONOCIMIENTO Y
CANTIDA PORCENT
PERCEPCCION ETICA FRENTE AL USO DE
D AJE
LA INTELIGENCIA ARTIFICIAL
MUY BAJO (1-7) 0 0%
BAJO (8-12) 0 0%
MEDIO (13-21) 14 67%
ALTO (22-28) 7 33%
TOTAL 21 100%

N i v e l de c onoc i m i e nto y perc e pc i ón éti c a f rente a l us o

de l a i nte l i g enc i a a rti fi c i a l e n l os e s tudi a nte s de 4 to
a ño de s e c unda ri a

MUY BAJO
33% BAJO
MEDIO
ALTO

67%

Observamos que ninguno de los estudiantes de cuarto año de secundaria de la I.E. Padre Pio
Sarobe desconoce sobre la inteligencia artificial. Mientas que 33% todavía no están muy
familiarizados inteligencia artificial y el 67% de los estudiantes si tienen un alto dominio de los
conceptos de inteligencia artificial y su uso.

7.5.Resultados del nivel de conocimiento de ética y moral

NIVEL DE CONOCIMIENTO DE ETICA Y
CANTIDAD PORCENTAJE
MORAL
MUY BAJO (1-6) 0 0%
BAJO (7-12) 0 0%
MEDIO (13-18) 9 43%
ALTO (19-24) 12 57%
TOTAL 21 100%

11
 N i v e l de c onoc i m i e nto de é ti c a y m ora l e n l os e s -
tudi a nte s de 4 to a ño.

MUY BAJO
BAJO
43%
MEDIO
57% ALTO

Observamos que ninguno de los estudiantes de cuarto año de secundaria de la I.E. Padre Pio
Sarobe desconoce de ética y moral. Mientas que 47% aun no tienen mucho conocimiento de
moral y ética y el 57% de los estudiantes tiene un alto conocimiento ético y moral.

7.6.Relación entre el nivel de conocimiento de ética y moral y el nivel

de conocimiento y percepción ética frente al uso de la inteligencia
artificial.

NIVEL PROMEDIO DE CONOCIMIENTO Y NIVEL PROMEDIO DE CONCIENCIA ETICA FRENTE A

PERCEPCCION ETICA FRENTE AL USO DE LA DILEMAS RELACIONADOS CON LA INTELIGENCIA
INTELIGENCIA ARTIFICIAL ARTIFICIAL
MUY BAJO 0% 0%
BAJO 0% 0%
MEDIO 72% 87%
ALTO 88% 76%
NIVEL DE PROMEDIO CONCIENCIA ETICA FRENTE A
NIVEL PROMEDIO DE CONOCIMIENTO DE ETICA Y
DILEMAS RELACIONADOS CON LA INTELIGENCIA
MORAL
ARTIFICIAL
MUY BAJO 0% 0%
BAJO 0% 0%
MEDIO 73% 81%
ALTO 86% 84%

12
 Relación entre el nivel de conocimiento de ética y moral y el nivel de conocimiento y percepción
ética frente al uso de la inteligencia artificial con nivel de promedio conciencia etica frente a di-
lemas relacionados con la inteligencia artificial

Nivel de promedio conciencia etica frente a dilemas re-

100%

90%
lacionados con la inteligencia artificial

80%

70%
NIVEL DE
CONOCIMIENTO Y PER-
60% CEPCCION ETICA FRENTE
AL USO DE LA IN-
50% TELIGENCIA ARTIFICIAL

40% NIVEL DE
CONOCIMIENTO DE ET-
30% ICA Y MORAL

20%

10%

0%
0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%

De los datos obtenidos y del grafico podemos decir que:

- Línea naranja: A mayor conocimiento de ética y moral de los estudiantes,
mayor es su conciencia ética frente a dilemas relacionados con la inteligencia
artificial. Podemos decir que los estudiantes que conocen más sobre principios
éticos y morales muestran una mayor conciencia acerca de los desafíos éticos
que surgen en el contexto de la inteligencia artificial. Cuando hay un mayor
conocimiento pueden reflexionar más sobre las implicaciones éticas de estas
tecnologías y tomar decisiones más éticas y responsables cuando se enfrentan
a situaciones éticas complejas relacionadas con la inteligencia artificial.
- Línea azul: A mayor conocimiento y percepción ética frente al uso de la
inteligencia artificial existe menor conciencia ética frente a dilemas
relacionados con la inteligencia artificial. Esto puede ser porque cuando los
estudiantes adquieren un mayor conocimiento técnico sobre la inteligencia
artificial, se centran en aspectos prácticos y se vuelven menos cautelosos con
aspectos éticos del uso de la inteligencia artificial.

8. MEDIDAS PROPUESTAS PARA FOMENTAR EL DESARROLLO

ÉTICO Y RESPONSABLE DE LA INTELIGENCIA ARTIFICIAL
EN LA COMUNIDAD EDUCATIVA
- DEBATE ETICO: Organizar debates en el colegio sobre la ética en la inteligencia
artificial para fomentar la participación y el interés de los estudiantes en este tema.

13
 - CONCURSO DE IDEAS ETICAS: Organizar un concurso para que los estudiantes
presenten ideas innovadoras para aplicar principios éticos en la vida cotidiana.
Promoviendo de esta manera la creatividad y pensamiento crítico en la resolución de
problemas.
- REDES SOCIALES ETICAS: Los estudiantes pueden realizar proyectos donde utilicen las
Redes sociales para compartir y difundir información y contenido relevante sobre el
uso ético en la inteligencia artificial.

9. DEBATE DESARROLLADO EN EL SALON DE CLASES

TEMA: HUELGA DE GUIONISTAS Y ACTORES DE HOLYWOOD

Bienvenidos a este debate que abordará una conexión intrigante entre dos temas aparentemente
distintos: la huelga de guionistas y actores de Hollywood y el desarrollo de la inteligencia artificial
(IA). En los últimos años, hemos sido testigos de avances significativos en la IA, que ha comenzado
a transformar la industria del entretenimiento. Al mismo tiempo, los profesionales del cine y la
televisión han llevado a cabo huelgas en busca de mejores condiciones laborales y
reconocimiento. Nuestro debate explorará cómo estas dos áreas interactúan y cómo la IA podría
afectar el futuro de la creación de contenido en Hollywood.

La actual huelga de actores y guionistas de Hollywood se ha tomado las portadas de la prensa a

nivel mundial. Estrellas de talla mundial han paralizado sus actividades, todo en medio de
esperados estrenos cinematográficos, como Barbie y Oppenheimer, así como las grabaciones de
futuras películas. Las razones de la paralización, que comenzó con los guionistas y siguió con los
actores, tienen que ver con el pago de la transmisión vía streaming de sus producciones, pero
también, por la falta de protección de la imagen y voz frente al inminente reemplazo por copias
creadas a través de inteligencia artificial (IA) y la falta de regulación sobre su uso.

Declaración de la Postura:

En este debate, tendremos dos posturas representadas por nuestros equipos. El Equipo A
argumentará que el desarrollo de la IA en Hollywood puede complementar y mejorar la
creatividad y la producción de contenido, sin reemplazar el talento humano. El Equipo B, por otro
lado, expondrá que la IA presenta una amenaza potencial para el empleo de guionistas y actores,
lo que podría afectar la calidad del contenido y la diversidad en la industria.

10. CONCLUSIONES
- A medida que los estudiantes adquieren un mayor conocimiento de ética y moral, su
conciencia ética aumenta cuando enfrenta dilemas éticos relacionados con la
inteligencia artificial. Consecuentemente, esto indica que el conocimiento en ética u
moral influye significativamente en la toma de decisiones frente al uso de la
inteligencia artificial.
- Un mayor conocimiento y percepción ética en el uso de la inteligencia artificial puede
generar una disminución en la conciencia ética frente a dilemas relacionados con esta

14
 tecnología. Es posible que los estudiantes se centren más en los aspectos técnicos y
olviden la consideración de aspectos éticos.
- Los estudiantes de la I.E Padre Pio Sarobe plantearon medidas para promover la
conciencia ética el uso de la inteligencia emocional en la institución educativa.

11.RECOMENDACIONES
- Es fundamental brindar una educación integral que incluya conocimientos
tecnológicos pero que también se incluya una sólida base de educación ética y moral.
- Es importante que en la comunidad educativa se incluyan proyectos para fomentar la
conciencia ética frente a dilemas relacionados con el uso correcto de la inteligencia
artificial.

15
 12.ANEXOS

NIVEL DE
NIVEL DE CONCIENCIA
NIVEL DE CONOCIMIENTO Y ETICA FRENTE A
GRADO CONOCIMIENT PORCENTAJE PERCEPCCION ETICA PORCENTAJE DILEMAS PORCENTAJE
ACADEMICO O DE ETICA Y % FRENTE AL USO DE LA % RELACIONADOS %
MORAL INTELIGENCIA CON LA
ARTIFICIAL INTELIGENCIA
ARTIFICIAL
4º A 16 67% 16 57% 5 56%
4ª A 18 75% 24 86% 9 100%
4º A 19 79% 20 71% 7 78%
4º A 23 96% 26 93% 6 67%
4º A 18 75% 21 75% 7 78%
4º A 23 96% 25 89% 8 89%
4º A 21 88% 25 89% 5 56%
4º A 22 92% 25 89% 6 67%
4º A 20 83% 25 89% 7 78%
4º A 21 88% 19 68% 9 100%
4º B 18 75% 21 75% 6 67%
4º A 18 75% 20 71% 8 89%
4ºB 20 83% 21 75% 9 100%
4º B 20 83% 21 75% 9 100%
4º B 20 83% 18 64% 9 100%
4º A 16 67% 20 71% 9 100%
4º B 19 79% 23 82% 7 78%
4º A 18 75% 21 75% 8 89%
4º B 19 79% 21 75% 9 100%
4º A 18 75% 21 75% 7 78%
4º A 18 75% 21 75% 7 78%
PROMEDIO 19.28571429 80% 21.61904762 77% 7.476190476 83%
SUMA 405 454 157

16
 Resultados Generales
84%

83%

82%

81% NIVEL DE CONOCIMIENTO DE ETICA Y

MORAL
NIVEL DE CONOCIMIENTO Y PERCEPCCION
80% ETICA FRENTE AL USO DE LA INTELIGEN-
CIA ARTIFICIAL
79% NIVEL DE CONCIENCIA ETICA FRENTE A
DILEMAS RELACIONADOS CON LA IN-
78% TELIGENCIA ARTIFICIAL

77%

76%

75%

74%
TOTAL

PROMEDIO PROMEDIO PROMEDIO

GENERO
1 2 3

FEMENINO 82% 78% 90%

MASCULINO 76% 76% 70%
4°A 83% 78% 81%
4°B 75% 76% 87%
TOTAL 80% 77% 83%

Rsultados de acuerdo al Genero de los Estudian-

tes
100%
90%
80%
70%
60%
50%
40%
30%
20% 17
10%
0%
 PROMEDIO 1 PROMEDIO 2 PROMEDIO 3

Chart Title
88%
86%
84%
82%
80%
78%
76%
74%
72%
70%
68%
4°A 4°B
Series1 Series2 Series3

18
 NIVEL DE NIVEL DE CONOCIMIENTO NIVEL DE CONCIENCIA ETICA
GRADO CONOCIMIENT PORCENTAJE Y PERCEPCCION ETICA PORCENTAJE FRENTE A DILEMAS PORCENTAJE
Nª GENERO EDAD
ACADEMICO O DE ETICA Y % FRENTE AL USO DE LA % RELACIONADOS CON LA %
MORAL INTELIGENCIA ARTIFICIAL INTELIGENCIA ARTIFICIAL
MASCULIN
56%
1 O 16 4º A 16 67% 16 57% 5
2 FEMENINO 16 4º B 20 83% 18 64% 9 100%
3 FEMENINO 15 4º A 21 88% 19 68% 9 100%

4 FEMENINO 15 4º A 16 67% 20 71% 9 100%

5 FEMENINO 15 4º A 18 75% 20 71% 8 89%
6 FEMENINO 15 4º A 19 79% 20 71% 7 78%
7 FEMENINO 16 4º A 18 75% 21 75% 8 89%
MASCULIN
78%
8 O 18 4º A 18 75% 21 75% 7
MASCULIN
78%
9 O 15 4º A 18 75% 21 75% 7
MASCULIN
78%
10 O 15 4º A 18 75% 21 75% 7
MASCULIN
67%
11 O 15 4º B 18 75% 21 75% 6
12 FEMENINO 16 4º B 19 79% 21 75% 9 100%
13 FEMENINO 16 4º B 20 83% 21 75% 9 100%
14 FEMENINO 15 4ºB 20 83% 21 75% 9 100%
MASCULIN 78%
15 O 16 4º B 19 79% 23 82% 7
16 FEMENINO 16 4ª A 18 75% 24 86% 9 100%
17 FEMENINO 15 4º A 20 83% 25 89% 7 78%
MASCULIN
56%
18 O 15 4º A 21 88% 25 89% 5
19 FEMENINO 15 4º A 22 92% 25 89% 6 67%
20 FEMENINO 15 4º A 23 96% 25 89% 8 89%
21 FEMENINO 15 4º A 23 96% 26 93% 6 67%

19
 PORCENTAJE

NIVEL DE
NIVEL DE CONCIENCIA ETICA BAJO (1-3) MEDIO (4-7) ALTO (8-9)
CONCIENCIA FRENTE A DILEMAS
NIVEL DE ETICA FRENTE RELACIONADOS
CONOCIMIENTO PORCENTAJE A DILEMAS PORCENTAJ CON LA PORCENTAJ
CANTIDAD
DE ETICA Y % RELACIONADO E % INTELIGENCIA E
MORAL S CON LA ARTIFICIAL
INTELIGENCIA
ARTIFICIAL

16 67% 5 56% BAJO (1-3) 0 0%

21 88% 5 56% MEDIO (4-7) 11 52%
18 75% 6 67% ALTO (8-9) 10 48%

TOTAL 21 100%
22 92% 6 67% NIVEL DE CONOCIMIENTO Y PERCEPCCION ETICA FRENTE AL USO NIVEL DE CONCIENCIA
DE LA INTELIGENCIA ARTIFICIAL ETICA FRENTE A DILEMAS
23 96% 6 67%
RELACIONADOS CON LA
NIVEL INTELIGENCIA ARTIFICIAL
18 75% 7 78% CANTIDAD
PROMEDIO
18 75% 7 78% MUY BAJO 0 0% 0% 0%
18 75% 7 78% BAJO 0 0% 0% 0%
19 79% 7 78% MEDIO 14 67% 72% 87%
19 79% 7 78% ALTO 7 33% 88% 76%
20 83% 7 78% TOTAL 21 21
18 75% 8 89%
NIVEL DE CONOCIMIENTO DE ETICA Y MORAL NIVEL DE CONCIENCIA
18 75% 8 89%
ETICA FRENTE A DILEMAS
23 96% 8 89% RELACIONADOS CON LA

20
 NIVEL
16 67% 9 100% CANTIDAD
PROMEDIO INTELIGENCIA ARTIFICIAL
18 75% 9 100% MUY BAJO 0 0% 0% 0%
19 79% 9 100% 100% BAJO 0 0% 0%
20 83% 9 100% MEDIO 9 43% 73% 8
20 83% 9 100% ALTO 12 57% 86% 8
20 83% 9 100% TOTAL 21 100%
21 88% 9 100%

CANTIDAD

MUY BAJO BAJO MEDIO ALTO

21
 CANTIDAD

MUY BAJO BAJO MEDIO ALTO

Chart Title
100%

90%

80%

70%
NIVEL DE CONOCIMIENTO Y PER-
60% CEPCCION ETICA FRENTE AL USO DE
LA INTELIGENCIA ARTIFICIAL
50% NIVEL DE CONOCIMIENTO DE ETICA
Y MORAL
40%

30%

20% 22
0%
0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%

23
 ENCUESTA: "TOMA DE DECISIONES ETICAS EN LA ERA DE LA IA: IMPORTANCIA DE LA
CONCIENCIA ETICA DE LOS ESTUDIANTES DEL CUARTO GRADO DE SECUNDARIA SECUNDARIA DE
LA INSTITUCIÓN EDUCATIVA “PADRE PÍO SAROBE'" EN EL DESARROLLO Y USO DE LA
INTELIGENCIA ARTIFICIAL "

Estimado estudiante,

Agradecemos tu participación en esta encuesta. Tu opinión es valiosa para entender cómo los estudiantes de secundaria en
la Institución Educativa “Padre Pío Sarobe” perciben la importancia de la ética en este campo y cómo influye en tus
decisiones. Las respuestas son anónimas y confidenciales.

Género:
Femenino Masculino
Edad:

Grado académico:

PARTE 1: MIS CONOCIMIENTOS SOBRE ETICA Y MORAL

Por favor, selecciona la opción que mejor represente tu opinión o experiencia.

Muy de De En Muy en
Pregunta Total
acuerdo acuerdo desacuerdo desacuerdo
Estoy familiarizado/a con el concepto
1. 4 3 2 1
de moral y ética.
He tenido alguna formación o
2. discusión en el colegio sobre dilemas 4 3 2 1
éticos y toma de decisiones éticas.
Considero importante tener
conocimientos sobre dilemas éticos y
3. 4 3 2 1
toma de decisiones éticas en la
actualidad.
Tengo confianza en mi capacidad para
4. tomar decisiones éticas en situaciones 4 3 2 1
difíciles.
Enfrento dilemas éticos y tomo
5. 4 3 2 1
decisiones de manera ética.
Opino que es importante tomar
6. decisiones éticas en todas las 4 3 2 1
situaciones que se presenten.
TOTAL

PARTE 2: MI CONOCIMIENTO Y PERCEPCIÓN ETICA FRENTE AL USO DE LA INTELIGENCIA

ARTIFICIAL
Por favor, selecciona la opción que mejor represente tu opinión o experiencia.

Muy de De En Muy en
Pregunta Total
acuerdo acuerdo desacuerdo desacuerdo
Conozco que es la inteligencia
1. artificial y cuáles son sus 4 3 2 1
aplicaciones.
Conozco los principales beneficios de
2. 4 3 2 1
la inteligencia artificial.
Estoy muy familiarizado/a y uso
3. regularmente diferentes plataformas 4 3 2 1
de redes sociales.
4. He utilizado aplicaciones o servicios 4 3 2 1

24
 que utilizan la inteligencia artificial
como asistentes virtuales,
recomendaciones de películas,
música, etc.
Estoy consciente de las implicaciones
sociales, económicas y morales del
5. 4 3 2 1
uso de la Inteligencia Artificial en la
vida cotidiana.
Los estudiantes de secundaria
deberían participar en debates y
6. 4 3 2 1
discusiones sobre la ética de la
Inteligencia Artificial.
Estoy dispuesto a participar en
actividades o proyectos que
7. 4 3 2 1
promuevan la conciencia ética en el
uso de la Inteligencia Artificial.
TOTAL

PARTE 3: MI CONCIENCIA ETICA FRENTE A DILEMAS RELACIONADOS A LA INTELIGENCIA

ARTIFICAL
Marca en el recuadro en blanco la alternativa que consideres más acertada.

PREGUNTAS
Imagina que estás en una situación en la que una IA puede realizar una tarea importante, pero también
1.
puede reemplazar a un ser humano en su trabajo. ¿Qué harías?
A Priorizaría la eficiencia y permitiría que la IA realice la tarea para obtener mejores
. resultados.
B Valoraría el impacto social y preservaría el trabajo del ser humano, aunque la IA sea más
. eficiente.
2. Supongamos que una IA ha sido programada para tomar decisiones sobre la distribución de recursos
médicos, como órganos para trasplantes. ¿Qué considerarías más importante?
A Priorizaría la vida de los pacientes con mayores posibilidades de supervivencia, aunque
. excluya a otros.
B Consideraría la equidad y justicia en la distribución de recursos médicos para garantizar la
. igualdad de oportunidades.
3. Supongamos que una IA tiene la capacidad de recopilar y analizar datos personales para mejorar sus
recomendaciones. ¿Cómo te sentirías al respecto?
A No me importaría que la IA utilice mis datos siempre que obtenga beneficios de sus
. recomendaciones.
B
Estaría preocupado/a por la privacidad y la posible manipulación de mis datos personales.
.
Estás utilizando una aplicación de redes sociales que utiliza IA para recomendar contenido. Notas que
4. la IA está mostrando contenido que promueve el odio o la discriminación hacia ciertos grupos. ¿Qué
harías?
A Ignorarías el contenido y continuarías usando la aplicación, ya que la IA decide lo que se
. muestra.
B Denunciarías el contenido inapropiado y dejarías de utilizar la aplicación si no toman
. medidas.
Tu profesor/a utiliza un sistema de IA para calificar exámenes, pero algunos compañeros han
5. encontrado una forma de engañar al sistema y obtener calificaciones más altas de manera injusta.
¿Qué opción elegirías?
A
Considerarías hacer lo mismo para obtener una ventaja en tus calificaciones.
.
B
Informarías a tu profesor/a sobre la situación para mantener la integridad académica.
.

25
 Un amigo/a cercano/a ha desarrollado una IA que puede acceder a las conversaciones privadas de
6. otros sin su conocimiento. Te pide que lo pruebes y te ofrece compartir información confidencial
sobre alguien que te interesa. ¿Qué acción tomarías?
A
Aceptarías probar la IA y obtener información sobre la persona que te interesa.
.
B Rechazarías la oferta y le explicarías a tu amigo/a que es una violación de la privacidad y
. éticamente incorrecto.
Un servicio de streaming de música utiliza IA para recomendar canciones basadas en tus preferencias.
7. Sin embargo, notas que la IA está favoreciendo ciertos géneros musicales y excluyendo otros de
diferentes culturas. ¿Cómo reaccionarías?
A
Te adaptarías a las recomendaciones de la IA sin cuestionar su sesgo cultural.
.
B Comentarías tus preocupaciones sobre el sesgo y buscarías alternativas musicales que sean
. más inclusivas.
Una empresa tecnológica ofrece un programa de aprendizaje automático que podría mejorar tus
7. habilidades en ciencias de la computación, pero el costo es alto y no todos los estudiantes pueden
pagarlo. ¿Cómo responderías?
A
Participarías en el programa si tienes los medios para pagarlo, sin preocuparte por los demás.
.
B Investigarías opciones para que el programa esté disponible para todos los estudiantes,
. incluso aquellos con recursos limitados.
7. Un amigo/a te muestra una aplicación de IA que puede hacer trampa en los exámenes y obtener
respuestas de manera rápida y discreta. ¿Qué harías?
A
Probarías la aplicación para ver si realmente funciona y te beneficia.
.
B Rechazarías la oferta de tu amigo/a y explicarías que usar esa aplicación es inmoral y podría
. tener consecuencias negativas.
PUNTAJE TOTAL

Gracias por participar en esta encuesta…

26
27
28
29
30
31
32
33
34