Documentos de Académico
Documentos de Profesional
Documentos de Cultura
EN EL ÁMBITO EDUTIVO
LA INTELIGENCIA ARTIFICIAL (IA)
EN EL ÁMBITO EDUTIVO
Licencia de uso꞉
1. Introducción y justificación
2. ¿Qué es la ia?
6. recomendaciones para la
implementación de la ia en el entorno
educativo
7. bibliografía
2
el propósito de esta guía,
elaborada por el Área de
Tecnología Educativa de la
Dirección General de
O r d e n a c i ó n d e l a s
Enseñanzas, Inclusión e
Innovación de la Consejería
d e E d u c ac i ó n , F o r m ac i ó n
Profesional, Actividad Física
y Deportes del Gobierno de
Canarias, es dar a conocer al
profesorado el fenómeno
de la inteligencia artificial
(IA) y ofrecer orientaciones
pa r a e x p l o r a r p o s i b l e s
c a s o s d e u s o c o m o
herramienta educativa de
forma segura, ética,
inclusiva y responsable.
Para construir esta guía se ha consultado la Este plan establece una visión común de una
norma va disponible actualmente, así como educación digital de alta calidad, y que ene
numerosos estudios sobre el uso de IA en por objeto apoyar la adaptación de los
educación¹. De entre todos los documentos sistemas de educación y formación de los
consultados, se ha concedido especial Estados miembros a la era digital. El Plan para
consideración a aquel en el que se recogen las la Educación Digital de Canarias en el siglo XXI
«directrices é cas sobre el uso de la no es ajeno al Plan de Acción de Educación
inteligencia ar ficial (IA) y los datos en la Digital 21‑27, con el que está necesariamente
educación y formación para los educadores», alineado.
elaborado por la Comisión Europea en 2022,
dentro del Plan de Acción de Educación Digital
21‑27 de la Unión Europea (UE).
3
4
2. ¿QUÉ LA IA?
5
Fig. Retrato de Ada Lovelace. Midjourney (2024) www.midjourney.com
En ese mismo sen do, el Real Decreto
817/2023 define un sistema de inteligencia
ar ficial como «un sistema diseñado para
funcionar con un cierto nivel de autonomía y
que, basándose en datos de entradas A diferencia de los sistemas de
proporcionadas por máquinas o por personas, computación clásica, basados
en el análisis sistemático de un
infiere cómo lograr un conjunto de obje vos
problema y de la formulación
establecidos u lizando estrategias de
explícita de una secuencia de
aprendizaje automá co o basadas en la lógica instrucciones que genere una
y el conocimiento, y genera información de salida , partiendo de unos datos
salida, como contenidos (sistemas de de entrada, los sistemas de IA
inteligencia ar ficial genera vos), modernos infieren, a partir de
predicciones, recomendaciones o decisiones, l o s d at o s d e e n t r a d a , l a s
que influyan en los entornos con los que reglas necesarias para generar
el resultado deseado sin que
interactúa».
pa r a e l l o m e d i e a n á l i s i s o
intervención humana.
6
Fig. Retrato de Alan Turing. Midjourney (2024) www.midjourney.com
7
3. ¿QUÉ TIPOS DE IA EXISTEN?
8
Según la UNESCO (2021), las principales
2 Sesgo꞉ condicionamiento en la respuesta del sistema de IA debida a la naturaleza y calidad de los datos de entrenamiento ya que, como norma
general, la IA reproducirá cualquier po de trato discriminatorio representado en los mismos debido a raza, género, orientación sexual, … De
igual forma, una población infrarrepresentada o sobrerrepresentada en la muestra de datos también impactará en las es maciones y
clasificaciones realizadas por el sistema.
Fase de ENTRENAMIENTO
Ejemplos algoritmo de
Modelo
(entrenamiento aprendizaje
entrenado
y validación) automático
(modelo)
Fig. Fase de entrenamiento de un sistema de Aprendizaje Automá co. El algoritmo de aprendizaje entrena
o ajusta un modelo base a par r de los datos de entrenamiento y evalúa su rendimiento a par r de los
datos de validación. Si el rendimiento es adecuado, genera y acepta el modelo entrenado.
Resultado
usuario Modelo
o usuaria entrenado
DATOS
Fig. Fase de producción de un sistema de Aprendizaje Automá co está co, es decir, que no usa los datos
del usuario o usuaria para mejorar su propio rendimiento.
Resultado
DATOS
algoritmo de
Modelo
aprendizaje usuario Modelo
entrenado
automático o usuaria entrenado
(modelo)
DATOS
Fig. Fase de producción de un sistema de Aprendizaje Automá co que mejora su propio rendimiento a
par r de los datos de interacción del usuario o usuaria.
10
Redes neuronales ar ficiales (RNA),
inspiradas en las redes neuronales
biológicas descubiertas por D. San ago IA DÉBIL
Ramón y Cajal, se organizan en tres pos de
capas interconectadas de neuronas Redes neuronales
ar ficiales꞉ una capa de entrada que capta artificiales꞉
la entrada del usuario o usuaria, una o
varias capas intermedias u ocultas que ¿Qué hace? Imita cómo
combinan matemá camente la funciona el cerebro
información anterior, y una capa de salida humano con capas de
que proporciona el resultado. La limitación 'neuronas' digitales.
de las RNA se debe a la extrema dificultad a
la hora de interpretar el aprendizaje Reto꞉ Es difícil entender
(modificación de las conexiones entre cómo llega a sus
neuronas) producido en las capas ocultas conclusiones.
de la red y, por tanto, la ausencia de
«explicabilidad» en el proceso de obtención PA
DE
PA PA
DE
OCUL
de la solución, así como un aumento ENADA LIDA
11
En conjunto, todas las técnicas de INTELIGENCIA
ARTIFICIAL descritas anteriormente han dado
lugar a una serie de herramientas que se ofrecen
c o m o s e r v i c i o s e n d i s t i n ta s p l ata f o r m a s
tecnológicas.
12
10
13
4. CONSIDACION PARA UN USO
SEGURO, ÉTICO, INCLUSIVO Y
RPONB DE LA IA
14
Así mismo, se deben garan zar los derechos el ejercicio de estos derechos
fundamentales de los niños, niñas y pa r a u n u s o s e g u r o , é t i c o ,
adolescentes frente a cualquier forma de inclusivo y responsable de la IA
violencia, Ley Orgánica 8/2021, de 4 de junio, no debe menoscabar el derecho
a la educación digital, recogido
de protección integral a la infancia y la
en el artículo 83.1 de la Ley
adolescencia frente a la violencia (LOPIVI). Orgánica 3/2018, de 5 de
diciembre, de Protección de
A su vez, el Esquema Nacional de Seguridad Datos Personales y Garantía de
(Real Decreto 311/2022), de aplicación a todo l o s D e r e c h o s D i g i ta l e s
el sector público, así como a los proveedores modificado por la disposición
que colaboran con la Administración, ofrece final 4 de la Ley Orgánica 3/2020,
de 29 de diciembre.
un marco común de principios básicos,
requisitos y medidas de seguridad para una
protección adecuada de la información
tratada y los servicios prestados, con objeto de
asegurar el acceso, la confidencialidad, la
integridad, la trazabilidad, la auten cidad, la
disponibilidad y la conservación de los datos,
la información y los servicios u lizados por
medios electrónicos que ges onen en el Complementariamente, con el obje vo de
ejercicio de sus competencias. establecer un marco é co y norma vo que
refuerce la protección de los derechos
Adicionalmente, la Estrategia Nacional de individuales y colec vos, a efectos de
Inteligencia Ar ficial (Secretaría de Estado de garan zar la inclusión y el bienestar social,
Digitalización e Inteligencia Ar ficial, 2020), incorpora varias medidas entre ellas la de
con el obje vo de potenciar el uso de la IA en la «crear observatorios para evaluar el impacto
administración pública y en las misiones social de los algoritmos, la promoción de foros
estratégicas nacionales, adelanta la creación de diálogo, sensibilización y par cipación
de una guía de uso de la inteligencia ar ficial nacionales e internacionales en relación a la IA
en el sector público, para introducir esta y la creación de la Carta de Derechos Digitales»
tecnología de manera ordenada, (Ministerio de Asuntos Económicos y
interoperable, con respeto a los principios Transformación Digital, 2021, julio 24),
é cos y a la legalidad vigente y que sirva para dirigidas a garan zar una digitalización
desarrollar la industria y el crecimiento humanista.
económico.
15
De igual forma es necesario recordar aquí la Por úl mo, a con nuación se referencian dos
Guía꞉ Recomendaciones para el uso de consideraciones que, aunque no enen rango
aplicaciones, plataformas y tecnologías norma vo, enen valor a modo de reflexión.
digitales en materia de protección de datos de
La aplicación educa va de esta tecnología
carácter personal, publicada por la Consejería
debería garan zar los derechos de la infancia
de Educación, Formación Profesional,
que, actualizados a esta nueva realidad,
Ac vidad Física y Deportes, en la que se indica
podrían contemplar los siguientes puntos
que para el uso de aplicaciones, plataformas o
(Hernando‑Calvo et al., 2022, p. 32; Holmes
herramientas que implican el tratamiento de
et al., 2022, p. 51‑59)꞉
datos personales꞉
Derecho a la educación.
Derecho a la dignidad humana.
Derecho a la autonomía.
Derecho a ser escuchado.
Derecho a no sufrir discriminación
Lo s c e n t r o s e d u c at i vo s (equidad y parcialidad).
deben observar la debida Derecho a la in midad y protección de
diligencia en el tratamiento datos.
de los datos personales Derecho a la transparencia y la
que se efectúen en el explicabilidad.
centro, incluyendo los que Derecho a retener o re rar el
s e p r o d u c e n c o m o consen miento.
consecuencia del uso de las Derecho a ser protegido de la explotación
tecnologías en las aulas. En económica.
este sentido, los centros Atendiendo a López‑Mar n y Mar n‑Gu érrez
educativos utilizarán las (2023), especialmente en el caso de la IAG
aplicaciones, plataformas y (Inteligencia Ar ficial Genera va), y de cara a
h e r r a m i e n ta s q u e garan zar un uso responsable de la misma,
proporciona y autoriza la tanto el profesorado como el alumnado
Consejería. deberá tener en cuenta las limitaciones
propias de estas tecnologías (alucinaciones,
sesgos en los datos de entrenamiento,
respuesta condicionada por la calidad del
p r o m p t ³ , o p a c i d a d d e d ete r m i n a d o s
algoritmos, ...), comprobando, con fuentes
fiables, la validez técnica y é ca de todas las
producciones, así como referenciando
adecuadamente su uso, sin olvidar que «los
resultados generados por estas herramientas
pueden incluir ideas de terceros sin que
aparezcan convenientemente citadas y
referenciadas, lo cual podría cons tuir una
forma de plagio» (p. 15).
3 Prompt꞉ instrucción, pregunta o, en general, cualquier texto que se
u lice para interactuar con sistemas de IA, a modo de pe ción para
realizar una tarea concreta. 16
17
5. ¿CÓMO PUEDE MEJORAR
LA IA LA EDUCIÓN?
A lo largo de las úl mas décadas hemos Así, tanto el papel del profesorado como el del
presenciado cómo la inclusión del uso de las alumnado han ido cambiando, desde un rol
tecnologías digitales como recursos para la inicial centrado en el consumo de contenidos
enseñanza y el aprendizaje ha ido pasando por (descarga de documentos, visualización de
diferentes funcionalidades, desde la mejora vídeos, realización de cues onarios, ...), hasta
de procesos de ges ón y organización docente otro mucho más amplio que contempla todos
ya existentes, como la elaboración los usos de las tecnologías que describen tanto
automa zada de horarios escolares o el la Competencia Digital Docente como la
diseño y evaluación de cues onarios de Competencia Digital del alumnado en sus
opción múl ple; hasta el enriquecimiento de diferentes áreas, incluyendo la creación de
prác cas pedagógicas, como la edición toda una miríada de artefactos digitales,
colabora va de documentos en línea, el uso destacando algoritmos y programas, que
educa vo de foros dentro de plataformas automa zan la solución de un problema de
virtuales o la implementación de interés.
metodologías ac vas, técnicas o estrategias
metodológicas como el aula inver da (Flipped
Classroom).
18
Con la irrupción de la Inteligencia Ar ficial Los agentes educa vos deben ser conscientes
Genera va (IAG) y con la democra zación de y preguntarse si los sistemas de IA que u lizan
su acceso, el panorama actual se caracteriza son fiables, justos, seguros y dignos de
por un aumento exponencial de posibilidades. confianza, y si la ges ón de los datos
educa vos es segura, protege la privacidad de
En este sen do, el uso de sistemas de IA las personas y se u liza para el bien común
puede mejorar la enseñanza, el aprendizaje y (European Commission. Directorate General
la evaluación, ofrecer mejores resultados del for Educa on, Youth, Sport and Culture, 2022,
aprendizaje y ayudar a los centros educa vos a p. 11).
funcionar de manera más eficiente. Sin
embargo, si esas mismas aplicaciones de IA se
u lizan de forma negligente o no se diseñan de
manera adecuada, ello podría dar lugar a
consecuencias perjudiciales.
19
5.1 APLICION DE
LA IA EN LA ENSEÑANZA
A lo largo de los próximos años, tal y como ha A con nuación se presenta una muestra
ocurrido anteriormente con otras tecnologías, orienta va de algunos de esos escenarios
la IA se irá incorporando progresivamente a los (INTEF, 2023; European Commission.
dis ntos ámbitos de la enseñanza. No Directorate General for Educa on, Youth,
obstante, tal y como advierte la Comisión Sport and Culture, 2022, p 14‑16; Hernando‑
Europea, debemos adoptar una IA fiable, es Calvo et al., 2022, p 25‑29; De Haro Olle, 2023;
decir, con supervisión humana, transparente, López‑Mar n&Mar n‑Gu érrez, 2023, p. 9‑
carente de sesgos, accesible, segura, 12)꞉
auditable, precisa, respetuosa con el
medioambiente y que respete la privacidad y
gobernanza de datos (p. 18). Por tanto, se trata
de un camino no carente de riesgos que
deberá recorrerse con una importante dosis
de responsabilidad en cada uno de los
escenarios de aplicación.
20
Fig. Retrato. Midjourney (2024) www.midjourney.com
CENARIO DCRIPCIÓN CONSIDACION
TÉCNIS Y ÉTIS
MÍNIM
Personalización del Sistema que, a par r de las preferencias, el Supervisión que garan ce la
aprendizaje progreso y las necesidades del alumnado, ausencia de sesgos, la corrección
ajusta la secuencia de ac vidades y de las decisiones y la adecuada
contenidos. privacidad de los datos.
21
Estos cambios requieren la capacitación del profesorado para el desarrollo de las competencias
según el Marco de Referencia de la Competencia Digital Docente (Resolución de 4 de mayo de
2022, de la Dirección General de Evaluación y Cooperación Territorial).
En esta línea, el European Digital Educa on Hub, 2023, en su informe “Competencias Docentes”,
dis ngue y enumera los aspectos más relevantes sobre enseñar para la IA, enseñar con la IA y
enseñar sobre la IA, elementos clave ante la inclusión de estas tecnologías en educación꞉
22
5.2 APLICION DE
LA IA EN EL APRENDIZAJE
El abordaje de la IA en educación no solo debe En esa línea, la inicia va AI for K‑12 del
centrarse en la automa zación de tareas Interna onal Society for Technology in
administra vas, la personalización del Educa on (ISTE) propone un marco para el
aprendizaje y la mejora de los procesos de aprendizaje de la IA a par r de cinco grandes
evaluación, sino que el alumnado debe ideas: cómo percibir el entorno a través de
entender las posibilidades y limitaciones de la sensores (percepción), cómo representar el
IA para asegurar que se transformen en conocimiento y realizar inferencias a par r del
usuarios y usuarias conscientes e incluso en mismo (representación y razonamiento),
creadores y creadoras de estas poderosas cómo aprender a par r de grandes can dades
herramientas (ISTE, & General Motors. 2024, de datos (aprendizaje), cómo establecer
p. 6). Así, formarse en IA no solo implicará interfaces adecuadas entre humanos y
comprender cómo funcionan, en nuestra vida sistemas de IA (interacción natural) y cómo
co diana, las aplicaciones que la u lizan y lograr una integración adecuada de esta
cómo hacer un uso seguro y é co de éstas, tecnología en la sociedad (impacto social);
sino también enseñar al alumnado a proporcionando además diversas guías con
d e s a r ro l l a r s o l u c i o n e s q u e i n te g re n propuestas de trabajo en el aula (ISTE, &
Pensamiento Computacional e IA (INTEF, General Motors, 2024, p. 9):
2023, p. 39).
23
A con nuación se muestran algunos escenarios posibles de aplicación (INTEF, 2023; European
Commission. Directorate General for Educa on, Youth, Sport and Culture, 2022, p 14‑16;
Hernando‑Calvo et al., 2022, p 25‑29; De Haro Olle, 2023; López‑Mar n&Mar n‑Gu érrez, 2023,
p. 9‑12)꞉
24
5.3 USO DE LA IA EN LOS PROCOS
COGNITIVOS IMPLIDOS EN LA ENSEÑANZA
Y EL APRENDIZAJE
25
NIVEL DE DCRIPCIÓN DCRIPCIÓN EJEMPLOS CON IA
HABILIDAD APLIDA A LA
COGNITIVA IA
Proceso de aprendizaje: el
alumnado u liza herramientas
de IA, estadís ca y
pensamiento computacional
para analizar grandes conjuntos
de datos.
26
NIVEL DE DCRIPCIÓN DCRIPCIÓN EJEMPLOS CON IA
HABILIDAD APLIDA A LA
COGNITIVA IA
27
28
6. RECOMENDACION PARA LA
IMPMENCIÓN DE LA IA EN EL
ENTORNO EDUTIVO
29
Derechos de autoría y referencias꞉ Integración en el Plan Digital de
Derechos de autoría꞉ el profesorado Centro꞉
deberá explicar las implicaciones en Se debe recoger el uso de la
materia de derechos de autoría herramienta de IA en el Plan Digital
derivadas del uso de la herramienta de de Centro.
IA.
Referencias꞉ el alumnado deberá
referenciar adecuadamente, en los
productos de la tarea, tanto el
contenido generado por la herramienta
de IA empleada como el resto de
fuentes consultadas.
30
Fig. Retrato. Midjourney (2024) www.midjourney.com
31
7. BIBLIOGRAFÍA
Adell Segura, J., & Castañeda Quintero, L. J. (2012). Tecnologías emergentes, ¿pedagogías
emergentes? Tendencias emergentes en educación con TIC, 13‑33.
h ps꞉//ciberespiral.org/tendencias/Tendencias_emergentes_en_educacin_con_TIC.pdf
Área de Tecnología Educativa. (2021). Plan para la educación digital de Canarias en el siglo
XXI. h ps꞉//www3.gobiernodecanarias.org/medusa/ecoescuela/ate/2020/12/04/plan‑
para‑la‑educacion‑digital‑de‑canarias‑en‑el‑siglo‑xxi/
Charisi, V., Chaudron, S., Di Gioia, R., Vuorikari, R., Escobar‑Planas, M., Sanchez, I., &
Gomez, E. (2022). Artificial intelligence and the rights of the child꞉ Towards an integrated
agenda for research and policy. Publications Office of the European Union.
h ps꞉//publica ons.jrc.ec.europa.eu/repository/handle/JRC127564
32
Dirección General de Redes de Comunicación, C. y T. (Comisión E., & Grupo de expertos de
alto nivel sobre inteligencia artificial. (2019). Directrices éticas para una IA fiable. Oficina
de Publicaciones de la Unión Europea. h ps꞉//data.europa.eu/doi/10.2759/14078
European Commission. Directorate General for Education, Youth, Sport and Culture. (2022).
Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y
formación para los educadores. Publications Office.
h ps꞉//data.europa.eu/doi/10.2766/898
European Commission. Joint Research Centre. (2018). The impact of Artificial Intelligence on
learning, teaching, and education. Publications Office.
h ps꞉//data.europa.eu/doi/10.2760/12297
European Digital Education Hub. (2023). Teachers' competences꞉ Briefing report No. 1 by the
European Digital Education Hub's squad on artificial intelligence in education.
h ps꞉//www.ai4t.eu/teachers‑competences‑briefing‑report‑no‑1/
Hernando Calvo, A., Martínez, H., & Gardó Huerta, H. (2022). ¿Por qué IA en educación? Los
algoritmos a examen. Fundació Jaume Bofill.
h ps꞉//fundaciobofill.cat/es/publicaciones/los‑algoritmos‑a‑examen
Holmes, W., Persson, J., Chounta, I.‑A., Wasson, B., & Dimitrova, V. (2022). Artificial
intelligence and education꞉ A critical view through the lens of human rights, democracy and
the rule of law. Council of Europe. h ps꞉//rm.coe.int/ar ficial‑intelligence‑and‑educa on‑
a‑cri cal‑view‑through‑the‑lens/1680a886bd
ISTE, & General Motors. (2024). Proyectos prácticos de IA para el aula. h ps꞉//iste.org/ai
Ley Orgánica 3/2020, de 29 de diciembre, por la que se modifica la Ley Orgánica 2/2006, de 3
de mayo, de Educación. h ps꞉//www.boe.es/eli/es/lo/2020/12/29/3
33
Ley Orgánica 8/2021, de 4 de junio, de protección integral a la infancia y la adolescencia frente
a la violencia. h ps꞉//www.boe.es/eli/es/lo/2021/06/04/8
López‑Martín, E., & Martín‑Gutiérrez, S. (2023). Guía para integrar las tecnologías basadas
en inteligencia artificial generativa en los procesos de enseñanza y aprendizaje. UNED.
h ps꞉//www.uned.es/universidad/inicio/ins tucional/areas‑
direccion/vicerrectorados/innovacion/iaeduca va.html
Manyika, J., Silberg, J., & Presten, B. (2019, octubre 25). ¿Qué hacemos con los sesgos de la
IA? Harvard Business Review. h ps꞉//hbr.org/2019/10/what‑do‑we‑do‑about‑the‑biases‑
in‑ai
Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen
normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se
modifican determinados actos legislativos de la Unión (2021). h ps꞉//eur‑
lex.europa.eu/legal‑content/ES/TXT/?uri=CELEX꞉52021PC0206
Real Decreto 311/2022, de 3 de mayo, por el que se regula el Esquema Nacional de Seguridad.
h ps꞉//www.boe.es/eli/es/rd/2022/05/03/311
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016,
relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos
personales y a la libre circulación de estos datos y por el que se deroga la Directiva
95/46/CE (Reglamento general de protección de datos).
h ps꞉//www.boe.es/buscar/doc.php?id=DOUE‑L‑2016‑80807
34
Secretaría de Estado de Digitalización e Inteligencia Artificial. (2020). Estrategia Nacional de
Inteligencia Artificial. h ps꞉//portal.mineco.gob.es/es‑
es/digitalizacionIA/Paginas/ENIA.aspx
UNESCO. (2019). Examen de las posibilidades que ofrece la inteligencia artificial para
acelerar los avances hacia la consecución del ODS 4‑Educación 2030.
h ps꞉//unesdoc.unesco.org/ark꞉/48223/pf0000367373_spa
UNESCO. (2021). Inteligencia artificial y educación꞉ Guía para las personas a cargo de
formular políticas. UNESCO. h ps꞉//unesdoc.unesco.org/ark꞉/48223/pf0000379376
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., &
Polosukhin, I. (2023). Attention Is All You Need (arXiv꞉1706.03762). arXiv.
h ps꞉//doi.org/10.48550/arXiv.1706.03762
Verheyen, S. (2021). Informe sobre la inteligencia artificial en los sectores educativo, cultural
y audiovisual. h ps꞉//www.europarl.europa.eu/doceo/document/A‑9‑2021‑0127_ES.html
35
36
8. ANEXO I. LIS DE COTEJO PARA VALIDAR
SI UNA APLICIÓN DE IA AP PARA
EL AULA
37