Inteligencia artificial y escuela: Dilemas, debates y

uso crítico en las aulas bonaerenses

Módulo 2 - IA desde la norma y el uso pedagógico en las

aulas

Introducción 1
Objetivos 2
Contenidos 2
La IA desde una mirada normativa 2
IA y educación 6
Herramientas de IA: primera exploración 7
Uso pedagógico y crítico de herramientas de IA 9
A modo de cierre 12
Licencia Creative Commons 14

Introducción

¡Bienvenidas y bienvenidos al módulo 2! Esperamos que hayan podido zambullirse en

la temática de la Inteligencia Artificial en el módulo 1, en el que nos planteamos una
primera aproximación a qué es la IA y cómo pensarla en y desde la escuela.

En este segundo módulo recuperaremos elementos para reflexionar sobre el marco

normativo que en Argentina regula el uso de la IA. Desde ese marco proponemos
pensar en algunos consensos internacionales vinculados a la IA en educación.
Asimismo presentamos algunas herramientas de IA que pueden ser utilizadas en

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 1
 contextos educativos. ¿Cómo hacemos un uso pedagógico y crítico de estas
herramientas? ¿Qué desafíos éticos y pedagógicos nos plantea la IA? Las y los
invitamos a explorar juntas y juntos algunas de estas aplicaciones y poner bajo la lupa
los resultados que nos arrojan los algoritmos.

Objetivos
● Reflexionar sobre el marco normativo argentino que regula el uso de la IA.

● Conocer herramientas que recuperan la tecnología de la IA y nos plantean

interrogantes en nuestra tarea de enseñanza.

● Analizar críticamente el uso de herramientas de IA en las escuelas bonaerenses.

Contenidos
Normas que regulan el uso de la IA: de la UNESCO a la Agencia de Acceso a la
Información Pública. Herramientas de IA: potencialidades y límites. ¿Cómo hacemos
un uso pedagógico y crítico de las herramientas de IA? Los sesgos y la opacidad de los
algoritmos.

La IA desde una mirada normativa

Como trabajamos en el módulo 1, la Inteligencia Artificial no es una novedad, sin

embargo los recientes desarrollos y su popularización en el debate público nacional e
internacional plantearon la necesidad de contar con un marco normativo que regule el
su uso. Si bien es indudable la influencia que tienen hoy los algoritmos en nuestra
vida cotidiana -en la toma de decisiones, en nuestras elecciones y en el abanico de
posibilidades que se abren cuando hacemos un click (ya determinado por los

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 2
 numerosos clicks que hemos hecho antes)-, las leyes y disposiciones en esta materia
son todavía incipientes.

Desde enero de 2023 existe en nuestro país una disposición emitida por la Jefatura
de Gabinete de Ministros que establece un primer marco normativo que regula el uso
de las tecnologías de Inteligencia Artificial. Este marco, que parte de un documento
elaborado por la UNESCO, “Recomendación sobre la Ética de la Inteligencia
Artificial”, al que adhirió la Argentina, sostiene una mirada centrada en las personas,
con perspectiva de género y de derechos humanos, entendiendo que es necesario
“establecer reglas claras para garantizar que las bondades de cualquier desarrollo
tecnológico puedan ser aprovechadas por todos los sectores de la sociedad” 1 y
priorizando la soberanía tecnológica que permita dar respuesta a los problemas
sociales, productivos y medioambientales del país. Esta disposición publicada en el
Boletín Oficial establece en su anexo “recomendaciones para una inteligencia
artificial fiable” detallando algunos principios básicos de regulación, entre ellos, de
seguridad y protección de las personas y el medio ambiente, equidad y no
discriminación, derecho a la intimidad y la protección de datos, responsabilidad final
de las personas y obligación de rendir cuentas y de transparencia y explicabilidad que
permitan “garantizar el respeto, la protección y la promoción de los derechos
humanos, las libertades fundamentales y los principios éticos”,2 esto es, la
oportunidad de solicitar explicaciones e información al responsable de la IA. Asimismo
sostiene este documento, que la IA por sí misma no necesariamente garantiza la
prosperidad de los seres humanos. Un punto a destacar de estos principios es el de la
“sensibilización y educación”: es necesario comprender estas tecnologías así como el
valor de los datos, promover las competencias digitales y la alfabetización y
capacitación en esta materia.

1
“Recomendación sobre la Ética de la Inteligencia Artificial”, Disposición 2/23, Jefatura de Gabinete de
Ministros, Subsecretaría de Tecnologías de la Información, Anexo 1 pág. 2.
2
“Recomendación sobre la Ética de la Inteligencia Artificial”, Disposición 2/23, Jefatura de Gabinete de
Ministros, Subsecretaría de Tecnologías de la Información, Anexo 1 pág. 8.

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 3
 Para pensar

Les compartimos una infografía que destaca algunos puntos del marco normativo
sobre IA en Argentina y en el resto del mundo, en ambos casos en pleno desarrollo.
Las/os invitamos a leer luego la nota completa:

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 4
 Fuente:
https://www.iproup.com/innovacion/41334-inteligencia-artificial-como-se-la-regula-e
n-la-argentina

Como se destaca en la infografía, si hay algo que las herramientas de IA ponen en

evidencia es el problema de los datos. Hace muy poco tiempo, en septiembre de 2023,
se creó en nuestro país mediante la Resolución 161/2023 el “Programa de
Transparencia y Protección de Datos Personales en el uso de la Inteligencia
Artificial”, en el marco de la Agencia de Acceso a la Información Pública. El objetivo
del Programa es “impulsar procesos de análisis, regulación y fortalecimiento de
capacidades estatales necesarias para acompañar el desarrollo y uso de la inteligencia
artificial, tanto en el sector público como en el ámbito privado, garantizando el
efectivo ejercicio de los derechos de la ciudadanía en materia de transparencia y
protección de datos personales”.3

IA y educación

En el año 2019 la UNESCO junto con el gobierno de la República Popular China

organizaron en Beijing una conferencia internacional sobre la inteligencia artificial en
educación, con el título “Planificar la educación en la era de la IA: un paso más hacia
adelante”. A partir de esta conferencia se adoptó el Consenso de Beijing como el
primer documento que ofrece recomendaciones sobre cómo utilizar las tecnologías de
IA en pos de garantizar una educación inclusiva, equitativa y de calidad y promover
oportunidades de aprendizaje durante toda la vida para todas/os.4 Este documento
nos ofrece algunos puntos de partida sobre los que nos interesa profundizar a lo largo
de los módulos: plantea la necesidad de “tener presente que los docentes no
pueden ser desplazados por las máquinas, y velar porque sus derechos y condiciones

3
Resolución 161/2023 del Poder Ejecutivo Nacional. Anexo - Programa de transparencia y protección de
datos personales en el uso de la inteligencia artificial.
4
Se hace referencia aquí al Objetivo de Desarrollo Sostenible 4 de la Agenda 2030 de las Naciones
Unidas.

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 5
 de trabajo estén protegidas” así como también que “el desarrollo y el uso de la
inteligencia artificial en la educación no deben agravar la brecha digital ni
mostrar sesgos contra ningún grupo minoritario o vulnerable”,5 haciendo especial
énfasis en la necesidad de que estén libres de sesgos de género. Se plantea aquí por
ejemplo que la brecha de género en cuanto a las competencias digitales es una
de las causas de la baja proporción de mujeres entre los profesionales de la
inteligencia artificial, que reproduce a su vez las desigualdades de género existentes.
En uno de los artículos de la Agencia de noticias Télam, propuesto en el módulo 1, se
explica cómo los algoritmos reproducen la discriminación de género: Cómo la
inteligencia artificial reproduce la discriminación de género (telam.com.ar)
Como comenzamos a problematizar en el módulo anterior, y seguiremos trabajando a
lo largo del curso, las aplicaciones de inteligencia artificial reproducen los sesgos que
tienen los datos a partir de los cuales fueron entrenadas, por eso la necesidad de
formarnos y construir un posicionamiento crítico. ¿Cómo irrumpen estas tecnologías
en nuestras escuelas? ¿En qué sentido nos interpelan en nuestra tarea educativa?
¿Qué intervenciones podemos realizar en y desde la escuela?

Herramientas de IA: primera exploración

La creación de ChatGPT, como una de las herramientas de IA más difundidas hoy,

genera diversos interrogantes respecto a sus potencialidades y límites en el ámbito
educativo. ¿Qué impacto podría tener en la tarea docente? ¿Y en los procesos de
aprendizaje de las y los estudiantes?

5
“Consenso de Beijing sobre la inteligencia artificial y la educación” (2023) Perfiles Educativos, vol. X
LV, núm. 180. Págs 178 y 180.

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 6
 Para visitar

Existen distintas herramientas de IA que pueden pueden ser utilizadas en contextos

educativos. En su artículo sobre la aplicación de la inteligencia artificial en
educación, Alcira Vallejo y Alejandro Gonzalez (2023) nos traen algunos ejemplos
que plasmamos en la siguiente infografía:

.
Disponible aquí

Guía fácil para evaluar apps y recursos con IA

¿Qué potencialidades para la enseñanza tienen estas herramientas de IA? ¿Qué

límites, obstáculos o dificultades presentan?

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 7
 A continuación les compartimos una guía elaborada por la organización chicos.net
que plantea algunas preguntas para interpelar las app de IA que nos interesa utilizar
o que ya conocemos. Las preguntas se organizan en tres categorías que permiten
evaluar la seguridad y privacidad de nuestros datos, su potencialidad pedagógica y
sus características (idioma, acceso, etc.).

Accedé a la guía aquí

Vallejos y Gonzalez (2023) destacan a la par que las potencialidades de estas

herramientas, sus problemas para los procesos de enseñanza y aprendizaje como, por
ejemplo, la reproducción de las desigualdades que ya existen en el sistema educativo
en relación al acceso y uso de las nuevas tecnologías.

Uso pedagógico y crítico de herramientas de IA

En nuestra tarea como educadoras y educadores es importante trabajar sobre la

evaluación crítica de la información “que nos llega”. ¿Quién construye esa información
y para qué? ¿qué nos devuelven los algoritmos? ¿quiénes y con qué sentidos se

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 8
 entrenan las herramientas de IA? ¿qué pasa con nuestros datos personales y con las
huellas digitales que vamos dejando con cada clic o like?

Sebastián Novomisky, Director de Capacitación y Promoción de la Defensoría del

Público, en una conferencia titulada “Desafíos para la comunicación y la educación en
tiempos de algoritmos e Inteligencia Artificial” nos propone reflexionar sobre los
desafíos éticos, filosóficos, pedagógicos y de seguridad que nos plantea la IA y que
impactan en la educación. Les proponemos escucharlo:

Para ver

Ciclo de charlas “Inteligencia Artificial y Educación Superior” de la Facultad

de Periodismo y Comunicación Social de la UNLP

https://www.youtube.com/watch?v=f7R9pHsj3Sw (1 hora 21’ a 1 hora 29’)

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 9
 En síntesis, Novomisky nos invita a problematizar las imágenes, textos y recursos
creados por herramientas de IA que parecen verdaderos pero no necesariamente lo
son. Necesitamos verificar la información, no podemos recuperar tal cual lo que nos
devuelven las herramientas de IA, necesitamos evaluar si lo que generó el algoritmo
es o no correcto y problematizar sus posibles sesgos. La propuesta, entonces, es
comenzar a “entrenar” nuestra mirada.

Estereotipos en Inteligencia Artificial

Como comenzamos a trabajar en el Módulo 1 cuando hablamos de sesgos en IA nos

referimos a errores sistemáticos que discriminan a un grupo de personas. En el
seminario titulado “Estereotipos en Inteligencia Artificial” realizado en FLACSO
Argentina en 2022, Luciana Benotti identifica dos tipos de sesgos, uno preexistente,
que refiere a estereotipos ligados a prácticas y actitudes que ya existen, y un
segundo, que llama sesgo emergente, en tanto utiliza datos de una cultura para
aplicarla a otra, trasladando sus estereotipos en un contexto distinto al de
entrenamiento de la IA. Les proponemos escuchar un fragmento de su exposición,
en el que nos trae como ejemplo de estos sesgos, el recorte de imágenes de Twitter
(hoy X): ¿Es aleatorio? ¿Subyace algún criterio en ese recorte?

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 10
 https://www.youtube.com/watch?v=3UauXlMTl4w (Fragmento desde 13:40’’ a
16:50)

Sesgos algorítmicos

Recomendamos este audiovisual corto (4,17 min.) del Centro de Innovación del
Ministerio de Educación de Chile en el que se explica el concepto y las implicancias
de los sesgos en la inteligencia artificial para la vida de las personas.

Capítulo 5: Sesgos algorítmicos en la Inteligencia Artificial - YouTube

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 11
 A modo de cierre

En este segundo módulo recuperamos la incipiente normativa que regula hoy el uso
de las tecnologías de IA en nuestro país. Les propusimos luego explorar algunas
herramientas para pensar su potencial y límites en el contexto educativo. Como
planteamos a lo largo de estas páginas, necesitamos problematizar las respuestas que
nos devuelven los algoritmos, preguntarnos por la manera en que fueron diseñados y
entrenados. Explicitar y poner bajo la lupa los sesgos que traen implícitos, para no
reproducirlos. Es necesario, entonces, seguir ejercitándonos en la pregunta, en la
interrogación de aquello que nos parece evidente. Por ello, en el siguiente módulo las
y los invitaremos a problematizar la construcción de imágenes y textos realizados por
herramientas de IA.

Referencias

“Consenso de Beijing sobre la inteligencia artificial y la educación” (2023) Perfiles

Educativos, vol. X LV, núm. 180. Págs 176-182. Disponible en:
https://perfileseducativos.unam.mx/iisue_pe/index.php/perfiles/article/view/61303/5
3197

Disposición 2/23, Jefatura de Gabinete de Ministros, Subsecretaría de Tecnologías de

la Información, sobre el uso de la Inteligencia Artificial. Disponible en
https://www.boletinoficial.gob.ar/detalleAviso/primera/287679/20230602

Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (2021)

Inteligencia artificial y educación. Guía para las personas a cargo de formular
políticas. París, UNESCO. Disponible en:
https://unesdoc.unesco.org/ark:/48223/pf0000379376

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 12
 Resolución 161/2023 del Poder Ejecutivo Nacional. Anexo - Programa de
transparencia y protección de datos personales en el uso de la inteligencia artificial.
Disponible en:
https://www.boletinoficial.gob.ar/detalleAviso/primera/293363/20230904

Vallejo, Alcira y Gonzalez, Alejandro (2023) “La aplicación de la inteligencia artificial

en educación: una reflexión crítica sobre su potencial transformador”. Disponible en
https://blogs.ead.unlp.edu.ar/boletinaulacavila/2023/02/27/la-aplicacion-de-la-intelig
encia-artificial-en-educacion-una-reflexion-critica-sobre-su-potencial-transformad
or/

Licencia Creative Commons

Autor(es): Equipo de la Dirección de Formación Docente Permanente. Dirección

Provincial de Educación Superior, DGCyE. Provincia de Buenos Aires (2023).

Esta obra está bajo una licencia Creative Commons

Atribución-NoComercial-CompartirIgual 3.0

DGCyE DFDP Inteligencia artificial y escuela: Dilemas, debates y uso crítico en las aulas bonaerenses 13