Transcripción de Brigette L.

Domingo
Duración: 35 minutos
[00:00:00.282] - Sam Charrington
Muy bien, todo el mundo. Estoy en línea con Abeba Berhane. Abeba es estudiante de
doctorado en el University College de Dublín. Abeba, bienvenida al podcast de TWIML AI.

[00:00:12.552] - Abeba Berhane

Muchas gracias por recibirme, Sam.

[00:00:15.522] - Sam Charrington

Me entusiasma esta conversación. Tuvimos la oportunidad de conocernos en persona después
de mucho tiempo interactuando por Twitter en la última conferencia NeurIPs, en particular en
el taller Black in AI, donde no sólo presentaste tu ponencia Algorithmic Injustices Toward
Relational Ethics, sino que ganaste el premio a la mejor ponencia. Así que estoy deseando
profundizar en ese y otros temas. Pero antes de eso, me encantaría que nos contara un poco su
experiencia. Y mencionaré para la gente que está oyendo las sirenas de fondo, mientras
mencionaba que eres del University College de Dublín, resulta que ahora estás en Nueva York
en la Conferencia de la A.I.E.S. en asociación con la AAAI. Y como la gente ya sabe, es difícil
evitar las sirenas y las obras en Nueva York. Así que ten en cuenta esos antecedentes. Nuestro
estado de ánimo, estado de ánimo, ambiente, sonidos de fondo así, su fondo.

[00:01:24.982] - Abeba Berhane

Sí, sí.

[00:01:25.942] - Sam Charrington

¿Cómo empezó a trabajar en ética de la IA?

[00:01:28.482] - Abeba Berhane

Mi formación es en ciencia cognitiva y, en particular, en una parte de la ciencia cognitiva
llamada ciencia cognitiva incorporada, que tiene sus raíces en la cibernética y en el
pensamiento sistémico. La idea es centrarse en lo social y lo cultural, en lo histórico, y ver la
cognición en continuidad con el mundo, con los antecedentes históricos y todo eso, en
contraposición a, ya sabes, tu enfoque tradicional de la cognición, que considera la cognición
como algo situado en el cerebro o algo formalizable, algo que se puede calcular. Así que, sí.
Estos son mis antecedentes. Incluso durante mi máster, me incliné hacia el lado de la
Inteligencia Artificial de la ciencia cognitiva. Cuanto más profundizo en el tema, más me atrae el
aspecto ético, las injusticias, las cuestiones sociales. Y así, cuanto más avanza el doctorado, más
me encuentro en el lado de la ética.

[00:02:49.942] - Sam Charrington

¿Hubo algún momento en particular en el que se dio cuenta de que le entusiasmaba la parte
ética, o simplemente fue evolucionando?

[00:02:59.212] - Abeba Berhane

Creo que simplemente evolucionó. Así que cuando empecé, al final de mi máster y al principio
del doctorado, mi idea es que, ya sabes, tenemos esta nueva forma de pensar relativamente
Transcripción de Brigette L. Domingo
Duración: 35 minutos
nueva, que es Embodied CogSci, que me gusta mucho porque enfatiza, ya sabes, las
ambigüedades en el desorden y las contingencias en oposición a, ya sabes, trazar límites
limpios. Así que la idea es, sí, me gusta la idea de redefinir la cognición como algo relacional,
algo inherentemente social, y algo que está continuamente impactado, influenciado por otras
personas y por las tecnologías que utilizamos. Así que me interesaba el aspecto tecnológico. Así
que, inicialmente, la idea es que sí, que la tecnología constituye un aspecto de nuestra
cognición. Tenemos la famosa tesis de 1998 de Andy Clark y Dave Chalmers, la mente
extendida, en la que afirmaban que el iPhone es una extensión de tu mente. Y así puedes
pensarlo. Y yo estaba avanzando en la misma línea de pensamiento. Pero cuanto más
profundizaba en ello, más veía que sí, que la tecnología digital, ya sea, ya sabes, la informática
ubicua, como los sistemas de reconocimiento facial en la calle o tu teléfono, lo que sea. Sí.
Influye en nuestro conocimiento de lo que significa existir en el mundo, y lo moldea y
reconfigura continuamente. Pero lo que cada vez tengo más claro es que no todo el mundo se
ve afectado por igual. Y cuanto más privilegiado eres, más controlas, ya sabes, lo que puede
influirte y lo que puedes evitar. Así que ahí es donde me involucro cada vez más con la ética de
la computación y su impacto en la cognición.

[00:05:23.422] - Sam Charrington

La noción de privilegio es algo que fluye a lo largo del trabajo que presentaste en Black in A.I., el
documento Algorithmic Injustices, y esta idea, esta construcción de ética relacional. ¿Qué es la
ética relacional y qué se pretende con ella?

[00:05:45.202] - Abeba Berhane

Sí, así que la ética relacional no es algo nuevo. Mucha gente ha teorizado sobre ello y ha escrito
al respecto. Pero la forma en que lo enfoco es la forma en que lo utilizo, y supongo que surge
de la frustración de mucha gente que habla de ética, equidad o justicia, y la mayor parte se
reduce a construir una formulación clara de equidad o un cálculo matemático de quién debe
ser incluido y quién debe ser excluido. Qué tipo de datos necesitamos, ese tipo de cosas. Así
que para mí, la ética relacional es una especie de "dejemos eso por un momento y alejémonos
y veamos el panorama más amplio". Y en lugar de utilizar la tecnología para resolver los
problemas que surgieron de la propia tecnología. Así que lo que significa censurar la tecnología,
centrémonos en cambio en las personas que son personas, especialmente las personas que se
ven desproporcionadamente afectadas por, ya sabes, las limitaciones o los problemas que
surgen con el desarrollo y la aplicación de la tecnología. Así que hay una sólida investigación en
se puede cuantificar la equidad o la injusticia algorítmica. Y el patrón es que cuanto más en la
parte inferior del nivel de intersección, que significa que cuanto más lejos de usted está de su
estereotipo de la CEI blanca de género y el dominio más grande de los impactos negativos
sobre usted, ya sea de clasificación o categorización o si está siendo escaneado y llamado por y
por los algoritmos de contratación. O buscando vivienda o algo así. Cuanto más te alejas de esa
categoría estereotipada, ya sabes, del statu quo, más fuerte es el impacto que te produce. Así
que la idea de relacionalidad es algo así como pensar desde esa perspectiva y tomarla como
punto de partida. Así que estos son los grupos o estos son los.