Ingeniería para la Equidad

Escrito por Demma Rodríguez

Editado por Riona MacNamara

En capítulos anteriores, hemos explorado el  contraste entre la programación

como la producción de código que aborda el problema del momento y la
ingeniería de software como la aplicación más amplia de código,
herramientas, políticas y procesos a un problema dinámico y ambiguo que
puede abarcar décadas o incluso vidas. En este capítulo, discutiremos las
responsabilidades únicas de un ingeniero al diseñar productos para una
amplia base de usuarios. Además, evaluamos cómo una organización, al
aceptar la diversidad, puede diseñar sistemas que funcionen para todos y
evitar perpetuar el daño contra nuestros usuarios.
Tan nuevo como es el campo de la ingeniería de software, somos aún más
nuevos en la comprensión del impacto que tiene en las personas
subrepresentadas y las sociedades diversas. No escribimos este capítulo
porque sabemos todas las respuestas. Nosotros no. De hecho, Google está
aprendiendo a comprender cómo diseñar productos que empoderen y
respeten a todos nuestros usuarios. Hemos tenido muchas fallas públicas en
la protección de nuestros usuarios más vulnerables, por lo que escribimos
este capítulo porque el camino hacia productos más equitativos comienza
con la evaluación de nuestras propias fallas y el fomento del crecimiento.
También estamos escribiendo este capítulo debido al creciente desequilibrio
de poder entre aquellos que toman decisiones de desarrollo que impactan al
mundo y aquellos que simplemente deben aceptar y vivir con esas decisiones
que a veces ponen en desventaja a comunidades ya marginadas a nivel
mundial. Es importante compartir y reflexionar sobre lo que hemos aprendido
hasta ahora con la próxima generación de ingenieros de software. Es aún
más importante que ayudemos a influir en la próxima generación de
ingenieros para que sean mejores de lo que somos hoy.
El simple hecho de leer este libro significa que probablemente aspire a ser un
ingeniero excepcional. Quiere resolver problemas. Aspira a crear productos
que generen resultados positivos para la base más amplia de personas,
incluidas las personas a las que es más difícil llegar. Para hacer esto, deberá
considerar cómo se aprovecharán las herramientas que construya para
cambiar la trayectoria de la humanidad, con suerte para mejor.

El sesgo es el predeterminado
Cuando los ingenieros no se enfocan en usuarios de diferentes
nacionalidades, etnias, razas, géneros, edades, niveles socioeconómicos,
habilidades y sistemas de creencias, incluso el personal más talentoso fallará
inadvertidamente a sus usuarios. Tales fallas a menudo no son intencionales;
todas las personas tienen ciertos prejuicios, y los científicos sociales han
reconocido durante las últimas décadas que la mayoría de las personas
exhiben prejuicios inconscientes, que refuerzan y promulgan los estereotipos
existentes. El sesgo inconsciente es insidioso y, a menudo, más difícil de
mitigar que los actos intencionales de exclusión. Incluso cuando queremos
hacer lo correcto, es posible que no reconozcamos nuestros propios
prejuicios. De la misma manera, nuestras organizaciones también deben
reconocer que tal sesgo existe y trabajar para abordarlo en sus fuerzas
laborales, desarrollo de productos y alcance de usuarios.  

Debido al sesgo, Google a veces no ha logrado representar a los usuarios de

manera equitativa dentro de sus productos, con lanzamientos en los últimos
años que no se enfocaron lo suficiente en grupos subrepresentados. Muchos
usuarios atribuyen nuestra falta de conocimiento en estos casos al hecho de
que nuestra población de ingenieros es mayoritariamente masculina,
mayoritariamente blanca o asiática, y ciertamente no es representativa de
todas las comunidades que utilizan nuestros productos. La falta de
representación de dichos usuarios en nuestra fuerza laboral 1 significa que a
menudo no tenemos la diversidad necesaria para comprender cómo el uso de
nuestros productos puede afectar a los usuarios vulnerables o
subrepresentados.

ESTUDIO DE CASO: GOOGLE PIERDE LA MARCA EN LA

INCLUSIÓN RACIAL
En 2015, el ingeniero de software Jacky Alciné señaló 2 que los algoritmos
de reconocimiento de imágenes  de  Google Photos clasificaban a sus
 amigos negros como “gorilas”. Google fue lento en responder a estos
errores e incompleto al abordarlos.
¿Qué causó un fracaso tan monumental? Varias cosas:

Los algoritmos de reconocimiento de imágenes dependen de que se

les suministre un conjunto de datos "adecuado" (que a menudo
significa "completo"). Los datos de la foto introducidos en el algoritmo
de reconocimiento de imágenes de Google estaban claramente
incompletos. En resumen, los datos no representaban a la población.
Google mismo (y la industria tecnológica en general) no tenía (y no
tiene) mucha representación negra, 3 y eso afecta las decisiones
subjetivas en el diseño de dichos algoritmos y la recopilación de
dichos conjuntos de datos. El sesgo inconsciente de la propia
organización probablemente condujo a que se dejara sobre la mesa
un producto más representativo.
El mercado objetivo de Google para el reconocimiento de imágenes
no incluía adecuadamente a estos grupos subrepresentados. Las
pruebas de Google no detectaron estos errores; como resultado,
nuestros usuarios lo hicieron, lo que avergonzó a Google y perjudicó a
nuestros usuarios.

Todavía en 2018, Google aún no había abordado adecuadamente el

problema subyacente. 4
En este ejemplo, nuestro producto se diseñó y ejecutó de manera inadecuada,
al no considerar adecuadamente a todos los grupos raciales y, como
resultado, falló a nuestros usuarios y causó mala prensa a Google. Otra
tecnología sufre fallas similares: el autocompletado puede arrojar resultados
ofensivos o racistas. El sistema de anuncios de Google podría manipularse
para mostrar anuncios racistas u ofensivos. Es posible que YouTube no capte
el discurso de odio, aunque técnicamente está prohibido en esa plataforma.
En todos estos casos, la tecnología en sí no es realmente la culpable.
Autocompletar, por ejemplo, no fue diseñado para dirigirse a los usuarios o
para discriminar. Pero tampoco fue lo suficientemente resistente en su diseño
para excluir el lenguaje discriminatorio que se considera discurso de odio.
Como resultado, el algoritmo arrojó resultados que causaron daño a nuestros
usuarios. El daño a Google también debería ser obvio: reducción de la
confianza del usuario y del compromiso con la empresa. Por ejemplo, los
solicitantes negros, latinos y judíos podrían perder la fe en Google como
plataforma o incluso como un entorno inclusivo en sí mismo, lo que socavaría
el objetivo de Google de mejorar la representación en la contratación.
¿Cómo pudo pasar esto? Después de todo, Google contrata a tecnólogos con
una educación impecable y/o experiencia profesional: programadores
excepcionales que escriben el mejor código y prueban su trabajo. "Construir
para todos" es una declaración de marca de Google, pero la verdad es que
todavía tenemos un largo camino por recorrer antes de poder afirmar que lo
hacemos. Una forma de abordar estos problemas es ayudar a la propia
organización de ingeniería de software a parecerse a las poblaciones para las
que construimos productos.

Entender la necesidad de la diversidad

En Google,  creemos que ser un ingeniero excepcional  requiere que también
se concentre en incorporar diversas perspectivas al diseño y la
implementación de productos. También significa que los Googlers
responsables de contratar o entrevistar a otros ingenieros deben contribuir a
crear una fuerza laboral más representativa. Por ejemplo, si entrevista a otros
ingenieros para puestos en su empresa, es importante saber cómo se
producen los resultados sesgados en la contratación. Existen prerrequisitos
significativos para entender cómo anticipar el daño y prevenirlo. Para llegar al
punto en que podamos construir para todos, primero debemos comprender a
nuestras poblaciones representativas. Necesitamos alentar a los ingenieros a
tener un alcance más amplio de capacitación educativa. 
La primera orden del día es desbaratar la noción de que, como persona con
un título en informática y/o experiencia laboral, tienes todas las habilidades
que necesitas para convertirte en un ingeniero excepcional. Un título en
informática es a menudo una base necesaria. Sin embargo, el título por sí
solo (incluso cuando se combina con la experiencia laboral) no lo convertirá
en ingeniero. También es importante desbaratar la idea de que solo las
personas con títulos en informática pueden diseñar y construir productos.
Hoy en día, la mayoría de los programadores tienen un título en informática ;
tienen éxito en la construcción de códigos, el establecimiento de teorías de
cambio y la aplicación de metodologías para la resolución de problemas. Sin
embargo, como demuestran los ejemplos antes mencionados, este enfoque
es insuficiente para una ingeniería inclusiva y equitativa .
Los ingenieros deben comenzar por enfocar todo el trabajo dentro del marco
del ecosistema completo en el que buscan influir.  Como mínimo, necesitan
comprender la demografía de la población de sus usuarios. Los ingenieros
deben centrarse en las personas que son diferentes a ellos, especialmente las
personas que podrían intentar usar sus productos para causar daño. Los
usuarios más difíciles de considerar son aquellos que se ven privados de sus
derechos por los procesos y el entorno en el que acceden a la tecnología.
Para abordar este desafío, los equipos de ingeniería deben ser
representativos de sus usuarios actuales y futuros. En ausencia de una
representación diversa en los equipos de ingeniería, los ingenieros
individuales deben aprender a construir para todos los usuarios.

Creación de capacidad multicultural

Una marca de un ingeniero excepcional es la capacidad de comprender cómo
los productos pueden beneficiar y perjudicar a diferentes  grupos de seres
humanos.  Se espera que los ingenieros tengan aptitud técnica, pero también
deben tener el discernimiento para saber cuándo construir algo y cuándo no.
El discernimiento incluye desarrollar la capacidad para identificar y rechazar
características o productos que generan resultados adversos. Este es un
objetivo elevado y difícil, porque hay una enorme cantidad de individualismo
que implica ser un ingeniero de alto rendimiento. Sin embargo, para tener
éxito, debemos extender nuestro enfoque más allá de nuestras propias
comunidades a los próximos mil millones de usuarios oa los usuarios
actuales que podrían verse privados de sus derechos o dejados atrás por
nuestros productos.
Con el tiempo, puede crear herramientas que miles de millones de personas
usan a diario: herramientas que influyen en la forma en que las personas
piensan sobre el valor de las vidas humanas, herramientas que monitorean la
actividad humana y herramientas que capturan y conservan datos
confidenciales, como imágenes de sus hijos y seres queridos. así como otro
tipo de datos sensibles. Como ingeniero, es posible que ejerza más poder del
que cree: el poder de cambiar literalmente la sociedad. Es fundamental que
en su viaje para convertirse en un ingeniero excepcional, comprenda la
responsabilidad innata necesaria para ejercer el poder sin causar daño. El
primer paso es reconocer el estado predeterminado de su sesgo causado por
muchos factores sociales y educativos. Una vez que reconozca esto, podrá
considerar los casos de uso a menudo olvidados o los usuarios que pueden
beneficiarse o verse perjudicados por los productos que crea.
La industria continúa avanzando, creando nuevos casos de uso para la
inteligencia artificial (IA) y el aprendizaje automático a una velocidad cada vez
mayor. Para seguir siendo competitivos, nos dirigimos hacia la escala y la
eficacia en la creación de una fuerza laboral de ingeniería y tecnología de gran
talento. Sin embargo, debemos hacer una pausa y considerar el hecho de que
hoy en día, algunas personas tienen la capacidad de diseñar el futuro de la
tecnología y otras no. Necesitamos entender si los sistemas de software que
construimos eliminarán el potencial de que poblaciones enteras
experimenten una prosperidad compartida y brinden igualdad de acceso a la
tecnología.
Históricamente, las empresas que se enfrentan a una decisión entre
completar un objetivo estratégico que impulsa el dominio del mercado y los
ingresos y uno que potencialmente ralentiza el impulso hacia ese objetivo,
han optado por la velocidad y el valor para los accionistas. Esta tendencia se
ve exacerbada por el hecho de que muchas empresas valoran el desempeño
y la excelencia individuales, pero a menudo no logran impulsar de manera
efectiva la responsabilidad sobre la equidad del producto en todas las áreas.
Centrarse en los usuarios subrepresentados es una clara oportunidad para
promover la equidad. Para seguir siendo competitivos en el sector de la
tecnología, debemos aprender a diseñar para la equidad global.
Hoy en día, nos preocupamos cuando las empresas diseñan tecnología para
escanear, capturar e identificar a las personas que caminan por la calle. Nos
preocupa la privacidad y cómo los gobiernos podrían usar esta información
ahora y en el futuro. Sin embargo, la mayoría de los tecnólogos no tienen la
perspectiva necesaria de los grupos subrepresentados para comprender el
impacto de la variación racial en el reconocimiento facial o para comprender
cómo la aplicación de IA puede generar resultados dañinos e inexactos.
Actualmente, el software de reconocimiento facial impulsado por IA continúa
perjudicando a las personas de color o minorías étnicas.  Nuestra
investigación no es lo suficientemente exhaustiva y no incluye una gama lo
suficientemente amplia de diferentes tonos de piel. No podemos esperar que
el resultado sea válido si tanto los datos de capacitación como los que crean
el software representan solo una pequeña subsección de personas. En esos
casos, deberíamos estar dispuestos a retrasar el desarrollo para tratar de
obtener datos más completos y precisos, y un producto más completo e
inclusivo.
Sin embargo, la ciencia de datos en sí misma es un desafío para que los
humanos la evalúen.  Incluso cuando tenemos representación, un conjunto de
entrenamiento aún puede estar sesgado y producir resultados no válidos. Un
estudio completado en  2016 encontró que más de 117 millones de adultos
estadounidenses están en una base de datos de reconocimiento facial de las
fuerzas del orden. 5Debido a la vigilancia policial desproporcionada de las
comunidades negras y los resultados dispares en los arrestos, podría haber
tasas de error sesgadas racialmente al utilizar dicha base de datos en el
reconocimiento facial. Aunque el software se está desarrollando y
desplegando a un ritmo cada vez mayor, las pruebas independientes no lo
están. Para corregir este paso en falso atroz, debemos tener la integridad
para reducir la velocidad y asegurarnos de que nuestras entradas contengan
la menor parcialidad posible. Google ahora ofrece capacitación estadística en
el contexto de la IA para ayudar a garantizar que los conjuntos de datos no
estén intrínsecamente sesgados.
Por lo tanto, cambiar el enfoque de  su experiencia en la industria para incluir
una educación más integral, multicultural, racial y de estudios de género no es
solo su responsabilidad, sino también la responsabilidad de su empleador. Las
empresas tecnológicas deben asegurarse de que sus empleados estén
recibiendo un desarrollo profesional continuo y que este desarrollo sea
integral y multidisciplinar. El requisito no es que un individuo se encargue de
aprender sobre otras culturas u otros datos demográficos por sí solo. El
cambio requiere que cada uno de nosotros, individualmente o como líderes
de equipos, invierta en un desarrollo profesional continuo que construya no
solo nuestras habilidades de liderazgo y desarrollo de software, sino también
nuestra capacidad para comprender las diversas experiencias a lo largo de la
humanidad.  

Hacer que la diversidad sea accionable

La equidad y la justicia sistémicas son alcanzables si estamos dispuestos a
aceptar que todos somos responsables de los  cambios sistémicos
. discriminación que vemos en el sector tecnológico. Somos responsables de
las fallas en el sistema. Aplazar o abstraerse de la responsabilidad personal
es ineficaz y, dependiendo de su función, podría ser irresponsable. También
es irresponsable atribuir completamente la dinámica en su empresa
específica o dentro de su equipo a los problemas sociales más amplios que
contribuyen a la inequidad. Una línea favorita entre los defensores y
detractores de la diversidad es algo así: “Estamos trabajando arduamente
para solucionarlo (inserte el tema de la discriminación sistémica), pero la
rendición de cuentas es difícil. ¿Cómo combatimos (inserte cientos de años)
de discriminación histórica?” Esta línea de investigación es un desvío hacia
una conversación más filosófica o académica y se aleja de los esfuerzos
enfocados en mejorar las condiciones laborales o los resultados. Parte del
desarrollo de la capacidad multicultural requiere una comprensión más
integral de cómo los sistemas de desigualdad en la sociedad impactan en el
lugar de trabajo, especialmente en el sector de la tecnología.
Si usted es un gerente de ingeniería que trabaja para contratar a más
personas de grupos subrepresentados, considerar el impacto histórico de la
discriminación en el mundo es un ejercicio académico útil. Sin embargo, es
fundamental ir más allá de la conversación académica y centrarse en los
pasos cuantificables y procesables que puede tomar para impulsar la equidad
y la justicia. Por ejemplo, como gerente de contratación de ingenieros de
software, usted es responsable de garantizar que sus listas de candidatos
estén equilibradas. ¿Hay mujeres u otros grupos subrepresentados en el
conjunto de revisiones de candidatos? Después de contratar a alguien, ¿qué
oportunidades de crecimiento ha brindado? ¿La distribución de
oportunidades es equitativa? Cada líder de tecnología o gerente de ingeniería
de software tiene los medios para aumentar la equidad en sus equipos. Es
importante que reconozcamos que, aunque existen importantes desafíos
sistémicos, todos somos parte del sistema. Es nuestro problema arreglar.

Rechazar enfoques singulares

No podemos perpetuar soluciones que presenten una sola filosofía o
metodología para corregir la inequidad en el sector tecnológico.  Nuestros
problemas son complejos y multifactoriales. Por lo tanto, debemos
interrumpir los enfoques singulares para promover la representación en el
lugar de trabajo, incluso si son promovidos por personas que admiramos o
que tienen poder institucional.
Una narrativa singular apreciada en la industria de la tecnología es que la falta
de representación en la fuerza laboral puede abordarse únicamente
arreglando los conductos de contratación. Sí, ese es un paso fundamental,
pero ese no es el problema inmediato que debemos solucionar. Necesitamos
reconocer la inequidad sistémica en la progresión y la retención y, al mismo
tiempo, centrarnos en disparidades educativas y de contratación más
representativas entre líneas de raza, género y estatus socioeconómico y
migratorio, por ejemplo.
En la industria de la tecnología, muchas personas de grupos
subrepresentados son pasadas por alto diariamente en busca de
oportunidades y avances. La deserción entre los empleados negros+ de
Google supera la deserción de todos los demás grupos y confunde el
progreso en los objetivos de representación. Si queremos impulsar el cambio
y aumentar la representación, debemos evaluar si estamos creando un
ecosistema en el que todos los aspirantes a ingenieros y otros profesionales
de la tecnología puedan prosperar.
Comprender completamente un espacio problemático completo es
fundamental para determinar cómo solucionarlo. Esto es válido para todo,
desde una migración de datos críticos hasta la contratación de una fuerza
laboral representativa. Por ejemplo, si usted es un gerente de ingeniería que
quiere contratar a más mujeres, no se concentre solo en construir una
tubería. Concéntrese en otros aspectos del ecosistema de contratación,
retención y progresión y qué tan inclusivo podría ser o no para las mujeres.
Considere si sus reclutadores están demostrando la capacidad de identificar
candidatos fuertes que sean tanto mujeres como hombres. Si administra un
equipo de ingeniería diverso, concéntrese en la seguridad psicológica e
invierta en aumentar la capacidad multicultural en el equipo para que los
nuevos miembros se sientan bienvenidos.
Una metodología común hoy en día es construir primero para el caso de uso
mayoritario, dejando las mejoras y características que abordan los casos
extremos para más adelante. Pero este enfoque es defectuoso; les da a los
usuarios que ya tienen ventaja en el acceso a la tecnología una ventaja, lo que
aumenta la inequidad.  Relegar la consideración de todos los grupos de
usuarios hasta el punto en que el diseño está casi terminado es bajar el listón
de lo que significa ser un excelente ingeniero. En cambio, al incorporar un
diseño inclusivo desde el principio y elevar los estándares de desarrollo para
que las herramientas sean agradables y accesibles para las personas que
luchan por acceder a la tecnología, mejoramos la experiencia para todos los
usuarios.
Diseñar para el usuario que menos se parece a usted no solo es sabio, es una
buena práctica. Hay próximos pasos pragmáticos e inmediatos que todos los
tecnólogos, independientemente del dominio, deben considerar al desarrollar
productos que eviten perjudicar o subrepresentar a los usuarios. Comienza
con una investigación más completa de la experiencia del usuario. Esta
investigación debe realizarse con grupos de usuarios que sean multilingües y
multiculturales y que abarquen múltiples países, clases socioeconómicas,
habilidades y rangos de edad. Concéntrese primero en el caso de uso más
difícil o menos representado.

Desafiar Procesos Establecidos

Desafiarse a sí mismo para construir sistemas más equitativos va más allá
de diseñar especificaciones de productos más inclusivas.  La construcción de
sistemas equitativos a veces significa desafiar los procesos establecidos que
conducen a resultados no válidos.
Considere un caso reciente evaluado por implicaciones de equidad. En
Google, varios equipos de ingeniería trabajaron para crear un sistema de
solicitud de contratación global. El sistema admite tanto la contratación
externa como la movilidad interna. Los ingenieros y gerentes de producto
involucrados hicieron un gran trabajo al escuchar las solicitudes de lo que
consideraban que era su grupo principal de usuarios: los reclutadores.  Los
reclutadores se enfocaron en minimizar el tiempo perdido para contratar
gerentes y solicitantes, y le presentaron al equipo de desarrollo casos de uso
enfocados en la escala y la eficiencia para esas personas. Para impulsar la
eficiencia, los reclutadores le pidieron al equipo de ingeniería que incluyera
una función que destacaría las calificaciones de desempeño, específicamente
las calificaciones más bajas, para el gerente de contratación y el reclutador
tan pronto como una transferencia interna expresara interés en un trabajo.
A primera vista, acelerar el proceso de evaluación y ayudar a los solicitantes
de empleo a ahorrar tiempo es un gran objetivo. Entonces, ¿dónde está la
posible preocupación por la equidad? Se plantearon las siguientes cuestiones
de equidad:

¿Son las evaluaciones del desarrollo una medida predictiva del

desempeño?
¿Las evaluaciones de desempeño que se presentan a los gerentes
potenciales están libres de prejuicios individuales?
¿Los puntajes de evaluación del desempeño están estandarizados en
todas las organizaciones?

Si la respuesta a cualquiera de estas preguntas es "no", la presentación de

calificaciones de desempeño aún podría generar resultados no equitativos y,
por lo tanto, no válidos.
Cuando un ingeniero excepcional cuestionó si el rendimiento pasado predecía
el rendimiento futuro, el equipo de revisión decidió realizar una revisión
exhaustiva. Al final, se determinó que los candidatos que habían recibido una
mala calificación de desempeño probablemente superarían la mala
calificación si encontraban un nuevo equipo. De hecho, tenían la misma
probabilidad de recibir una calificación de desempeño satisfactoria o ejemplar
que los candidatos que nunca habían recibido una calificación baja. En
resumen, las calificaciones de desempeño son solo indicativas de cómo se
está desempeñando una persona en su rol determinado en el momento en
que se la evalúa .. Las calificaciones, aunque son una forma importante de
medir el desempeño durante un período específico, no predicen el
desempeño futuro y no deben usarse para medir la preparación para un
puesto futuro o calificar a un candidato interno para un equipo diferente. (Sin
embargo, pueden usarse para evaluar si un empleado está colocado de
manera correcta o incorrecta en su equipo actual; por lo tanto, pueden brindar
la oportunidad de evaluar cómo apoyar mejor a un candidato interno en el
futuro).
Este análisis definitivamente tomó mucho tiempo del proyecto, pero la
compensación positiva fue un proceso de movilidad interna más equitativo.

Valores versus resultados

Google tiene un sólido historial de inversión en contratación.  Como ilustra el
ejemplo anterior, también evaluamos continuamente nuestros procesos para
mejorar la equidad y la inclusión.  En términos más generales, nuestros
valores fundamentales se basan en el respeto y un compromiso
inquebrantable con una fuerza laboral diversa e inclusiva. Sin embargo, año
tras año, también hemos fallado en la contratación de una fuerza laboral
representativa que refleje a nuestros usuarios en todo el mundo. La lucha por
mejorar nuestros resultados equitativos persiste a pesar de las políticas y
programas implementados para ayudar a respaldar las iniciativas de inclusión
y promover la excelencia en la contratación y el progreso. El punto de falla no
está en los valores, intenciones o inversiones de la empresa, sino en la
aplicación de esas políticas a nivel de implementación .
Los viejos hábitos son difíciles de romper. Los usuarios para los que podría
estar acostumbrado a diseñar hoy en día, aquellos de los que está
acostumbrado a recibir comentarios, pueden no ser representativos de todos
los usuarios a los que necesita llegar. Vemos que esto ocurre con frecuencia
en todo tipo de productos, desde dispositivos portátiles que no funcionan
para el cuerpo de la mujer hasta software de videoconferencia que no
funciona bien para las personas con tonos de piel más oscuros.
Entonces, ¿cuál es la salida?

1. Mírate bien en el espejo. En Google, tenemos el eslogan de la marca,

"Crear para todos". ¿Cómo podemos  construir para todos cuando no
tenemos una fuerza laboral representativa o un modelo de compromiso
que centralice primero los comentarios de la comunidad? no podemos
La verdad es que, en ocasiones, hemos fallado públicamente en proteger
a nuestros usuarios más vulnerables del contenido racista, antisemita y
homofóbico.
2. No construyas para todos. Construye con todos. Todavía no estamos
construyendo para todos. Ese trabajo no sucede en el vacío, y
ciertamente no sucede cuando la tecnología aún no es representativa de
la población en su conjunto. Dicho esto, no podemos empacar e irnos a
casa. Entonces, ¿cómo construimos para todos? Construimos con
nuestros usuarios. Necesitamos involucrar a nuestros usuarios en todo
el espectro de la humanidad y tener la intención de poner a las
comunidades más vulnerables en el centro de nuestro diseño. No
deberían ser una ocurrencia tardía.
 3. Diseñe para el usuario que tendrá más dificultades para usar su
producto. Construir para aquellos con desafíos adicionales hará que el
producto sea mejor para todos. Otra forma de pensar sobre esto es: no
intercambie acciones por velocidad a corto plazo.
4. No asuma equidad; mida la equidad en todos sus sistemas. Reconozca
que los tomadores de decisiones también están sujetos a prejuicios y
pueden no estar bien informados sobre las causas de la inequidad. Es
posible que no tenga la experiencia para identificar o medir el alcance de
un problema de capital. Atender a una sola base de usuarios podría
significar privar de derechos a otra; estas compensaciones pueden ser
difíciles de detectar e imposibles de revertir. Asóciese con personas o
equipos que sean expertos en diversidad, equidad e inclusión.

5. El cambio es posible. Los problemas que enfrentamos con la tecnología

hoy en día, desde la vigilancia hasta la desinformación y el acoso en
línea, son realmente abrumadores. No podemos resolverlos con los
enfoques fallidos del pasado o solo con las habilidades que ya tenemos.
Necesitamos cambiar.

Mantente curioso, avanza

El camino hacia la equidad es largo y complejo.  Sin embargo, podemos y
debemos pasar de la simple creación de herramientas y servicios a una
mayor comprensión de cómo los productos que diseñamos impactan a la
humanidad. Desafiar nuestra educación, influir en nuestros equipos y
gerentes y hacer una investigación más exhaustiva de los usuarios son todas
formas de progresar. Aunque el cambio es incómodo y el camino hacia el alto
rendimiento puede ser doloroso, es posible a través de la colaboración y la
creatividad.
Por último, como futuros ingenieros excepcionales, debemos centrarnos
primero en los usuarios más afectados por el sesgo y la discriminación.
 Juntos, podemos trabajar para acelerar el progreso centrándonos en la
mejora continua y asumiendo nuestros errores. Convertirse en ingeniero es
un proceso complicado y continuo. El objetivo es hacer cambios que
impulsen a la humanidad hacia adelante sin privar más de sus derechos a los
desfavorecidos. Como futuros ingenieros excepcionales, tenemos fe en que
podemos prevenir futuras fallas en el sistema.

Conclusión
Desarrollar software y desarrollar una organización de software es un
esfuerzo de equipo. A medida que una organización de software escala, debe
responder y diseñar adecuadamente para su base de usuarios, que en el
mundo interconectado de la informática actual involucra a todos, localmente
y en todo el mundo. Se debe hacer un mayor esfuerzo para que tanto los
equipos de desarrollo que diseñan el software como los productos que
producen reflejen los valores de un conjunto tan diverso y amplio de usuarios.
Y, si una organización de ingeniería quiere escalar, no puede ignorar a los
grupos subrepresentados; Los ingenieros de estos grupos no solo aumentan
la organización en sí, sino que brindan perspectivas únicas y necesarias para
el diseño y la implementación de software que es verdaderamente útil para el
mundo en general.

TL; DR
El sesgo es el predeterminado.
La diversidad es necesaria para diseñar adecuadamente para una base
de usuarios integral.
La inclusión es fundamental no solo para mejorar la fuente de
contratación de los grupos subrepresentados, sino también para
proporcionar un entorno de trabajo verdaderamente solidario para todas
las personas.
La velocidad del producto debe evaluarse frente a la provisión de un
producto que sea verdaderamente útil para todos los usuarios. Es mejor
reducir la velocidad que lanzar un producto que podría causar daño a
algunos usuarios. 

1 Informe de diversidad de Google 2019 .

2 @jackyalcine. 2015. “Google Photos, todos jodidos. Mi amigo no es un gorila”.

Twitter, 29 de junio de 2015.
https://twitter.com/jackyalcine/status/615329515909156865 .
3 Muchos informes en 2018-2019 señalaron una falta de diversidad en la

tecnología. Algunos notables incluyen el Centro Nacional para la Mujer y la

Tecnología de la Información y la Diversidad en la Tecnología .
4 Tom Simonite, "Cuando se trata de gorilas, Google Photos permanece ciego",

Wired , 11 de enero de 2018.

5 Stephen Gaines y Sara Williams. "La alineación perpetua: la policía no regulada

se enfrenta al reconocimiento en Estados Unidos". Centro de Privacidad y

Tecnología de Georgetown Law , 18 de octubre de 2016.