El gobierno de la

IA permite crear
↪ flujos de trabajo
de IA responsables
Contenido 01 → 04 →
Introducción: un enfoque La solución
responsable de la IA IBM watsonx.governance

02 → 05 →
Retos del escalado de la IA Casos de éxito

03 → 06 →
Los elementos básicos del Cree su solución ideal
gobierno de la IA

2
La empresa de investigación
IDC prevé que el mercado
de IA global puede superar
los 500 000 millones de
USD en 2024, lo que supone
un aumento de más del
50 % respecto a 2021. 1

3
01
Introducción:
un enfoque
responsable de la IA
La inteligencia artificial (IA) ya no es un
experimento empresarial. Ha progresado
hasta convertirse en una parte integral de
la estrategia de negocio de pequeñas y
grandes empresas. La IA presenta una gran
oportunidad para convertir datos en información
útil, desencadenar acciones basadas en una
mejor toma de decisiones y amplificar las
capacidades humanas por el bien de todos,
incluidos los negocios. La IA puede reducir el
riesgo empresarial y aumentar el rendimiento
de la inversión al posibilitar innovaciones
revolucionarias. No obstante, la promesa de
la IA no está garantizada. La IA responsable,
transparente y explicable no siempre es fácil.
A medida que los resultados de los modelos
y las conclusiones de la IA se tornan más
importantes para el negocio, los modelos
deben operar de manera fiable con
visibilidad y responsabilidad durante los
procesos. Las decisiones analíticas basadas
en datos, modelos, flujos de trabajo y procesos
incompletos o imprecisos pueden tener
consecuencias nefastas. El éxito requiere
automatización y transparencia en todo
el ciclo de vida de la IA, combinados con
resultados explicables y documentados.
Los líderes de empresas que crean servicios Continúe leyendo para conocer
de IA se enfrentan al problema emergente de
cómo gobernar de manera eficaz la creación,
la historia completa o pruébelo
implementación y gestión de estos servicios a directamente sin cargo alguno.
lo largo del ciclo de vida completo de la IA. Las
empresas de hoy en día, incluida IBM, quieren
entender sus procesos y tener control sobre
ellos a fin de cumplir con las políticas internas
y las normativas externas.
Aquí es donde el gobierno de la IA marca
una gran diferencia. El gobierno de la IA es el
proceso general de dirigir, gestionar y supervisar
las actividades de IA de una organización. Si
su organización está considerando adoptar la
IA o ya ha empezado el proceso, establecer
un marco de gobierno de IA debería formar
parte de su estrategia. Las organizaciones
que permanecen proactivas e incorporan
el gobierno en sus iniciativas de IA desde
el principio pueden minimizar los riesgos,
a la vez que refuerzan su capacidad para
cumplir los principios éticos y las normativas
gubernamentales. En particular, los directivos
de organizaciones y empresas de sectores
regulados, como los bancos y los servicios
financieros, están obligados por ley a ofrecer
un determinado nivel de transparencia en
sus modelos de IA para satisfacer a las
autoridades reguladoras. 4
El 50 % de los líderes
empresariales encuestados
afirma que satisfacer sus
obligaciones normativas y de
cumplimiento externas era el
aspecto más importante de
una IA explicable.2

5
02
Retos del
escalado de la IA
La influencia de la IA está creciendo
exponencialmente a medida que las
organizaciones implementan la tecnología
en sectores como los bancos, el transporte,
la sanidad, la educación, la agricultura, el
mercado minorista y muchos otros.
A mismo tiempo, los empleados y directivos
de muchas de estas organizaciones tienen
dificultades con los siguientes aspectos de la
implementación de la IA:
1. Operacionalización de la IA con confianza Lea las principales conclusiones
Existe una gran variedad de herramientas
de una encuesta realizada a
para el gobierno de la IA. Sin embargo, con responsables de la toma de
demasiada frecuencia los modelos se crean
sin la claridad, la supervisión o la catalogación
decisiones de TI de alto rango
adecuadas. Esto incluye la falta de en todo el mundo sobre el
seguimiento durante el ciclo de vida de la IA
completo, la falta de procesos automatizados
ritmo de adopción de la IA.
para el escalado y falta de transparencia
y explicabilidad. Es posible que haya oído
hablar de los "modelos de caja negra", que
Índice global de adopción de
son una preocupación cada vez mayor para la IA de IBM en 2022 →
las partes interesadas en la IA. Los modelos
de IA se crean e implementan, pero no es
fácil rastrear cómo y por qué se toman las
decisiones, incluso para los científicos de datos
que los han creado. Estos retos provocan
ineficiencias que causan desviación del
alcance, modelos que se retrasan o nunca se
ponen en producción, o que tienen niveles
desiguales de calidad y riesgos no percibidos.
6
02
Retos del escalado de la IA
2. Gestión del riesgo y la reputación
Seguramente ha leído los casos en la
prensa: modelos desiguales, inexplicables
o sesgados en producción. Estos problemas
pueden dar lugar a supuestos y decisiones
incorrectos, que afectan a los clientes y
dañan la marca de una organización. Es
fundamental disponer de unos procesos y
resultados explicables si un cliente o un
auditor de cumplimiento desea saber cómo
se han conseguido determinados resultados
analíticos, y también para garantizar que los
resultados no reflejen sesgos de raza, género,
edad u otros factores clave. Los escenarios
donde la explicabilidad es crítica incluyen los
planes de diagnóstico y tratamiento médico
de pacientes, las transacciones etiquetadas
como sospechosas y las solicitudes de
préstamos denegadas.
Ese es el motivo por el que es importante
practicar una IA responsable. La IA
responsable es un enfoque que genera
sistemas de IA transparentes, explicables,
razonables e inclusivos, que conservan la
privacidad, la seguridad, la fidelidad del cliente
y la confianza.
3. Respuesta a la cambiante normativa de IA
Una IA responsable y de éxito requiere un
conocimiento de las leyes y normativas locales,
regionales y nacionales, que están creciendo
a un ritmo muy rápido. En última instancia,
la falta de cumplimiento cuesta a una
organización millones de dólares en multas, tal
como demuestran algunas de las normativas
de IA más restrictivas que se están debatiendo
en todo el mundo, como el proyecto de Ley
de Inteligencia Artificial de la UE. El borrador
actual de la Ley de Inteligencia Artificial de la
UE contempla multas de hasta 30 millones de
euros o el 6 % de los ingresos globales de una
empresa.
La documentación de modelos es fundamental
para el cumplimiento de la normativa, un
área con aspectos fáciles de pasar por alto
para un científico de datos que no dispone de
mucho tiempo y cuya organización carece de
requisitos claros. Como las nuevas normativas
requerirán la documentación de modelos
para los metadatos y el linaje, este paso es
especialmente importante.
7
02
Retos del escalado de la IA

Canadá:
Cronograma de la Proyecto de ley C27,
Ley de IA y datos
normativa de IA global
Multa:
25 millones de USD o
Estados Unidos: el 5 % de los ingresos Reino Unido: Nueva York:
Iniciativa nacional de brutos globales de la Política de normativa Ley de contratación
inteligencia artificial (IA) empresa de IA de IA

2020 2021 2022 2023

Noruega: Estados Unidos: Unión Europea: Singapur: China: Estados Unidos:

Estrategia de IA El NIST publica un Proyecto de Ley de IA Presentación de Ley de gestión de La Declaración de
nacional marco de gestión de AI Verify, un kit de los algoritmos de Derechos de IA exige a
riesgos de IA herramientas y un recomendación los algoritmos validación
Serbia: marco de pruebas para servicios de adicional, protección
Estrategia para el información de Internet contra la discriminación y
desarrollo de la IA (IISARM) explicabilidad

Multa:
30 millones de € o el 6 %
de los ingresos globales
de la empresa

8
La mayoría de los líderes
todavía no han tomado
las medidas clave para
establecer un marco de
gobierno de la IA.
El 74 % no está reduciendo
los sesgos imprevistos. 3

9
03
Los elementos
básicos del
gobierno de la IA
Como en cualquier otra iniciativa, el correcto 1. Personas y objetivos Descubra cómo crear
gobierno de la IA depende de la interacción
entre personas, procesos y tecnología. Para implementar la IA correctamente,
un enfoque holístico del
necesita un equipo multidisciplinar sólido. La gobierno de la IA.
IA continúa siendo un imperativo estratégico
para muchos directivos y puede parecer
que la lista de partes interesadas crece más Lea el blog →
cada día. Algunas de estas personas no
conocen el concepto del ciclo de vida de la
IA, mientras que otras tienen nuevos motivos
para implicarse en proyectos de IA. Intente
satisfacer las necesidades de cada uno de
estos grupos sin sobrecargar a los científicos
de datos, que tienen poco tiempo para dirigir
o gestionar las aprobaciones y las solicitudes
de información.

Empiece alineando a las partes interesadas.

Obtenga la aprobación de las partes
interesadas adecuadas y anímelas a
participar en la ideación, a alinearse con los
resultados y a adoptar una IA responsable. A
continuación, tome medidas para garantizar
que se definan el conjunto correcto de
métricas, KPI y objetivos de acuerdo con los
controles y las normativas de negocio de su
empresa. También deseará supervisar las
métricas específicas que se han identificado
para los modelos de IA.
10
03
Los elementos básicos del gobierno de la IA

Roles en el ciclo Científico de datos Ingeniero de datos Fomente la colaboración con las partes
Entender el caso de Buscar y proporcionar interesadas clave y conozca sus principales
de vida de la IA uso y la factibilidad datos preocupaciones:

– CFO, riesgos para la rentabilidad

Investigador de operaciones Científico de datos – CMO, riesgos para la marca
Optimizar con la Explorar y comprender – CRO, riesgos para la empresa
optimización de decisiones los datos – CDO, operaciones de datos eficaces
– CHRO, posible repercusión en la captación
de talento
Desarrollador de aplicaciones Científico de datos – CEO, responsabilidad organizativa
Predicciones para procesos o Preparar y etiquetar – CPO, responsabilidad normativa
aplicaciones datos

Ingeniero de ML Líder empresarial

Implementar, gestionar la escala, Compartir información
supervisar en producción relevante

Científico de datos Científico de datos

Experimentar y automatizar Extraer características
el entrenamiento

11
03
Los elementos básicos del gobierno de la IA
2. Proceso
El gobierno de la IA realiza un seguimiento y documenta
el origen de los datos, los modelos asociados y los
metadatos, así como las canalizaciones de datos
generales con fines de auditoría. Su documentación
debe incluir las técnicas que han entrenado cada
modelo, los hiperparámetros que se han utilizado y
las métricas de las fases de prueba. Esto permite que
las partes interesadas correspondientes tengan una
mayor transparencia y visibilidad del comportamiento
del modelo a lo largo del ciclo de vida, incluyendo los
datos que influyeron en su desarrollo y los posibles
riesgos del modelo.
Primero deseará establecer parámetros de referencia
y evaluar la tecnología y los procesos de IA actuales
de su organización. Algunos procesos y partes
interesadas puede que ya estén alineados y puedan
ampliarse, mientras que otros puede que deban
sustituirse. A continuación, cree un conjunto de flujos
de trabajo de gobierno automatizados en línea con
los requisitos de cumplimiento. Los modelos de IA
nuevos y existentes pueden adoptar estos flujos de
trabajo, que deben diseñarse para evitar los retrasos
en los procesos que se han descrito anteriormente.
Por último, establezca un marco para avisar a los
propietarios y a los usuarios cuando las métricas de
un modelo excedan el umbral aceptable.
3. Tecnología
El establecimiento de una IA bien planificada,
ejecutada y controlada requiere determinados
elementos tecnológicos básicos. Busque una
solución que gobierne el ciclo de vida de la IA
de principio a fin y que:
– integre datos de muchos tipos y fuentes de
distintas implementaciones;
– sea abierta y flexible, y funcione con las
herramientas existentes que desee;
– ofrezca un acceso de autoservicio con
controles de privacidad y rastreo del linaje;
– automatice la creación, la implementación,
el escalado, el entrenamiento y la
monitorización de modelos;
– conecte las distintas partes interesadas a
través de un flujo de trabajo personalizable;
– proporcione soporte para crear flujos
de trabajo personalizados para distintas
personas utilizando metadatos de gobierno.
12
03
Los elementos básicos del gobierno de la IA
Un marco de IA Operacionalice
con confianza
responsable y gobernada
Planificar Defina métricas de
rendimiento medibles
para el uso de IA en toda la
organización
Diseñar Establezca la rastreabilidad
y la auditabilidad de los
procesos actuales
Crear Cree una documentación
automática de los metadatos
y el linaje de modelos
Gestione el riesgo y
la reputación
Revise los procesos
existentes que supervisan
la imparcialidad y la
explicabilidad
Operacionalice los procesos y
los puntos de comprobación
actualizados durante todo el
ciclo de vida de la IA
Habilite modelos de IA que
sean razonables, explicables
y de alta calidad, minimice
las desviaciones y realice una
revisión de políticas anual
Fortalezca el
cumplimiento
Realice un análisis de
carencias según las
normativas de IA actuales y
potenciales
Asegúrese de que la
documentación del modelo
sea accesible
Actúe para reforzar el
cumplimiento normativo de
los equipos de ciencia de
datos sin sobrecargas
Satisfaga las demandas de
las partes interesadas
Revise las habilidades
existentes y la demanda de una
IA responsable, y alinéelas con
los objetivos empresariales
Especifique los nuevos roles,
habilidades y agendas de aprendizaje
necesarios para implementar una IA
responsable
Establezca un flujo de
trabajo repetible de principio
a fin que incorpore las
aprobaciones de las partes
interesadas para reducir el
riesgo y aumentar la escala
13
04
La solución
watsonx.
governance
El enfoque de IBM del gobierno de la IA Con esta solución de IBM, las auditorías son Principios de IBM
permite dirigir, gestionar y supervisar las más sencillas. Podrá rastrear y documentar
actividades de IA de su organización. Basada el origen de los datos, los modelos y
de la IA responsable:
en la plataforma IBM® Cloud Pak for Data, esta los metadatos asociados, así como las
solución de gobierno utiliza la automatización canalizaciones. La documentación incluirá
de software para reforzar su capacidad de las técnicas que han entrenado cada modelo,
→ El objetivo de la IA es
cumplir los requisitos normativos y abordar los hiperparámetros que se han utilizado potenciar la inteligencia
cuestiones éticas. Puede esperar una solución y las métricas de las fases de prueba. Se
de gobierno de la IA completa sin los excesivos beneficiará de tener una mayor transparencia
humana
costes de cambiar su plataforma de ciencia del comportamiento del modelo durante su → L os datos y la información
de datos actual. Esta solución de IBM abarca ciclo de vida, información sobre los datos que
todo el ciclo de vida, desde el diseño y la han influido en su desarrollo y la capacidad de
pertenecen a quien los crea
creación, pasando por la implementación y la determinar los posibles riesgos. → La nueva tecnología,
supervisión, hasta la centralización de datos para
la explicabilidad de IA.
incluyendo los sistemas de
IA, debe ser transparente y
Antes de poner un modelo en producción, se
valida para evaluar los riesgos para el negocio.
explicable
Una vez que el modelo se activa, su imparcialidad,
calidad y desviación se supervisan de manera
continua. Los reguladores y auditores pueden
tener acceso a la documentación del modelo,
que proporciona explicaciones sobre el
comportamiento y las predicciones del modelo.
Estas explicaciones proporcionan visibilidad
sobre cómo funciona el modelo y qué procesos y
entrenamiento ha recibido.

14
04
La solución watsonx.governance
Considere estos Gobierno de ciclo de vida
componentes: – Supervise, catalogue y gobierne los
modelos de IA desde donde residan
– Automatice la captura de metadatos de
modelos
– Aumente la precisión de las predicciones
e identifique cómo se utiliza la IA y sus
carencias
Completo
Gobierne el ciclo de vida de la IA de principio
a fin.
Gestión de riesgos
– Automatice los hechos y el flujo de trabajo
para el cumplimiento de los estándares de
negocio
– Identifique, gestione, supervise y
notifique el riesgo y el cumplimiento a
escala
– Utilice paneles de control dinámicos para
obtener unos resultados claros, concisos
y personalizables
– Mejore la colaboración en distintas
regiones y zonas geográficas
Abierto
Fomente la gobernanza de los modelos
creados e implementados en herramientas de
terceros.
Cumplimiento normativo
– Convierta las normativas de IA externas en
políticas para su aplicación automatizada
– Mejore el cumplimiento de las normativas
de auditoría y conformidad
– Utilice paneles de control dinámicos para
cumplir con las políticas y normativas
Metadatos automá ticos
Transformación de datos y captura de linaje en
todos los cuadernos de Python.
15
05
Casos de éxito
Banco Regions ↷
El banco buscaba resolver la pérdida
de ingresos debido a la deserción entre
sus clientes con patrimonio privado. Los
obstáculos eran la dependencia de conjuntos
de datos aislados, los equipos de desarrollo
que trabajaban de forma aislada y los métodos
de desarrollo incoherentes. Esto generaba
resultados de negocio irregulares y dudas
sobre si las soluciones de IA cumplían con los
estándares éticos.
Trabajando con IBM, pudieron llevar a cabo
una transformación utilizando herramientas
y procesos modernos y nuevas metodologías
abiertas/transparentes. Adoptaron
canalizaciones de machine learning mejoradas
para los modelos de retención de patrimonio
privado a fin de detectar mejor la desviación
en la precisión del modelo y la coherencia
de datos en su data lake de producción. La
solución adoptada utilizó IBM Expert Labs,
IBM AI Governance e IBM Watson Studio.
Los resultados han sido soluciones analíticas
de confianza que reducen el riesgo, detectan
el fraude, ayudan a los clientes comerciales
y ofrecen información sobre las necesidades
de los clientes.
– Estandarice la supervisión de modelos
en las canalizaciones de ML de extremo a
extremo
– Obtenga una lectura continua de
la exactitud de las predicciones en
producción
– Automatice el reentrenamiento de
modelos en función de las alertas de
supervisión
– Identifique los clientes con patrimonio con
predicciones de confianza baja
Más información →
16
05
Casos de éxito

Director de privacidad de IBM ↷

Escalado de la automatización para abordar
los requisitos normativos de la IA
Aprovechando el marco de IA de la empresa
para abordar los requisitos normativos de
la IA, el director de privacidad de IBM (CPO)
ha tomado medidas significativas para aplicar
funcionalidades líderes en el sector de IA y
de datos basadas en una sólida combinación
de privacidad, seguridad, gobierno de IA,
ética, procesos, tecnología y conjuntos de
herramientas.
– Crear un flujo de trabajo sólido usando
herramientas de IBM para recopilar,
consolidar, visualizar y supervisar el flujo de
trabajo.
– Automatizar la captura y la integración
de datos del ciclo de vida de la IA para
acelerar el mantenimiento del inventario de
IA global
Más información →

El CPO de IBM, con el respaldo del Consejo de

Ética de IA de IBM, desarrolló un conjunto
de procesos mejorados que habilitan el
rastreo más detallado del cumplimiento de
las normas existentes y los requisitos legales
aplicables. Usando el marco y el proceso de
gobierno integrado de IBM para gestionar y
supervisar el desarrollo y el uso de la IA en
toda la empresa para que los equipos puedan:

17
06
Cree su
solución ideal

En un mundo donde la confianza, la Cree una sólida infraestructura

transparencia y la AI explicable son importantes,
todo líder de una organización desea entender de datos para la IA
mejor cómo se extrae la información analítica y
se adoptan las decisiones, y se toma en serie Explore la guía para líderes de datos
el respeto del cumplimiento normativo. IBM
considera que el objetivo de la IA es aumentar The Data Differentiator →
la inteligencia humana, que los datos y la
información relevante pertenezcan a su creador
y que la nueva tecnología (incluidos los sistemas
de IA) sea transparente y explicable.

Si desea aumentar su confianza en la IA, le

recomendamos aprovechar los siguientes
recursos gratuitos de IBM.

Consiga experiencia práctica con watsonx.

governance
Vea la prueba →
Explore la solución watsonx.governance →
Más información acerca de la ética de IBM →
Póngase en contacto con el equipo de IBM
Expert Labs →

18
01 “(IDC) Worldwide Semiannual Artificial Intelligence Tracker”, © Copyright IBM Corporation 2023 Statement of Good Security Practices: No IT system or product
IDC, 2022. should be considered completely secure, and no single product,
IBM España, S.A service or security measure can be completely effective in preventing
02 “IBM Global AI Adoption Index 2022,” IBM, 2022. Santa Hortensia, 26-28 improper use or access. IBM does not warrant that any systems,
28002 Madrid products or services are immune from, or will make your enterprise
03 “IBM Global AI Adoption Index 2022,” IBM, 2022. Producido en los Estados Unidos de América immune from, the malicious or illegal conduct of any party.

Mayo de 2023 El cliente es responsable de garantizar el cumplimiento de las

leyes y reglamentos aplicables. IBM no presta asesoramiento legal
IBM, el logotipo de IBM, IBM Cloud Pak, IBM Watson y watsonx. ni declara o garantiza que sus servicios o productos aseguren que
governance son marcas comerciales o marcas registradas de el cliente cumpla con cualquier ley o reglamento.
International Business Machines Corporation en los Estados Unidos
o en otros países. Los demás nombres de productos y servicios
pueden ser marcas comerciales de IBM u otras empresas. Puede
consultar una lista actual de las marcas comerciales de IBM en
ibm.com/trademark.

Es responsabilidad del usuario evaluar y verificar el funcionamiento

de cualquier otro producto o programa con los productos y
programas de IBM.

Los datos de rendimiento y los ejemplos de clientes citados en

el presente documento son únicamente a título ilustrativo. Los
datos reales de rendimiento pueden variar en función de las
configuraciones y condiciones de funcionamiento específicas.
LA INFORMACIÓN DE ESTE DOCUMENTO SE PROPORCIONA
"TAL CUAL" SIN NINGUNA GARANTÍA, EXPLÍCITA O
IMPLÍCITA, INCLUYENDO, ENTRE OTRAS, LAS GARANTÍAS
DE COMERCIALIZACIÓN, ADECUACIÓN A UN PROPÓSITO
DETERMINADO Y CUALQUIER GARANTÍA O CONDICIÓN DE
NO INFRACCIÓN. Los productos de IBM están garantizados
según los términos y condiciones de los acuerdos bajo los que se
proporcionan.