https://industriamusical.

com/lideres-tecnologicos-piden-detener-desarrollos-de-inteligencia-
artificial/
INTELIGENCIA ARTIFICIAL NEGOCIO NOTICIAS PROPIEDAD INTELECTUAL TECNOLOGÍA

Líderes tecnológicos piden

detener desarrollos de
Inteligencia Artificial
 Por Julia Hernández Ruza
 
 30 de marzo de 2023
 

Más de 1,000 firmantes – incluyendo cientos de líderes tecnológicos, científicos y
académicos – han firmado una carta abierta pidiendo a todos los laboratorios de IA
del mundo «que detengan inmediatamente durante al menos 6 meses el
entrenamiento de sistemas de IA más potentes que GPT-4».

Agrega: «Esta pausa debe ser pública y verificable, e incluir a todos los actores
clave. Si no se puede implementar una pausa rápidamente, los gobiernos
deberían intervenir e instituir una moratoria».

Aquellas personas que han firmado la carta, instigada por el Future Of Life
Institute, incluyen a Elon Musk (CEO de SpaceX, Twitter y Tesla), además del
cofundador de Apple, Steve Wozniak.
Otros firmantes destacados incluyen a Emad Mostaque, CEO de Stability AI
(hogar del popular generador de imágenes de texto Stable Diffusion), Evan Sharp,
cofundador de Pinterest, y Chris Larsen, cofundador de Ripple.

Los patrocinadores de la carta incluyen a tres miembros del equipo en el hub

experimental de inteligencia artificial de Alphabet/Google, DeepMind: Victoria
Krakovna (DeepMind, científica investigadora, cofundadora del Future of Life
Institute); Zachary Kenton, (DeepMind, científico investigador senior); y Ramana
Kumar, DeepMind, científico investigador.

La participación de Musk es particularmente significativa, considerando que fue

cofundador (y ayudó a financiar la creación) de OpenAI Incorporated, que lanzó
GPT-4 el 14 de marzo.

OpenAI, con sede en San Francisco, que aceptó un paquete de inversión de USD
$10 mil millones de Microsoft en enero de este año, comenzó su vida como una
entidad sin fines de lucro, pero se convirtió en una empresa con fines de lucro en
2019. (Musk renunció a su junta directiva en 2018).

Hoy en día, OpenAI llama a GPT-4 (ampliamente conocido como Chat GPT-4), «el
último hito en nuestro esfuerzo por escalar el aprendizaje profundo».

Se jacta de que «si bien GPT-4 es menos capaz que los humanos en muchos
escenarios del mundo real, muestra un rendimiento a nivel humano en
varios benchmarks profesionales y académicos».

En su carta abierta, titulada simplemente «Pausar los experimentos gigantes de

AI», Musk y los demás firmantes escriben: «Los sistemas de inteligencia artificial
con inteligencia competitiva humana pueden plantear riesgos profundos para la
sociedad y la humanidad, como lo demuestran extensas investigaciones y
reconocido por los principales laboratorios de AI».

Continúan: «Los sistemas de AI contemporáneos están comenzando a competir

con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos
permitir que las máquinas inunden nuestros canales de información con
propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los
satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente
puedan superarnos en número, inteligencia, obsolescencia y reemplazo?
¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales
decisiones no deben ser delegadas a líderes tecnológicos no elegidos.

«Los sistemas de AI poderosos solo deben ser desarrollados una vez que
estemos seguros de que sus efectos serán positivos y sus riesgos serán
manejables».
En otra parte de la carta, los firmantes pasan a discutir el impacto potencial de la
IA generativa en áreas específicas de negocios, política, economía y más.

Escriben: «La investigación y el desarrollo de AI deben centrarse en hacer que los

sistemas actuales de vanguardia sean más precisos, seguros, interpretables,
transparentes, robustos, alineados, confiables y leales.

A principios de este mes, más de 30 grupos representantes y/o asociados con la

industria musical lanzaron la Campaña de las Artes Humanas, que tiene como
objetivo asegurar que la IA no reemplace o «erosione» la cultura y el arte
humanos.