Un grupo de expertos en inteligencia artificial (IA) y ejecutivos tecnológicos, entre ellos

Elon Musk, han firmado una carta abierta en la que piden una pausa en el desarrollo de los
sistemas de IA.
El escrito, que ya cuenta con más de mil firmantes, ha sido publicado por el Future of
Life Institute, una organización sin ánimo de lucro dedicada a «dirigir la tecnología
transformadora hacia el beneficio de la vida y alejarla de riesgos extremos a gran escala».
Entre los firmantes figuran Steve Wozniak, cofundador de Apple, y Elon Musk, consejero
delegado de Twitter, así como investigadores de DeepMind, propiedad de Alphabet, y
expertos en aprendizaje automático, como Yoshua Bengio y Stuart Russell.
La carta pide específicamente una pausa de al menos seis meses en el entrenamiento de
sistemas de IA más potentes que el GPT-4 de Open AI, con los gobiernos preparados para
intervenir y aplicar una prohibición.
 «Los laboratorios de IA y los expertos independientes deberían aprovechar esta
pausa para desarrollar y aplicar conjuntamente una serie de protocolos de seguridad
compartidos para el diseño y desarrollo de la IA avanzada, rigurosamente auditados
y supervisados por expertos externos independientes», reza el escrito.

 «Estos protocolos deben garantizar que los sistemas que se adhieran a ellos sean
seguros más allá de toda duda razonable. Esto no significa una pausa en el
desarrollo de la IA en general, simplemente un paso atrás en la peligrosa carrera
hacia modelos de caja negra impredecibles cada vez más grandes y con capacidades
emergentes».
Los expertos también reclaman sistemas de gobernanza más sólidos, que deberían incluir,
como mínimo, nuevas autoridades reguladoras dedicadas a la supervisión y el seguimiento de
la IA; sistemas de procedencia y marca de agua que ayuden a distinguir lo real de lo sintético
y a rastrear las filtraciones de modelos, y un sólido ecosistema de auditoría y certificación.
Los proveedores deben asumir la responsabilidad de los daños causados por la IA y debe
haber una sólida financiación pública para la investigación técnica de la seguridad de la IA.
Por último, deben crearse instituciones dotadas de los recursos necesarios para hacer frente a
las «dramáticas» perturbaciones económicas y políticas que probablemente causará la IA.
Regulación heterogénea

En la actualidad, la regulación de la IA es muy heterogénea. En Estados Unidos, a principios

de este mes, la Cámara de Comercio pidió más regulación para evitar que la IA
obstaculice el crecimiento económico o se convierta en un riesgo para la seguridad nacional.
«La IA se utiliza cada vez más por todos los actores importantes en todos los aspectos de
nuestra economía y sociedad, tanto a nivel nacional como mundial», dice el informe.
«Sin embargo, en muchos sentidos, en términos de tecnología, impacto económico y
desarrollo de políticas de IA, estamos en las fases iniciales de una nueva era».

"Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no
se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una
suspensión", agrega el texto.
Pueden desaparecer "300 millones de empleos"
Un informe reciente del banco de inversión Goldman Sachs señala que la inteligencia
artificial podría reemplazar el equivalente a 300 millones de empleos de tiempo completo.
Esta tecnología podría reemplazar una cuarta parte de las tareas laborales en EE.UU. y
Europa, agrega, pero también puede significar la creación de nuevos puestos de trabajo que
hasta ahora no existían y un aumento de la productividad. Expertos consultados por la BBC
sobre este tema, dicen que a estas alturas es muy difícil predecir el efecto que tendrá esta
tecnología en el mercado laboral.
  La carta firmada por los expertos hace la siguiente pregunta: "¿Deberíamos
desarrollar mentes no humanas que eventualmente podrían superarnos en número,
ser más inteligentes, dejarnos obsoletos y reemplazarnos?".
¿Qué es OpenAI?
Es una compañía de investigación de inteligencia artificial (IA), que se anuncia sin fines de
lucro, y que tiene como objetivo promover y desarrollar inteligencia artificial amigable de tal
manera que, según dicen, beneficie a la humanidad en su conjunto. Contrariamente, su
desarrollo no se basa en ninguna comunidad abierta ni facilita ningún software libre.
 OpenAI no ha comentado públicamente la carta.
Elon Musk fue cofundador de OpenAI, aunque renunció a la junta directiva de la
organización hace algunos años y ha publicado mensajes críticos en Twitter sobre la
dirección de la empresa.
Las funciones de conducción autónoma desarrolladas por su empresa de automóviles Tesla,
como la mayoría de otros sistemas similares, utilizan tecnología de inteligencia artificial.

Pausen de inmediato el entrenamiento de los sistemas de inteligencia artificial más potentes

que GPT-4".
GPT-4, es la versión más avanzada ChatGPT, uno de los sistemas de inteligencia artificial
más potentes del mundo, desarrollado por la empresa OpenAI.

 "Capacidad de razonamiento más avanzada": qué novedades presenta GPT-4, la

nueva versión del chat de inteligencia artificial

Tanto GPT-4, como ChatGPT, son un tipo de inteligencia artificial generativa, es decir, que
utiliza algoritmos y texto predictivo para crear contenido nuevo basado en instrucciones.
"Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no
se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una
suspensión", agrega el texto.
¿Qué es ChatGPT?

Este nuevo sistema puede generar contenidos escritos de forma altamente coherente y muy
parecidos a los creados por los humanos.
A pesar de los errores y carencias que aún existen, la capacidad ya demostrada por el
programa, y su potencial para mejorar a largo plazo, despierta no solo admiración, sino
también temores.
Basta con mirar la cantidad de reseñas que asocian ChatGPT con la palabra "amenaza".
Muchos sienten que el programa parece demasiado convincente al imitar el habla de un ser
humano y prevén la aparición de problemas.
¿Qué es el programa?

ChatGPT es, básicamente, un robot virtual (chatbot) que responde una variedad de preguntas,
realiza tareas por escrito, conversa con fluidez e incluso da consejos sobre problemas
personales (aunque se advierte que no tiene este objetivo).

En los últimos días se viralizaron

dos imágenes creadas con
Inteligencia Artificial (IA), una que
muestra al papa Francisco
vistiendo un camperón muy
similar a un modelo de la marca
Balenciaga, y otra en la que se ve al
expresidente de Estados Unidos,
Donald Trump, siendo arrestado.
Debido a que fueron miles los
usuarios los que compartieron las
fotos por la verosimilitud de las
mismas, especialistas explicaron a si es posible identificar si una imagen es real o falsa.
Las imágenes del Papa Francisco y Donald Trump

La última semana se viralizaron una serie de imágenes del Papa Francisco y de Donald
Trump, las cuales fueron creadas por una herramienta de IA llamada “Midjourney”, un
programa a través del cual los usuarios pueden crear imágenes a partir de descripciones
textuales.
La del Papa Francisco llamó la atención porque lo mostraba luciendo un camperón blanco
moderno estilo puffer, similar a un modelo de Balenciaga, una casa de moda de lujo española.
Por otro lado, a Donald Trump se lo mostró siendo detenido, en lo que se creyó que fue un
arresto en el marco de una causa que investiga un presunto pago bajo el concepto de “gastos
de campaña” otorgado a la actriz porno, Stormy Daniels, para silenciar una relación
extramatrimonial.