.: risen ‘“ rotten tc Yuval Noah Harari argumenta que la IA ha hackeado el sistema operativo de la civilizacion humana {as computadoras que cuentan historias cambiaran el curso dela historia humana, dice el historiador y fissofo Dan Willams Prison wrstcancin ata han prsegues a humanidad desde comienzo de lacera informatica, Hasta ahora, estos temores se centraban en las maquinas que usaban medios fisicos para matar, esclavizaro reemplazar a las personas, Pero en los Ultimos afios han surgido nuevas herramientas de ra que amenazan la supervivencia de la civilizacion humana desde una direccién nesperada, 1A 14 ha adquirido algunas habilidades notables para manipular y generar lenguaje, ya sea con palabras, sonidos o imégenes. oR lo tanto, la 1A ha pirateado el sistema operativo de nuestra civilizacién, BI lenguaje es la materia de la que esta hecha casi toda la cultura humana, Los derechos humanos, por ejemplo, no estén inscritos en nuestro ADN. Mas bien, son artefactos culturales que creamos contando historias y escribiendo leyes. Los dioses no son tealidades fisicas. Mas bien, son artefactos culturales que creamos inventando mitos y escribiendo escrituras. El dinero también es un artefacto cultural. Los billetes son solo pedazos de papel coloridos, y en la actualidad més del 90% del dinero ni siquiera son billetes, es solo informacion digital en computadoras. Lo que le da valor al dinero son las historias que los banqueros, los ministros de fAnanzas y los guris de las criptomonedas nos cuentan al respecto, Sam Bankman-Fried, Elizabeth Holmes y Bernie Madoff no eran particularmente buenos pata crear valor real, pero todos eran narradores extremadamente capaces. {Qué sucederfa una ver que una inteligencia no humana se vuelva mejor que el humano promedio para contar historias, componer melodias, dibujar imagenes y escribir leyes escrituras? Cuando las personas piensan en Chatcrr y otras nuevas herramientas de IA, a menudo se sienten atrafdos porejemplos como los escolares que usan 14 para escribir sus ensayos. ;Qué pasaré con el sistema escolar ceuando los nifios hagan es0? Pero este tipo de pregunta pierde el panorama general, Olvidate de los ensayos escolares, Piense en la préxima carrera presidencial estadounidense en 2024 y trate de imaginar el impacto de las herramientas de 14 que se pueden hacer para producir contenido politico en ‘masa, noticias falsas y escrituras para nuevos cultos. En tos titimos afos, el culto de Q Anon se ha unido en tornoa mensajes an6nimos en linea, conocidos como "goras q’. Los seguidores recopilaron, veneraron e interpretaron estas gotas @ como un texto sagrado. Sibien, hasta donde sabemos, todas las gotas @ anteriores fueron compuestas por humanos, y los bots simplemente ayudaron a difundirlas, en el futuro podriamos ver los primeros cultos en la historia cuyos textos venerados fueron escritos por una inteligencia no humana. Las religiones alo largo de la historia han reclamado una fuente no humana para sus libros sagrados. Pronto eso podria ser una realidad, En un nivel mas prosaico, pronto podriamos encontramnos llevando a cabo largas discusiones en linea sobre el abort el cambio climético ola invasién rusa de Ucrania con entidades que creemos que son hhumanos, pero que en realidad son 1a, El problema es que es completamente inutil para nosotros pasar tiempo tratando de cambiar las opiniones declaradas de un bot de IA, mientras que la 1a podria perfeccionar sus mensajes con tanta precision que tiene una buena oportunidad de infiuir en Leer mas: + G6 mo preocuparse sabiamente por la inteligencia artificial + G6 mo la 1A podria cambiar la informatica, la cultura y cl cusso de a historia + Cémo los modelos generativos podrian salir mal «Yuval Noah Harari argumenta que lo que ests en juego en Ucrania es la direccién dela historia humana A través de su dominio del lenguaje, ta 14 podria incluso formar relaciones intimas con las personas y usar el poder de la intimidad para cambiar nuestras opiniones y visiones del mundo, Aungue no hay indicios de que la 1A tenga conciencia o sentimientos propios, pata fomentar na intimidad falsa con los humanos es suficiente sila 14 puede hacer que se sientan emacionalmente apegados a ella, En junio de2022, Blake Lemoine, un ingeniero de Google, afirmé publicamente que el chatbot de ta Lampa, en el que estaba trabajando, se habia vuelto sensible, La controvertida afirmacién le costs su. trabajo, Lo més interesante de este episodio no fue la afirmacién del St, Lemoine, que probablemente era falsa, Mas bien, fue su voluntad de arriesgar su lucrativo trabajo por el bien del chatbot de 1a, Sia 14 puede influir en las personas para que arriesguen sus trabajos por ello, qué mas podrfa inducirlos a hacer? En una batalla politica por mentes y corazones, la intimidad es el arma mas eficiente, y la 14 acaba de adquitir la capacidad de producir en masa telaciones intimas con millones de personas. Todos sabemos que en la ltima década las tedes sociales se han convertido en un campo de batalla para controlar a atencién humana, Con la nueva generacién de 1, el frente de batalla estd cambiando dela atencidn a la intimidad. Que pasara con la sociedad humana y la psicologia humana cuando la lA Juche contra Ia 14 en una batalla para fingir selaciones Sntimas con nosotros, que luego pueden usarse para convencernos de votar por politicos particulares o comprar productos particulares? Incluso sin crear una “intimidad falsa’, las nuevas herramientas de sa tendrian una inmensa influencia en nuestras opiniones y visiones del mundo. Las personas pueden llegar a usar un solo asesor de tA como un oriculo tinico y omnisciente. No es de extrafiar que Google estéatertorizado. :2or qué -molestarse en buscar, cuando puedo preguntarle al oraculo? Las industrias de noticias y publicidad también deberian estar aterrorizadas. Por que leer un periddico cuando puedo pedirle al ordculo que me cuente las itimas noticias? ;¥ cual es el propésito de los anuncios, cuando puedo pedi al oréculo que me diga qué comprar? E incluso estos escenarios realmente no capturan el panorama general, Delo que estamos hablando es potenciaimente el fin de la historia humana. Noes el fin dela historia, solo el inal de su par dominada por los humanos. La historia es la interaccién entre biologla y cultura; entre nuestras nnecesidades biol6gicas y deseos de cosas como la comida y el sexo, y nuestras creaciones culturalescomo las religiones y ia leyes. La historia es el proceso a traves del cual las leyes y as religiones dan. forma ala comida y el sexo, {Qué pasara con el curso de la historia cuando la 1a se haga cargo dea cultura y comience a producit historias, melodia, leyes y religiones? Las herramientas anteriores como la imprentay la radio ayudarona difundir las ideas culturates de los humanos, pero nunca crearon nuevas ideas culturales, propias. 1A 1Aes fundamentalmente diferente. 1a 14 puede crear ideas completamente nuevas, una cultura completamente nueva, Al principio, a 1a probablemente imitaré los prototipos humanos en los que fue entrenada en su Infancia. Pero con cada afte que pasa, la cultura De LA 18 ira audazmente a donde ningan humano ha ido antes. Durante milenios los seres humanos han vivid dentro de los suefias de otros seres bbumanos. En las proximas décadas podriamos encontrarnos viviendo dentro de los suerios de una inteligencia aienigena, El miedo a lata ha perseguido ala humanidad durante las ultimas décadas. Pero durante miles de afios los humanos han sido perseguidos por un miedo mucho mas profundo. Siempre hemos apreciado el poder de las historias y las imagenes para manipular nuestras mentes y crear ilusiones. En consecuencia, desde la antigiedad los humanos han temido quedaratrapados en un mundo de itusiones. En el siglo 17 René Descartes temia que tal vez un demonio malicioso lo estuviera atrapando dentro de tun mundo de ilusiones, ereando todo lo que veta y escuchaba, En la antigua Grecia, Platn conté la famosa Alegoria de la Cueva, en la que un grupo de personas estan encadenadas dentro de una cueva toda su vida, frente a una pared en blanco. Una pantalla. En esa pantalla ven proyectadas varias sombras, Los prisioneros confunden las iusiones que ven alli con la tealidad En a antigua India, los sabios budistas ¢ hindsies sefialaron que todos los humanos vivian atrapados dentro de Maya, el mundo de as ilusiones. Lo que normalmente tomamos como realidad a menudo son solo ficciones en nuestras propias mentes. La gente puede librar guerras enteras, matando a ott dlispuestos a ser asesinados ellos mismos, debido a su creencia en esta o aquellailusié Larevolucién de la IA nos esta enfrentando cara acara con el demonio de Descartes, con la cueva de Platén, con los mayas. Si no tenemos cuidado, podriamos estar atrapados detrés de una cortina de ilusiones, que no podriamos arrancar, o incluso darnos cuenta de que esta ahi Por supuesto, cl nuevo poder dela 1a también podria usarse para buenos propésites. No me detendré en esto, porque las personas que desarrollan 1A hablan de ello lo suficiente, El trabajo de los historiadotes y filésofos como yo es seialar los peligros. Pro ciertamente, LA 1A puede ayudarnos de innumerables maneras, desde encontrar nuevas curas para el cancer hasta descubrir soluciones ala crisis ecol6gica. La pregunta ala que nos enftentamos es cémo aseguramos de que las nuevas herramientas de ra se tilicen para bien y no para mal. Para hacer eso, primero necesitamos apreciar las verdaderas capacidades de estas herramientas. Desde 1945 hemos sabido que la tecnologia nuclear podria generar energie barata para el beneficio de los seres humanos, pero también podria destruirfisicamente la civilizacién humana, Por lo tanto, reformamos todo el orden internacional para proteger ala humanidad y asegurarnos de que la tecnologia nuclear se utilizar principalmente para el bien. Ahora tenemos que Iidiar con una nueva arma de destruccién masiva que puede aniquilar nuestro mundo mental y social ‘Todavia podemos regulat las nuevas hertamientas de 1A, pero debemos actuar rapidamente, Mientras que las armas nucleares no pueden inventar armas nucleares mas poderosas, LA 1A puede hacer una 1A exponenclalmente mas poderosa £l primer paso crucial es exigir controles de seguridad rigurosos antes de que las potentes hetramientas de 14 se liberen al dominio pablico, Al igual que una compasta, farmacéutica no puede lanzar nuevos medicamentos antes de probar sus efectos secundarios a corto y largo plazo, las compafilas tecnoldgicas no deberian lanzar nuevas herramientas de 1a antes de que sean seguras, Necesitamos un equivalente de la Administracién de Alimentos y Medicamentos para nuevas tecnologias, y lo necesitamos ayer. {a desaceleracion de los despliegues pablicos de 1a no hard que las democracias se queden atrés de regimenes autoritarios més despiadados? Todo lo contrario. Los despliegues de 1a no regulados crearian un caos social, lo que beneficiariaa los autdcratas y arruinaria las democracias. La democracia es una conversacién, y las conversaciones dependen del lenguaje. Cuando la A hackea el lenguaje, podria destruir nuestra capacidad de tener conversaciones significativas, destruyendo asi LA democracia.