21423, 11:50 El espejsmo que hay en ol Boom inlsligencia artificial | Letras Libres llustracién: Letras Libres. Imagenes: Digits.couk, CC BY 20; ChatGPT. CIENCIA Y TECNOLOGIA El espejismo que hay en el boom de la inteligencia artificial La inteligencia artificial va a afectar de manera significativa la forma en que trabajamos, socializamos y jugamos, Pero abundan las afirmaciones hiperbélicas sobre su capacidad para resolver problemas complejos. Por Evan Selinger - 5 abril 2023 hitps:iletaslbres.com/ciencia-tecnologiafuture-tense-chatgptntel'gencia-artfcial-exageracion-solicionismal 431ar23, 11:50 Elespejsme que hay en el boom de la intalgencia artifical | Letras Libres ANADIR A FAVORITOS No veré La Casa del Dragén, a pesar de sus muy elevados indices de audiencia. La serie de HBO es una precuela de Juego de tronos, y esa serie termin6 tan mal que ya no quiero tener nada que ver con ese mundo ficticio. Pero, {sera que la inteligencia artificial podria hacerme cambiar de opinién? En una conferencia en el festival South by Southwest celebrado a principios de marzo, Greg Brockman, presidente de OpenAl, la compaiifa que creé ChatGPT, dij : “imagina si pudieras pedirle a tu inteligencia artificial crear un nuevo final que siga un camino diferente.” {Por qué detenerse ah{? {Podria la inteligencia artificial ser la solucién para corregir cada novela o guion que a alguien no le gustaron, haciendo revisiones personalizadas para hacerlos mas cortos o largos, menos 0 mas violentos, mas 0 menos woke? hitps:etraslibres.com/cienci-tecnologiafuture-tense-chatgptnteligencia-artfcial-exageracion-solicionismo! ans.1ar23, 11:50 Elespejsme que hay en el boom de la intaligencia artifical | Letras Libres . a La respuesta es no. Aunque la inteligencia artificial fuera capaz de hacer cambios a peliculas y libros que no te gustan, parte del valor de esas obras reside en las conversaciones compartidas que inspiran, y que requieren opiniones sobre textos en comtn, situados histéricamente. La generacién mas reciente de productos de inteligencia artificial ha causado olas de entusiasmo y financiamiento desde el otofio pasado, cuando debutaron aplicaciones de inteligencia artificial generativa como Chat GPT y DALL-E 2, Pero hay una raz6n por Ja cual muchos de hitps:etraslibres.com/ciencia-tecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! 33s14i23, 1:50 Elespajsmo que hay en al boom de la intalgancia atic | Letras Libras los casos de uso que han sugerido los impulsores de esta tecnologia parecen soluciones en busca de problemas. Esto es el solucionismo. Acufiado por el critico de tecnologia Evgeny Morozov, el término solucionismotecnoldgico es la creencia errénea de que podemos hacer enormes progresos para mitigar dilemas complejos hasta solucionarlos en su totalidad, si reducimos sus elementos centrales a problemas de ingenieria mas simples. Esto es atractivo por tres razones. En primer lugar, es psicologicamente consolador. Se siente bien pensar que, en un mundo complicado, los grandes retos se pueden solucionar de forma facil y directa. En segundo lugar, el solucionismo tecnoldgico es econdmicamente atractivo. Promete una accesible, aunque no barata, solucién milagrosa, en un mundo con recursos limitados para abordar muchos problemas apremiantes. En tercer lugar, el solucionismo tecnolégico refuerza el optimismo en torno a la innovacion, en particular la idea tecnocratica de que los enfoques de ingenieria para la resolucién de conflictos son mas efectivos que las alternativas que tienen dimensiones sociales y politicas. Pero si suena demasiado bueno para ser verdad —jun nuevo final para una mala serie!—, sabemos que probablemente lo sea. El solucionismo no funciona porque tergiversa los problemas y malentiende sus causas. Los solucionistas cometen estos errores porque descartan 0 minimizan la informacién critica, que muchas veces tiene que ver con el contexto. Para obtener esa informacién, es necesario escuchar a las personas que tienen los conocimientos y la experiencia relevantes. Old Friends. New Fun. | Meta Quest 2 hitps:letaslbres.comiciencia-tecnolagiafuture-tense-chatgpt-ntl gencia-artifclal-exageracion-solucionismo! ans.1ar23, 11:50 Elespejsme que hay en el boom de la intaligenca artifical | Letras Libres El solucionismo es un componente crucial de la forma en que las grandes empresas tecnoldgicas venden sus visiones sobre innovacién al piblico y a los inversionistas. Cuando Facebook se convirtié en Meta y comenzé a anunciar su viraje hacia la realidad virtual, lanzo un costoso e inesperadamente deprimente comercial en el Super Bowl, que transmitia el mensaje de que la realidad fisica esta rota y que la soluci6n a todo lo que nos acongoja se puede encontrar en las alternativas virtuales. El mensaje tuvo un gran impacto, y hoy tenemos a las fuerzas policiales sugiriendo que el metaverso es “una solucion en linea para el problema de reclutamiento de las fuerzas policiales” porque va a permitir a los potenciales reclutas tener experiencias inmersivas como manejar vehiculos policiales y resolver casos. Al mismo tiempo, Meta esta haciendo movimientos que revelan que su solucionismo es una estrategia de relaciones publicas. A pesar de que la compajiia era optimista con Horizon Workrooms, un producto del metaverso que permite a los equipos colaborar en realidad virtual, Mark Zuckerberg ha hecho un cambio de 180 grados al permitir que los empleados de Meta continten trabajando de manera remota. También esta dando sefiales de un cambio en las prioridades de la empresa, del metaverso a la inteligencia artificial. Ahora el solucionismoes parte del actual ciclo de publicidad y exageracin en torno a la inteligencia artificial. Aunque no hay duda de que los nuevos productos de inteligencia artificial van a afectar de manera significativa la forma en la que trabajamos, socializamos y jugamos, también es cierto que nos estamos ahogando en un mar de hipérboles. Tanto asi, que la Comisién Federal de Comercio de Estados Unidos ha intervenido para advertir que esta preocupada por las hitps:letaslbres.comicienci-tecnolagiafuture-tense-chatgptntel gencia-artifclal-exageracion-solucionismo! 5113s14i23, 1:50 Elespajsmo que hay en al boom de la intalgancia atic | Letras Libras exageraciones de las compaiiias sobre lo que sus productos de inteligencia artificial son capaces de hacer. “Todo este revuelo por la inteligencia artificial se ha extendido a muchos productos hoy en dia, desde juguetes hasta autos, pasando por chatbots y muchas cosas de por medio”, escribe la agencia. Pensemos en el siguiente tuit de Sam Altman, CEO de OpenAl: these tools will help us be more productive (can't wait to spend less time doing email!), healthier (Al medical advisors for people who can’t afford care), smarter (students using ChatGPT to learn), and more entertained (Al memes lolol). — Sam Altman (@sama) February 19, 2023 Afortunadamente, hay muchos avances prometedores en el campo de la inteligencia artificial para la investigaci6n y los diagnésticos médicos. Pero la idea de que los asesores médicos de inteligencia artificial van a ser una bendici6n para las personas que “no pueden pagar asistencia médica” es poco realista en el peor escenario y exagerado en el mejor. Para tomar en cuenta la mejor versién de la afirmacion de Altman, digamos que en algtin momento los asesores médicos de inteligencia artificial van a ofrecer consejos de alta calidad en algunas areas de la salud. Aun asi, predominan buenas razones para ser escépticos. En primer lugar, segtin Benjamin Mazer, profesor de patologia de la Universidad Johns Hopkins, los avances de la inteligencia artificial hitps:etraslibres.com/ciencia-tecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! 5113s14i23, 1:50 Elespajsmo que hay en al boom de la intalgancia atic | Letras Libras estan a punto de provocar un aumento en los costos de la salud. Conforme la inteligencia artificial avanza y tiene mayor capacidad para realizar examenes fisicos y analizar de manera rigurosa historiales médicos y sintomas, se espera que la industria médica en Estados Unidos incluya en cada consulta y andlisis una “tarifa por servicio”. Mas alla de convertir a la inteligencia artificial en una maquina de hacer dinero con el diagnéstico, Mazer anticipa que haya “avalanchas de asistencia” en el momento en que los sistemas de inteligencia artificial recomienden pruebas y procedimientos costosos, incluyendo algunos “innecesarios, alarmantes, e incluso perjudiciales”. En resumen, los avances en la automatizacién médica podrian facilmente conducir a un aumento en los costos médicos. En segundo lugar, {de qué sirven los buenos consejos médicos si no conducen a la accién? Mas alla del gasto en pruebas y procedimientos, la medicina, muchas terapias (como la terapia fisica), la alimentaci6n saludable y otras respuestas tipicas para solucionar los problemas médicos son muy costosas. Precisamente ese es el problema para las personas que no tienen acceso a asistencia médica. No queda claro como un chatbot pueda abaratar cualquiera de estas cosas. En tercer lugar, incluso en los casos donde los consejos de la inteligencia artificial no son caros de implementar, podemos esperar una variacion en los resultados. Por ejemplo, a pesar de que algunas personas consideran util la terapia cognitiva basada en la inteligencia artificial, otras prefieren trabajar con un terapeuta humano que es empatico, que se preocupa (a diferencia de una inteligencia artificial que solo puede simularlo) y que les ayuda a rendir cuentas para asi cumplir sus objetivos. En este contexto terapéutico, algunas personas hitps:etraslibres.com/cienciatecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! 713s14i23, 1:50 Elespajsmo que hay en al boom de la intalgancia atic | Letras Libras con menos recursos podrian verse relegadas a tratamientos indeseables con bots, mientras que aquellas que cuentan con mayor capacidad econdémica podran tener las preferidas consultas con humanos. Los que estan estancados veran en la inteligencia artificial un agravamiento en la desigualdad, no una solucién. Para ver si Altman esta pensando fundamentalmente en términos solucionistas con respecto a la inteligencia artificial o si nada mas escogié un mal ejemplo, consideremos otra situacién que captura el espiritu de su propuesta. {Qué pasa con las personas de bajos ingresos usando la ayuda legal disponible con inteligencia artificial de manera gratuita o barata en lugar de pagarle a abogados humanos, que cobran por sus servicios? Imaginemos a alguien que esta pensando en rentar un departamento, aceptar un trabajo, o contratar a alguien para que repare algo en su casa, y recurre a la inteligencia artificial para que revise el contrato y le aclare, en un lenguaje accesible, los pros y los contras de los términos expresados en el complicado vocabulario juridico. Esta no es una posibilidad irreal. El canal de television estadounidense MSNBC acaba de presentar un segmento sobre el estreno de la “primera inteligencia artificial asistente legal en la historia.” Le pregunté a Tess Wilkinson-Ryan, especialista en contratos y profesora en la Escuela de Derecho Carey en la Universidad de Pennsylvania, qué opinaba. Me dijo: “soy bastante escéptica en cuanto a la utilidad de la inteligencia artificial barata para los tipos de problemas contractuales que plantean las amenazas mas serias a las personas con bajos recursos. Mi opinion general es que los problemas mas grandes no tienen que ver con el hecho de que las personas no hitps:etraslibres.com/ciencia-tecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! ait3s14i23, 1:50 Elespajsmo que hay en al boom de la intalgancia atic | Letras Libras puedan entender los contratos; tienen que ver con que la gente de escasos recursos no cuenta con el suficiente capital financiero (acceso acréditos, o reservas de efectivo) para pagar las transacciones que vienen con buenas condiciones.” La excepcion, sefiala Wilkinson- Ryan, es si la inteligencia artificial advierte que un contrato incluye términos inaplicables. Pero incluso en este caso, enfatiza que la tecnologia tiene una utilidad limitada. “Podra ayudar a los inquilinos que estan negociando con sus caseros”, me dijo, pero “podria no ser til para escoger si rentar un departamento o no.” éY qué hay de la afirmacion de Altman de que la inteligencia artificial hard a los estudiantes “mas inteligentes” porque podran estudiar con ChatGPT? Aunque algunos estudiantes estan usando la tecnologia para estudiar al pedirle que les explique el material que no terminaron de entender en clase, la tecnologia también esta causando una ola de panico en las escuelas. Los profesores se esfuerzan para descifrar cémo ensefiar y calificar ahora que el plagio es tan sencillo y dificil de detectar. Ademas, es dificil crear politicas educativas eficaces, entre otras cosas porque los chatbots evolucionan de manera rapida, limitando los protocolos y los procedimientos a una vida Util corta. En resumen, es demasiado temprano para saber si las tecnologias como ChatGPT haran que los estudiantes sean mas inteligentes, porque no sabemos qué métodos de instruccién y ensefianza basados en la tecnologia surgiran como medidas adaptativas. Pero por lo menos Altman tiene razén cuando dice que seremos mas productivos, éverdad? No tan rapido. La idea de aumentar la productividad puede ser engafiosa, porque muchas personas asumen que el aumento en la eficiencia se traduce en menos y mejor trabajo. hitps:etraslibres.com/ciencia-tecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! antss14i23, 1:50 Elespajsmo que hay en al boom de la intalgancia atic | Letras Libras Las redes sociales estan llenas de personas adulando la manera en la que la ultima actualizacion de ChatGPT, que utiliza el nuevo gran modelo multimodal GPT-4 de Open AI, es un fantastico truco de productividad para automatizar de manera rapida algunas tareas que antes tomaban mucho tiempo. Se les esta escapando que estas ganancias seran efimeras. Comparado con los flujos de trabajo anteriores, su pronta adopcién supone un ahorro de tiempo. Pero, una vez que todos se pongan al dia y gocen de los mismos beneficios de la automatizacién, los estandares sobre hacer un buen trabajo en entornos competitivos aumentaran. Asi, lan Bogost profesor de la Universidad de Washington, caracteriza OpenAl como “la adopcién de un modelo clasico de solucionismo” y enfatiza que herramientas como ChatGPT “impondran nuevos regimenes laborales y de gestion por encima de la mano de obra necesaria para llevar a cabo los esfuerzos de ese supuesto ahorro”. Para poder sacar el mayor provecho a la inteligencia artificial, debemos tener muy clara la manera en que su uso va a impactar en la sociedad. Exagerar sus bondades va en detrimento de esa meta. Y el solucionismo es una de las peores formas de sobreestimacion. ~ Este articulo es publicado gracias a una colaboracion de Letras Libres con Future Tense, un proyecto de Slate, New America, y Arizona State University, hitps:etraslibres.com/ciencia-tecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! sons214123, 1:50 Elespejsme que hay en el boom de la intalgencia artifical | Letras Libres 10 we) 1No.289/ abil 2025 Picasso total YVERCONTENIDO EDICION MEXICO. SuscRIBETE FUTURE TENSE —_INTELIGENCIA ARTIFICIAL SOLUCIONISMO Evan Selinger y es profesor de filosofia del Rochester Institute of Technology. RELACIONADAS A AUTORES A Suscribete a nuestro newsletter hitps:iletaslbres.com/ciencia-tecnologiafuture-tense-chatgptntel'gencia-artfcial-exageracion-solicionismal 0131ar23, 11:50 Elespejsme que hay en el boom de la intalgencia artifical | Letras Libres CORREO ELECTRONICO ENVIAR No soy un robot reAPTCHA Cutura trovistas Politica Economia Ciencia y Tecnologia Possia iteratura Ficcién CineyTV Historia Libros Ideas Musica Literatura are Videos Acceso Podcasts Suscribieme Quienes Somos Numero actual México Nuestros Autores Numero actual Espaha Contacto Destacados hitps:etraslibres.com/cienciatecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! sans.1ar23, 11:50 Elespejsme que hay en el boom de la intalgencia artifical | Letras Libres (©2021 Letras Libres! hitps:etraslibres.com/ciencia-tecnologiafuture-tense-chatgptnteligencia-atfcial-exageracion-solicionismo! 1313