1

Noticia semanal: ¿ChatGPT es una próxima amenaza de ciberseguridad?

María Fernanda Galván Pérez

Facultad de Ciencias Físico Matemáticas, Universidad Autónoma de Nuevo León

Cómputo forense para abogados

Prof. Santiago Menchaca Bravo

31 de enero de 2023
 2

Resumen

ChatGPT (Generative Pre-trained Transformer) es una inteligencia artificial que interactúa con el

usuario respondiendo toda clase de preguntas, generando información en diferentes formatos, desde

resúmenes o listas hasta canciones o guiones de Tiktok; e incluso, puede crear códigos. Además, puede

adoptar diferentes formas de escritura, puede usar un lenguaje formal o uno tan simple como el

empleado por un niño de 8 años.

Fue presentado a finales del 2022 por OpenAI, una empresa de investigación y desarrollo de

inteligencia artificial, aunque no ha sido hasta en estas últimas semanas cuándo ha alcanzado gran

popularidad, llegando hasta a un millón de usuarios. Con esto, se han generado muchas incógnitas

entorno a las IA, especialmente en cuanto al área de ciberseguridad respecta. Debido a que, aunque

pueden ser útiles, por ejemplo, para identificar amenazas potenciales con mayor rapidez, también

existen factores de riesgo, En el caso de ChatGPT, aunque cuenta con parámetros para identificar

solicitudes inapropiadas, estos pueden ser eludidos, y con las palabras adecuadas puede ayudar a crear

código malicioso, un mensaje de phishing más realista, etc.

Para finalizar, la herramienta aún no es tan precisa como un humano, y su desarrollo no puede

detenerse por la incertidumbre del mal uso que pueda darse, ya que las amenazas de la IA no son un

problema nuevo.
 3

Comentario critico

Tomando como punto de partida la incógnita que plantea el título original de la noticia,

considero que hay una única respuesta: sí, ChatGPT es una potencial amenaza a la seguridad

informática. Aunque las IA tienen muchos beneficios, como la agilización de procesos y tareas en

diferentes áreas, estos no se superponen a la importancia de los riesgos que representan, ya que tienen

"potencial de alterar significativamente el panorama de amenazas cibernéticas", así lo expuso Sergey

Shykevich, gerente del grupo de inteligencia de amenazas de Check Point (reconocida empresa de

ciberseguridad israelí).

¿Cómo se podría alterar este panorama? Hay muchas respuestas, pero consideremos la más

evidente: facilita el trabajo para los ciberdelincuentes. Check Point demostró cómo esta IA, cuando se

usa junto con el sistema de escritura de código Codex, puede crear un e-mail de phishing con una carga

maliciosa. Para mí, el phishing es una de las amenazas cibernéticas más peligrosas, pues “ataca” a los

humanos, el eslabón más débil en seguridad (esta idea la respaldan instituciones como KuppingerCole

Analysts) y esta IA esta creando un ataque perfeccionado de este tipo.

Por otro lado, que hay quienes consideran exagerado creer que ChatGPT cambiará el panorama,

por ejemplo, el investigador de seguridad independiente The Grugq, quien señaló que “…obtener

malware y usarlo es una pequeña parte del trabajo de ****** que implica ser un ciberdelincuente de

bajo nivel”. Aunque bien, es cierto que apenas es el primer paso de un trabajo completo de hacking, yo

considero poco sensato subestimar su capacidad para poner en riesgo la seguridad, pues uno de los

principios que se nos enseñan es a esperar siempre lo peor, como el maestro Romeo Sánchez señaló en

más de una ocasión para sus estudiantes “nuestro trabajo es ser pesimistas”.

Es por esto por lo que comparto la postura de expertos como Shykevich, que consideran a

ChatGPT como una amenaza.

 4

Conclusión

La inteligencia artificial ChatGPT representa una amenaza para la ciberseguridad indistintamente

de la magnitud de su alcance, debido a que es posible crear ataques cibernéticos como phishing o

ransomware con ella; por lo que es necesario desarrollar nuevas herramientas con ayuda de otras IA

para detectar los ataques generados por esta.

Referencias

Borade, K. (2023, 6 enero). ChatGPT Artificial Intelligence: An Upcoming Cybersecurity

Threat? Dark Reading. https://www.darkreading.com/omdia/chatgpt-artificial-

intelligence-an-upcoming-cybersecurity-threat-

TechCrunch is part of the Yahoo family of brands. (2023, 11 enero).

https://techcrunch.com/2023/01/11/chatgpt-cybersecurity-threat/

Leal, A. (2022, 15 agosto). Human Factor in Cybersecurity: The Weakest Link? KuppingerCole.

https://www.kuppingercole.com/events/csls2022/blog/human-factor-in-cybersecurity-the-

weakest-link