1, INTRODUCCION Como es conocido, el articulo 1.1 de la Constitucion espafiola (CE) proclamna ‘que “Espafa se constituye en un Estado social y democritico de Derecho, que propugna como valores superiores de su, ordenamiento juridico, la Kbertad, la justci, a igualdad y el pluratismo po- Itico" sesratade un precepto, que vaias décadas después, se inserta en una co- riente que ya se advierte en el articu- lo 1.1 de la CE de 1931 ~"Espaniaes una Repiiblica democratica de trabajadores Tas preseres consderariones son objeto de teatamiento nis detalado en et lho Derechos Jindamentalesewieigenca artic, de proxi cin leacin en la edivarial Marcial Pons. Micuet Ancet Presno LINERA Coedkio de Derecho Constiveiona de lo Urivesided de Oviedo de toda clase, que se organiza en regimen, de liberad y justia” y que es similar a lo previsto en la Constitucion italiana de 1947 —"Ktalia es una Repablica demo- critica fundada en el trabajo” (arcu lo 1)>, la Ley Fundamental alemana de 1949 “La Repsiblica Federal de Alema- nia es un Estado federal democratico y social” (articulo 20.1); la Constitucion francesa de 1958 —" Francia es una Re- pliblice indivisible, Iaica, democratica y social” (articulo 1.1) la portuguesa de 1976 ~'La Repilica Portuguesa ¢$ un Estado de derecho democritico, (..., con el objetivo de lograt la democzacia, econémice, social y cultural y profundi- zar en la democracia patticrpativa" (ar cau En estos Estados sociales y democriticos de Derecho y en relacién con los dere- chos fundamentales, la Hamada revolu- cin digital aporta una doble vertiente: fen primer lugar, la interaccion entre Ta computacion, 1a electtOnica, las tele- ‘comunicaciones, ia matemética, la inge- rierfa, la inteligencia artifical (IA en adelante), la robstica y otras ciencias conexas, puede generar nuevas ¢ impor- tantesfacultades que se interpreten como parte del objeto de algunas derechos fundamentales ya reconocidos y, en su caso, se plasmen en las leyes que los {desarollene, incluso, es posible que sea necesario promover cambios constitur cionales que incorporen otros derechos, como ha ocutride con los llamadosode Leas Rapla en Unsplash ‘neuroderechas", reconocidosen fechas > recientes (25 de octubre de 2021) en la CConsttucion chilena (Reche Tello,2021), ayo artculo 19.1 im fine dispone que “Hl desarrollo cientifico y tecnolégico E estard al servicio de las personas y se levaré a cabo con respeto a la vida y a ‘ja inlegridad fisica y psiquica. La ley regulart los requisites, condiciones y tesircciones para su utilizacion en as petsonas, debiendo resguardar especial- Ge senna mg tae ue Irae nin er conto de Neo 5 oe te de Orin fe Bis qc ecenacan, plano itrac [fy oa ur aenes docs _certora enc, eno ol oa | orcl cer cen nop fee yea f 2 cho wena de ensmien ye Bie ine ‘at eg ar on cnet Sct unpliene etn, 9 ecto lr co aco ema Ene los propos pean roto Fete E-Store omentum 9 cares (els Riciece mje deleted {Goria y menial a waves dela neurotecnologs etsrbiyan de toma jusir ence rod la pobla- ony 57cm ran co Ep es bcp net Sor cog no onan pico Seo el oy ne ewe BENS Hono! a! chases =vhtenatineew 20) ase Be ake oe lornenro-rghi> 22 de ase mente la actividad cerebral, asi como la informacion proveniente de ella”. [A este respecto, desde el Parlamento Europeo se “pide a la Comision que cescudkie la posibilidad de presentar una iniiaiva relativa a los neuroderechos, See ln neces de tender a a ncdencta ela tnformtica y Ta mueligeeea anil ex testis constctones, véanse, La doctins ‘Sspatol,F Savctz Rasa (2018): "Derecho Constitucional, essrollainferstico enter (Gn atic apfoximacion a la propuesa del Patients Europea favor de una reglacion sobre roti", en J. Vans Paro (coord), Reto Jarticos por la sociedad digial, Cleer Menor, ‘Thomson Resters/Aranzod, pp. 31-76.) S4R00% [Ege 020}: EL derecho eonstiucional en I crv de Ie iligenta atc, ts robots y tos ‘Grons' er sez Minas y otros (is), Senin ‘tes de Goncinci Tahara y cuareta aos de Constcidn Exptl, 1 pp 321-334 F Basco Causcy (2021) “La eduriccion del algoitmo, [A eit encae de le consiimeion sale en ct mnnco dig’, en Naseaanro Goats ots (coor), Ditto Constcid dalgas em hone ragem ao 80. aniversaro de}. | Gomes Cano, Belo Horizonte, Forum, 2021, M, Hanwnes Rc tos G21). Una mad ai wage afl (desde ef Devchoconituion, texto neito ama blemente Bcilado pore ator Fara un conocimiento exhaustivo eel Scio ‘enopen, WWAA, (2021): Corstinconal Challenges Inthe Algnrthnae Soety. Cambridge Univers Pree; G. De Geran (2022); Digital Constitute nals Europe Refiaang Rights and Powers the Alri Soc. Canibridar University Pros con el objetivo de proteger el cerebro humane contra la injerencia, la manipu- lacisn y el control por parte de la neu rotecnologta impulsada por Ta LA ly] anima a la Comision a que defienda una agenda de newroderechos a nivel de las Naciones Unidas con el fin de inchuir estos derechos en la Declaracién Univer- sal de Derechos Humanos, concretamen- te en lo que respecta a Jos derechos ala identidad, al libre atbedrio, 2 la privaci- dad mental, a la igualdad de acceso los vances en materia de aumento del ce- rebro y a la proteccion frente al sesgo algoritmico” (Resolucion del Parlamento Europeo, de 3 de mayo de 2022, sobre la imteligencia artificial en la era digital, parralo 247) Por su patte, y antes de legara los nea roderecios, el Gobierno espanol ha promovido y aprobado, como parte de Ja Estrategia Nacional de Inteligencia Artificial (ENIA) ~media 28-, la Harms dda Cartade derechos digales,culeaimed® el 14 de julio de 2021, aunque es U texto sin valor juridice alguro ¥ 5 ugpesPeweelamoncloa gob tividadewDocumenss7202 140724 ‘Shas Digi, eds pa (@ 22 OF 2028)DERECHOS FUNDAMENTALES E INTEUGENCIA ARTIFICIAL EN EL ESTADO SOCIAL DEMOCRATICO Y DIGITAL DE DEEDES como se declara en las Namadas Cons dleraciones previss, "no traia de crear tuevos derechos fundameniales sino de perillar los mas relevantes en el entozn0 J los espacios digisles 0 deserbir dere- Zhos instrumentales 0 atailiares de los primeros.,. La Carta no tiene caricter Jhormativo, sino que su objetivo es Teco hnocer los novisimes reios de aplicacion ‘einverpretacion que la adaptacton de los derechos al entorno digital plantea, ast tcomo sugerir principios y polvicas refe- ridas @ ellos en el citado comtexto. Con flo, también, proponet un marco de referencia para la accion de los poderes ppblcos de forma que, siendo compar ida por todos, permita navegar en el femtoro digital en que nos encontramos fprovechando y desartollando todas sus potencialidades y oportunidades y con Jjurando sus riesgos. ¥ contribuit a les pprocesos de reflexion que se estéa pro Guciendo a nivel europeo y, con ello, liderar un proceso imprescindiblea nivel slobal para garantizat une digitalizacion Ffumanista, que ponge a las personas en. el centro". 'A mucstro juicio, lo necesario ¢s, preci samen, comvertir en autenticas normas juridicas mandatos y prohibiciones es- pecificos que garanticen wn acceso claro J manejable a los datos personales que fe usan asf como el derecho a compa tirlos o transfeitos de manera sencil clestablecimiento de mecanismos efiea- ces para combati las diseriminaciones y Tos sesgos, con especial atencion a Ta Tis cara mencton a base qe sepone Tite Tok de [a vgente Ley Orpinica 372018, de 3 de ‘Gates de protccon de daios personales ¥ ffrarta os deechos gals yet mis rein eRIAT Decrtrley 28/2020, de 22 de septier fie, de wahujo ¢ diame, el primero de 18 ‘isles aegela el derecho a la pewtalidad de to (Giict de acco arses e Internet, dere- Mra srguriad dig, el dewecho alk educt- Glan digs, fa protein de los mevores € Shtemet et derecho de zectcacioa en Internet. eifeecho ala seualincin de iormaciones e& fhaplos de comunicscion digsle, ol derecho & timid y nso de dsposvesdigtales en eL ‘rat labora el derec I desconeton dig ar eset ambi labore derecho aia iimidad {fente a uo de dinpestvos de videovilanc'a y {Ge gabosn de sonidos en el kaar de abo, Gf Eiccho a In inumidad ante Ue liacion de Slatmas de geolocalizaign en el abit labor, Seo Stree dgiales en a negecacén cles, JPpreeacon de ats Gels menoresen Internet, {Hacrecho al olvido ep osquedas de Internet» Shsemitson de tedes sociales y servicios equiv oles, el derecho a la portabided en servis lenis S solales ¥ sefvicios equivalentes y é proteccion de las personas y los grupos Frulnerables; Ia regolacton del uso de las ecnologias de 1A por parte de fas axto~ tidades poticiales y judiciales asi como del registro y Ia vigilancia humana a través de sistemas de idenuificacion bio- smétrica remota; el égimen de responsi bilidad y tendicion de cuentas, los de~ rechos de propiedad intelecwal derivados del uso de tecnologias relasivas 2 la 1A y tos derechos de los usuarios y consum ddores; las obligaciones de los desarrlla- ddores y desplegadores de la 1A el siste- ma de recursos frente a decisiones tomadas pot sistemas de 1A; el regimen de uso de las tecnologias de 1A en et mbito de la defensa y la seguridad: la regulacién del empleo de la LA para los ‘diferentes sistemas de transporte, em particular para ln autorizacion de Tos Yehicules auténomos, el establecimiento ‘de una autoridad nacional de comtro... Por eso, se echa en falta en la ENIA una mayor concreeion de Tas reformas Dor mativas necesarias ~“todo sistema de Inteligencia Artificial, debe respetar los derechos fundamentales, equidad en el acceso y prevencion contra a discrimi mnacién, asf como también Tos derechos del mundo ‘analdgico’. También se apas. tari por un impulso normative de re- ‘isign y reformas legislativas para la pplena habilitacion y operatividad del Iuevo escenario tecnologico dentro de tun marco democratico-” (p. 66), al menos de los concretos dimbitos iusfin- dameniales en los que s¢ consideran nnecesarias, pues siendo tmprescindible tun marco europe es también necesario ctvalizar el Derecho nacional. Obvie mente, ademés de identiftcar las mod fieaciones oportunas es imprescindible tun impulso politico ¢ instirucional que las lieve a cabo, ‘Aceste respecto, y como muestra de tna Carta con “valor juridico”,cabe mencio- ar la aprobacién, mediante la Let tn? 27/2021 de 17 de mayo, de la Carta Portuguesa de Direios Humanos na Era Digital, que inchuye, ademas de Ia pro- teccidn de derechos clisicos, como las Iibertades de expresién, manifestacion, asociacion o participacion, en el mundo digital, y de reconocer derechos recien- tes, como ei derecho al alvido y la pro- teccidn contra a geolocaizacion abusiva, uso de la inteligencia artificial y los robots!“1, Hluso de a inteigeacia artical se guiaté por el respeto los dere chos fundamentales, garancizando tur justo equilibrio entre los princi- pios de explicebilidad, seguridad fransparencia y responsabilidad, te piendo en cuenta las circunstancias de cada caso concreto y establecien do process para evitar prejuicios y dliseriminaciones. 2. Las decisions tomadas mediante algoritmos que tengan un impacto signficativo en los destinatatios deberén ser com- nicadasa los interesads, ser suscep- tibles de recurso y ser auditables en los términos previstos por la ley. 3. Los prineipios de beneficencia, no ialeficencia, respeto ala sutonomia Inutnana y Justicia, ast como los prin- cipios y valores consagradas en el srticulo 2 del Tratado de la Union Europea, a saber, la no discrimina- cin ylatoleranci, se aplicaran a la creacién y utilizacion de robots" (antculo 9). En todo caso, las regulaciones nacionales de muestro entomno geografico politico tendrian que insertarse en un auténtico marco juridico europeo, que tambien ‘vaya mis all de las vecomendaciones y las indicaciones de tipo ético, noen vano ‘ex este mmbiro juega un papel especial- ‘mente relevante el principio de precau- ion, que gufa la legislacén de la Unicn Europea y que puede encontrarse apun- tando en el enunciado del anticulo 18.4 CE (La ley limitara el uso de la infor. ‘itica para garantizar el honor y la in- timidad personal y familiar de los ciu- dadanos y el pleno ejercicio de sus derechos"), aunque hay quien defiende {que en este ambito =y en otros de simi- lar complejidad como la investigacion cembrionaria humana debe postulatse la superacion de la distincidn entte De- recho duro vinculante y Derecho blando no vinculante (hard y soft law) como la mejor opcion para una eventual regula- > Ast em la Reschcion del Parlento Europe, {de 16 de febrero de 2017, com recorendacones ‘desanads 2's Comin sobue ormas de Dere= ‘co chil sabre robots, s dice que “las ae Alaes de invesigaion en el bite de la robt- ‘a deben Levarse a cabo de conformidad con el Drisipio de precauoion, anccipmdose a tos Dosis impacts de aus reeltacos sore Ia se Burda y adopcando las precasciones debidas, {2 fimcion del nivel de proteccion, al erapo que sefenenacl rogrsoebeetice dea secedhd del medio ambiente” cion internacional de LA (Garcia San José, 2021, 261). ‘Ademas de la vertiente acabada de co- rmentar, 1a IA y las tecnologias conexas permean, como veremos acontinuacion, tues principios estructurales del Estado: su caricier de Estado de Derecho, su condicién de Estado democratico y la garantia del Estado social 2, INTELIGEN En Io que al Estado de Derecho se re- fiere, el uso de la A debe, primero, someterse al principio de legalidad, tanto en el sentido amplio de este tér- mino, entendido como principio de Juridicidad 0 sumision a normas juri- dicas, como, en su caso, en el sentido mas preciso de regulacion por leyes. Aqui nos encontramos con diferentes retos, aunque el principal seria, hay que insistir en ell, el de sujetar # disposi- ciones juridicas y no meramente a di tados éticos el desarrollo, el despliegne yel uso de la IA, Al respecto, el Patla- ‘mento Europeo ha sido claro: “los le- agisladores deben abordarlos resgos que plantea actualmente la toma de dec nes basada en la LA” y pide “un entorno nnormativo para la IA que proporcione tuna gobernanza eficaz y garantice la proteccion de los derechos fundamen- tales” (parrafo 16 de la Resolucion sobre la imeligencia arificial en laera digital) En esa linea, conforme al “Eje estraté- gico 6° de la ENIA, aunque se sigue apelando a la ica, se ptopone estable- cer un marco ético y normative que refuerce la proteccion de los derechos individuales y colectivos, a efectos de garantizar In inclusion y el bienestar social® ® kn panicla, se dice que “el potocia mp to pov del desta y deaplegu del A foro expecta. peso “ambn nce res debida alt plies es, eles stiles scondmican Pate que Espana pueda ponerse emia angie pein y social em st ‘rl secnoligsex neces ercarel a 6 de schiscicn apropiado. Deberos erat 5 Iiuestas owas de somevenca en adapts flee seoscaes dl moment, es sileen= ome muro elo ure gue 20s ba am ado asa hy 9 ut jit eis Ne ‘es pota preserve ever del hac fit en em unde dtl anteponee objets fore y derncts al Mesa dela psDERECHOS FUNDAMENTALES E INTELIGENCIA ARTMIA' TE Ahora bien, y volviendo a la Resolucién sobre la 1A en la era digital, “el nivel de Ta intervencion reguladora debe ser pro- ppotcional al tipo de riesgo individual 0 focial que entra el uso de un sistema de 1A; subraya, aesterespecto, la impor tancia de distinguir entre casos de uso de la LA de ‘alto iesgo’y de “bajo riesgo’, oncluye que Ja primera categoria e- quiere mas salvaguardias legislativas festrictas, mientras que la segunda, en mauchos casos requerira requisitos de trangparencia para los usuarios finales y Jos consuimidores” (pirrafos 298 y 133). YY por citar una normativa juriica ya en vigor, cabe mencionar la canadiense Directive sur la prise de decisions auto- ‘matisée/Ditective on Avtomated Decl sion-Making, de 1 de abril de 2019", que tiene por objeto garantizar que los siste- ‘mas automatizados de toma de decisio~ nes se cesplieguen de manera que 56 reduzean los riesgos para la cudadanta g las instivuciones gubernamentales ¥ ‘den lugar a-una toma de decisiones mas eficaz, precisa y conforme a lalegislacion ‘eanadiense. Esta norma prevé, entre tas ‘casas, que se aplicaria cualquier sistema, herramienta o modelo estadistico utli- zado para recomendat © tomar una de ‘sion administrativa y a cualquier site sa de toma de decisiones automatizado Gesarrollado o adquirido después del 1 de abril de 2020, También que se publi- ceavin, a través de todos los canales de pprestaciin de servicios utiizados,avisos, fn un lenguaje sencillo y en un hugar destacado, de que la decision tomada se realizard en su totalidad 0 en parte me- diante un sistema automnatizado de apo- yo a la decision. La Ley esiablece que, como tegla, habri ‘que hacer ptblice cualquier cédigo fuen- te que tenga el Gobierno de Canad y contempla medidas preventivas y de control: por una parte, antes de poner fen marcha la produccion de un sistema automatizado se deben desarcllar pro- esos para que Jas datos yl tformacién. uatilizados se sometan a pruebas para detectarsesgos involuntarios en los datos y otros factores que puedan afectar in- justamente a los resultados, por otta parte, se deben desarrollar procesos para Supersisar los resultados de los sistemas ‘edecision automatizados que eviten los 7 Gaapasorwnathe-ex canada ca/poldoe-ens sspelga 32502» (922 de agosto de 2022) resultados involuntarios y permitan ve- riliear el cumpliraiento de la legistacién yeguladora de forma programada, Final- mente, se gutamtia que el sistema auto- rpatizado de toma de decisiones permita la intervencién humana cuando sea nnecesario, ast como la obligacion de proporcionar a los usuarios todas las Opciones de recurso disponibles part impugnar la toma de decisiones acimi- ristraitvas automatizadas En segundo lugar, y parafraseando el titulo de un trabajo de Cemilloi Martinez (2019), es necesario “abrir las cajas ne- gras" que ocultan el use de la IA por parte de las Administraciones pablicas y ello como una garantia adicional del Tespeto a varios de los principios procla- rads en el articulo 8.3 CE y que som consustancales al Estado de Derecho: el e legalidad, el de la publicidad de las ‘normaas, la seguridad juridiea a respon fabilidad y la interdiccion de la arblera- riedad de los paderes pablicos. Adem, y como recuetda Carles Ramio (2018), fn falta de transparencia puede ser un problema de singular importancia debi- do al relevante liderazgo del sector priv yado en el desarrollo de aplicaciones Ipasadas en el uso de algoritmos, lo que, ademis de reforzar la dependencia de las entidades privadas pudiera suponer tun problema de cierta gravedad a lahhora de negociar las condiciones contractua- les ‘A cote respecto, hay que insistir en las deficienctas que presenta la vigente le fgslacion sobre transparencia, como ¢l elevado naimero de motivos y su gene rica redaccisn que pemmniten, denegar el acceso a la informacion y que resultan ris evidentes cuando nos encontratmos encl campo dea 1A Jul Valero 2019, 839) propone inspirarse en el ejemplo de la Ley francesa 2016-1321, de 7 de oc- tubre, que parte de ia distincion entre la existencia de una solicitud de acceso 0 ‘ée una obligacion de publicidad activa de las Administraciones publicas, que cexige difundir las reas esenciales en las que se basan los algoritmos. En suma, la ciudadania debe de poder conocer tanto los proyectos dirigidos a la ingroduccién de [A come los sujetes, ppublicos o privados, que los var a dest- rrollar, tambien, de dncie van a salir los datos, como se van @ capa, los plazos de ejecucion de los proyectos y Tos T= sultados esperados y la inversién econs. mica que requeriran, y todo ello de i manera mas sencilla posible (Velasco Rico, 2019, 78) Fin tercer lugar, y muy relacionado con Jo que se acaba de comentar, I IA pue- ‘de contribulr de manera muy relevante aadar efectividad al derecho’ una buena ‘administracion, reconocide de manera expresa en el aticulo 41 de Is Carta de Derechos Fundamentales de la Union Burepea y que puede entenderse implt- ‘citamente incluido también en el articu- 109.3 CE. Aste respecto, el Consejo de atado taiano declar6, en Ja sentencia 2270, de 8 de abril de 2019, que “en general, nose puede seu que tun mayor nivel de digializacion de ta Administacion Publica es Fonds- ‘mental para mejorar ix calidad de los servicios prestacos a los eudadanes Y usuarios... hay que destacar los tndudabies vetajas que se devivan de la automatizacion cel proceso ¢ toms de decisones de In administr cn mediante l uso de un proced tento digital y a raves de un algo- ritmo’ es decir, una secuencia ordenada de operaciones de csleu- lo= capa de evalar ycalifica eles- trdnicamente una multtud de sol cetudes. La utilidad de este modo operative de gestion del interés puiblico e= especialmente evidente en lo que se reliere a los procedimientos seriado: co normalizados, que implican lat ritaciéa de un gran ntimero de so licitudes y se caracterizan por ls btencion de datos ciertos y objet vvamente verficables y la ausencia de toda apreciacion discrecional Ello, en efecto, se aust a los céro- nnes de eficacia y economia de ! ‘actuacién administrtiva, que, d& acuerdo con el principio constitu ‘Gonal de buen funcionamiento dels faectuacién administrative (artic o 97 de la Constitucion), exigen & Ja Adtninistracion la consecucion de sus fines con el menar gasto de me dios y recursos y a través de In agi lizacion y aceleracién del iter proce imental. Seiala Ponce Solé (2019, 56) que el desarrollo dela tecnologia puede facilitarDc ‘al proceso de la personalizacion y la Sovicipacién en la prestacion de los ser- ‘jos publices y reducir de forma sige Frfieativa algunas de las barreras que Gadicionalmente han dificultado este wceso, no siendo la mesificacion ya un pbstaculo. en cuorlo término, sigue vigente el reta fe sujelar a contro} jurisdiccional la sevaacion administrativa que se sitva de In JA (De la Sierra Moron, 2020) y las iniciativas que pretenden llevar a cabo tanto el Ministerio de Trabajo como la “Agencia Tributariaespatiola podrian ser tinas buenas muestras; asi, por citar el primer ejemplo, segin la Resoluclon de 59 de noviembre de 2021, de la Secre- taria de Estado de Empleo y Economia Social, por la que se publica el Acuerdo de Consejo de Ministros de 16 de no- siembre de 2021 por el que se aprueba Plan Esteatégico de la Inspeccin de ‘Trabajo y Seguridad Social 2021-2023, “se utilzardn modelos predictivos, me- dante la iplementacién de inteligencia anificial en la Herramienta de Lucha contra el Fraude, para la planificacion de sctuaciones en materia de seguridad ysalud laboral, como se desarrolla en el Hie 3 de este Plan, relativo al fortaleci- tmiento y modemnizacion de la ITSS... Se mejorard la explotacin de informacion y¥datos, a través de la inteligencia atifi- ‘cal, para planificar actuaciones de con- trol del trabajo no declarado... Se imtro- ducirén c€enicas de inteligencia artificial para tritar toda la informacion recibida ‘nel Buzon y hacerla ail para la plani- ficacion de la actividad inspectora..." No obstante, debe tenerse en cuenta que “el uso de algoritmos, la clasifcacién de los sujetos mediante perfiles de riesgo de incuenplimiento y el tratamiento de tos de forma automatizada... con objeto de seleccionar las empresas a 'Rspeccionar puede plantear milliples Problemas juridicos. De un lado, las formas de proteccign de datos y, de otro, fistiornas anidiscriminaeion y de pto- leccion dela itimidad pueden suponer mites juridicos al uso de estas técnicas™ (Todolisignes, 2020, 317). Fitodo ‘caso, y como sefiala Huergo Lora 2021, 81 y ss), setapte que la predic 16" algoritnica Yaporte algo tlene que ‘Siar sometida a control... a prediccion tain y, como fndamento de ell, ‘gorieao, forman parte del expediemte — administrativo y, como ta, esté sometida a contrat (que, en el caso del contencio- so-administrativo, incluye su entrega a las partes para formalizar la demanda 0 la contestacion). Ese control jurisdiccio- nal sera mas facil 0 mas dificil, pero, en esencia, no se distingue demasiado del ue ejercen los jueces y tribunales sobre otro tipo de tecnologias que también utiliza la Administracion y que estén sometidas a esa verificacién, que nor malmente se lleva a cabo con la ayuda de informes pericales. Si los jueces se promuncian todos los dias sobre actos administrativos que esti basados en juicios técnicos de tipo econsmico. quimico... médico,..o de ingeniera..., gpor qué no habrian de pronunciarse sobre actos administrativos que utilizan predicciones algorttmicas? Y, si el juez llega a la conetusién de que los elemen- os que se le suministran no le permiten. salbersi‘elalgoritmo' discrimina o no, 0 si utiliza parimetros que no debertan tenerse en cuenta en esa decision admi- nistrativa, creo que Te respuesta mas probable sera amular esa decision, Pero, en mi opinion, el marco argumental del control juridico del uso dela inteligencia antficial por la Administracién deberia set éste, €5 deci, el de someter los sis- temas de inteligencia artificial a control juridico alli donde contribuyan a deter- minar el contenido de la actuacién ad- ministrativa’. Sobre estas cuestiones puede ser ilustra- tivo el conocido caso SyRI (acrémimo de ‘System Risk Indication), €) sistema que empleaba el Ministerio de Asuntos So- iales y Empleo de los Patses Bajos para rastrear posibles fraudes al Estado a partic de la agregacion de datos sobre. ingresos: pensiones, seguros, tipo de casa, impuestos, multas, integracion, educacién, deudas o subsidio de desem- peo de los contribuyentes. Esos datos se comparaban luego con un perfil dé riesgo creado a partir de la informacion de quienes ya habtan cometido fraude y se elaborada una lista de personas cuyos datosse podian conservar hasta das aos. Pues bien, la Corte de Distrito de La Haya sentencis el 5 de febrero de 2020 ‘que, si bien es licto acudir a herramien- tas de este tipo st concurre un interés pliblico que lo justifique y se han acop- tado las medidas oportunas para que la injerencia sea la menos posibles en la vida privada de las personas investigadas, en el caso concreto el sistema SyRI no ofecfa suficientes garantias y no respe- taba el principio de proporcicnalidad requerido para su compatibilidad con el erecho a la vida privada amparado por el articulo 8 del Convenio Europeo de Derechos Humanos, El organo judicial tuvo en cuenta tam- bien que la normativa aplicable no ofte- cfa informacion alguna sobre e¢mo de- terminados datos 0 citcunstancias poctian implicar ua incremento del riesgo ni era posible comprobar cémo se formaba un perfil de riesgo 0 como resultaba el ra tamiento de datos de aquellas personas que no derivan en periles de riesgo. Y es lsmativo que el Gobierno holandés alegara que el funcionamiento de! algo- rittno debia ser escuro, pues de lo con- trario no se obtendrian datos masivos sobre el comportamiento de los ciuda- danos de la suficiente calidad ya que {10s ajustaran su comporsamiento alos parametros del agoritmo empleado (Laz- oz y Casillo, 2020, 217 y ss) El caso SyRI puede también valorarse como una muestra de la relevancia del control jurisdiccional como garantia frente ai uso abusivo de la IA, pero, dems, es necesatio un control social por parte de la ciudadanta y para ello es, imprescindible, por una parte, que dicha ‘cuudadanta tenga formacion adecuada en ta materia y disponga de la informacién precisa, algo que forma parte del Eje 5' de la ENIA ~'se mejorar la calidad de los datos aportados y su accesibilidad, fomentando la cultura de orientacién al dato, utilizando algoritmos ransparentes y explicables, estrechando ta relacion entre la Administracion y la chudadania” (p. 57)=y que esta por ver si se convier- teen realidad, Y volviendo a la posibilidad de control jurisdiccional, también deben estar so- tmetidas al mismo las decisiones de las autoridades administrativas indepen- dientes que, a su vez y de acuerdo con las propuestas de las instituciones euro- peas, atten como autoridades naciona- les de controt sobre la aplicacién de la LA. En quinto iugar, es inherente al Estado de Derecho Ia garantia de una serie de derechos, inicialmente de indole “civil” ‘yahora también de caricier democratico ¥y social, y poca duda cabe sobre la ne~ ‘esidad de asegurar el disfrute de tales derechos en un contexto dominada poroo de Dinan So en Unsplash a IA. Como se dice en el primer parr fo del Libro Blanco sobre la inteligencia antficial de la Cornisisn Europea, de 19 de febrero de 2020, "la IA se esta dest rrollando rapido, Cambiar nuestras vidas, pues mejoraré la atencion sani fia (por ejemplo, incrementando Ta pre- cision de las diagn uma mejor prevencion de las enfermed des), aumentara la eficiencia de la agri- tigacion del cambio climatico y a la correspondiente adaptacién, mejorara la eficiencia de los sistemas de produccion a mavés de un ‘mantenimiento predictive, aumentara la seguridad de los europeos y nos aporta- ri otros muchos cambios que de mo- mento solo pademos intuit. Al mismo npo, la 1A conlleva una serie de .osy permitiendo cultura, comtribuita a la DERECHOS FUNDAMENTALES E INTEUGENCVA ARTFICY riesgos potenciales, como la opacidad en. la toma de decisiones, la discriminacion de género o de otro tipo, la intromision fen nuestras vidas privadas 9 su uso con fines delictivos" 9, INTELIGENCIA ARTIFICIAL ¥ ESTADO DEMOCRATICO DE RECHO Es conocido que son consustanciles al Estado democtitico el pluralism de los grupos y las asociaciones, el Yespeto a Tas:minoras yt patti ep las diferentes funciones del Estado Jegislativa, ejecutiva, jurisdiccional) patticipacion que es al tiempo un dere nandato de ac- tuacion para los poderes pablicas, como se evidencia, por ejemplo, en el arcu. To 9.2 CE, en la linea, a su vez, del ap culo 3.2 de Ia Constitucién italiana, Fn este Ambito, y en primer huge, la iA es susceptible de ser aplicada en los procesos en Jos que la ciudadania es Tlamada a participa en laelaboracion de normas jridicas y ello tanto para obte ner datos e informaciones que puedan fer tenidos en cuenta en la decision piblia final como para vaborar si se hia Hegado a cabo un auténtico proceso panticipativo, pues uno de los resgos del so dela IA radica, precsamente, en la desigual eapacidad de intervencign ci. dadana*, A este respecto, en la Declare con de Tallin sobre la adinistracién electronica, de 6 de octubre de 2017, se sume el compromise de “que los medic dligitales se utlicen para da ciudadanos ya ls empress, peritien- do a quienes toman las decisiones poli nuevas ideas, implicar en mayor tedida a los ciudadanos cuand se trata de la creacion de servicios pt blicos y proporcionar mejores servicios ppablicas digitales” En segundo término, y en To que tence que ver com la aplicacion de sistemas de 1A en los procesos politicos de seleccion de representantes y en los referendos, |: cuestion decisiva es si con ello se con: tribuye a mejorar la calidad de los ante dichos procesos participativos, es decir, si garantizando requisitos esenciales del derecho de participacion ~que se ejerzs ide manera universal, libre, igual, dire y secreta-, se facilita su ejercicio y s¢ porta mas transparencia y confianza « Ja ciudadanta, “con el fin de ampliar el debate politica y favorecer una mejor y ras legitima aopeton de las decisiones FD, Cavs « Averre (2019): “Incdencia el vance eanologicn en el Derecho Pui (eho fy, précis, docencin e snvesgaci" Pons CoonwQaemi Pastas (coords), Derecho ene a ransjormacien dia eporn {rigs 9 gavants, Barcelona, Atcier, PP $5, cim carter mis general, ® Gusta Ce Eel cote “i Derecho Dials parity em fv asuntes pablo recs sociales yoFas ca fey de expreson” en Di La Cabea SaciDavieat asus ins), Ssedod igual y Drcho, BOPMesLes, pp, 225-2367 sobre ns exper te Eapata 7 fetados Unides, L Axxo Joa (Gor Panicpacon elecusnicay elaborac de novmas adinstaivas en Espa ¥ © Fsusces Unidos de America’, ea. Mars Des po, Lav nina ec pour para iz emovacn dee et dee Said, INA pp. 231-2s,como articus del ax ana, aig en los fa est cin de * obte- pueden cision i se ha races gosdel en ia civ eclara- acion N17, se nedios + los tien s polt- cat en vando 2 ple vicios nicas” (Principio n° 6 del Anexo ala frecomendacién del Comice de Ministos Gel Consejo de Europa a los Estados sniembros sobre la democracia electro- fica (e-democracia), adoptada el 18 de febrero 2009), sin olvidar que mis y mejor tecnologia no conduce por st frismna a mas y mejor democracia (Prin- eipio 0." 49). zn esta linea, la Resclucion del Parla- mento Europeo, de 16 de matzo de 3017, sabre ia democracia digital en la ‘Union Europea: posibilidades y retos (201620080NDI "1, Subraya las potenciales ventajas de la democracia digital, que se de fine como el apoyo y el refverzo de 1a democracia tradicional por medio de las tecnologias de la informacion yyla comunicacion (TIC) y que pue- de complementary reforza los pro- cesos democriicos aitadiendo le- rmentos de empoderamiento de los ciudadanos a través de diversas ac- tividades en linea que incluyen, en- tre otras cosas, la administracion publica electronica, Ia gobernanza electronica, la deiberacion electré- nica la paticipacion electronica y la ‘volacién electrinica; acoge con S3- tisfaocién que las nuevas teenologts de la informacion y la comunicacion pennitan a un niimero de ciudada- nos cada vee mayor participar en. los procesos democaticos. 3... sefala que ia democracia di- {ial por st misma no garanciza la Partcipacion politica y que también debe abordarse un entorno no digi- tal al objeto de procurar la partici pacién politica de los ciudadanes en paralelo a le democraci digital 35, Destaca la necesidad de prote- ‘ges, com caracter prioritacio, Iz inti- ridad y los datos personales cuando se utilicen herramientas de demo- cracia digital, y de fomentar un en- toro més seguro en Internet, en paricalay por lo que se refiere a Is seguridad de la inforenacion y de los datos, ncluido el ‘derecho al olvido', asi como de oftecer garantas frente al software de viglancia y la verifica- bilidad de las fuentes; pide, ademas, un mayor uso de las servicios digi tales basados en habilitadores clave, como una identidad digital segue za. uboga por la creacion de regis- tos pblicos digitales seguros y la validgcicm de las firmas electsénicas para evitarinteracciones fraudulen- tas miiiples,en-consonancia con as nnormas de derechos humanos euro- peas internacionales y con lajuris- prudencia del Tribunal Europeo de Derechos Humnanos y det Tubunal de Justicia de la Union Europea; subraya, por ultimo, que los proble- ras de seguridad no deben conver- tirse en un elemento disuasorio para Ja inclusion de individuas y grupos en los procesos democriticos 36. Insiste en la necesidad de mejo- zat ls democracia a traves de a tec- nologia, que debe usarse en un en- tomo seguro que esta salvo del mal ‘so de las herramientas teenolégicas (por ejemplo, robots para el envio de comes basura, elaboracién an6- nima de perfiles y usurpacién de identidad), y recuerda la necesidad de respetar las normas jurdicas mas exigentes, Es sabido que en Espatia y en otros Es- tados las herramientas electronicas ya se vienen usando para, por citar algunos ejemplos, agilizar el recuento de cual- guier proceso electoral 0 consulta popu- lar 0 facilitar la recogida de firmas en luna iniciatva ciudadana, pero, 2 dife- rencla de lo que ha ocurcido en Estonia, nil voto electronico ni, menos todavia, un sistema de votacién basado en la tecnologia blockchain, han generado de ‘momento expectativas amplias mi pare cen augurar resultados que sean, en términos partcipativos, mucho mejores ue los mecanismos ahora existentes* ¥, volviendo ala 1A, la varias veces men- cionada Resolucion del Parlamenta Euro- peo sobre la inceligencia artificial en Ta xa digital obsezva que “las plataformas 9 Sobre el uso decor de I tecnologia Hack chain, B Gasca MAADOM. A Pesto LE (2023): “Democrcia Incal y tecnologia bloke hain’, en G. M. Dua Gorzit, Bocichain y Go- rem lecaes, Madrid, Fundacion Democraia y {ber Ioel, pp. 237-274; en gener, Cas “eauon Cantons (2020) Particpacn cad ay buee gbiemo democrco:poabldades f= ies ox teva dg, Madd, Marcial Pos, M 0, Stseiex Match (2020) *Desafles demecrs- ticos enelecosstema digi. en) 1, Saux avO9 (ed), Dimensions ees y juriieas del malig- (8a arajaal nel ronea dl Beda de Derecho, Universidad de AlealDefensor del Pueblo, pp. 79-119 tecnologicas dominantes hoy en dia no solo tienen un importante control sobre el acceso a a informacion y su distribu «ion, sino que tambien wilizan tecnolo- sas de 1A pata obtener mas informacicn sobre la identidad y el comportamiento de una persons, yel conocimiento de su historial de decisiones; considera que esta elaboracion de perfiles plantea ries- gos para los sistemas democraticos, ast como para la salvaguardia de los dere chos fundamentales y la autonomia de los ciudadanos; destaca que esto genera tun desequilibrio de poder y plantea riesgos sistémicos que podirian slecuar 9 la demoeracia’ Sefala también que “las plataformas digitales pueden ser utilizadas, tambien mediante aplicaciones de marketing basadas en la IA, por la injerencia ex tranjera y para difundir desinformacion y ultrafalsficaciones, actuanido como redes de propaganda, troleo y acoso con el objetivo de socavar los procesos elec- torales; destaca que el aprendizaje au- tomatico permite, en particular, el uso selectivo de datos personales para ma- niipalar a votantes que no sean cons- cientes de ello, creando mensajes per- sonalizados y convincentes; hace hhincapié en Ja importancia de unas estrictas obligaciones de transparencia que se hagan cumplir de manera efec- tiva” (parrafos 90 y 91) | INTELIGENCIA J ESTADO SOCIAL f Finalmente, y a propdsito del caracter social del Estado, la dimension prestax ional que lo caracteriza, ast como la Dusqueda de [a mayor igualdad real posible, deben, como ya se ha dicho antes, evitar que en la eta digital se con- soliden sesgos que pueden alectar y discriminar a numeresas personas y @ ‘grupos sociales, Aquino nos cansaremos de insistr en la necesidad de articular prescripciones norrmativas que estable2- ccan, especialmente para los poderes publicos, obligaciones precisas y 00 ‘eras politicas de fomento y promocion, como, por ejemplo, Iss inckuidas en la reciente Ley 15/2022, de 12 de julio, integral para la igualdad de trato y ls no discriminacion, cuyo articulo 23 dlispo- ne; “I. En el marco de Ia Estrategia ‘Nacional de Inteligencia Artificial, de la Canta de Derechos Digitales y de lasgencia Artificial, las administraciones puiblicasfavorecerin la puesta en mare Ge mecanistnos para que los algoritmos involuerados en la toma de decisiones que se utlicen en las administ pablicas tengan en cuenta rminimnizacion de sesgos, transparencia y rendicién de cuentas, siempre que sea factible téenicamente. En es mos se inclutran su diseno y datos de entrenamiento, y abordaran su potencial impacto diserisninatorio. Pars log fin, se promoverd la realizacion de eva- luaciones de impacto que determinen el posible sesgo discriminatorio. 2, Las fdministraciones publicas, en el marco ide sus competencias en el ambito de los algoritmos involuctados en process de de decisiones, priorizaran la trans- rencia en el diseno y la implementa tion y la capacidad de interpretacion dé las decisiones adoptad 3. Las administraciones pablicas y | ‘empresas promoverin el uso de una Tnteligencia Artificial ética, confiable y tespettosa con Ios derechos fundame siterios de reste por los mismos, tales, siguiendo especialmente las reco- mendaciones de lz Union Europea en sentido. En segundo al propio ac gar, ¥ en lo que respet so de la ciudadanta al Foto de Aidan Gronberry en Unsplash mundo digits su efecividad dependera tambien de las actuaciones for de las dotaciones econémicas que apor tenlk cabria interpreiar que Genen un contenido prestacional. En esta linea, la Resolucidn del Parlamento Europeo de 3 de mayo de 2022 “pide « los Fstados ‘alembros que hagan de las capacidades y la alfabetizacion digitales un compo nente de la educacion basica y el apren- dizaje permanente; pide un sistema educativo en materia de LA de alto ren- ddimiento que fomente la alfabetizacion, las capacidades y la resiliencia digitales desde wna edad temprana, indo fen ke educacién primaria; hace hineapié enue el desarrollo de planes de estudios para la educacién digital requte- iuntad politica, recursos sufi fe investigacidn cientifica; pide a la smision que p cursos de comspetenciascomputacionales ¥ de TA en todas las escuelas, univers dades e instituciones educativ peas, recalca que dicho desarrollo ¢ tapacidades es necesario en la mista medida en la educacion de adultos que en la eduucacion primaria y secundaria, solicta una iniciativa politica global ¥ ‘coherente de la Comision y de los Est ddos miembros sobt acidades y la teducacién en materia de 1A a escala de poderes publicos y. en sromuevallaintroduccién de 1a Union, ast como une iniciativa legis F lativa sobre la UA en el lugar de tr (parrafo 205). Por su parte la ENIA subraya “la necest dad de crear uns ciudadania capacixeda que pueda cisiones de los sistemas formacién en materia de competencias digitale debe abordarse desde la Edu. tacion Infantil, ineluyendo la formaciém. tn pensamiento computacional, con el fin de crear una sociedad cultaen tec rologias digtales fomentar las vocacio. hnes STEMy redue a brecha de ge en los niveles de Formacion Profesional (FP) y la Universidad se debe realizar un mayor esfuerzo educative en IA para gavantizar que toda la ciudadanta tenga ima base de pensamiento computa. onal. La toclusion de la 1A en el entorno formative no se puede ni debe restringir Unicamente bi cionedas com las ciencias, la tecnologia, las ingenieras y las matematias (STEM. por sus si que sene que inci co arsanistcos y de las cienci (STEAM) para ‘borat los diferentes aspectosrelevantes tenia JA, con unenfoque interdiseiplinar (p30 areas rela Ademas, la dimension social de los rechos, wnida al principio democratic da una nueva perspec eficacia de Estos, que n0 rente 2 los poder ‘menos en algunos casos, también hott zontal (entre individuos, dentro de la sociedad) y ahi deben venerse t cen caenta la informatica, a 1A, Ia robé- tica y las tecnologias conexas y st inci- dencia en las relaciones laborales y en el Ambito del Derecho del consumo. puiblices), sino, al Asi, por Jo que respecta a las primers si se utiliza la 1A en el trabajo los em pleadores deben ser transparentes sobre Je misma y st tafluencia en Jas condi- Jebiendo informa: de utilizar dispositives basa os en la IA. El Reglamento General de Proteccian de Datos reconoeia este ‘ho de manera individual y, a través de la modificacion introducida en el articulo 64 del Estatuto de los ‘Trabaja- es por el articulo anico de la Ley 12/2021, de 28 de septiembre (la Waraa dda ley rider) para garantizar los derecho: Taborales de as personas dedireparta en el ambito de plataformas di- gitales. se ha ampliado el derecho al comite de empresa que, conforme al spartado 4d, “con la periodicidad que proceda en cada caso, tendra derecho 1. ser informado por la empresa de los parametrs, reglas € instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso yy mantenimiento del empleo, ineluida la elaboracion de perfiles"® En lo que hace referencia al segundo ambito, los consummidores deben contar con normas especiales de proteceién, deben ser informados si estan interac- tuando con un dispositivo de 1A y, en su caso, debers estar disponible again mecanistno de revision humana del mismo; ademas, habria que faciltarles medios pata combatir la vigilancia co- mercial 0 la fijacién de precios perso~ nalizada, que puede ser una forma encubierta para la aplicacion discrimi- natoria de tarifas! Un sector especialmente sensible, y al que portanto habria que prestar especial atencién, es el de los seguros, donde a Jas indudables ventajas que apoztan la 1A y las tecnologias conexas (raejorar la precision de la prima, simphificar la tra- tnitacion, reducir el fraude, acelerar la Uiguidacion se siniestros...) hay que suimar un buen ntimero de importantes viesgos (intromision en la vida privada, ‘menos transparencia, exclusién de per sonas como Tesultado de la individuali- zacion del riesgo, posibles discrimina- © Adem, se muroduce une not dpetin aiiconlvigsinotrn con sigue reds Git Prsancon de abt eel ste de ts Laalomss dite Ge rear, Dor apts én deo eaablegdo en el aul 81, spe ‘ue ncsdsen lait deena iced Gs pera que pesos sees bus Consistent o dsb decal

También podría gustarte

• En Defensa de La Verdad PDF

  

  Documento310 páginas

  En Defensa de La Verdad PDF

  Juan Pablo Sánchez Montenegro

  Aún no hay calificaciones
• Cruz Roja PDF

  

  Documento28 páginas

  Cruz Roja PDF

  Juan Pablo Sánchez Montenegro

  Aún no hay calificaciones
• El Princio de No Regresión en El Derecho Público II (González Sanfiel, Andrés Manuel)

  

  Documento15 páginas

  El Princio de No Regresión en El Derecho Público II (González Sanfiel, Andrés Manuel)

  Juan Pablo Sánchez Montenegro

  Aún no hay calificaciones
• • Revistas
  • Podcasts
  • Partituras
• G1116636 - 13.10.2011 PDF

  

  Documento4 páginas

  G1116636 - 13.10.2011 PDF

  Juan Pablo Sánchez Montenegro

  Aún no hay calificaciones
• Esteve Crisis Estado Social

  

  Documento16 páginas

  Esteve Crisis Estado Social

  Juan Pablo Sánchez Montenegro

  Aún no hay calificaciones
• Lineamentos, 203-205

  

  Documento3 páginas

  Lineamentos, 203-205

  Juan Pablo Sánchez Montenegro

  Aún no hay calificaciones