Reptes i oportunitats de l’ús de la intel·ligència artificial a les administracions públiques
La moda de la intel·ligència artificial està arribant a les administracions públiques, tot i que ho està fent a un ritme més lent que en altres sectors. Avui ja hi ha algunes administracions públiques que usen la intel·ligència artificial en l’anàlisi de dades, la presa de decisions, la detecció de fraus i irregularitats o la prestació de serveis públics. L’ús de la intel·ligència artificial genera nombrosos reptes a les administracions públiques que cal abordar, com ara l’opacitat, els biaixos i la discriminació, la minva de les garanties en la tramitació dels procediments administratius, la responsabilitat pels danys causats per l’ús de la intel·ligència artificial o el seu impacte en l’ocupació pública. La intel·ligència artificial és un dels fonaments de la governança intel·ligent que ha de comprendre totes les persones per contribuir a un desenvolupament sostenible.
The trend of artificial intelligence is arriving in public administrations, even if this is happening at a slower pace than in other sectors. Today, there are already some public administrations which use artificial intelligence in data analysis, decision-making, fraud detection and irregularities, and the provision of public services. The use of artificial intelligence creates a number of challenges for public administrations that need to be addressed, such as the current lack of transparency, the biases and discrimination, the decrease in guarantees in the processing of administrative procedures, the responsibility for damages caused by the use of artificial intelligence, and its impact on public employment. Artificial intelligence is one of the foundations of intelligent governance; it must include all people in order to contribute to a sustainable development.
La intel·ligència artificial ha estat identificada com una de les cinc tecnologies disruptives que ha de transformar les nostres societats en els propers anys (United States Government Accountability Office, 2018, 26) i ha d’impulsar el creixement econòmic i el progrés social (Executive Office of the President National Science and Technology Council Committee on Technology 2016, 3).
La intel·ligència artificial persegueix atribuir als ordinadors la capacitat de realitzar accions que serien considerades intel·ligents si fossin desenvolupades per persones en emular les facultats humanes en màquines (Kaplan, 2017, 1). Avui en dia, la intel·ligència artificial ja té nombroses aplicacions, tant en el pla econòmic com el social a través d’aplicacions tan diverses com la traducció de textos, la conducció de vehicles sense conductor, la producció de béns a través de robots o el reconeixement automàtic d’imatges.
La moda de la intel·ligència artificial també està arribant a les administracions públiques. Si bé encara no ho està fent amb la força d’un tsunami, com s’ha observat en altres sectors (Partnership for Public Service and IBM Center for The Business of Government, 2018; Valero Torrijos, 2019), no podem ignorar els usos que la intel·ligència artificial ja té en la presa de decisions i en la prestació dels serveis públics. Tampoc no podem desconèixer el potencial que pot tenir en el funcionament de les administracions públiques en els propers anys. A les pàgines següents exposarem algunes de les aplicacions que la intel·ligència artificial ja està tenint.
A més dels usos que les mateixes administracions públiques poden fer de la intel·ligència artificial, aquestes també poden contribuir significativament a l’impuls de la intel·ligència artificial. En els darrers anys, diferents institucions han participat activament en l’impuls del desenvolupament de la indústria de la intel·ligència artificial a través de diverses estratègies sobre intel·ligència artificial. En aquesta direcció podem referir-nos a la Comissió Europea, amb la comunicació Generar confianza en la inteligencia artificial centrada en el ser humano; el govern d’Espanya, amb l’Estratègia espanyola d’R+D+I en intel·ligència artificial, o el govern de la Generalitat de Catalunya, amb el Pla estratègic d’intel·ligència artificial ‘Catalonia.AI’. Aquests documents comparteixen la diagnosi sobre el paper de la intel·ligència artificial en el futur més proper, defineixen diversos objectius estratègics i identifiquen les aportacions que hi poden fer les institucions públiques1
En particular, una de les contribucions de les administracions públiques al desenvolupament de la intel·ligència artificial és posant a disposició de la indústria i de la societat les seves dades. A l’efecte, no podem desconèixer que les dades són el nou or o el petroli del segle XXI (Mayer-Schönberger i Cukier, 2013; The Economist, 2017), sobre el qual es basa el desenvolupament actual de la intel·ligència artificial, i que les administracions públiques disposen de grans volums de dades que generen en el desenvolupament de la seva activitat que poden alimentar els algoritmes (Commission Staff Working, 2018). Com ha posat de manifest la Comissió Europea, «la innovació basada en les dades és un motor fonamental de creixement i ocupació que pot impulsar significativament la competitivitat europea en el mercat mundial […] l’ús intel·ligent de les dades té un efecte transformador en tots els sectors de l’economia i el sector público» (Comissió Europea, 2018).
Tanmateix, no podem menystenir els riscos que l’extensió de la intel·ligència artificial està generant entre les institucions públiques. Posteriorment ens hi referirem breument. Per respondre a aquests reptes les administracions públiques han d’adoptar les mesures que, més enllà de garantir la seguretat jurídica, facilitin la innovació pública a través de la incorporació de la intel·ligència artificial en el seu funcionament. En aquesta direcció serà necessari que les administracions públiques no només incorporin aquestes tecnologies sinó que també es dotin d’un marc adequat que superi la regulació vigent de l’ús dels mitjans electrònics més propi d’altres moments tecnològics (Valero Torrijos, 2019).
A les pàgines següents exposarem quines oportunitats pot oferir la intel·ligència artificial a les administracions públiques i quins reptes pot generar la seva extensió a les mateixes administracions públiques. Finalment, a mode de conclusió, indicarem l’impacte que la intel·ligència artificial pot tenir en la gestió de les administracions públiques.
La intel·ligència artificial ja està tenint alguns usos en les administracions públiques i en un futur encara tindrà un impacte més gran (Eggers et al., 2018, 3) transformant el seu funcionament i la manera com desenvolupa la seva activitat (Partnership for Public Service and IBM Center for The Business of Government, 2018, 1).
Actualment, les administracions públiques espanyoles es tan mitjanament preparades per incorporar la intel·ligència artificial, segons el Government Artificial Intelligence Readiness Index 2019, que la situa en la posició 36 a escala mundial.2 De fet, no podem desconèixer que el seu ús encara és limitat a les nostres administracions públiques (Maciejewski, 2017).
Això no obstant, ja trobem diferents usos que les administracions públiques estan donant a la intel·ligència artificial en el seu funcionament i en la prestació dels serveis públics. A continuació fem una breu referència a alguns d’ells.
En primer lloc, les administracions públiques estan emprant la intel·ligència artificial per analitzar les dades que estan a la seva disposició. Així, trobem administracions públiques que utilitzen algoritmes per predir el risc d’incendis als edificis (Atlanta) o als boscos (Ministeri d’Agricultura) o per identificar els locals que han de ser inspeccionats (Las Vegas o Chicago) o policies que estan usant algoritmes per detectar denúncies falses (Predipol).
En segon lloc, les administracions públiques utilitzen el processament del llenguatge natural i els algoritmes d’aprenentatge automàtic per relacionar-se amb la ciutadania. En aquesta direcció, hi ha administracions públiques que fan servir sistemes de resposta automatitzada a preguntes formulades en llenguatge natural o sistemes de diàleg a partir del reconeixement de la veu per prestar els serveis d’atenció, assessorament i informació a la ciutadania. Per exemple, els U.S. Citizenship and Immigration Services donen resposta a les preguntes formulades per la ciutadania a través d’un chatbot (Emma) o revisen les sol·licituds formulades per la ciutadania (Portal Federal Business Opportunities).
En tercer lloc, les administracions públiques usen la intel·ligència artificial per personalitzar els serveis públics. Així, algunes administracions públiques estan començant a treballar en la personalització dels serveis públics amb l’elaboració de perfils a partir del comportament dels usuaris i l’anàlisi de les dades personals de la ciutadania (per exemple, el projecte MyGov Social del Consorci Administració Oberta de Catalunya).
En quart lloc, les administracions públiques ja estan començant a utilitzar la intel·ligència artificial en el procés de presa de decisions per donar suport, per exemple, a la policia a través de sistemes de predicció (Predpol) o als responsables de presons per determinar els permisos de sortida o la llibertat condicional dels reclusos (RisCanvi). També per prendre decisions com ara l’atorgament de subvencions o l’avaluació del professorat de les escoles públiques (Nova York).
En cinquè lloc, les administracions públiques també usen la intel·ligència per detectar fraus i casos de corrupció. Com a exemples podem referir-nos a l’eina de lluita contra el frau de l’Oficina Nacional de Lluita contra el Frau de l’Organisme Autònom de la Inspecció de Treball i Seguretat Social i Ocupació o al sistema d’alertes contra la corrupció de l’Administració de la Comunitat Valenciana.
Finalment, la intel·ligència artificial també és el fonament de la prestació de determinats serveis públics com ara el transport, la seguretat, la sanitat o els serveis socials.
L’ús de la intel·ligència artificial genera nombrosos reptes a les administracions públiques.
En primer lloc, les administracions públiques han de garantir la transparència dels algoritmes. En aquest sentit, no podem desconèixer que la intel·ligència artificial pot generar opacitat a les administracions públiques (Cerrillo i Martínez, 2019). En efecte, a mesura que es va incrementant la complexitat tècnica de la intel·ligència artificial (per exemple, a través de l’aprenentatge automàtic –machine learning– o les xarxes neuronals), és més complex, si no impossible, saber com funcionen els algoritmes o quines dades utilitzen, de manera que es dona lloc al que es coneix com a caixes negres (black boxes) (Diakopoulos, 2014, 14; Pasquale, 2015). A més, en ocasions l’opacitat de l’algoritme es deu a la voluntat de reservar el seu contingut per protegir altres interessos, com ara els secrets empresarials dels seus dissenyadors o la competitivitat dels seus productors (Brauneis i Goodman, 2017). També per evitar que el coneixement de com funciona l’algoritme permeti eludir-ne l’aplicació o per garantir la confidencialitat en la presa de decisions públiques. Per donar resposta a l’opacitat, les administracions públiques poden adoptar diferents mesures, com publicar informació sobre els algoritmes i el seu funcionament o utilitzar programari obert en el seu disseny o declarar-lo de fonts obertes. En darrera instància, poden donar una explicació sobre com funcionen els algoritmes i les dades que usen i una motivació dels resultats obtinguts (Lepri et al., 2017).
En segon lloc, les administracions públiques han de reduir l’impacte negatiu que l’ús de la intel·ligència artificial a les administracions públiques pot tenir en la protecció de les dades personals i la privacitat de les persones (Crawford i Schultz, 2014). Les administracions públiques poden usar els algoritmes per prendre decisions automatitzades i elaborar perfils de les persones sense el seu consentiment o el seu coneixement. Per evitar els perjudicis que aquestes actuacions poden generar, el Reglament (UE) 2016/679 del Parlament i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d›aquestes dades i pel qual es deroga la Directiva 95/46/CE (Reglament general de protecció de dades), reconeix el dret de tota persona de no ser objecte d’una decisió basada únicament en el tractament automatitzat, incloent-hi l’elaboració de perfils, que li produeixi efectes jurídics o l’afecti significativament de manera similar, excepte quan estigui autoritzada pel dret de la Unió o dels estats membres, que s’apliqui al responsable del tractament i que estableixi així mateix mesures adequades per salvaguardar els drets i llibertats i els interessos legítims de l’interessat o es basi en el consentiment explícit de l’interessat (Edwards i Veale, 2017; Wachter et al., 2017).3
En tercer lloc, les administracions públiques han d’evitar els biaixos i les discriminacions en les decisions que prenen les administracions públiques. No podem obviar que en els darrers anys hem tingut coneixement de casos de discriminació generades per algoritmes utilitzats per aplicacions com GooglePhotos o Twitter.4 Els biaixos i les discriminacions poden trobar-se en els algoritmes o poden sorgir per les dades utilitzades que no tenen la qualitat necessària o contenen errors. Per evitar aquestes situacions, les administracions públiques poden adoptar mesures diverses, com ara garantir la qualitat les dades que s’utilitzen, fomentar la participació dels interessats en el disseny dels algoritmes, elaborar anàlisis de riscos o realitzar auditories (Lepri, Oliver, Letouzé, Pentland i Vinck, 2017; Mantelero, 2018).
En quart lloc, les administracions públiques han de reforçar les garanties dels interessats en la presa de decisions basades en algoritmes particularment quan ens trobem davant decisions discrecionals. En aquesta direcció, Ponce reclama que, per raons d’oportunitat, es reservi la presa de determinades decisions als humans, que es faci una reserva d’humanitat (Ponce Solé, 2019).
En cinquè lloc, les administracions públiques han d’aclarir el règim de responsabilitat pels danys que pugui generar l’ús de la intel·ligència artificial a les administracions públiques. En aquest sentit, no podem desconèixer el debat entre els juristes sobre qui ha de reparar els danys causats per robots o altres màquines basades en la intel·ligència artificial. En l’àmbit administratiu bona part dels problemes detectats no tenen lloc pel caràcter objectiu de la responsabilitat patrimonial tot i les necessàries limitacions en l’aplicació d’aquest règim quan els danys generats pels algoritmes no s’han pogut preveure o evitar segons l’estat dels coneixements de la ciència o de la tècnica existents en el moment de la seva producció o quan existeix una concurrència de causes.
En darrera instància, les administracions públiques han de reflexionar sobre l’impacte que l’ús de la intel·ligència artificial tindrà en l’ocupació pública. Així doncs, cal tenir present que diversos estudis ja indiquen que el 47% dels treballs actuals estan en alt risc de ser automatitzats en els pròxims 10 o 20 anys per la incorporació de la intel·ligència artificial (Frey i Osborne, 2017), fet que pot provocar que a l’Administració pública acabin desapareixent nombrosos llocs de treball en àrees molt diverses. Malgrat això, també es generaran noves professions (Kaplan, 2017, p. 120-121), es reforçaran determinades competències de les persones i s’exigiran nous perfils professionals (Ramió Matas, 2018, p. 403-404), cosa que exigirà nous sistemes de selecció i de gestió (Galindo Caldés, 2019).
La intel·ligència artificial pot contribuir activament a millorar l’anàlisi de les dades que genera l’activitat de les administracions públiques per incrementar la qualitat de la presa de decisions públiques i l'eficàcia de les polítiques públiques, així com per millorar prestació dels serveis públics.
La intel·ligència artificial és un dels fonaments de la governança intel·ligent, un nou model de gestió pública que persegueix que les administracions públiques puguin servir la ciutadania de manera més ràpida i precisa (Executive Office of the President National Science and Technology Council Committee on Technology, 2016). Aquest model de gestió pública ha de permetre a les administracions públiques que puguin millorar la seva actuació i establir nous canals de relació amb la ciutadania i les empreses per obtenir millors resultats i més obertura i rendició de comptes a través de l’anàlisi i l´ús de la informació que està en el seu poder (Cerrillo i Martínez, 2018).
Perquè les aportacions de la intel·ligència artificial a les administracions públiques siguin el fonament d’una autèntica transformació cal garantir que comprenguin totes les persones perquè puguin contribuir activament a la construcció d’un desenvolupament sostenible (United Nations Secretary-General’s Independent Expert Advisory Group on a Data Revolution for Sustainable Development, 2014). Alhora, és necessari que s’adoptin les mesures necessàries per garantir la seguretat, jurídica i tècnica, en un context d’innovació (Valero Torrijos, 2019).
BRAUNEIS, R.; GOODMAN, E.P. (2017). «Algorithmic transparency for the smart city». Yale Journal of Law & Technology. 20, 104-176. https://doi.org/10.2139/ssrn.3012499
CERRILLO I MARTÍNEZ, A. (2018). «Datos masivos y datos abiertos para una gobernanza inteligente. El profesional de la información. 27(5), 1128-1135. https://doi.org/10.3145/epi.2018.sep.16
CERRILLO I MARTÍNEZ, A. (2019). «Com obrir les caixes negres de les administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes». Revista Catalana de Dret Públic. 56, 13-28.
COMISSIÓ EUROPEA (2018). Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Hacia un espacio común europeo de datos. Brussel·les.
COMMISSION STAFF WORKING (2018). Document Impact Assessment accompanying the document Proposal for a Directive of the European Parliament and of the Council on the re-use of public sector information.
CRAWFORD, K.; SCHULTZ, J. (2014). «Big data and due process: Toward a framework to redress predictive privacy harms». Boston College Law Review. 55, 93-128.
DIAKOPOULOS, N. (2014). «Algorithmic-Accountability: the investigation of Black Boxes». Tow Center for Digital Journalism. https://doi.org/10.1080/21670811.2014.976411
EDWARDS, L.; M. VEALE (2017). «Slave to the Algorithm: Why a Right to an Explanation Is Probably Not the Remedy You Are Looking for». Duke Law & Technology Review. 16, 18-84. https://doi.org/10.31228/osf.io/97upg
EGGERS, W.D.; SCHATSKY, D.; VIECHNICKI, P. (2018). AI-augmented government. Using cognitive technologies to redesign public sector work». Deloitte University Press.
EXECUTIVE OFFICE OF THE PRESIDENT NATIONAL SCIENCE AND TECHNOLOGY COUNCIL COMMITTEE ON TECHNOLOGY (2016). Preparing for the Future of Artificial Intelligence. Washington, DC.
FREY, C.B.; OSBORNE, M.A. (2017). «The future of employment: how susceptible are jobs to computerisation? Technological forecasting and social change». Elsevier. 114, 254-280. https://doi.org/10.1016/j.techfore.2016.08.019
GALINDO CALDÉS, R. (2019). «Big data e inteligencia artificial en la gestión de los recursos humanos del sector público». Revista Catalana de Dret Públic. 58, 49-63.
KAPLAN, J. (2017). Inteligencia artificial. Lo que todo el mundo debe saber. Saragossa: Teell.
LEPRI, B.; OLIVER, N.; LETOUZÉ, E.; PENTLAND, A., et al. (2017). «Fair, Transparent, and Accountable Algorithmic Decision-making Processes». Philosophy & Technology. 31(3), 1-17. https://doi.org/10.1007/s13347-017-0279-x
MACIEJEWSKI, M. (2017). «To do more, better, faster and more cheaply: using big data in public administration». International Review of Administrative Sciences. 83, 120-135. https://doi.org/10.1177/0020852316640058
MANTELERO, A. (2018). «AI and Big Data: A blueprint for a human rights, social and ethical impact assessment». Computer Law & Security Review. 34(4), 754-772. https://doi.org/10.1016/j.clsr.2018.05.017
MAYER-SCHÖNBERGER, V.; CUKIER, K. (2013). Big data. La revolución de los datos masivos. Madrid: Turner.
PARTNERSHIP FOR PUBLIC SERVICE AND IBM CENTER FOR THE BUSINESS OF GOVERNMENT (2018). The future has begun. Using artificial intelligence to transform government. Washington.
PASQUALE, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge, MA: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061
PONCE SOLÉ, J. (2019). «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico». Revista General de Derecho Administrativo. 50.
RAMIÓ MATAS, C. (2018). «El impacto de la inteligencia artificial y de la robótica en el empleo público». GIGAPP Estudios Working Papers. 98, 401‐421.
THE ECONOMIST (2017). «Data is giving rise to a new economy. How is it shaping up?». The Economist (6 maig).
UNITED NATIONS SECRETARY-GENERAL’S INDEPENDENT EXPERT ADVISORY GROUP ON A DATA REVOLUTION FOR SUSTAINABLE DEVELOPMENT (2014). A World That Counts: Mobilising The Data Revolution for Sustainable Development.
UNITED STATES GOVERNMENT ACCOUNTABILITY OFFICE (2018). Trends affecting Government and Society. Washington.
VALERO TORRIJOS, J. (2019).«Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración». Revista Catalana de Dret Públic. 58, 82-96.
WACHTER, S.; MITTELSTADT, B.; FLORIDI, L. (2017). «Why a right to explanation of automated decision-making does not exist in the general data protection regulation». International Data Privacy Law. 7(2), 76-99. https://doi.org/10.1093/idpl/ipx005
- Documents accessibles a: https://ec.europa.eu/transparency/regdoc/rep/1/2019/ES/COM-2019-168-F1-ES-MAIN-PART-1.PDF"; http://www.ciencia.gob.es/stfls/MICINN/Ciencia/Ficheros/Estrategia_Inteligencia_Artificial_IDI.pdf[Consulta juliol 2019].
- https://www.oxfordinsights.com/ai-readiness2019 [consulta: juliol 2019). De tota manera, no podem desconèixer que en l’edició de 2017 Espanya se situava en el dotzè lloc.
- Article 22. Reglament general de protecció de dades.
- Ens referim a casos com els que s’expliquen a la notícia «Google arregla su algoritmo ‘racista’ borrando a los gorilas» (2018). El País, 15 de gener, en què s’explica que l’algoritme de Google Photos confonia persones negres amb simis; o «Microsoft retira un robot que hizo comentarios racistas en Twitter» (2016). El País, 24 de març, en què s’informa sobre el chatbot Tay de Twitter que va aprendre conductes racistes, sexistes i xenòfobes d’altres usuaris.
CERRILLO MARTÍNEZ, Agustí. Reptes i oportunitats de l’ús de la intel·ligència artificial a les administracions públiques. Oikonomics[en línia]. Novembre 2019, n. 12, pp. 1-7. ISSN: 2339-9546. DOI: https://doi.org/10.7238/o.n12.1913
ODS
Agustí Cerrillo i MartínezCatedràtic de Dret Administratiu a la Universitat Oberta de Catalunya. Actualment és el Síndic de Greuges de la UOC.
Investigador principal del projecte «Retos jurídicos del uso de datos masivos para el fomento de la innovación y la buena administración a través de la inteligencia artificial», del Programa Estatal de I+D+i Orientada a los Retos de la Sociedad (DER2017-85595-R), i del projecte «La innovació en la prestació dels serveis públics a través de la personalització i prestació proactiva mitjançant l’ús dades massives i la intel·ligència artificial», finançat per l’Escola d’Administració Pública de Catalunya.
Ha investigat i publicat articles i monografies sobre l’administració electrònica, la transparència pública i la difusió i la reutilització d’informació pública a través d’Internet, l’ús de la intel·ligència artificial a les administracions públiques, la governança pública i la integritat pública i la prevenció de la corrupció.
Entre les seves publicacions sobre l’impacte de la intel·ligència artificial en l’Administració pública i el dret administratiu destaquen «Com obrir les caixes negres de les administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes». Revista Catalana de Dret Públic, 56 (2019) i «El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?». Revista General de Derecho Administrativo, 50 (2019).
