«Revolución 4.0: ¿progreso o precarización?» coordinado por Josep LladósNÚMERO 12 (NOV 2019)
LOS LÍMITES DEL AVANCE TECNOLÓGICO El juez artificial: ¿próxima parada?
Resumen

Los últimos avances tecnológicos, y especialmente la inteligencia artificial, están afectando de manera muy profunda a los más diversos ámbitos, entre ellos el jurídico, en sus más variadas manifestaciones. El presente trabajo analiza algunos de los más recientes desarrollos en inteligencia artificial en el campo de la aplicación del Derecho, a fin de discernir hasta qué punto nos estamos acercando a la ya no tan utópica idea del juez artificial y de la aplicación automatizada del Derecho. El análisis se estructura en tres ámbitos diferenciados, aunque complementarios: en primer lugar, se analiza el aspecto conceptual (qué distintos elementos y actividades implica la aplicación judicial del Derecho, con el fin de determinar qué procesos sería necesario automatizar para poder hablar de un «juez artificial»); en segundo lugar, se presentan brevemente algunas recientes tecnologías y aplicaciones que de algún modo incidirían en la aplicación del Derecho, con el fin de determinar en qué punto nos encontraríamos respecto a un proceso de automatización; y por último, se reflexiona brevemente acerca de los posibles efectos positivos o adversos que conllevaría una automatización de la aplicación del Derecho.

aplicación del Derecho;  inteligencia artificial;  informática jurídica;  juez artificial; 
Abstract

The recent advances in technology, and particularly artificial intelligence, are having an extremely profound effect on very diverse sectors, including that of the judiciary in its various manifestations. The work presented here analyses some of the more recent developments in artificial intelligence in the field of the application of law, with the aim of discerning the point up to which we are approaching the idea – not so utopian now  – of the AI judge and the automated application of law. The analysis is structured in three different areas, which are at the same time complimentary: firstly, there is an analysis of the conceptual aspect (what distinct elements and activities involve the judicial application of law, with the aim of determining what processes would be necessary to automate in order to be able to speak of an “AI judge”); secondly, a number of recent technologies and applications are presented which would influence in some way the application of law, with the purpose of determining at what point we would find ourselves with respect to a process of automation; and finally, there will be a brief reflection on the possible positive or negative effects an automation of the application of law would involve.

application of Law;  artificial intelligence (AI);  information Technology Law;  AI judge; 
I

A lo largo de los siglos, una de las características más destacadas de la especie humana ha sido la de servirse de los avances científicos y tecnológicos para los más diversos fines, pues ofrecen mejoras sustanciales en términos de eficiencia, precisión y ahorro de tiempo y costes, entre otros aspectos. En este sentido, nos permiten desplazarnos más rápidamente, construir estructuras más grandes y sólidas, realizar cálculos muy complejos de manera más rápida y precisa, o incluso vivir más y mejor (gracias a los avances médicos), entre otros incontables ejemplos.

Visto con perspectiva histórica, no es exagerado afirmar que las tecnologías relacionadas con lo que en sentido amplio podemos denominar «informática» se encontrarían entre las más revolucionarias y disruptivas de todos los tiempos, en un plano equiparable, por ejemplo, al del dominio del fuego, la rueda o la imprenta. Y dentro de este marco, lo que puede denominarse como «inteligencia artificial» (o IA para abreviar) es seguramente su expresión más avanzada, relevante y con mayor proyección de futuro en prácticamente todos los ámbitos imaginables. Tanto por razones de extensión como por no ser el objeto del presente trabajo, no entraré en la compleja y discutida cuestión (de profundas implicaciones filosóficas) sobre qué se entiende exactamente por IA1, pero a nadie se le escapa que actualmente podemos ver innumerables muestras de aplicaciones de IA en los más diversos contextos: desde el ámbito de la domótica (donde mediante múltiples sensores un dispositivo es capaz de controlar las luces, la climatización, las persianas y los toldos y las cerraduras; o frigoríficos «inteligentes» que realizan pedidos de suministros en función de las existencias), el transporte y la movilidad (desde ayudas a la conducción, tales como la detección de señales de tráfico, el control automático de la distancia de seguridad, el cálculo de la ruta más rápida teniendo en cuenta la situación del tráfico en tiempo real o el reconocimiento de peatones para activar en su caso la frenada automática, hasta la conducción completamente autónoma), la asistencia a personas enfermas o dependientes (robots cuidadores), el procesamiento masivo de datos para formular predicciones o incluso tomar y ejecutar decisiones (como por ejemplo dónde invertir para obtener un mayor rendimiento a partir del análisis de tendencias), y un larguísimo etcétera.

Aunque el ámbito del Derecho, y especialmente el de la Administración de Justicia, nunca se ha caracterizado precisamente por estar a la vanguardia de los avances tecnológicos, tampoco se ha mantenido ajeno a ellos, y es justo reconocer que en los últimos años se ha realizado un esfuerzo de modernización considerable, como lo muestra, por ejemplo, el desarrollo e implementación de LexNET2 como plataforma integral de administración electrónica de la Administración de Justicia. No obstante, al hablar de la IA aplicada al ámbito judicial es natural pensar en algo que vaya más allá de la gestión documental o de las bases de datos, y podríamos plantearnos, aunque sea como mera posibilidad teórica, la aplicación automatizada del Derecho (toma de decisiones legales), llegando incluso a la idea de un «juez artificial». ¿Se trata de algo totalmente fantasioso? Si bien podemos decir que en la actualidad estaríamos aún bastante lejos de contar con procesos integrales artificiales de aplicación del Derecho (salvo quizá en contextos muy delimitados), los avances han sido muy significativos en los últimos años (y previsiblemente lo serán aún más en el futuro), con resultados en no pocos casos sorprendentes, que hacen que legítimamente podamos plantearnos la posibilidad de que en el futuro los procesos de aplicación del Derecho puedan ser (casi) totalmente automáticos.

Pero antes de referirnos a los ejemplos tecnológicos concretos, es necesario clarificar una cuestión conceptual: ¿en qué consiste o qué se entiende exactamente por «aplicación del Derecho»?, ¿qué procesos y pasos implica?, ¿son todos ellos automatizables o reproducibles de manera artificial? Por otra parte, se plantea también una importante cuestión ética o valorativa: ¿hasta qué punto puede ser positivo o deseable dejar las decisiones jurídicas en manos de algoritmos o de procesos automatizados?

Teniendo en cuenta lo anterior, este trabajo aborda la cuestión de la aplicación automatizada del Derecho desde distintas dimensiones o perspectivas de análisis: a) por un lado, desde una perspectiva conceptual, realizando una primera aproximación a cuáles serían los distintos procesos implicados en la aplicación del Derecho, para así determinar qué debería «automatizarse» para poder hablar de aplicación automatizada del Derecho o decisión judicial automatizada; b) en segundo lugar, desde una perspectiva descriptiva, haciendo referencia a algunos ejemplos actuales de desarrollo de tecnologías que de algún modo inciden en la aplicación del Derecho, y reflexionando sobre su incidencia o relevancia en el proceso de «automatización» de la decisión judicial; y c) por último, desde una perspectiva valorativa, reflexionando sobre la conveniencia o la deseabilidad de dejar en manos de algoritmos automatizados procesos o decisiones que hasta el momento han estado siempre en manos de seres humanos, y que en mayor o menor medida dependen de su capacidad de comprensión y de juicio.

II

¿En qué consiste la «aplicación» del Derecho? En un primer acercamiento, parece que nos referimos a la resolución de situaciones conforme a Derecho, es decir, utilizando los parámetros y los criterios establecidos por el sistema jurídico, que determinarían, o al menos guiarían, cuál es la respuesta que debe ofrecerse a la situación sobre la que debe decidirse. Debe tenerse en cuenta que tanto los tipos de situaciones que de algún modo son abordadas por el Derecho, como los tipos de respuesta que este ofrece son extremadamente variados (pensemos, por ejemplo, desde la imposición de una sanción por una infracción de tráfico hasta la determinación de la validez de un contrato, pasando por la protección de un derecho fundamental, la decisión sobre la responsabilidad por daños y la determinación de la correspondiente indemnización, la concesión de una licencia administrativa o la decisión acerca de la incapacitación de una persona, entre una infinidad de otras situaciones). Dicha variedad no solo afecta al tipo de situaciones que de algún modo son abordadas por el Derecho, sino también a las respuestas ofrecidas por este: pueden ser tanto extremadamente específicas (como la cuantía económica de la sanción a imponer por superar el límite máximo de velocidad en 20 km/h en una vía interurbana), como ampliamente genéricas e indeterminadas (por ejemplo las medidas cautelares a tomar por un juez para asegurar el cumplimiento de una posible sentencia condenatoria). Por lo tanto, una definición debería resultar lo bastante amplia para poder contener toda esta variedad, al tiempo que mantener sus elementos distintivos para no abarcar más de lo necesario y dar así entrada a aspectos extraños al fenómeno jurídico. Mi propuesta sería entender la aplicación del Derecho como «el establecimiento de una respuesta a una determinada situación de acuerdo con los parámetros o criterios establecidos por el sistema jurídico».3

Cuando un decisor (por lo general, un funcionario o un juez) debe determinar la respuesta jurídica al caso que se le plantea, parece que tiene que llevar a cabo un conjunto de actividades que resultan algo heterogéneas, pero todas necesarias para poder justificar su decisión. Parecería que, al menos, debe hacer lo siguiente (no necesariamente siguiendo un orden cronológico estricto):

  1. La selección del material jurídico relevante (recopilación y categorización de normativa, jurisprudencia y de otros materiales que puedan o deban tenerse en cuenta para fundamentar o justificar decisiones jurídicas).
  2. La interpretación de dicho material para la determinación de su significado y la obtención de los elementos del sistema normativo a utilizar para dar una respuesta a la situación planteada.
  3. La determinación de los hechos del caso concreto (prueba), que en ocasiones exige también el establecimiento de relaciones de causalidad entre acontecimientos empíricos.
  4. La calificación jurídica de los hechos probados (subsunción de enunciados fácticos en categorías jurídicas).
  5. La sistematización del sistema normativo para la determinación de la respuesta jurídica a cada una de las situaciones o casos genéricos que regula.
  6. La subsunción del caso concreto en el caso genérico correspondiente, para así obtener la repuesta jurídica al caso de conformidad con las normas del sistema.

Incluso lo que se desprende de un análisis muy preliminar es que la decisión judicial comprende múltiples y muy diversas actividades que requieren distintas técnicas y habilidades por parte del decisor. Por ello, para poder concebir un modelo completo o integral de decisión judicial automatizada debería contarse con un sistema integrado de tecnologías y procesos capaces de realizar tareas tan distintas como crear y procesar bases de datos e interpretar el lenguaje natural o el reconocimiento de imágenes y sonidos, entre otras. Así mismo, parecería más concebible y factible la creación de tecnologías que realicen o faciliten la realización de ciertas partes, tareas o fases del proceso de decisión judicial, al menos a corto y medio plazo.

En una primera aproximación ya resulta evidente que la posibilidad de automatizar distintas actividades plantea desafíos y dificultades muy diversas en función del tipo de proceso que se trate, y que en algunos de ellos es más factible que en otros. Por ejemplo, la selección y la categorización del material jurídico, gracias a la cada vez mayor capacidad de procesamiento de información y al big data, o la sistematización de sistemas normativos (determinación y asignación de las consecuencias jurídicas de los distintos casos genéricos) no parecen plantear desafíos técnicos importantes, incluso en el estado actual de la tecnología o en el del futuro inmediato. En cambio, otras tareas que normalmente vinculamos a conceptos y categorías tan «humanos» como el juicio y la comprensión, como podrían ser la interpretación jurídica, la subsunción de hechos en categorías normativas o la determinación de cuándo un hecho puede considerarse «probado» a partir de los elementos probatorios disponibles, parecen difícilmente automatizables o reductibles a un algoritmo informático. Sin embargo, sería un error concluir sin más que este tipo de tareas son imposibles de automatizar, aunque en el contexto actual pueda concebirse como algo muy lejano o sencillamente imposible. Los avances tecnológicos experimentados por la humanidad a lo largo de la historia en no pocas ocasiones nos han sorprendido mostrándonos cosas que nos parecían imposibles, y no existe razón alguna para pensar que no siga siendo así en el futuro. Además, es muy relevante la materia o el tipo de decisiones jurídicas de que se trate. Las posibilidades de utilizar satisfactoriamente algoritmos automatizados para la toma decisiones son mucho mayores cuando se trata de ámbitos muy delimitados y con criterios muy objetivos, como por ejemplo el de infracciones de tráfico o el ámbito fiscal, mientras que se complica significativamente en otras cuestiones con una mayor dependencia del juicio o de la valoración subjetiva del juzgador, como cuando debe valorarse si hubo «mala fe» por parte del vendedor, o si en un robo hubo o no «violencia», por usar solo dos ejemplos.

III

A continuación, comentaré brevemente algunos ejemplos de tecnologías basadas en la IA que están de algún modo relacionadas con la aplicación del Derecho. Algunos de ellos son meros experimentos o pruebas, mientras que en otros casos se trata de tecnologías plenamente operativas.4

i. Case Cruncher Alpha5

Cuatro estudiantes de Derecho de Cambridge crearon un algoritmo de inteligencia artificial que, según afirmaban, era capaz de predecir resultados de decisiones judiciales o administrativas con un nivel muy alto de acierto, superior al que pueden obtener agentes humanos. Para ponerlo a prueba se realizó un experimento en el que se proporcionó a más de un centenar de abogados de bufetes prestigiosos de Londres información básica de los hechos acerca de 775 casos de seguros de crédito (payment protection insurance), que ya habían sido decididos por la autoridad competente (pero cuyo resultado desconocían), para que indicaran qué decisión previsiblemente había tomado el Financial Ombudsman (la autoridad competente para decidir sobre esta materia). La misma información fue proporcionada al algoritmo. Una vez terminado el análisis, el porcentaje de acierto (esto es, el nivel de coincidencia entre la respuesta de los participantes y las decisiones reales) de los abogados fue del 66,3%, mientras que el algoritmo Case Cruncher Alpha logró un porcentaje del 86,6%. Es decir, el experimento demostró que el algoritmo de inteligencia artificial era sensiblemente mejor que un grupo de abogados competentes en lo que respecta a la predicción del resultado de un proceso judicial o administrativo (de estas características, al menos).

Técnicamente, en este experimento no puede hablarse propiamente de predicción (puesto que se trataba de casos ya resueltos), pero esto carece de importancia en el sentido de que el mismo algoritmo podría ser aplicado a casos no resueltos para proporcionar auténticas predicciones sobre su probable resultado6. Sin embargo, el aspecto más interesante es el que tiene relación, precisamente, con lo que hace el algoritmo. Estrictamente hablando, no estamos ante una tecnología para «decidir» o resolver casos conforme a Derecho, por lo que no habría aplicación del Derecho, sino para formular hipótesis acerca de cómo serían resueltos. Dicho de otro modo, el algoritmo no pretende determinar la respuesta correcta o que procede para el caso planteado conforme a los criterios o estándares jurídicos aplicables, sino formular una proposición acerca de cuál será la respuesta más probable que dictará el órgano competente, lo que, aunque muy interesante, es algo conceptualmente muy distinto a «aplicar el Derecho».

Sin embargo, es probable que para poder realizar sus predicciones, de algún modo el algoritmo tenga en cuenta el contenido del Derecho. Pero al no disponer de conocimientos respecto a su funcionamiento interno, es difícil valorar en qué medida el Derecho es tenido en cuenta, o cuál es su relevancia en el proceso de elaboración de las predicciones. Así mismo, considerando que el objetivo principal es, por así decirlo, epistémico (prever qué ocurrirá) y no justificatorio, es probable que otros aspectos sean tan o más relevantes que el análisis histórico de decisiones anteriores para extraer pautas o tendencias reiterativas (no necesariamente jurídicas o basadas en normas jurídicas), y permitan fundamentar regularidades en las que basar las predicciones. En suma, lo que esta tecnología mostraría es la constatación de algo ya ampliamente asumido: que las máquinas son más eficientes que los seres humanos en el procesamiento y el análisis de grandes cantidades de información.

Otro aspecto a considerar es que este algoritmo no parece desempeñar ninguna función en lo relativo a la determinación de los hechos del caso. Por lo que puede deducirse a partir de la información disponible, todos los datos relativos al caso sobre cuya solución quiere obtenerse una predicción deben ser proporcionados al algoritmo (por seres humanos, muy probablemente). Tampoco queda claro si el software dispone de alguna capacidad para lo que podría considerase una «interpretación» de las fuentes normativas, si bien es probable que se limite a tener en cuenta cuáles son, de hecho, las interpretaciones más habituales por parte de los tribunales de las distintas disposiciones afectadas, pues este extremo aporta un gran valor predictivo.

En síntesis, si tenemos en cuenta el conjunto de actividades principales vinculadas a la aplicación del Derecho, tal y como se expuso en el apartado II, podría decirse que es muy probable que esta tecnología lleve a cabo una selección del material jurídico relevante, y que seguramente realice tareas de sistematización, aunque es bastante dudoso que desarrolle actividades relacionadas con la interpretación jurídica, y parece que no desempeña en absoluto tareas vinculadas a la selección y a la prueba de los hechos del caso individual.

ii. El algoritmo COMPAS de los tribunales de Wisconsin7

COMPAS es el acrónimo de Correctional Offender Management Profiling for Alternative Sanctions, un software utilizado, entre otros, por la Administración de Justicia del estado de Wisconsin (EE. UU.), que proporciona una estimación acerca del grado de peligrosidad y del riesgo de reincidencia del procesado, a fin de servir como criterio para la determinación de la pena a imponer.

El algoritmo utiliza el análisis del llamado big data para acumular y analizar información sobre muchos casos, y para procesarlos y extraer de ellos pautas o criterios relativos a las circunstancias o a las características de los sujetos que, supuestamente, guardan relación con la probabilidad de cometer nuevos actos violentos o delictivos. Una vez proporcionada la información relativa al sujeto individual en cuestión, el algoritmo aplica estos criterios para ofrecer una estimación de su supuesto grado de peligrosidad, y esta información se tiene en cuenta por los tribunales para tomar la decisión sobre la pena a imponer.

Hace un tiempo, el sistema COMPAS tuvo cierta repercusión mediática con la noticia del caso de Eric L. Loomis8, que fue condenado a una pena de seis años de prisión (inusitadamente elevada) por huir en coche de la policía, debido a que el algoritmo estableció un alto grado en la probabilidad de reincidencia delictiva. La controversia en torno a COMPAS se ha centrado fundamentalmente en dos puntos: a) por una parte, en la falta de transparencia que supone el hecho de que el software es propiedad de una empresa privada (Northpointe Inc.), lo que implica que el código es secreto y no puede ser objeto de análisis o de auditoría externa; y b) por las acusaciones de estar sesgado y discriminar a ciertos colectivos como a los negros9, acusaciones que la empresa ha intentado rebatir, pero cuyas conclusiones acerca de su carácter sesgado o no son casi imposibles de acreditar sin un análisis del código.

Aunque estas son cuestiones relevantes, no afectan en sí a lo que es la valoración de un sistema como COMPAS, ejemplo de aplicación de la IA a la decisión judicial. Más allá de los posibles problemas del diseño del algoritmo modelo, si partimos del hecho de que el sistema legal establece que debe atenderse a criterios de peligrosidad para determinar la pena, una tecnología de este tipo puede resultar más fiable y eficaz que hacer depender la valoración de la peligrosidad y del riesgo de reincidencia en la experiencia personal del juez y en sus propios criterios o estimaciones, ya que permite manejar una cantidad de información mucho mayor y extraer conclusiones fundamentadas y sin riesgo de ser afectadas por los sesgos o las inclinaciones que, consciente o inconscientemente, pueden afectar al juicio del juzgador.

Pese a todo, debe tenerse en cuenta que estamos hablando de un aspecto muy menor en comparación con el conjunto de actividades y de tareas que implica una decisión judicial. Aunque el algoritmo permita obtener conclusiones precisas y objetivables sobre el grado de peligrosidad y la probabilidad de reincidencia del acusado, no tiene incidencia alguna en prácticamente ninguno de los ámbitos principales de la decisión judicial: no sirve para seleccionar material normativo relevante, ni para la interpretación jurídica, ni para la sistematización del derecho, ni, estrictamente hablando, para la prueba o calificación jurídica de los hechos, a pesar de que tenga un impacto en una premisa fáctica que sirve para fundamentar la decisión. Por lo tanto, más que concebirlo como una aplicación de la inteligencia judicial a la decisión judicial, debería entenderse como una herramienta tecnológica más de apoyo al decisor, como pueden ser las bases de datos jurídicas.

iii. El chatbot DoNotPay10

DoNotPay es el nombre dado por Joshua Browder, un estudiante de Derecho de la Universidad de Stanford, a un algoritmo de tipo chatbot11 creado por él, que en sus inicios estaba enfocado a la impugnación de sanciones de tráfico (como multas de aparcamiento, exceso de velocidad, semáforos…), y que es capaz de generar escritos de impugnación que el usuario simplemente tiene que imprimir y firmar. Según fuentes del propio creador, consiguió recuperar más de tres millones de dólares por medio de los recursos presentados gracias a su tecnología. Recientemente, su creador ha trabajado en la ampliación del ámbito de actuación de su software, cubriendo otros campos como las reclamaciones a compañías aéreas (cancelación de vuelos, sobreventa, pérdida de equipaje…) o la defensa del consumidor, entre otros. Mediante una interfaz simple con un cuadro de entrada de texto, el usuario introduce su petición o su problema (por ejemplo «he recibido una multa de aparcamiento») y el algoritmo le va guiando por una serie de pasos (solicitando información acerca de los hechos del caso) para finalizar con la generación automática de un escrito de impugnación (supuestamente fundamentado en Derecho).

Estrictamente hablando, esta tecnología no estaría enfocada a la decisión judicial automatizada, sino más bien a lo que podría entenderse como un abogado virtual o robot lawyer, ya que su finalidad es proteger los intereses de la parte. Con todo, parece evidente que para su funcionamiento requiere de la realización de ciertas actividades vinculadas a la aplicación del Derecho. Así, parece claro que necesita contar con una base de datos de fuentes normativas (selección de material jurídico relevante), y que debe ser capaz de realizar tareas de sistematización para obtener las consecuencias jurídicas correspondientes a los distintos supuestos fácticos, pues solo de ese modo es posible fundamentar jurídicamente la pretensión. Es dudoso que el algoritmo lleve a cabo una actividad de interpretación jurídica propiamente dicha, ya que ello requiere de una complejidad técnica y de cálculo muy considerable. Lo más probable es que la propia programación contenga el material ya interpretado (vinculando supuestos de hecho con consecuencias jurídicas), sobre todo teniendo en cuenta que se trata de ámbitos cuya regulación suele ser bastante precisa y sin demasiado margen para la interpretación. Tampoco parece que el programa lleve a cabo tarea alguna vinculada con la prueba de los hechos, puesto que se basa totalmente en los datos proporcionados a instancia de parte.

No obstante, y pesar de sus limitaciones tanto en sus funciones como en su ámbito, DoNotPay es un buen ejemplo de cómo en un futuro cercano, o incluso en el presente, la inteligencia artificial puede ser muy útil para decidir sobre cuestiones de (relativamente) escasa complejidad técnica desde el punto de vista jurídico y de escasa cuantía, agilizando enormemente esos procesos.

iv. La inteligencia artificial aplicada al lenguaje natural (y jurídico): Watson/ROSS Intelligence

IBM, una de las grandes empresas tecnológicas del planeta, lleva años investigando y desarrollando, en el ámbito de lo que se denomina computación cognitiva, una tecnología que intenta emular la manera de razonar y de interactuar de los seres humanos, y en la que ocupa un lugar central la «comprensión» (sin entrar aquí en debates filosóficos) y la comunicación mediante el lenguaje natural. Como resultado de sus desarrollos, Watson creó una herramienta capaz de «entender» el lenguaje natural y con capacidad de «aprendizaje» a partir de toda la información que constantemente va recopilando y procesando. Watson tuvo repercusión mediática en el año 2011 por ser el vencedor en el concurso norteamericano de preguntas Jeopardy!, en el que se enfrentó a los dos concursantes humanos con mayor número de victorias hasta la fecha12. Lo más destacable no es tanto la enorme capacidad de acumulación de información y la velocidad de procesamiento de la misma, sino el hecho de que Watson pudo, conforme avanzaba el concurso, entender correctamente incluso los dobles sentidos, los giros lingüísticos, las metáforas o la ironía que forman parte habitual de nuestros lenguajes naturales, con lo que puede decirse que tiene una capacidad notable de comprensión y de interpretación lingüística.

Más recientemente, una empresa llamada ROSS Intelligence ha usado la tecnología de Watson para aplicarla al ámbito jurídico13. La idea principal es utilizarla para procesar la ingente cantidad de material jurídico que constantemente se genera (legislación, jurisprudencia, documentos contractuales, etc.) para tener no solo la máxima y más actualizada información, sino también (y especialmente) para discriminar y seleccionar la más adecuada y relevante para el problema que se esté tratando en cada momento, ahorrando así grandes cantidades de tiempo y de esfuerzo a los operadores jurídicos. Según se afirma, esta tecnología es capaz de procesar más de mil millones (one billion) de documentos legales por segundo, redactados en lenguaje natural, y retornar resultados con mucha precisión a las cuestiones planteadas (también en lenguaje natural, tal y como se formularían a un abogado). Al tratarse de una tecnología de aprendizaje automático (machine learning), además mejora constantemente. Pero a pesar de estos datos sorprendentes, la tecnología no está pensada, al menos por el momento, para sustituir a jueces o a abogados, sino más bien como una herramienta de apoyo a su actividad, sobre todo la de buscar y seleccionar información jurídica relevante. Según el propio CEO de ROSS Intelligence, tareas como sopesar la información, crear argumentos jurídicos o preparar documentos siguen siendo exclusivas de los juristas humanos.

Este último ejemplo de tecnología aplicada al ámbito jurídico es especialmente interesante porque guarda una estrecha relación con una de las actividades que a priori parecerían más difíciles de automatizar, como es la interpretación jurídica, o la conversión de expresiones redactadas en lenguaje natural a una serie de parámetros que permitan una sistematización en términos de correlación de casos con soluciones jurídicas, sin necesidad de una intervención humana que determine el significado de tales enunciados normativos. Con todo, como muestra el debate teórico acerca de la interpretación jurídica, parece que esta va mucho más allá de simplemente entender o captar el significado claro y unívoco de los enunciados dictados por las autoridades normativas, pues en muchos casos parece involucrar una toma de decisiones o razonamientos y argumentos que les dan fundamento, como en muchos de los llamados argumentos interpretativos (argumento analógico, a fortiori, teleológico, psicológico, sistemático, apagógico, etc.) que son habitualmente usados en el razonamiento jurídico. Pero a pesar de ello, son innegables el alcance y la importancia de los desarrollos tecnológicos vinculados a la interpretación del lenguaje natural.

A partir de los ejemplos expuestos en este apartado, creo que puede concluirse que, hasta la fecha, todos los avances tecnológicos deben ser concebido como herramientas parciales de ayuda a la decisión, y que estamos todavía lejos de lo que podría considerarse un sistema integral automatizado de toma de decisiones jurídicas (salvo quizá en ámbitos muy concretos y específicos en los que estén perfectamente delimitadas todas las cuestiones jurídicas y fácticas). Algunos aspectos relacionados con la aplicación del Derecho parecen especialmente problemáticos, como la interpretación jurídica (a pesar de los importantes avances en computación cognitiva), la prueba de los hechos o la calificación de estos en categorías jurídicas. Pero no es menos cierto que los avances en inteligencia artificial son rápidos y significativos, y que cabe esperar que sus desarrollos aun lo sean en mayor medida en un futuro, con lo que no parece en absoluto descartable la idea de un juez artificial completamente autónomo.

IV

Los avances tecnológicos en general y de la IA en concreto no parecen ser una opción, sino sencillamente algo que está ocurriendo y que tendrá un impacto cada vez mayor. Por ello, en lugar de plantearnos si deberían aplicarse o no estos avances al ámbito de la decisión jurídica, quizá sea mejor reflexionar sobre sus posibles aspectos positivos y negativos, así como hacer propuestas sobre hacia dónde podrían orientarse para que los resultados sean más satisfactorios, o cuanto menos para evitar posibles peligros y problemas.

Como punto de salida, partiré de la base de que la decisión judicial es una actividad primordialmente técnica o instrumental, en el sentido de que, sobre todo a partir de la Ilustración y en el contexto occidental, se vincula más estrechamente a la idea de «aplicar el Derecho o decidir conforme a Derecho», que a la de «impartir justicia». Se trata de utilizar las herramientas, los recursos y los procedimientos establecidos por el sistema jurídico para dar una respuesta que, al menos en principio o teóricamente, está predeterminada por el propio sistema. El juez, en ese contexto, se configura como un especialista con una formación técnica adecuada para la obtención de dicha respuesta, y que además debe obtenerla mediante los procesos y los criterios jurídicamente establecidos.

Los avances tecnológicos siempre se han revelado útiles para la realización de tareas instrumentales, mejorando aspectos como la eficiencia, la precisión y la rapidez. Por ello, al menos a priori parecería que la actividad de aplicación del Derecho podría verse beneficiada por la implementación de estas nuevas tecnologías. Ahora bien, hace ya bastante tiempo que por múltiples razones se abandonó la concepción formalista que concebía la actividad judicial o de aplicación del Derecho en general como algo mecánico, donde el decisor sería un tipo de autómata. Incluso las concepciones contemporáneas que, como en el caso de Ronald Dworkin14, defienden la idea de una única respuesta correcta y la actividad judicial como primordialmente epistémica o de descubrimiento, asumen que en la decisión judicial intervienen muchos aspectos relacionados con la capacidad de juicio y de reflexión, principalmente en ámbitos como el de la interpretación jurídica. Esto plantea algunos problemas y dificultades tanto para la posibilidad efectiva de crear un modelo automatizado de decisión judicial, como para las consecuencias que este podría tener en dicha actividad. Pero a estas cuestiones me referiré más adelante. Por el momento, señalaré algunos aspectos, en mi opinión positivos, que prima facie conllevaría la decisión judicial automatizada:

Imparcialidad. Una primera consecuencia evidente es que las decisiones estarían libres de los sesgos que, aun de manera inconsciente y reconociendo el gran esfuerzo realizado por la inmensa mayoría de jueces por mantener su imparcialidad, pueden afectar a los decisores humanos, en función de su ideología, experiencia, creencias, ideas preconcebidas, entorno o contexto cultural, circunstancias personales, etc. Un algoritmo informático es simplemente incapaz de comportarse de modo distinto a cómo predetermina su programación, de manera que se vería libre de todos estos factores. Con todo, debe tenerse en cuenta un aspecto muy importante, la posibilidad de sesgos en la programación del algoritmo. Aunque la tecnología por sí sola sea incapaz de introducir sesgos, estos pueden estar contenidos en la programación, pues los programadores (al menos de momento) son seres humanos. Por ello, para evitar situaciones como la controversia relacionada con el algoritmo COMPAS, sería fundamental el requisito de la transparencia. El código de los algoritmos no debería ser secreto, sino público y susceptible de supervisión y de análisis por parte de las autoridades correspondientes, lo que sin duda conllevaría repercusiones relevantes en el ámbito empresarial, ya que las empresas desarrolladoras de software probablemente tendrían importantes intereses en mantener su código en secreto como manera de ocupar una posición ventajosa frente a la competencia; pero en este punto debería prevalecer el interés público y deberían buscarse alternativas para conseguir que este ámbito siguiera siendo atractivo para las empresas del sector.

Consistencia. Otro de los aspectos en los que un modelo de decisión automatizada tendría un impacto importante es el de reducir la variabilidad y la multiplicidad de criterios, interpretaciones, etc. en las decisiones vinculadas a la propia pluralidad de los órganos decisores (jueces y tribunales). Distintos órganos pueden interpretar de modo divergente los mismos preceptos legales o valorar de manera diferente unos mismos hechos, dando lugar a decisiones distintas incluso en supuestos que comparten las mismas circunstancias relevantes. El uso de algoritmos de decisión garantizaría la misma interpretación y los mismos criterios de decisión, y por tanto una mayor consistencia en la jurisprudencia (si es que puede utilizarse ese término en dicho contexto), con consecuencias muy significativas en la previsibilidad de las decisiones y de la seguridad jurídica. Además, gracias a la enorme capacidad de acumulación y de procesamiento de la información, se eliminaría prácticamente la posibilidad de error derivado de no tener en cuenta alguna normativa aplicable o algún elemento jurídicamente relevante.

Previsibilidad. Como se ha comentado en el párrafo anterior, el uso de algoritmos garantizaría la consistencia en las interpretaciones y en los criterios de decisión, permitiendo un alto grado de previsibilidad, y con ello de la seguridad jurídica. En principio, sería posible conocer con un alto nivel de precisión las consecuencias jurídicas de nuestros comportamientos, incluso sin necesidad de iniciar un proceso judicial, de manera que mejoraría el grado de autonomía personal al contar con mejores criterios acerca de las consecuencias de cada alternativa de acción, ayudando así a la toma de decisiones del agente.

Por otro lado, no obstante, no deberían olvidarse o minusvalorarse otros aspectos que plantean serios problemas, tanto a la posibilidad efectiva de la decisión judicial automatizada como a su deseabilidad, aun en el caso de ser técnicamente posible.

  1. En primer lugar, como se puso de manifiesto anteriormente, parece haber un amplio consenso en la teoría jurídica sobre la inadecuación de un esquema puramente «mecanicista» de la aplicación del Derecho, y los obstáculos para que un modelo formalista o mecanicista funcione tienen relación, primordialmente, con ciertas características de los propios sistemas jurídicos. Un aspecto importante es que el lenguaje jurídico en general, aunque sea de carácter técnico, no deja de ser un lenguaje natural (por contraposición a los lenguajes artificiales), por lo que está afectado por problemas como la vaguedad y la ambigüedad, que en alguna medida implican un cierto grado de indeterminación y la necesidad de elecciones o de decisiones por parte del intérprete. Este hecho no solo dificulta técnicamente la elaboración de un modelo de decisión automatizada, dado que los lenguajes de programación algorítmica son artificiales, sino que, en caso de establecer o fijar criterios interpretativos para enfrentarse a estas dificultades, de algún modo «cristalizarían» o «solidificarían» ciertas interpretaciones, desechando otras igualmente legítimas, y supondría además la prevalencia del criterio adoptado por los programadores por encima del de otras autoridades jurídicas.
  2. En segundo lugar, es habitual que el legislador en ciertos casos persiga conscientemente que haya un cierto grado de indeterminación en la respuesta jurídica, o la atribución de cierta capacidad de decisión discrecional al decisor. Así ocurre, por ejemplo, cuando los preceptos legales hacen referencia o incorporan conceptos valorativos o de tipo moral, o conceptos esencialmente controvertidos, o cuando delegan directamente en el juez la capacidad de decidir las medidas más adecuadas a tomar (dentro de un margen). De nuevo, los algoritmos podrían incorporar ciertos parámetros para determinar las decisiones en estos casos, pero al precio de imponer una determinada concepción y de eliminar toda posibilidad de deliberación o de argumentación moral.
  3. En tercer lugar, no puede descartarse tampoco la posibilidad de «ataques» al sistema (hacking), como ocurre con prácticamente todos los sistemas informáticos. El tema de la seguridad informática es una carrera continua entre quienes intentan proteger los sistemas y quienes intentan superar los obstáculos y las barreras que los protegen. Pero aunque la seguridad total no existe, creo que tampoco debería sobredimensionarse el problema ni los riesgos. Todas las empresas e instituciones sufren constantes ataques a sus sistemas informáticos, pero la inmensa mayoría son bloqueados, y en las pocas situaciones en las que los hackers consiguen burlar las medidas de seguridad, lo más habitual es que se reaccione con rapidez y se contengan los daños. En cierto modo, se podría hacer un paralelismo con los casos de corrupción: aunque siempre hay casos de jueces corruptos, lo más habitual es que sean muy minoritarios (en comparación con el volumen total de jueces y de decisiones), y que sus efectos no sean devastadores. Es más, la probabilidad de hackear un sistema informático de decisión judicial seguramente es inferior a la de que un juez sea corrupto.

Por otro lado, no debería olvidarse que la irrupción de los avances tecnológicos aplicados a ciertos ámbitos o actividades no pocas veces ha provocado o ha contribuido a la propia configuración o transformación de tales actividades, y el Derecho no sería ajeno a ello.15 De manera puramente especulativa, creo que los cambios podrían tomar dos direcciones distintas, aunque sería posible una combinación de ambas.

Por una parte, cabe la posibilidad de que la producción normativa se ajuste paulatinamente a las «necesidades» de la aplicación automatizada del Derecho, en el sentido de hacer más sencilla la adaptación a dichas tecnologías y que su funcionamiento pueda ser menos problemático. Algunos de esos cambios ya pueden vislumbrarse hoy, como ocurre con los llamados smart contracts16, que hacen uso de una tecnología denominada blockchain o cadena de bloques, que es prácticamente «inhackeable», para registrar y hacer cumplir automáticamente acuerdos contractuales, lo que puede tener en el futuro un efecto importantísimo, por ejemplo, en la disminución de la litigiosidad asociada a los contratos, por eliminar toda necesidad de prueba respecto a la existencia y al contenido de la relación contractual.

Por otra parte, otro modo de afrontar las dificultades antes señaladas sería procediendo a una cada vez más marcada diferenciación entre los ámbitos o los asuntos objeto de decisión artificial, y aquellos otros que deban ser resueltos por seres humanos. Así, las cuestiones que puedan resolverse mediante criterios claros y objetivos (probablemente la mayoría) y que no afecten a cuestiones de gran transcendencia moral (como por ejemplo los derechos fundamentales, decisiones relativas a menores o personas vulnerables, etc.) serían objeto de decisión artificial, mientras que otras en las que se considere importante contar con la capacidad de juicio y de deliberación se reservarían a decisores humanos. Incluso sería posible un modelo mixto en el que la intervención humana se limitara a revisar las decisiones previas o las propuestas de decisión ofrecidas por algoritmos. En suma, como ha sido la tendencia invariable a lo largo de la historia, se dejaría para las máquinas lo que las máquinas pueden realizar de manera más eficiente, y se reservaría a los seres humanos lo que las máquinas no son capaces de hacer o realizar de manera satisfactoria, y que son de hecho las más importantes.

Notas
  1. Sobre estas cuestiones puede verse, por ejemplo, Boden, M. A. (ed.) (1990).The Creative Mind: Myths and Mechanisms. Londres: Routledge.
  2. https://lexnetjusticia.gob.es/inicio [Fecha de consulta: 26 de junio de 2019].
  3. Esta definición sufre de ambigüedad proceso-producto, aunque de manera intencionada: se refiere tanto a que el proceso por el que se determina una respuesta a una situación dada debe regirse por los criterios y los parámetros establecidos por el sistema jurídico (el órgano debe ser el competente, siguiendo los procedimientos y los requisitos legalmente establecidos, etc.), como a que el resultado o producto (esto es, la respuesta o decisión) se ajuste a las exigencias jurídicas establecidas (es decir, que sea, como suele decirse, conforme a Derecho).
  4. La información se ha obtenido fundamentalmente de fuentes periodísticas, y en la medida en que mis conocimientos técnicos acerca de la inteligencia artificial son limitados, y que no he tenido la posibilidad de conocer o utilizar directamente ninguna de las tecnologías aquí expuestas, no puedo garantizar que la descripción sea precisa, aunque parto de la presuposición de que en líneas generales las informaciones proporcionadas por las fuentes periodísticas son correctas.
  5. Puede encontrarse información sobre esta plataforma y el experimento realizado al que se hace referencia, por ejemplo, en http://www.bbc.com/news/technology-41829534 (última visita: 26/6/2019).
  6. De hecho, esta tecnología ha servido de base para la creación de una empresa que proporciona servicios de predicción acerca del resultado de futuras o hipotéticas decisiones: http://www.case-crunch.com/ (última visita: 26/6/2019).
  7. Una breve descripción del mismo puede encontrarse en https://doc.wi.gov/Pages/AboutDOC/COMPAS.aspx (última visita: 26/6/2019).
  8. Puede encontrarse información sobre el caso, por ejemplo, en https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html (última visita: 26/6/2019).
  9. Véase https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (última visita: 26/6/2019).
  10. Una descripción general puede encontrarse en https://www.theverge.com/2017/7/12/15960080/chatbot-ai-legal-donotpay-us-uk [Data de consulta: 26 de juny de 2019].
  11. Un chatbot es un algoritmo de inteligencia artificial que permite a un usuario la entrada de peticiones mediante lenguaje natural (oral o escrito) e intenta ofrecer una respuesta adecuada; cada vez son de mayor implantación en las empresas para las tareas de atención al cliente.
  12. Un reportaje periodístico sobre esta noticia puede verse en http://www.nytimes.com/2011/02/17/science/17jeopardy-watson.html?pagewanted=all (última visita: 26/6/2019).
  13. Véase https://www.ibm.com/blogs/watson/2016/01/ross-and-watson-tackle-the-law/ (última visita: 26/6/2019).
  14. Véase, por ejemplo, Dworkin, R. (1977). Taking Rights Seriously. Cambridge (Massachusetts): Harvard University Press.
  15. No sería ni mucho menos el primer caso. En ocasiones, una tecnología ha supuesto incluso la aparición de nuevos ámbitos de actividad, como por ejemplo el cine o los videojuegos en forma de expresiones o manifestaciones artísticas. En otros casos, ha traído cambios importantes en campos que existían previamente, como ocurrió, por ejemplo, en la arquitectura gracias al uso de nuevos materiales en la llamada «arquitectura del hierro» del s. xix, o en la aparición de nuevos instrumentos y tecnologías en la música, que ha incidido se manera destacable incluso en el «tipo» de música que se crea.
  16. Una breve introducción no técnica a los llamados «contratos inteligentes» puede encontrarse en https://retina.elpais.com/retina/2017/12/22/tendencias/1513937575_114270.html [Data de consulta: 26 de juny de 2019].
Cita recomendada

MARTÍNEZ ZORRILLA, David. El juez artificial: ¿próxima parada?. Oikonomics [en línea]. Noviembre 2019, no. 12, pp. 1-12. ISSN: 2339-9546. DOI: htpps://doi.org/10.7238/o.n12.1914

Sobre el autor
Comparte
??? addThis.titol.compartir ???