Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional
http://dx.doi.org/10.19137/perspectivas-2025-v15n1a05
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional
INVESTIGACIÓN CIENTÍFICA
Justicia 4.0: ¿Y si la justicia fuese automatizada y controlada por algoritmos?(1)
Universidad Católica Argentina, Facultad de Derecho, CABA, Argentina.
Fecha de recepción: 15/08/2024 – Fecha de aceptación: 23/09/2024
“Las personas ya no se verán como seres autónomos que guían su vida en consonancia con sus deseos, y en cambio se acostumbrarán a verse como una colección de mecanismos bioquímicos que está constantemente supervisada y guiada por una red de
algoritmos electrónicos”
Yuval Noah Harari (2016)
Cómo citar este artículo: Almeida Coelho, E. de (2025). Justicia 4.0. ¿Y si la justicia fuese automatizada y controlada por algoritmos? Revista Perspectivas de las Ciencias Económicas y Jurídicas. Vol. 15, N° 1 (enero-junio). Santa Rosa: FCEyJ (UNLPam); EdUNLPam; pp. 111-134. ISSN 2250-4087, e-ISSN 2445-8566.
DOI http://dx.doi.org/10.19137/perspectivas-2025-v15n1a05
Resumen: En un contexto de cambios disruptivos, se afirma que vivimos en una suerte de economía de la atención, un modelo nuevo y distinto de negocios, donde la atención es valiosa porque significa dinero, ya que logra traducirse directamente en una economía del tiempo. Así pues, las compañías, bajo el pretexto de la gratuidad del uso, la “privacidad” y la “seguridad”, muchas veces sesgada e ilegal, capturan datos personales de los usuarios, ya sea a través de redes sociales, videos, aplicaciones o juegos, haciendo con ello un estudio-análisis de sus perfiles, que utilizan para ofertar productos y/o servicios personalizados.
Así, las múltiples aplicaciones derivan en múltiples distracciones que suelen transformarse en una prisión sin rejas porque nos tornan en inconscientes y vulnerables, privándonos de libertad para pensar con autonomía, transformándonos en robots de consumo. Esto, sin contar las violaciones directas a la privacidad por medio de la manipulación de los datos. Y todo esto por dinero a cambio de atención. ¿Esto es justo o no?
Palabras clave: Justicia; inteligencia artificial; algoritmo.
Justice 4.0. What if justice were automated and controlledby algorithms?
Abstract: In a context of disruptive changes, it is said that we live in a kind of attention economy, a new and different business model, characterized by a concept where attention is valuable, because it means money, since it translates directly into an economy of time. Thus, companies, under the pretext of free use, “privacy” and “security”, often biased and illegal, capture personal data of users, either through social networks, videos, applications, games, thereby making a study-analysis of their profiles and using these to offer products and / or personalized services.
Thus, the multiple applications derive in multiple distractions, which often become a prison without bars, because they make us unconscious/vulnerable, depriving us of the freedom to think autonomously, transforming us into consumer robots. This, without counting the direct violations of privacy through data manipulation. And all this for money in exchange for attention. Is this fair or not?
Keywords: Justice; artificial intelligence; algorithm.
Justiça 4.0. E se a justiça fosse automatizada e controlada por algoritmos?
Resumo: Em um contexto de mudanças disruptivas, diz-se que vivemos em uma espécie de economia da atenção, um novo e diferente modelo de negócios, caracterizado por um conceito em que a atenção é valiosa, pois significa dinheiro, já que se traduz diretamente em uma economia de tempo.
Assim, as empresas, sob o pretexto de uso livre, “privacidade” e “segurança”, muitas vezes tendenciosos e ilegais, capturam dados pessoais dos usuários, seja por meio de redes sociais, vídeos, aplicativos, jogos, fazendo assim um estudo-análise de seus perfis e utilizando-os para oferecer produtos e/ou serviços personalizados.
Assim, múltiplos aplicativos resultam em múltiplas distrações, que muitas vezes se transformam em uma prisão sem grades, pois nos tornam inconscientes/vulneráveis, privando-nos da liberdade de pensar de forma autônoma, transformando-nos em robôs consumidores. Isso sem mencionar as violações diretas da privacidade por meio da manipulação de dados. E tudo isso por dinheiro em troca de atenção. Isso é justo ou não?
Palavras-chave: Justiça; inteligência artificial; algoritmo.
Actualmente, vivimos las aceleraciones propias de una revolución tecnológica,(2) más específicamente la denominada “Revolución Industrial 4.0” (Garrell y Guilera, 2019),(3) que fuera oficialmente presentada como tal en la Feria del CeBIT y celebrada en la ciudad alemana de Hannover en el 2013. Bautizada bajo el nombre “Industria 4.0”, presenta como sus principales características las líneas de producción en masa y la estandarización, saliendo de los ya conocidos períodos donde imperaba la manufactura para la fabricación, que supo desarrollarse fuertemente después de las precedentes revoluciones agrícola y comercial.
Por su parte, y con un fuerte acento puesto en la innovación (Fernández, 2012),(4) el concepto de globalización se resignifica en estos tiempos, no sin controversia, ya que, tal como los historiadores lo vienen señalando, existen discrepancias sobre sus comienzos: mientras algunos sostienen que empieza con los grandes navegantes (y navegaciones), otros entienden que se inició a partir del período posindustrial; es decir que tanto ayer como hoy persisten distintos puntos de vista sobre sus orígenes. En función de esto, entonces, se optará por tomar como punto de partida la siguiente idea: la globalización se inicia cuando el ser humano comienza a interconectarse, sea a través de la cultura, de la mera socialización o de la economía a través de grandes distancias. En otras palabras, cuando empieza a interactuar, acortando distancias, algo que no posee precedentes a la vista en épocas anteriores (Aibar, 1996).
Consecuentemente, en la actualidad, las nuevas tecnologías también redujeron distancias para productos y servicios, con su consiguiente beneficio económico. Esto modelizó una nueva necesidad basada en lograr altos beneficios a una elevada velocidad, optimizando todas sus tareas, lo que también produjo un cambio para esta generación, especialmente en la concepción del mercado.
Se puede decir que esta es la generación que quiere que todo se resuelva rápido, y esto aplica, como lo adelantáramos, en todos los ámbitos donde el hombre coexiste. Por supuesto, actualmente subsiste la exigencia de suplir las demandas de las personas de forma más ágil, siendo su principal talón de Aquiles el hecho de que no siempre habrá recursos humanos suficientes para poder realizarlos (McJohn, 1998); es bajo este contexto, entonces, que ingresa la tecnología como mecanismo de apoyo y soporte para solucionar tales necesidades (Granero, 2018).
De aquí que la sociedad automatizada de hoy, la que resuelve rápido y demanda soluciones ágiles, encuentre desafíos futuros haciendo que la automatización existente en el presente sea un recurso limitado en el futuro, requiriendo desarrollo e innovación para aplicarla a las futuras nuevas exigencias. Por ejemplo, el dinero hoy en día no significa solamente moneda, sino que ha variado; lo que no ha variado es el tiempo, al menos en lo sustantivo, como el dinero y la moneda sí lo hicieron. Prácticamente, no se pregunta más: ¿cuánto cuesta algo? En cambio, seguramente podemos decir que se mantiene implícito el interrogante: ¿cuánto tiempo llevará?
En este contexto de cambios disruptivos (Iracelay, 2018) se extrae la siguiente aseveración: vivimos en una suerte de economía de la atención, un modelo nuevo y distinto de negocios, donde la atención es valiosa porque significa dinero, ya que logra traducirse directamente en una economía del tiempo. Así pues, las compañías, bajo el pretexto de la gratuidad del uso, apelan a una “privacidad” y “seguridad”, muchas veces sesgadas e ilegales, que capturan datos personales de los usuarios, ya sea a través de redes sociales, videos como de aplicaciones o juegos; a partir de ellos realizan un estudio-análisis de sus perfiles (Verheij, 2016), que utilizan para ofertar productos y/o servicios personalizados. Dichas compañías también usan herramientas psicológicas aptas para la creación de adictos tecnológicos, cuya dependencia es un modo de “esclavitud” moderna que no capta ni sujeta cuerpos, pero sí mentes, atrapando su atención, perfeccionándose a través de experimentos sociales para captar la atención a cambio de dopamina, serotonina y endorfina. Así, las múltiples aplicaciones derivan en múltiples distracciones que suelen transformarse en una prisión sin rejas porque tornan a las personas en seres inconscientes y vulnerables, privándolas de libertad para pensar con autonomía, transformándolas en robots de consumo. Esto, sin contar las violaciones directas a la privacidad por medio de la manipulación de los datos. Y todo esto por dinero a cambio de atención. ¿Esto es justo o no? Lo sabremos adelante.
De acuerdo con lo expuesto anteriormente, más allá de la economía del tiempo y del secuestro de nuestra atención, el mundo camina a pasos acelerados. Por supuesto que hay reclamos inquietantes por parte de algunos sectores sociales que han comenzado a generar preocupación; uno de ellos gira en torno al funcionamiento de la Justicia a causa de su lentitud. Por cierto, existen, asimismo, otros vicios o defectos como la deficitaria atención en nuestros tribunales, a lo que se suman contradicciones legales, pues muchas veces las normas se muestran contradictorias unas con otras, dificultando así la decisión del juez. Estos factores contribuyen, sin duda, a un descrédito cada vez mayor de la Justicia, considerando muchos, incluso, que tal descrédito es su negación misma, pues cada vez se dice con cierta razón que es menos justicia. Parafraseando a Shakespeare: “Ser o no ser justicia, esa es la cuestión”.
En relación a esto, y desde una visión más rebelde, cabe preguntarse: ¿qué hacer?, ¿se puede, acaso, privatizar la Justicia?, o bien, si fuera esto posible, ¿sería imparcial? O tal vez, debamos preguntarnos, con tristeza: ¿debemos extinguir esta forma de impartir la justicia? Si acaso sea posible sostenerla, seguramente generaría otro nuevo interrogante: ¿existe alguna otra opción o salida? Es imperativo reflexionar al respecto.
La sociedad (ultra)tecnológica (Cabrera, 2018)(5) de hoy necesita tener sus anhelos atendidos como un todo y cada vez más rápidamente; lo mismo sucede con el Poder Judicial, muchas veces visto como un elefante blanco, lento e impredecible, pues debido a su demora en la toma de decisiones vuelve negativa su intervención social. En virtud de esto, se necesitan cambios y esto es algo que se vuelve cada vez más claro.(6) Pero, en realidad, lo que se demandan son cambios urgentes, y de ahí es que surge la pregunta respecto a qué modificaciones habría que producir para mejorar la performance de los actores judiciales logrando con ello una prestación jurisdiccional satisfactoria. Veamos.
A pesar de la complejidad de la respuesta, y sin huir del tema en absoluto, diremos inicialmente que las personas, por medio de sus sentidos, imaginación y creatividad, buscan perfeccionarse a través de las herramientas con las que cuentan para, de esa manera, moldear un ser a su propia imagen y semejanza. Pero, ¿quiénes cubrían estos modelos? Antiguamente, lo hacían las mascotas, después fueron los distintos tipos de figuras o muñecos, creados como una suerte de representación del ser humano. Modernamente, existen los robots, con sus variadas aplicaciones y posibilidades, que además pueden estar dotados con inteligencia artificial.
Lo expuesto no debería causar asombro, ya que el ser humano siempre ha buscado tener dominio completo sobre su creación, conforme una representación a su imagen y semejanza. En este sentido, ha buscado desarrollar un modelo muy probablemente libre de fallas éticas y morales como las que solemos tener los humanos(7) en busca de convalidarse ante sus semejantes. De hecho, el ser humano posee una incansable búsqueda por ser reconocido. Al menos, así se entiende que debería ser o que pareciera ser.
Por su parte, la denominada Inteligencia Artificial (IA) no solamente revolucionó, sino que también actualmente sigue revolucionando la informática y las denominadas tecnologías de la información (TIC) y, consecuentemente, el mundo tecnocientífico, que experimentará fuertes avances en las próximas décadas (Granero, 2018). Se trata de una temática muy discutida donde la imaginación –sea a través de libros o películas (sobre distopías, principalmente)– asoma a las personas al diseño de un futuro posible. Así, es posible observar que la inteligencia artificial (The Law Society, 2018) intenta una reproducción cada vez más cercana a la forma de (re)pensar del cerebro humano (McJohn, 1998), al tiempo que celebra el nacimiento de una red de contención social muy diferente a la presente. Pero, vale aclarar, cuando se habla de un diseño del cerebro humano no se hace referencia a un dominio completo del cerebro humano, ya que este no se puede copiar y/o perfeccionar al no conocerse por completo su potencialidad (Engle, 2004). Por tanto, lo que se puede lograr es emularlo a través de una simulación hasta intentar alcanzar soluciones, tal como lo hace el hombre frente a sus circunstancias. Y esto lo hacemos por algoritmos, basados en lo que conocemos.
Lo expuesto anteriormente supone la necesidad de una inteligencia artificial programada a partir de un algoritmo lo bastante completo como para que se pueda decir: casi “libre de fallas”, o simplemente que reconozca en profundidad las debilidades humanas de forma tal que pueda engañar lo suficientemente bien, y se piense que se trata de una persona tomando decisiones, en el mejor estilo de la Máquina de Turing. De este modo, cabe preguntarse: ¿sería necesario conocer plenamente el cerebro humano para desarrollar la inteligencia artificial? Desde luego que no, y para ello se poseen argumentos en favor, que se desarrollarán a continuación.
Para empezar, se traerá a la luz a la biomimética, que es la ciencia que tiene como objeto estudiar los componentes de la naturaleza y buscar inspiración en sus funcionalidades con el fin de desarrollar una aplicación que ayude a perfeccionar la generación de productos y servicios; es decir, se busca brindar soluciones a problemas que el ser humano no logra resolver a través de la mejor imitación posible.
En función de esto, entonces, es posible responder a la pregunta planteada anteriormente que, por ahora, no interesa tener un dominio completo de las funciones del cerebro humano, ya que las aplicaciones dotadas con inteligencia artificial poseen “… numerosas realidades: desde ordenadores creativos con capacidad de aprendizaje, hasta máquinas con habilidades inventivas capaces de solucionar problemas por sí mismas.” (García, 2018). Es decir, son especializadas, por lo que se dedican a desarrollar sus tareas específicas prácticamente a la “perfección”, o mejor dicho, con un alto grado de especialización y un mínimo índice de errores, de tal modo que puedan ser mejor utilizadas por los humanos. Por ello, podría decirse que no estamos ante el fin del hombre, sino que es el principio de un homo technologicus.
Lo que se desea aclarar en el presente punto es que lo que interesa en relación a la problemática sobre inteligencia artificial es poder cumplir la finalidad del algoritmo y, de tal manera, que los robots puedan desempeñar tareas para “reemplazar” a los humanos, sea por su competencia o por poseer una mayor seguridad en su finalidad. Esto no evitará, sin embargo, que se produzcan discusiones posteriores en torno al control y mantenimiento del poder a través del refinamiento de datos.
Más allá de las distintas teorías que existen en relación al cerebro humano, se puede entender por creatividad la forma en la que se pueden explorar las distintas posibilidades, alternativas y fases de un determinado camino que pueda ser visualizado en pos de un objetivo. En el caso puntual de las IA, se entenderá por creatividad la forma de buscar una nueva ruta para alcanzar un objetivo también nuevo.
Se ha dicho que desde “... una perspectiva teórica, la creatividad y la innovación son procesos de búsqueda y combinación. Empezamos con un trozo de conocimiento y lo conectamos con otro trozo para crear algo nuevo y útil” (Schweisfurth y Goduscheit, 2020). Es decir, los robots y la inteligencia artificial pueden desempeñar tareas que los humanos no son capaces de hacer. Hay y habrá, sin embargo, variados cuestionamientos en torno a si la IA tiene o no la creatividad que un humano posee; misma consideración merece el grado de optimización y funcionalidades que pudiera alcanzarse, aunque esto último esté basado, casi con exclusividad, en datos.
Puede entenderse a la inteligencia artificial, entonces, como la rama informática en la que un determinado algoritmo realiza un análisis de los datos, atributos y características de algo determinado para comprender los patrones y desarrollar respuestas presentando una solución adecuada. Pues, como se ha dicho:
En la IA hay todo un campo que tiene como objetivo aplicar el conocimiento en IA para resolver o al menos facilitar la solución de algunos problemas legales, como así, al mismo tiempo, utilizar herramientas y técnicas desarrolladas para resolver problemas específicos en la interpretación y aplicación de la Ley. La ciencia jurídica reconoce la utilidad de la IA especialmente para fines de razonamiento jurídico, un concepto general que se refiere a un proceso de formación y respuesta justificada a un determinado proceso legal. (Iracelay, 2018)
Parece claro que no se pueden responder, al menos por el momento, las dudas que genera la implementación de la IA, pero, más allá de eso, es indudable que lo que se busca es mejorarla, ya que se entiende que su valor puede ser muy relevante. Vale la pena, en esta instancia, realizar un breve repaso de tales intentos.
El machine learning (Marchant, 2017) es una rama de la IA en la que un algoritmo es programado de forma que pueda aprender por sí solo, entendiendo un determinado comportamiento y adaptándose para ser cada vez más preciso. Para que esto ocurra resulta necesario que el algoritmo pueda clasificar los datos, realizando con ello un filtrado a través de una tarea predictiva y estadística, o sea, reconociendo patrones para tomar decisiones a través de los datos.
Por su parte, el deep learning es un algoritmo que presenta mayores posibilidades que la machine learning,(8) de modo tal que, al hacer un análisis más profundo para tomar una decisión que no fue evaluada con anterioridad, tiene la capacidad de mirar por fuera del algoritmo, extrapolando sus límites de programación, trabajando con una variable no prevista dentro del código; ello, de forma tal que, al expandir el campo de análisis, identifica comportamientos no previstos anteriormente, funcionando a través de redes neurales con diversas capas y grandes bases de datos.
Cabe, ahora, retomar la inteligencia humana, más precisamente el proceso de aprendizaje. Este último se caracteriza, dentro del cerebro, por poseer una serie de estructuras, pudiéndose identificar tres
(3) tipos de memorias para que se logre –con éxito– el almacenamiento de los recuerdos de manera definitiva o provisoria (así, también, para descartarlos). La memoria sencillamente es el almacenamiento y recuperación de información y puede ser de corto, medio y largo plazo. Por lo tanto, para consolidar la memoria, y consecuentemente el almacenamiento de la información, estas deben pasar por una entrada, ser procesadas y, por ende, registradas; es decir, funciona de forma parecida a como lo hacen las computadoras.
La memoria de corto plazo es la rápida y se caracteriza por contar con un proceso cognitivo que exige prestar atención, ya sea recibiendo o descartando la información sensorial. La memoria de mediano plazo, por su lado, es aquella que es transicional para almacenar información, y funciona por medio de la repetición, atención u olvido. Finalmente, la memoria de largo plazo es la información almacenada, codificada y recuperada en el cerebro de forma que pueda ser rescatada para su utilización posterior.
Como ya se ha dicho, las máquinas poseen una estructura basada en la memoria humana, siendo su funcionamiento fruto de un sistema alimentado con datos, que después serán procesados a través de algoritmos que desempeñan un papel de memoria temporal, para luego decidir borrarlos o almacenarlos de manera definitiva, siendo esta última recuperada posteriormente para su reutilización en el dispositivo.
Otro punto importante es la complejidad que conlleva comparar la inteligencia humana con la inteligencia artificial (IH versus IA). En torno a este punto, se puede señalar, preliminarmente, que la inteligencia humana es general porque desarrolla un sinnúmero de tareas, en tanto que la inteligencia artificial, al día de hoy, se encuentra limitada porque se especializa y direcciona en una determinada solución, es decir, es débil (weak AI).(9) En este sentido, aun en la actualidad, no se tiene una inteligencia artificial fuerte (strong AI) en la medida que pueda simular el funcionamiento del cerebro humano de forma completa y “perfecta”.
Además de los cuestionamientos arriba planteados, al analizar la creatividad como aquello que busca, entre las distintas posibilidades, alternativas para un modelo de solución de problemas, podríamos considerar que la deep learning puede ser valorada como una expresión de la creatividad, porque extrapola los límites para lo que fue construida para aprender; caso contrario, solamente entenderíamos la creatividad en un sentido estrictamente humano. Desde este plano del análisis, entonces, se podría aseverar que la inteligencia artificial no posee creatividad alguna. ¿Esto es así o podríamos decir que todavía no la posee?
Tanto los seres humanos como los dispositivos informáticos requieren dos componentes para funcionar sinérgicamente: una parte física y una parte lógica. Para la persona humana, son el cuerpo y la mente, mientras que para los dispositivos electrónicos son el hardware y el software; ambos deben trabajar en conjunto para que su sistema funcione en sinergia.
Otro punto de discusión muy fuerte en la RI 4.0 son los algoritmos. Pero, ¿qué son los algoritmos? Son secuencias de instrucciones para la ejecución de una tarea –a través del software– que tenga reflejos en el mundo real. Ahora bien, a partir de lo señalado, se plantean diversas cuestiones jurídicas que se procurarán responder.
Se entiende que determinadas tareas pueden ser automatizadas, pero ¿se pueden automatizar todas las tareas? Tal vez sí, tal vez no. Pero ¿y ahora? ¿Qué hacer frente a esto? Para responder a estas cuestiones, se partirá, en primer lugar, de la idea de que la principal diferencia entre el algoritmo de análisis y el procesamiento para el ser humano es la cuestión sentimental, basada en la intuición y la creatividad. Mientras el ser humano puede seguir su intuición para tomar una decisión, los algoritmos son programables y no pueden utilizar la intuición como tampoco incide en ellos el factor sentimental para la toma de decisiones porque se conforman en secuencias de códigos; al menos no hoy.
Pero ¿qué implica o significa esto? Sencillamente, que el algoritmo solo decidirá basado en sus líneas para lograr sus objetivos, de acuerdo con lo que fue programado para hacer, no pudiendo utilizar elementos subjetivos, como experiencias anteriores, para elegir y/o juzgar. Es decir, no podrá salir de la curva de aprendizaje que le ha sido impuesta o sembrada en su código, esto es, para lo que fue programado.
Lo señalado es muy diferente si se posee una base de datos y se realiza un análisis en distintos niveles, por ejemplo, a través de un cruzamiento de datos provenientes de diferentes juzgados para la toma de decisiones basadas en la similitud de casos diversos. Pero mostrar u ofrecer una decisión por similitud, no siempre brinda o es una indicación de cómo utilizar la intuición o una cuestión sentimental, lo que significa que solamente se lleva adelante una lectura comparativa y de procesamiento, no considerando, de hecho, una lectura de las cuestiones humanas.
El dato es el que hace la diferencia. Pero, ¿qué es el dato? Pollo Cattaneo (2018) lo define de la siguiente manera: “... un dato es la representación formal de un hecho o concepto, apta para su comunicación entre seres humanos o entre dispositivos automáticos”.
Más allá de la intuición en el ser humano, otro punto que no se ha desarrollado bien en relación a la inteligencia artificial es el sentido de creatividad. Como se ha expresado anteriormente, el ser humano es capaz de crear en base en las experiencias almacenadas en el cerebro, a través de su intuición y también a partir del “cero”. Por lo tanto, hoy, el ser humano es racional, lógico y emocional, siendo esta una limitación, al menos por ahora, de la inteligencia artificial. Pues, como también se ha dicho antes, las IA intentan copiar el mecanismo cerebral, que es aún hoy desconocido hasta para el propio ser humano. Aun así, los intentos de replicar determinadas funcionalidades han logrado un éxito cada vez mayor en tanto alcanzaron, inclusive, resultados parecidos a los mecanismos creativos del cerebro humano. Esto nos traslada a otro punto, hoy conocido por la ciencia. Y es que nada impide al ser humano conectar su cerebro a una computadora para digitalizarlo, hacer una copia, por ejemplo, a todos o algunos de sus recuerdos, enviarlos a otra terminal, que podrá hacer, incluso, la decodificación de todos sus mecanismos de pensamiento. En relación a esto, cabe traer a colación una conocida y popular serie británica que refiere el proceso con asombrosa imaginación (y precisión).(10)
Por lo tanto, la Era demarcada por la RI 4.0 llegó para quedarse, por lo que las personas van a (con)vivir con algoritmos cada vez más presentes a través de una inteligencia artificial ubicua que, en el marco de una sociedad tecnológica, se abocará a su desarrollo y al perfeccionamiento de sus aplicaciones, dando el puntapié inicial de una nueva era del conocimiento: la Revolución Industrial 5.0. El tiempo lo dirá.
En aras de retomar lo expuesto hasta el momento, se puede decir que la sinapsis simplemente produce la transmisión de impulsos nerviosos a través del cerebro para que se pueda tener una respuesta a través de los estímulos. El cerebro, todo el tiempo, debe lidiar con una big data a través de sus sentidos,(11) es decir, recibe datos en porciones sensoriales (vista, oído, tacto, gusto y olfato), por lo tanto, todos estos estímulos pueden ser traducidos en datos e informaciones corporales, a través de las sinapsis, y utilizados para la toma de decisiones.
Hasta aquí la descripción, entonces, de cómo actúa el principal órgano del cuerpo humano. Pero, ¿cómo actúan las máquinas? Con ellas sucede algo similar. Más adelante, y por su parte, la big data(12) es una cantidad de datos masivos que deben ser interpretados bajo determinadas condiciones por medio de un algoritmo que pueda ofrecer una respuesta precisa. Parametrizando esta situación, el cerebro también es responsable de todo un conjunto de datos, procesando los estímulos sensoriales del cuerpo, donde nuestra sinapsis funciona como redes sociales de información.
Para ir un poco más allá, a partir de la teoría de entrelazamiento cuántico podemos llegar a conclusión de que todo se encuentra interconectado, a través de una red invisible. Sin embargo, tanto las neuronas como la sinapsis son redes utilizadas para transmitir información a través de pulsos eléctricos en el cerebro, por tanto, comparables a las redes sociales, donde el intercambio de información se da por medio de la interacción entre personas; y más actualmente, entre personas y las IA, que es desarrollada por seres humanos.
En cierto modo, según observamos, la inteligencia artificial sigue un script construido por una persona, pero aun así no conforma una persona, y sí, analógicamente hablando, un algoritmo. Ahora bien, reutilizando conceptos y tomando como punto de vista una perspectiva reduccionista, nuestro cerebro actúa muy parecido a la forma en la que actúa un lenguaje de programación: así como lo hacen los códigos, de forma abstracta, el cerebro –por medio de las células del cuerpo– sigue un conjunto de instrucciones, o sea, su propio algoritmo. Aunque persistan las dudas respecto al cuerpo y mente de las teorías monistas y dualistas, logra con ello estar alerta para proteger y preservar la vida, manteniendo el sistema funcionando. Por lo tanto, se observan al big data sináptico y al big data algorítmico como muy semejantes en sus funciones.
Entonces, volviendo a la propuesta original sobre Justicia 4.0 y la necesidad de que los robots piensen como nuestros jueces, cabe preguntarse: ¿se puede hacer justicia a través de la intuición o de la creatividad? Tomando en consideración los mecanismos del proceso para la toma de decisiones por parte del cerebro humano, se puede decir que la intuición y la creatividad cumplen una función importante.(13) Por ejemplo, la inteligencia sensitiva forma parte del pensamiento de las personas,(14) por lo tanto, muchas veces puede resultar necesario utilizarla para poder tomar decisiones.
Pero también afirmamos categóricamente que no tomar una decisión también es tomarla. Tomar una decisión significa, nada más y nada menos, que analizar un robusto conjunto de datos, ponderarlos y emitir una opinión, nada más que en este caso a cargo de un tribunal de Justicia. Si de lo que hablamos es de juzgar, esto puede ser visto “sencillamente” como un proceso dirigido a producir una opinión –que puede ser considerada como buena o mala, dependiendo del punto de vista– y buscar una justificación legal para aquella. De forma más compleja, decidir es un proceso de análisis y ponderación de datos, tomando en consideración la importancia de a quien o quienes afectará esta decisión,(15) y tomarla con la mayor eficiencia posible, cargando con el peso de la responsabilidad por esta acción. No tomar una decisión, en este contexto, puede ser comprendido como omitirse.
En este sentido, trasponiendo la tecnología al proceso de decisión humana,(16) se puede ver que la big data representa una multitud de datos masivos que pueden ser analizados y utilizados para tomar decisiones estratégicas, recopilados a través de algoritmos de análisis de bases de datos para buscar un patrón de referencia. Y esto es perfectamente viable para la Justicia.
Por supuesto, en la actualidad, se están desarrollando herramientas para la automatización de decisiones judiciales basadas en inteligencia artificial. Pero ¿qué Justicia vamos a tener en el futuro? ¿La figura del juez se encontrará bajo amenaza de extinción? ¿Los juzgados tenderán a ser repetitivos sin llevar adelante una consideración sobre las particularidades de cada caso específico? Tales preguntas causan un inmenso malestar y, asimismo, se puede afirmar que el proceso de cambio siempre genera un doble efecto negativo: el miedo y la incertidumbre. Se debe buscar cambios para mejor, en beneficio de todos.
Otro factor que asusta es el costo, el ser humano es frágil al costo. Aun cuando nos inclinemos a ponderar al ser humano en su búsqueda recurrente de intentar producir y reproducir –a su imagen y semejanza– determinadas figuras, el cerebro computacional es una simulación. Algo emulado, teniendo en consideración que –en la actualidad– no hay conocimiento suficiente toda la dinámica y funcionamiento de la estructura cerebral, o sea, aún no se lo decodificó por completo. Por lo cual, las computadoras y los algoritmos de inteligencia artificial fueron creados a partir de un hecho aspiracional: lograr reproducir el cerebro humano. Y con ello, su comportamiento. Pero esto no significa directamente una amenaza a los seres humanos, sino la posibilidad de un proceso de (r)evolución.
¿Por qué no la llamamos Justicia 2.0 y sí Justicia 4.0? Tras el advenimiento de Internet, en 2000, empieza un desarrollo desde la oferta de productos y servicios online, donde surge el 2.0. Las necesidades actuales produjeron avances significativos y por esto llegamos al 4.0, donde domina la producción en masa y la necesidad de atender extensas demandas judiciales que requieren un efectivo servicio de Justicia cada vez más rápido. ¡Adelante el 5.0! Por lo tanto, todo es innovación.
En la RI 4.0 habrá necesidades de tomar decisiones en masa y, consecuentemente, producir decisiones judiciales automatizadas. Pero se produce una alerta teniendo en cuenta que la automatización puede no considerar las distintas particularidades de los casos. Pero, ¿qué significará esto para la justicia del caso? Lo sabremos en el futuro.
Para las escuelas de derecho, el juez debe ser una persona imparcial, pero en relación a las decisiones automatizadas, ¿serán imparciales?, ¿acaso los algoritmos tendrán en cuenta que determinados problemas solamente pueden ser resueltos a través del “sentimiento” del juez? La primera pregunta es la más difícil y compleja de responder porque los algoritmos no son parciales una vez que son desarrollados por el ser humano, por lo que el lenguaje de la máquina tampoco lo es; lo que se puede obtener es una idea para poder aplicar las mismas condiciones a todos por igual, respetando sus derechos, deberes y obligaciones, con un fuerte basamento en cuestiones y cuestionamientos éticos y morales.
Visto en abstracto, todo algoritmo debe estar basado en reglas. Si dicha abstracción, desde donde se desarrollan estas ideas, es lo suficientemente buena, la podríamos aplicar a cualquier cosa. Ahora bien, la abstracción responde la siguiente lógica: cuando implementamos un algoritmo debemos tener en cuenta los siguientes parámetros, que serán descriptos de manera escalonada para una mejor comprensión:
Tendremos, entonces, como dijimos más arriba, un algoritmo básico que analizará un conjunto de condiciones que son “una cosa o la otra”, y que, al contestarnos, nos devolverá una acción también limitada. Pero. ¿por qué la entendemos limitada? Si podemos dividir las soluciones en “esto sí” o “esto no”, se convierte en una máquina binaria; lo que la volvería exponencial es si hablamos de inteligencia artificial.
En cuanto a la matriz de su implementación para el Poder Judicial, cabe decir que las decisiones pueden ser tomadas a través de un sistema híbrido, compuesto de inteligencia artificial,(17) que cuenta con el soporte humano detrás para validarlas. Después, se podrían automatizar las decisiones hasta tal punto que el juez, a través del soporte algorítmico, podría tomar decisiones actuando con rapidez considerando, al mismo tiempo, las particularidades del caso.
Interesa cerrar este trabajo con lo que configura toda una declaración de principios: el hombre no es un algoritmo. En efecto, tras abrir este artículo con un Harari deslumbrado por las cuestiones tecnológicas y apesadumbrado por sus implicancias, no es el deseo quedarse con eso porque no es algo compartido, no es una idea de la que interese participar. La inteligencia artificial es y será una herramienta que el hombre utilizará para poder tomar más y mejores decisiones. Nada más que eso.
El hombre, en su individualidad, es mucho más que esto (Lafferrière, 2017). Así también lo es la Justicia. Y también la Justicia 4.0, que se encuentra –y encontrará– rodeada por algoritmos.
¿Qué es lo que importa en realidad? El mundo se vuelve cada vez más conectado, tanto que en breve la mayor parte de los dispositivos electrónicos lo estarán entre sí. Más que una herramienta, la red es una necesidad en el mundo de hoy; su ubicuidad ha transformado a la sociedad, tornándola digital, y esto se está incrementando de modo exponencial, La inteligencia artificial se está desarrollando para solucionar problemas específicos que el ser humano resuelve con harta dificultad o, directamente, no puede lograr resolver. En breve, cabe insistir, todo estará conectado. Pero: ¿todas las preguntas tendrán respuestas? Esto se verá con el tiempo.
Es necesario apreciar con cautela los beneficios que suele acarrear la tecnología, en especial cuando se desea que se aplique para fines judiciales, ya que sus decisiones tendrán impacto directo en los conflictos que la sociedad en la que vivimos suele generar. Esto es más que una responsabilidad personal, se trata de una cuestión intrínsecamente moral.
Más allá del deslumbramiento que pueda generar dicho pensamiento, los dispositivos no tienen o no pueden tener las mismas capacidades humanas, por lo que se vuelve necesario resaltar la necesidad de cambiar algunos paradigmas sociales. Por lo pronto, al día de hoy, los algoritmos dotados con inteligencia artificial poseen funciones de procesamiento cada vez más avanzadas pues pueden reconocer patrones, ampliar el espectro de análisis y mejorar las sugerencias con un alto grado de especialización. En tal sentido, no hay que establecer comparaciones entre el cerebro humano y el computacional, sino que lo que importa verdaderamente es la eficiencia en el cumplimiento de las tareas. El cerebro computacional está basado en el cerebro humano pero no fue construido haciendo corresponder sus estructuras en exactitud, pero sí para desempeñar tareas sofisticadas, especializadas, de acuerdo con la biomimética artificial.(18) Por lo tanto, no hay necesidad de conocer todas las funciones cerebrales para desempeñar una tarea específica o que requiera un alto nivel de especialización.
De hecho, la computación cognitiva asume un papel destacado, pues el dispositivo aprende de una forma muy parecida que el cerebro humano, así como puede procesar el lenguaje e interpretar los datos para utilizarlos de forma tal que pueda solucionar cuestiones humanas a través de previsiones y tendencias.
Así pues, los algoritmos de inteligencia artificial pueden reconocer patrones y ampliar las conexiones, mejorando las sugerencias; del mismo modo, a través de la computación cognitiva(19) la computadora aprende de forma muy similar al cerebro, es decir, procesa el lenguaje e interpreta los datos e informaciones existentes, utilizándolas de forma tal que es capaz de solucionar problemas que aquejan a los humanos.
A partir del análisis y predicción cada vez más perfeccionado de la inteligencia artificial, se puede verificar una tendencia a la desaparición de la analogía (McJohn, 1998), pues habrá una mayor eficacia productiva con alcance en el mayor número de personas, de modo de ampliar su alcance en la sociedad.
Las decisiones(20) tomadas por algoritmos, como si la Justicia fuese una Industria 4.0, deben (y merecen) ser mejoradas, al punto que no se repitan decisiones de forma automática, aleatoria e injusta. Esto es lo que no se desea.
El Poder Judicial necesita herramientas para perfeccionarse, ya que tiene que hacer frente a grandes volúmenes de información, como la multitud de demandas, muchas veces reiterativas, pero no encuentra capacidad de resolverlos por completo, generando ello un sinnúmero de problemas tales como la lentitud o malos tribunales, que contribuyen cada vez más a la desacreditación de la Justicia ante la sociedad.
A modo de conclusión, la inteligencia artificial debe ser utilizada para el análisis y procesamiento de los volúmenes de datos, de forma automatizada o semiautomatizada, como soporte y asistencia, pero el poder de decisión(21) final le cabe al magistrado, respetando las particularidades del caso, al tiempo que también debe considerar las cuestiones éticas y morales como también las implicaciones legales y sociales.
Aibar, E. (1996). La vida social de las máquinas: orígenes, desarrollo y perspectivas actuales en la sociología de la tecnología. REIS: Revista Española de Investigaciones Sociológicas, 76, pp. 141-170.
Artificial Intelligence and the Legal Profession. (2018). In Horizon Scanning; Forward Thinking. The Law Society of England and Wales.
Cabrera, R. (2018). Inteligencia artificial y su impacto en la justicia. Informática y Derecho: Revista Iberoamericana de Derecho Informático, (5), pp. 85-94.
Dabass, J.; Dabass, B. (2018). Scope of Artificial Intelligence in Law. Preprints. doi.org/10.20944/preprints201806.0474.v1
Engle, E. (2004). An introduction to artificial intelligence and legal reasoning: using xtalk to model the alien tort claims act and torture victim protection act. Rich. JL & Tech., 11(1).
Fernández, L. (2012). Breve historia de la Revolución Industrial. Nowtilus.
García, L. (2018). Las invenciones generadas por inteligencia artificial y sus implicaciones para el derecho de patentes. Informática y Derecho: Revista Iberoamericana de Derecho Informático, 5, pp. 49-84.
Garrell, A. & Guilera, L. (2019). La industria 4.0 en la sociedad digital. Marge Books.
Granero, H. (2018). La inteligencia artificial aplicada al derecho-el cumplimiento del sueño de Hammurabi. Informática y Derecho: Revista Iberoamericana de Derecho Informático, 5, pp. 119-133.
Harari, Y. (2016). Homo Deus. Debate.
Iracelay, J. (2018). Inteligencia artificial y derecho: principios y propuestas para una gobernanza eficaz. Informática y Derecho: Revista Iberoamericana de Derecho Informático, (5), pp. 13-48.
Kingston, J. (2016). Artificial Intelligence and Legal Liability. En M. Bramer y M. Petridis (Eds.), Research and Development in Intelligent Systems XXXIII. Springer, Cham. doi.org/10.1007/978-3-319-47175-4_20
Krausová, A. (2017). Intersections Between Law and Artificial Intelligence. International Journal of Computer (IJC), 27(1), pp. 55-68.
Krausová, A. (2017). Intersections between Law and Artificial Intelligence. International Journal of Computer. 27(1), pp. 55-68.
Lafferrière, J. (2017). ¿Los seres humanos somos meros “algoritmos”?: una reflexión crítica sobre el libro Homo Deus. Breve historia del mañana. El Derecho.
Marchant, G. (2017). Artificial intelligence and the future of legal practice. ABA SciTech Law, 14(1), pp. 20-23.
McJohn, S. (1998). Review of “Artificial Legal Intelligence”. Harvard Journal of Law & Technology, 12, pp. 241-261.
Pollo-Cattáneo, M. (2018). Resolviendo problemas en los sistemas de información. Editorial CEIT.
Schweisfurth, T. y Goduscheit, R. C. (2020). Por qué la creatividad es el campo de batalla definitivo entre la inteligencia artificial y la humana. BBC News Mundo. bbc.com/mundo/noticias-51414294
Verheij, B. (2016). Formalizing value-guided argumentation for ethical systems design. Artificial Intelligence and Law, 24(4), pp. 387-407. doi.org/10.1007/s10506-016-9189-y
Notas
1. El presente trabajo se da en el marco del Proyecto IUS sobre Investigación Jurídica Aplicada de la Pontificia Universidad Católica Argentina (UCA), específicamente en el trabajo “La responsabilidad civil en la Revolución Industrial 4.0 (Impacto de la normativa sobre responsabilidad civil del Código Civil y Comercial de la Nación en la Era Digital 4.0)”, que codirigen los Dres. Emiliano Carlos Lamanna Guiñazú y Juan Darío Veltani, junto a un grupo de destacados juristas que los acompañan.
2.La cuestión terminológica aquí no será objeto de discusión, ya que en relación a los progresos de la Inteligencia Artificial (IA) se habla de revolución tecnológica, de evolución tecnológica o, también, de la cuarta revolución industrial.
3. “La Industria 4.0 es, pues, la palanca de construcción de futuro, una revolución que, además de robotizar las fábricas, persigue el reto de utilizar la tecnología en beneficio de todos. Hoy ya no es suficiente extraer capacidad productiva de la tecnología, como se ha hecho en las tres revoluciones industriales precedentes, ahora el objetivo es avanzar en la fabricación de productos inteligentes y, a la vez, socializar los beneficios asociados a la automatización industrial y a la toma de decisiones automáticas, sin olvidar de asumir modelos de desarrollo sostenible. Un hecho no solo posible sino también, insoslayable” (Garrell y Guilera, 2019, p. 4).
4. “David S. Landes, el autor más representativo de esta escuela, así lo afirma con claridad en la primera página de su ya clásica obra de 1969, The Unbound Prometheus, publicada en castellano bajo el título, mucho más prosaico, de Progreso tecnológico y Revolución Industrial. En su opinión, el corazón de la Revolución Industrial está formado por una sucesión interrelacionada de cambios tecnológicos que pueden resumirse en tres grandes avances: la sustitución del trabajo humano por la máquina; el relevo de la energía animal por la energía inanimada y la introducción de grandes mejoras en los métodos de obtención y elaboración de materias primas, en especial en campos como la metalurgia y la química. Landes se muestra, no obstante, menos reduccionista de lo que cabría esperar: no son los inventos en sí mismos el factor determinante, sino las innovaciones, esto es, su introducción en el proceso productivo, con su consiguiente repercusión en la organización del trabajo, la comercialización de los productos y su distribución” (Fernández, 2012, p. 10).
5. “El desarrollo de la inteligencia artificial, del Big Data, blockchain, y de todo el avance científico ha modificado el sistema, donde la interoperabilidad de los diferentes factores y actores de la Red establecen nuevas relaciones jurídicas antes impensadas, con multiplicidad de causas y consecuencias, y con el surgimiento de nuevas disposiciones normativas, y obviamente, de garantías en el mundo virtual” (Cabrera, 2018, p. 7).
6. “A basic principle of justice is transparency – the requirement to explain and justify the reasons for a decision. This applies across almost all fields of decision-making, both in the public sphere and within organisations” (The Law Society, 2018, p. 12).
7. “The role of ethics in the conduct of electronic interactions between people, businesses and ‘things’ raises challenges around the moral implications or unintended consequences that result from the coming together of technology and humans. Big data, cloud and autonomous systems provoke questions around security, privacy and fundamental freedoms, whilst AI and social media challenge us to define how we value work and each other.” (The Law Society, 2018, p. 13).
8. “Basadas precisamente en este aprendizaje adaptativo, se originaron las plataformas de deep learning, que permiten imitar al cerebro humano sin que exista una previa intervención humana. El aprendizaje al que se refiere la expresión describe un proceso de búsqueda automática para obtener mejores representaciones de los datos que analiza y estudia, de manera que se puedan crear conceptos complejos a partir de otros más simples” (García, 2018, p. 53). Véase, también sobre el concepto de deep learning, Dabass & Dabass (2018).
9. “Debido a la extensión de esta disciplina, se pueden observar múltiples y variadas aplicaciones de la IA como pudieran ser la planificación y control autónomos, la robótica, el procesamiento del lenguaje o la resolución de problemas (v. gr., sistemas expertos), entre otras. Todas ellas quedan encuadradas en alguna de las dos vertientes de IA. De un lado, la llamada “IA débil” englobaría aquellos procesos que buscan simular un comportamiento humano inteligente. De otro, la “IA fuerte”, más que reproducir una actuación inteligente, persigue pensar de manera inteligente, de ahí que algunos autores consideren que requiere cierto grado de conciencia. Esta última es la que permitiría la creación de entes capaces de solucionar problemas de manera autónoma, y en ella nos centraremos.” (García, 2018, p. 6).
10. La popular serie Black Mirror propone, en su tercera temporada, un capítulo que traza una distopía en el marco de una historia de amor. Nos referimos al episodio “San Junípero”, ganador de dos premios Emmy.
11. Sostiene Iracelay (2018): “Sin embargo, las personas y las computadoras tienen distintos atributos. Las personas somos creativas, tenemos empatía y emociones, y nuestra inteligencia puede resolver problemas complejos de manera integrada. Por otro lado, las computadoras o los sistemas inteligentes pueden procesar grandes cantidades de datos y detectar patrones que ningún humano podría hacerlo. Son funciones y atributos complementarios, en principio, y estos desarrollos de IA pueden expandir y aumentar a niveles exponenciales –y hoy desconocidos–, la capacidad humana” (p. 24)..
12. Dabass & Dabass (2018) sostienen: “To perform these tasks legal AI uses the concept of machine learning which involves inputting a large amount of data, learning data by machine in training phase and finally providing outcome based on learning” (p. 14).
13. Al respecto, sostiene Engle (2004): “However, very little work has been done on programming computers to emulate human creativity, other than generating random art or random poetry. Perhaps this is due to the fact computer scientists tend to think sequentially, whereas artists tend to think holistically” (p. 16).
14. La Teoría de las Inteligencias Múltiples fue desarrollada por Howard Garner y sostiene que las personas tienen ocho tipos de inteligencia, que son: musical, kinestésica, lógico-matemática, espacial, lingüística, intrapersonal e interpersonal.
15. Krausová (2017) expresa: “Legal science recognizes usefulness of AI especially for the purposes of legal reasoning. Legal reasoning is a general concept that refers to a process of forming and providing a justifiable answer to a particular legal question, such as what decision should be reached at the end of a trial, or whether and to what extent a person needs to pay a certain tax. AI applications can assist in legal reasoning for example by searching databases of legal texts and identifying which cases are relevant to the respective ongoing judicial proceedings. This tool significantly simplifies legal research as it is able to filter out irrelevant information [6]. Furthermore, some applications can reason and provide specific answers by themselves. These applications are commonly known as expert or knowledge-based systems” (p. 13).
16. “Las aplicaciones de inteligencia artificial, consideradas como un alcance práctico o intelectual, han modificado profundamente la relación de los juristas con la informática, pero pese a todo, siempre quedará la interpretación y la íntima convicción o el sentimiento de Justicia como operaciones axiológicas propias del ser humano que nunca podrán ser generalizadas por un ordenador, dado que la modelización de la decisión implica siempre una reflexión ética sobre la racionalización del principio de responsabilidad” (Granero, 2018, p. 3).
17. Al respecto, (Dabass & Dabass 2018) sostienen:“Legal AI can be visualized as the exercise of technologies such as machine learning, natural language processing, speech recognition, legal robotics, planning, natural image understanding, rules-based expert system, neural networks, logic programming, artificial vision, machine learning and neural networks in relation to legal issues. The concept of AI gathered huge importance because of its ability to deal with a large amount of data. Results of AI are more accurate because of inclusive plus apposite along with fast testing making it a hot topic in the field of legal practice. Manual dealing with resources consume time and involves a large amount of money making clients unhappy. Legal AI has shown tremendous results in different applications including Case-based reasoning, document modeling, deontic logic, conceptual retrieval, intelligent tutoring and so on” (p. 11).
18. “There are researchers in the AI field who consider anything that mimics human intelligence, by whatever method, to be “artificial intelligence”; there are others who think that the only “artificially intelligent” programs are those that mimic the way in which humans think. There are also those in the field of information systems who would classify many “artificially intelligent” programs as being complex information systems, with ‘true’ artificial intelligence being reserved for the meta-level decision making that is sometimes characterised as ‘wisdom’” (Kingston, 2016, p. 43).
19. “AI is the development and use of computer programs that perform tasks that normally require human intelligence. At this time and for the foreseeable future, current AI capabilities only permit computers to approach, achieve, or exceed certain but not all human cognitive functions” (Marchant, 2017, p. 10).
20. “At the moment human expertise dominates at high skill complex tasks, whilst machines lead on low skill, routine tasks. Over the next five years we will see fewer humans involved in routine and automated work, whilst advances in machine intelligence will see more machines capable of executing complex reasoning and decision-making tasks” (McJohn, 1998, p. 242)
21. “In the future, algorithmic decision-making is presumed not only to assist judges but to replace them in certain types of cases. However, this raises questions about transparency of these proceedings as algorithms operate in a concealed manner and, therefore, prevent public oversight. Dynamically evolving algorithms could be checked for possible biases for instance by examining them with help of test cases. Although algorithms themselves lack transparency, paradoxically they can be used in order to improve transparency in society through improved data analysis” (Krausová, 2017: 57).