“Los sistemas de IA son herramientas para ayudar a los profesionales del derecho, pero no se pueden volver más importantes que las personas”

‘Las empresas tecnológicas ante el reto de la gestión del DATO y de la IA’ fue el título de la conferencia ofrecida por Miguel Ángel Acero, director del área de Estrategia de Transformación Digital e Innovación Tecnológica de Izertis en DATAFórum Justicia, el gran foro anual del sector, que en 2024 tuvo lugar en Granada. En esta entrevista, nos habla de los retos de la Justicia, del papel que juega la IA y la IA Generativa en ese ámbito y de cómo Izertis está ayudando en esos procesos de cambio.

1.¿Cómo está ayudando Izertis en la transformación digital de la justicia y de la Administración Pública en general hacia el mundo de la gestión de los datos?
- Como consultora tecnológica global son varios los ámbitos en los que estamos trabajando. Por un lado, estamos ayudando a las instituciones públicas a diseñar su estrategia y adoptar plataformas de datos que faciliten la organización, almacenamiento y análisis de grandes cantidades de información. De este modo conseguimos mejorar la accesibilidad a esos datos y también una gestión centralizada y segura, desplegando estrategias de gobierno del dato de forma ágil. Estamos trabajando en la implantación de plataformas de gestión de datos, tanto estructurada como no estructurada, que integran capacidades de IA Generativa que facilitan la interacción y el consumo de la información almacenada de una forma intuitiva.

Izertis apoya también a las instituciones en cumplir con regulaciones de protección de datos como el GDPR y otras normativas específicas, trabajando en asegurar que los datos confidenciales de los ciudadanos se manejen de manera ética y segura. Y junto a ello, con otras cuestiones asociadas a sistemas y procedimientos de ciberseguridad en este ámbito. 
Otro de nuevos focos de trabajo y servicio está en el despliegue de soluciones predictivas o la implantación de sistemas de atención al ciudadano basados en plataformas conversacionales como puede ser RASA, donde Izertis es el primer partner a nivel mundial. 

2.Vinculados al despliegue de soluciones de transformación digital, ¿qué retos quedan pendientes aún por alcanzar en Justicia y qué se puede hacer para alcanzarlos?
-  Estamos inmersos en retos tanto con aspectos tecnológicos como organizativos, sociales y normativos. Me gustaría centrarme en los primeros. La Administración de Justicia gestiona una cantidad ingente de información no estructurada, procesa decenas de miles de procedimientos anualmente, que suelen constar de decenas de escritos. Estamos hablando de decenas de millones anualmente. Acceder a toda esta información de un modo accesible y sencillo, tanto para profesionales como para la ciudadanía es para mí uno de los principales retos. Para ello son necesarias diferentes iniciativas que impulsen este acceso. Por ejemplo, mejorar la interoperabilidad entre sistemas, estableciendo estándares comunes para todos los sistemas y plataformas de justicia, basados en protocolos abiertos, o promover el uso de APIs, que permitan la integración fluida de sistemas y plataformas, asegurando que la información fluya sin barreras entre las diferentes partes del sistema judicial.
Otro aspecto importante es la seguridad y protección de los datos, a través de la implementación de protocolos de ciberseguridad avanzados o crear un marco robusto de gobernanza de datos para asegurar la integridad, privacidad y confidencialidad de la información judicial.

Es imprescindible desarrollar plataformas más intuitivas y accesibles para el público

3.Ciberseguridad y mejorar la interoperabilidad. ¿Otro reto es la simplificación de trámites? 
-Es muy importante trabajar en la accesibilidad y la simplificación de la accesibilidad y simplificación de los trámites judiciales para la ciudadanía. Aunque existen plataformas electrónicas como el Expediente Judicial Electrónico (EJE), muchos ciudadanos aún encuentran complicado interactuar con el sistema judicial de forma digital, especialmente aquellos con menos recursos tecnológicos o con poca familiaridad con las herramientas digitales. Por ello considero que es imprescindible desarrollar plataformas más intuitivas y accesibles para el público, con interfaces amigables y simplificación de los procedimientos. 

Por ejemplo, una plataforma como RASA es esencial para implementar servicios de atención al ciudadano más ágiles y accesibles que ayuden a los ciudadanos a realizar trámites de forma remota. Al mismo tiempo mejora la inclusión digital, ofreciendo soporte a los usuarios que necesiten ayuda para acceder a los servicios de justicia digital, a través de un canal que les es muy natural como es el Whatsapp.

4.También es esencial que los algoritmos utilizados en la Administración de Justicia sean transparentes y explicables ¿no?
- Así es. La ciudadanía tiene derecho a comprender cómo se toman las decisiones que afectan sus vidas, especialmente cuando se trata de procesos judiciales. En Izertis estamos trabajando en el desarrollo y adopción de Inteligencia Artificial (IA), con la implantación de sistemas de IA que sean transparentes y explicables. Como marca la política de uso de la IA, en la Administración de Justicia de deben implementar medidas para garantizar que las decisiones automatizadas sean comprensibles y puedan ser examinadas por expertos y partes interesadas. Sí considero que podemos experimentar con servicios de IA de última generación que, por motivos derivados de su novedad, no sean capaces de ofrecer una elevada explicabilidad, siempre que no supongan un menoscabo en los derechos de los justiciables, o en las propias funciones jurisdiccionales y sean plenamente conformes con el régimen normativo aplicable.

Por último, creo que también es clave la disposición de una Estrategia de Justicia GovTech que sirva para consolidar una cultura de innovación colaborativa (entre sector judicial y tecnológico) promoviendo una mayor participación del ecosistema de innovación y emprendimiento, tanto en la identificación de retos como en el desarrollo de soluciones, respaldadas por tecnologías emergentes.

5.¿De qué modo la Inteligencia Artificial puede ayudar a la Administración de Justicia a cubrir los desafíos a los que se enfrenta y cuál crees que puede ser una manera óptima de abordarlos?
-Todos somos conscientes de que el sistema judicial debe aprovechar al máximo la tecnología y específicamente de la Inteligencia Artificial, pero siempre apegado a la ética y teniendo en cuenta que el administrador de justicia es, en última instancia, un ser humano. Es fundamental que los sistemas de IA se utilicen como herramientas para ayudar a los profesionales del derecho en sus funciones, pero la responsabilidad final de tomar decisiones legales debe recaer en jueces y magistrados. 

Se debe asegurar su toma de decisión de forma independiente. La revisión humana de todo lo generado siempre que afecte de manera directa o indirecta a los derechos de las personas usuarias del servicio público de Justicia o a la propia actividad jurisdiccional. No podemos permitir que la herramienta se vuelva más importante que la persona.
Debemos crear sistemas ‘human-in-the-loop’, con la supervisión humana en los procesos de toma de decisiones de IA que debe incluirse en cualquier plataforma algorítmica. Aunque se use un sistema de inteligencia artificial, debe garantizarse que las decisiones judiciales pueden ser revisadas previamente. 

Los usuarios creemos que ChatGPT tiene una alta fiabilidad cuando realmente no es así

6.Hay que incluir, por tanto, procedimientos de revisión y supervisión.
-La intervención humana puede anular decisiones que el sistema de IA no ‘entiende’ que serán perjudiciales para los usuarios. El nivel de supervisión humana necesario, así como el momento de la supervisión, depende del nivel de riesgo involucrado y de las posibles implicaciones de la demora.
Otro aspecto para el acceso a la justicia informado por IA es la transparencia y explicabilidad de los algoritmos. Sin una comprensión clara de los factores involucrados en los sistemas, las bases de una decisión o la capacidad de impugnarla después de los hechos, el debido proceso está en peligro.

Asimismo debemos informar a los ciudadanos que puedan verse afectados por el sistema, en un lenguaje claro y comprensible si los resultados que ofrece la herramienta son vinculantes o no, así como su posible uso durante el procedimiento judicial, antes o durante el mismo, y su derecho a objetar de manera que pueda ser oído directamente por un órgano judicial.

El uso de sistemas de IA también aumenta la capacidad de desarrollar políticas y servicios sostenibles a largo plazo, inclusivos y confiables. Además, proporciona información relevante a los gestores públicos de la Justicia lo que les permitirá tomar decisiones en materia de planificación, desarrollo y evaluación de políticas legislativas adecuadas, así como en cuestiones de organización y planificación estructural.

7.¿Cuál tu perspectiva sobre el impacto que la Inteligencia Artificial Generativa puede tener en el ámbito de la Justicia? ¿Qué está desarrollando Izertis en esta línea?
-En el último Informe LexisNexis Legal & Professional® a nivel mundial los profesionales transmiten que el mayor potencial de las herramientas de IA generativa lo ven como ayuda en la investigación de asuntos (65%), redacción de documentos (56%), análisis de documentos (44%) y la redacción de comunicaciones y correos electrónicos (35%). Pero también los consumidores y ciudadanía están utilizando en gran medida la IA generativa para investigar temas legales (60%), obtener información para desarrollar un testamento (40%), crear una empresa (37%) o desarrollar un contrato de alquiler (39%).

Esto es un cóctel que si no se gestiona correctamente puede impactar de forma muy intensa en nuestras vidas. Los usuarios creemos que ChatGPT tiene una alta fiabilidad cuando realmente no es así. Educar a los usuarios sobre las capacidades y limitaciones de los modelos de IA, así como proporcionar directrices claras sobre cómo utilizarlos de forma eficaz y responsable, puede ayudar a mitigar los riesgos. A la IA Generativa debemos verla como un elemento que nos ayuda culminar procesos de automatización incorporando un valor diferencial para el despliegue global de soluciones. 

8.Nos puedes poner algún ejemplo de uso.
-Podemos partir, por ejemplo, de uno de los servicios de IA implementados por el Ministerio de Justicia como es la anonimización de documentos. El uso de esta herramienta tiene la función de anonimizar la información de los documentos que permitan identificar a una persona con el propósito de localizarla, o de usar sus datos de forma fraudulenta. Este es un servicio que puede ser desarrollado con técnicas de NLP previas a la IA Gen y que también puede ser enriquecido con un servicio de clasificación documental con sistemas de autocatalogación basados en NLU, permitiendo un ahorro significativo de tiempo y simplificando las tareas de los profesionales involucrados. Ahora bien, incorporando soluciones de IA Gen es posible avanzar en el desarrollo del servicio de resumen automatizado de documentos judiciales en un lenguaje sencillo. Este servicio tiene como objetivo mejorar la comprensión de los procesos judiciales, garantizando la accesibilidad y proximidad del Servicio Público de Justicia. Por último, la incorporación de buscador inteligente permite a los profesionales del ámbito jurídico a buscar la información que requieran en documentos legales mediante el uso de un lenguaje sencillo. 

Este ejemplo, marca de forma clara el impacto que la IA Gen puede tener en los sistemas de gestión judicial. En este último punto de poder facilitar el lenguaje claro de las comunicaciones judiciales, creo que tiene un impacto prácticamente inmediato, en donde la tecnología ya nos permite estas capacidades con la integración de RAGs específicos y garantizando que las personas puedan entender fácilmente el contenido y las implicaciones de las resoluciones judiciales.

La IA GEN es la herramienta de IA que contribuirá de forma intensa a la materialización del derecho a una información clara y comprensible por parte de la ciudadanía. El sesgo en los resultados de la IA a menudo se deriva de datos de entrenamiento sesgados. Es crucial garantizar que los conjuntos de datos de capacitación reflejen la diversidad en las muchas dimensiones que son importantes para el acceso a la justicia (por ejemplo, raza, etnia, ingresos, educación). Sin una amplia gama de datos demográficos, perspectivas y escenarios, cualquier herramienta de IA seguramente no atenderá a su base de usuarios prevista.