"Os sistemas de IA são ferramentas para ajudar os profissionais do setor jurídico, mas não podem tornar-se mais importantes do que as pessoas"

'As empresas tecnológicas enfrentam o desafio da gestão dos Dados e da IA' foi o título da conferência oferecida por Miguel Ángel Acero, diretor da área de Estratégia de Transformação Digital e Inovação Tecnológica da Izertis no DATAFórum Justicia, o grande fórum anual do setor, que aconteceu em Granada em 2024. Nesta entrevista, fala-nos sobre os desafios da Justiça, o papel que a IA e a IA Generativa desempenham neste campo e como a Izertis está a ajudar nesses processos de mudança.

1.Como é que a Izertis está a ajudar na transformação digital da justiça e da Administração Pública em geral para o mundo da gestão de dados?
-Como consultora tecnológica global, são várias as áreas nas quais trabalhamos. Por um lado, estamos a ajudar as instituições públicas a desenhar a sua estratégia e a adotar plataformas de dados que facilitem a organização, armazenamento e análise de grandes quantidades de informação. Desta forma, conseguimos melhorar a acessibilidade a estes dados e também uma gestão centralizada e segura, implementando estratégias de governo de dados de forma ágil. Estamos a trabalhar na implementação de plataformas de gestão de dados, estruturadas e não estruturadas, que integram capacidades de IA generativa que facilitam a interação e o consumo de informação armazenada de forma intuitiva.

A Izertis também apoia as instituições no cumprimento de regulamentos de proteção de dados, como o RGPD e outros regulamentos específicos, trabalhando para garantir que os dados confidenciais dos cidadãos sejam tratados de forma ética e segura. E, a par disso, com outras questões associadas aos sistemas e procedimentos de cibersegurança nesta área. 
Outro novo foco de trabalho e serviço está na implementação de soluções preditivas ou na implantação de sistemas de atendimento ao cidadão baseados em plataformas conversacionais como a RASA, onde a Izertis é o principal partner a nível mundial. 

2. Vinculados à implementação de soluções de transformação digital, que desafios ainda estão pendentes a serem enfrentados na Justiça e o que pode ser feito para alcançá-los?
-Estamos imersos em desafios com aspetos tecnológicos, organizacionais, sociais e regulatórios. Gostaria de me concentrar no primeiro. A Administração da Justiça gere uma enorme quantidade de informação não estruturada, processando anualmente dezenas de milhares de processos, que normalmente consistem em dezenas de escritos. Estamos a falar de dezenas de milhões anualmente. Aceder a toda esta informação de forma acessível e simples, tanto para os profissionais como para os cidadãos, é um dos principais desafios para mim. Para o efeito, são necessárias diferentes iniciativas para promover este acesso. Por exemplo, melhorar a interoperabilidade entre sistemas, estabelecer normas comuns para todos os sistemas e plataformas judiciais, com base em protocolos abertos, ou promover a utilização de APIs, que permitam a integração harmoniosa de sistemas e plataformas, assegurando que a informação flua sem barreiras entre as diferentes partes do sistema judicial.
Outro aspeto importante é a segurança e proteção dos dados, através da implementação de protocolos avançados de cibersegurança ou da criação de um quadro robusto de governo de dados para garantir a integridade, privacidade e confidencialidade da informação judicial.

É essencial desenvolver plataformas mais intuitivas e acessíveis ao público

3.Cibersegurança e melhoria da interoperabilidade. Outro desafio é a simplificação dos trâmites? 
-É muito importante trabalhar na acessibilidade e simplificação da acessibilidade e simplificação dos procedimentos judiciais para os cidadãos. Embora existam plataformas eletrónicas como o Registo Judicial Eletrónico (EJE), muitos cidadãos ainda têm dificuldade em interagir com o sistema judicial digitalmente, especialmente aqueles com menos recursos tecnológicos ou com pouca familiaridade com as ferramentas digitais. É por isso que considero essencial desenvolver plataformas mais intuitivas e acessíveis ao público, com interfaces amigáveis e simplificação de procedimentos. 

Por exemplo, uma plataforma como a RASA é essencial para implementar serviços ao cidadão mais ágeis e acessíveis que ajudem os cidadãos a realizar procedimentos remotamente. Ao mesmo tempo, melhora a inclusão digital, oferecendo suporte aos utilizadores que precisam de ajuda para aceder serviços de justiça digital, por meio de um canal que lhes é muito natural, como o Whatsapp.

4.Também é essencial que os algoritmos utilizados na Administração da Justiça sejam transparentes e compreensíveis, certo?
-Está certo. Os cidadãos têm o direito de compreender como são tomadas as decisões que afetam as suas vidas, especialmente quando se trata de processos judiciais. Na Izertis estamos a trabalhar no desenvolvimento e adoção de Inteligência Artificial (IA), com a implementação de sistemas de IA que sejam transparentes e compreensíveis. Tal como estabelecido na política de uso da IA, a Administração da Justiça deve aplicar medidas para assegurar que as decisões automatizadas são compreensíveis e podem ser examinadas por peritos e partes interessadas. Acredito sinceramente que podemos experimentar serviços de IA de ponta que, por razões derivadas da sua novidade, não são capazes de oferecer um elevado nível de explicabilidade, desde que não impliquem um prejuízo para os direitos dos indivíduos ou para as próprias funções judiciais e estejam em plena conformidade com o regime regulamentar aplicável.

Por último, considero fundamental a disponibilização de uma Estratégia de Justiça GovTech que sirva para consolidar uma cultura de inovação colaborativa (entre os setores judicial e tecnológico) promovendo uma maior participação do ecossistema de inovação e empreendedorismo, tanto na identificação de desafios como no desenvolvimento de soluções, suportadas por tecnologias emergentes.

5.Como pode a Inteligência Artificial ajudar a Administração da Justiça a enfrentar os desafios que enfrenta e o que pensa que pode ser uma forma ideal de os enfrentar?
-Todos sabemos que o sistema judicial deve tirar o máximo partido da tecnologia e especificamente da Inteligência Artificial, mas sempre apegado à ética e tendo em conta que o administrador da justiça é, em última análise, um ser humano. É fundamental que os sistemas de IA sejam usados como ferramentas para auxiliar os profissionais do direito em suas funções, mas a responsabilidade final pela tomada de decisões jurídicas deve caber aos juízes e magistrados. 

A sua tomada de decisões deve ser assegurada de forma independente. A revisão humana de tudo o que é gerado sempre que afete, direta ou indiretamente, os direitos dos utilizadores do serviço público de justiça ou da própria atividade judicial. Não podemos permitir que a ferramenta se torne mais importante do que a pessoa.
Devemos criar sistemas ‘human-in-the-loop’, com supervisão humana nos processos de tomada de decisão de IA que devem ser incluídos em qualquer plataforma algorítmica. Mesmo que seja utilizado um sistema de inteligência artificial, é preciso garantir que as decisões judiciais possam ser revistas previamente. 

Os utilizadores acreditam que o ChatGPT é altamente fiável quando não o é

6.Por conseguinte, devem ser incluídos procedimentos de revisão e controlo.
-A intervenção humana pode anular decisões que o sistema de IA não "compreende" que serão prejudiciais para os utilizadores. O nível de supervisão humana exigido, bem como o momento da supervisão, depende do nível de risco envolvido e das potenciais implicações do atraso.
Outro aspeto do acesso à justiça informado por IA é a transparência e a explicabilidade dos algoritmos. Sem uma compreensão clara dos fatores envolvidos nos sistemas, da base de uma decisão ou da capacidade de contestá-la após o fato, o devido processo legal está em risco.

Adicionalmente, devemos informar os cidadãos que possam ser afetados pelo sistema, numa linguagem clara e compreensível, se os resultados oferecidos pela ferramenta são vinculativos ou não, bem como a sua possível utilização durante o processo judicial, antes ou durante o mesmo, e o seu direito de oposição de uma forma que possa ser ouvida diretamente por um órgão judicial.
A utilização de sistemas de IA também aumenta a capacidade de desenvolver políticas e serviços sustentáveis a longo prazo, inclusivos e fiáveis. Além disso, fornece informações relevantes aos gestores públicos de Justiça, que lhes permitirão tomar decisões em termos de planeamento, desenvolvimento e avaliação de políticas legislativas adequadas, bem como em questões de organização e planeamento estrutural.

7.Qual a sua perspetiva sobre o impacto que a Inteligência Artificial Generativa pode ter no campo da Justiça? O que a Izertis está desenvolvendo nesta linha?
-No mais recente Relatório LexisNexis Legal & Professional® a nível mundial, os profissionais transmitem que o maior potencial das ferramentas de IA generativa é visto como um auxílio na investigação de assuntos (65%), redação de documentos (56%), análise de documentos (44%) e escrita de comunicações e e-mails (35%). Mas os consumidores e os cidadãos também estão a utilizar a IA generativa em grande medida para investigar questões jurídicas (60%), obter informações para desenvolver um testamento (40%), criar uma empresa (37%) ou desenvolver um contrato de arrendamento (39%).

Este é um cocktail que, se não for gerido corretamente, pode ter um impacto muito intenso nas nossas vidas. Os utilizadores acreditam que o ChatGPT tem uma alta fiabilidade quando realmente não tem. Educar os utilizadores sobre as capacidades e limitações dos modelos de IA, bem como fornecer diretrizes claras sobre como usá-los de forma eficaz e responsável, pode ajudar a mitigar riscos. Devemos ver a IA Generativa como um elemento que nos ajuda a completar os processos de automatização, incorporando um valor diferencial para a implementação global de soluções.

8.Pode dar-nos algum exemplo prático?
-Podemos começar, por exemplo, por um dos serviços de IA implementados pelo Ministério da Justiça, que é a anonimização de documentos. A utilização desta ferramenta tem a função de anonimizar a informação contida em documentos que permitam identificar uma pessoa de forma a localizá-la, ou utilizar os seus dados de forma fraudulenta. Este é um serviço que pode ser desenvolvido com técnicas de PNL anteriores à Gen AI e que também pode ser enriquecido com um serviço de classificação de documentos com sistemas de auto-catalogação baseados em NLU, permitindo uma poupança significativa de tempo e simplificando as tarefas dos profissionais envolvidos. No entanto, ao incorporar soluções Gen AI, é possível avançar no desenvolvimento do serviço de sumarização automatizada de documentos judiciais em linguagem simples. Este serviço tem como objetivo melhorar a compreensão dos processos judiciais, garantindo a acessibilidade e proximidade do Serviço Público de Justiça. Por último, a incorporação de um motor de pesquisa inteligente permite aos profissionais do setor jurídico procurar a informação de que necessitam nos documentos legais através da utilização de uma linguagem simples. 

Este exemplo marca claramente o impacto que a Gen AI pode ter nos sistemas de gestão judicial. Sobre este último ponto de poder facilitar a linguagem clara das comunicações judiciais, acredito que tem um impacto quase imediato, onde a tecnologia já nos permite essas capacidades com a integração de RAGs específicas e garantindo que as pessoas possam compreender facilmente o conteúdo e as implicações das decisões judiciais.

A GEN AI é a ferramenta de IA que contribuirá intensamente para a concretização do direito dos cidadãos a uma informação clara e compreensível. O viés nos resultados da IA é, muitas vezes, derivado de dados treinados de forma tendenciosa. É crucial garantir que os conjuntos de dados de formação reflitam a diversidade nas muitas dimensões que são importantes para o acesso à justiça (por exemplo, raça, etnia, rendimento, educação). Sem uma ampla gama de dados demográficos, perspetivas e cenários, é improvável que qualquer ferramenta de IA atenda à base de utilizadores pretendida.