El retorn de les vacances i la tornada a la nostra rutina, ens porta novament a les reobertures amb actes institucionals. Un d'ells, que també ha causat enrenou, és l'obertura de l'any judicial espanyol. Si bé la IA està per fora dels temes de discòrdia, ens fa recordar que també en aquest sector, tenim molt per reflexionar.

La justícia sol representar-se amb els ulls embenats, símbol d'imparcialitat. En l'era digital, a aquesta figura clàssica podríem afegir-li un nou atribut: un algoritme que ajuda a classificar expedients, suggerir sentències o avaluar riscos. Però aquesta nova eina, podria garantir l'equilibri de la balança que també la representa?

La intel·ligència artificial ja no és una hipòtesi futurista en els tribunals: a diversos països s'utilitzen sistemes automatitzats per donar suport a decisions judicials, organitzar processos i agilitar tasques administratives.

Aquest fenomen desperta preguntes inevitables que ja tenen diversos anys, però poques respostes: poden els algoritmes ser jutges? Com garantir que la digitalització de la justícia no erosioni drets fonamentals com la igualtat, la transparència o la responsabilitat? I, sobretot, quin espai ha de continuar tenint el seny humà?

La promesa de la IA en els tribunals

L'administració de justícia enfronta un desafiament comú a tot el món: la sobrecàrrega de casos. Milions d'expedients s'acumulen als jutjats, generant demores que, en alguns sistemes, es compten en anys.

Vaig viure 14 anys entre parets d'expedients plens d'insectes, asbest i moltes coses més que assegurança desconec. És precisament allà, on la prestació de serveis essencials per part de l'Estat és deficient, que la IA es presenta com una eina valuosa.

Existeixen aplicacions que permeten classificar documents, detectar patrons en jurisprudència i agilitar recerques de precedents. En alguns països, sistemes predictius ajuden a estimar probabilitats de reincidència en casos penals o a calcular indemnitzacions en litigis civils. L'objectiu no és reemplaçar el jutge, sinó oferir-li un suport tècnic que permeti prendre decisions més informades i ràpides.

En aquest sentit, la IA té un potencial democratitzador: reduir temps d'espera, descongestionar tribunals i facilitar que més ciutadans accedeixin una justícia eficient. També hi ha advocats i representants legals que es basen i gestionen purament i exclusivament amb aquesta tecnologia.

Els riscos: biaixos, opacitat i responsabilitat

Els beneficis venen acompanyats de riscos. El més evident és el dels biaixos algorítmics: si els sistemes incorporen els nostres prejudicis i estereotips, les decisions judicials també els tindran.

Exemples coneguts són els algoritmes de predicció de reincidència que sobreestimen la perillositat de persones negres als Estats Units o que envien més efectius a determinats barris més humils, incrementant el nombre de detencions només per l'aparença (el -suposadament- desterrat, dret penal d'autor).

Un altre risc és l'opacitat. Molts models funcionen com caixes negres: ofereixen un resultat sense que quedi clar com el van assolir. En la justícia, on la motivació de la sentència és garantia de legitimitat, això planteja un problema seriós. En realitat, això aplica a l'administració de l'Estat en general, a causa del principi de transparència dels actes públics.

Finalment, la responsabilitat: si un jutge es recolza en un sistema automatitzat i la decisió causa un mal, qui respon? La resposta hauria de ser -una vegada més- clara: sempre la persona. La IA pot ajudar, però mai no assumir la càrrega de la responsabilitat jurídica ni ètica. Qui va complir el procediment constitucional per ser designat jutge va ser la persona, no l'algoritme, que ni tan sols té personalitat jurídica.

No és rebuig, és regulació

Davant aquests riscos, alguns sectors proposen de rebutjar de ple l'ús d'IA en la justícia. Tanmateix, aquesta actitud pot ser tant problemàtica com ingènua: la tecnologia ja és aquí, i negar el seu ús no farà que desaparegui. A més, és un sector que necessita tanta modernització i eficiència, tancar-li la porta a la IA constitueix, com menys, un despropòsit.

El que necessitem no és prohibició, sinó governança ètica: marcs normatius i protocols clars que defineixin en quines condicions es pot utilitzar IA en tribunals, quins límits s'imposen i quines salvaguardes han d'aplicar-se.

L'AI Act europeu ofereix un exemple: classifica els sistemes d'IA utilitzats en justícia com d'alt risc i, per tant, exigeix auditories, explicabilitat i supervisió humana constant. Es tracta d'un enfocament que no demonitza la innovació, però tampoc no la deixa lliurada a l'atzar.

Cap a una justícia híbrida i ètica

Un algoritme pot ajudar-nos a analitzar dades, però no pot comprendre la complexitat d'un cas humà. Allà rau l'espai insubstituïble del judici humà: en la capacitat d'interpretar la llei amb sensibilitat, responsabilitat i empatia. El camí més realista no és elegir entre jutges o algoritmes, sinó entre jutges sols o jutges més ben acompanyats.

La pregunta inicial —poden els algoritmes ser jutges? — té una resposta clara: no. Però això no significa que no hagin de formar part de l'ecosistema judicial. La IA pot i ha de ser una aliada estratègica per construir sistemes de justícia més accessibles, ràpids i eficaços.

La clau està en la hibridació: humans i algoritmes treballant junts, amb controls ètics i legals que garanteixin la primacia dels drets humans. En aquest model híbrid, els algoritmes aporten eficiència i capacitat d'anàlisi, mentre que els jutges preserven la legitimitat democràtica i la sensibilitat humana.