El Ple del Consell General del Poder Judicial ha imposat una sanció econòmica de 1.000 euros a un magistrat que va utilitzar ChatGPT en l'elaboració de l'esborrany d'una sentència. La Comissió Disciplinària, per majoria, ha considerat que la conducta del jutge constitueix una falta greu, però no una falta molt greu, motiu pel qual ha descartat la suspensió de 15 dies que havia proposat inicialment el promotor de l'acció disciplinària.

El cas ha generat un intens debat sobre els límits de l'ús de la intel·ligència artificial en l'àmbit judicial, en un moment en què la tecnologia avança més de pressa que la capacitat dels operadors jurídics per regular-la.

Els fets van transcendir perquè el magistrat va oblidar eliminar del text definitiu de la sentència les consultes que havia realitzat a ChatGPT. Això va permetre comprovar que l'argumentació del jutge s'havia basat en l'anàlisi generada per l'eina a partir de la informació que ell mateix li havia facilitat.

El promotor de l'acció disciplinària va posar èmfasi en el fet que el magistrat havia presentat a la resta del tribunal una "aparent sentència" que en realitat amagava una intervenció significativa d'un sistema automatitzat. La falta greu apreciada consisteix a "revelar, fora dels canals d'informació judicial establerts, fets o dades dels quals tinguin coneixement en l'exercici de la seva funció", segons l'article 418.8 de la Llei Orgànica del Poder Judicial.

El CGPJ descarta la falta molt greu perquè la IA va ser un complement

El promotor de la investigació havia proposat una suspensió de 15 dies per una falta molt greu, relacionada amb la "ignorància inexcusable" en el compliment de les funcions judicials, a més d'una multa de 501 euros per falta greu. Tanmateix, la Comissió ha descartat la infracció més greu després d'analitzar les circumstàncies del cas.

Segons l'acord, el magistrat va utilitzar la intel·ligència artificial "com a auxili i complement, però no en substitució de les seves funcions judicials". Aquest matís ha estat clau per rebaixar la sanció. Paral·lelament, la Fiscalia va defensar que els fets no constituïen cap infracció disciplinària i va sol·licitar l'arxivament de l'expedient sense cap càstig.

En el seu expedient, l'instructor va recordar que l'ús de sistemes algorítmics en l'àmbit judicial no està prohibit per se, però que existeixen límits infranquejables. La principal línia vermella és que la intel·ligència artificial no pot substituir la funció jurisdiccional ni alliberar el jutge de les seves responsabilitats.

En aquest cas, el magistrat va vulnerar el deure de diligència en l'elaboració de les resolucions, ja que va externalitzar el mètode de treball i va exposar el tribunal a qüestions de seguretat i confidencialitat. La Comissió Disciplinària ha volgut deixar clar que l'ús de la IA no és incompatible amb l'exercici de la judicatura, però sempre que es faci amb transparència, rigor i respecte als drets fonamentals.

Prohibició que la IA substitueixi els jutges

El mateix Consell General del Poder Judicial ja havia advertit sobre els riscos d'aquestes pràctiques. El passat 28 de gener, el Ple va aprovar una instrucció en la qual estableix amb claredat que la intel·ligència artificial no pot dictar sentències, valorar proves ni aplicar el dret sense un control humà "real, conscient i efectiu".

La normativa també prohibeix que la IA substitueixi els jutges en tasques vinculades a la funció jurisdiccional, la responsabilitat i la independència judicial, o en aspectes relacionats amb la confidencialitat, la seguretat i la prevenció de biaixos algorítmics. La instrucció va ser aprovada per 11 vots a favor i 6 en contra i reflecteix la creixent preocupació davant la irrupció de la IA en un dels poders de l'Estat.

Un precedent que obre el debat sobre la IA en la judicatura

Aquesta és la primera sanció coneguda a Espanya contra un jutge per l'ús de ChatGPT en la redacció de resolucions judicials. El precedent és important, perquè no condemna la tecnologia en si mateixa, però sí que recorda als operadors jurídics els límits de la seva utilització. La multa de 1.000 euros és econòmicament modesta, però té un efecte simbòlic rellevant.

A partir d'ara, els jutges que recorrin a la intel·ligència artificial per redactar els seus escrits hauran de ser molt curosos per no traspassar la línia que separa l'ajuda tècnica de la delegació de funcions. El debat sobre l'ètica de la IA en la judicatura està servit. Aquesta sanció, més que tancar, obre un nou capítol en la relació entre la tecnologia i l'administració de justícia a Espanya.