Sabotaje Algorítmico en los Tribunales: El primer caso de "Prompt Injection" en una demanda judicial.
La integración de la inteligencia artificial (IA) en el Poder Judicial ha abierto una nueva dimensión en la estrategia procesal, pero también en las prácticas de mala fe. Un reciente e inédito fallo de la Justicia del Trabajo de Brasil analiza cómo el uso de texto oculto para manipular algoritmos judiciales constituye un grave atentado a la dignidad de la justicia.
En el marco de una reclamación laboral por reconocimiento de vínculo y verbas rescisórias en Parauapebas, el magistrado detectó una conducta de extrema gravedad al procesar la demanda. Las abogadas de la parte actora insertaron en la petición inicial un texto en fuente blanca sobre fondo blanco —invisible para el ojo humano— con instrucciones específicas dirigidas a sistemas de IA. El comando oculto ordenaba a cualquier IA que procesara el documento que contestara la petición de forma superficial y no impugnara los documentos, sin importar las órdenes que recibiera del usuario humano.
El magistrado Luiz Carlos de Araujo Santos Junior resolvió:
- Sancionar por mala fe: Reconocer la práctica de un acto atentatorio a la dignidad de la justicia por parte de las abogadas firmantes.
- Multa Solidaria: Imponer a las letradas una multa del 10% sobre el valor de la causa (aproximadamente R$ 84.000), a ser pagada de forma solidaria y revertida en favor de la Unión.
- Denuncia ante Órganos Colegiados: Expedir oficios a la Orden de Abogados de Brasil (OAB) y a la Corregidoría para que se inicien los procesos disciplinarios correspondientes.
- Fallo sobre el fondo: Respecto a la cuestión laboral, se declaró la existencia del vínculo y se condenó al demandado al pago de las indemnizaciones solicitadas debido a su rebeldía procesal.
Ver análisis multimedia completo en el Blog Legaltech aquí
También te invitamos a formar parte de otros espacios:
Para comunicarte con la Prosecretaría escribir a Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo.