La Cámara Civil de Apelaciones de Roca nuevamente detectó un uso irregular de inteligencia artificial e hizo un llamado de atención formal a dos abogadas, por las “alucinaciones” incorporadas en el escrito que presentaron para una demanda por daños y perjuicios.
El caso se conoció este jueves, a través del área de Comunicación del Poder Judicial de Río Negro, que informó la resolución de segunda instancia en una causa derivada de un siniestro vial ocurrido en Villa Regina.
En concreto, la Cámara de Apelaciones de Roca confirmó el rechazo de una demanda por daños y perjuicios presentada por una motociclista luego de un choque.
Un escrito inicial confuso y contradictorio
La jueza que intervino en primera instancia ya había resaltado “las contradicciones” y “la falta de claridad” en la redacción de los hechos, pero a esto se sumó que en la apelación, las abogadas de la demandante citaron fallos inexistentes de la Corte y del Superior Tribunal de Justicia de la provincia, producto de “alucinaciones” de la IA, según destaca la resolución.
El caso se originó a partir de un siniestro vial ocurrido en la intersección de las calles Juan XXIII y Araucanos, en Villa Regina. Una mujer, que circulaba como acompañante en una motocicleta, demandó al conductor de un automóvil Peugeot. Manifestó que el auto intentó doblar a la izquierda de manera intempestiva. Sin embargo, las pericias demostraron que la moto intentó pasarlo justo antes de la esquina.
En la primera instancia, la jueza rechazó la demanda al considerar que la exposición de la parte de la mujer era contradictoria e imprecisa. Por un lado, no quedaba claro incluso si era conductora o acompañante. La sentencia destacó que el relato de la demandante incluía calles inexistentes en la zona del hecho y descripciones de los daños que no coincidían con las pericias policiales.
“Resulta muy difícil dilucidar el relato de los hechos de la actora, pues se presenta contradictoria y confusa su redacción lo que impide tratar de realizar una representación de cómo sucedieron los hechos, en una primera aproximación. De su estricta lectura, tal como observó la magistrada de grado, no hubiera habido contacto alguno entre los vehículos involucrados”, dice la sentencia.
Agravios con “alucinaciones”
El fallo también detectó citas de jurisprudencia y doctrina falsas en el escrito de expresión de agravios presentado por las abogadas de la mujer. Tras un control exhaustivo en los buscadores oficiales, se determinó que los precedentes invocados, tanto de la Corte como del Superior Tribunal de Río Negro, no existían en los registros judiciales.
La Cámara concluyó que los profesionales utilizaron herramientas de Inteligencia Artificial Generativa (IAGEN) sin el debido control humano, incurriendo en lo que técnicamente se conoce como «alucinaciones». Por eso se enfatizó que el uso de estas tecnologías como auxiliares no dispensa a las abogadas de su responsabilidad profesional.
Finalmente, el tribunal realizó un «llamado de atención» a las letradas por la cita de fallos inexistentes. Advirtieron que, según la normativa vigente (Acordada 22/2025 del STJ), el uso inadecuado de IA puede dar lugar a sanciones correctivas.
Los antecedentes cercanos
El caso se sumó a otros recientes en la misma Segunda Circunscripción, que fueron resonantes por la cantidad de citas inexistentes que contenían los escritos.
La Cámara Civil de General Roca detectó en 2025 al menos dos casos donde abogados utilizaron inteligencia artificial, resultando en la presentación de escritos con citas de 26 fallos inexistentes. A raíz de estas «alucinaciones» y la detección de argumentos falsos en casos de siniestros viales, el Superior Tribunal de Justicia de Río Negro aprobó la Acordada 22/2025 para sancionar estas prácticas.
—
