La Cámara de Apelación en lo Civil y Comercial de Azul declaró nula una resolución por las “alucinaciones” de inteligencia artificial en sus fundamentos.
En la causa “B. S. M. s/ determinación de la capacidad jurídica”, que denegaba la regulación de honorarios al Curador Oficial, los argumentos se apoyaban en citas doctrinales y jurisprudenciales que no pudieron verificarse por la Cámara.
“Las alucinaciones pueden tener consecuencias graves, especialmente si el juez o los abogados no tienen los medios para verificar la veracidad de la información proporcionada por el modelo”, concluyó el fallo.
El Curador Oficial había sido designado en los términos del artículo 108 de la Ley 14.442. El magistrado de primera instancia resolvió que no correspondía regularle honorarios, argumentando que su actuación constituye un deber legal de protección estatal de naturaleza asistencial, por lo que “carece de causa jurídica la imposición de honorarios a la persona asistida o a su acervo”.
Concretamente, el fallo apelado señalaba: “…En principio la designación del citado ha sido en los términos del art. 108 de la Ley 14.442, ante la falta de recursos y/o familiares de la causante. Así, “La actuación del Curador Oficial constituye el cumplimiento de un deber legal de protección estatal, de naturaleza asistencial, por lo cual carece de causa jurídica la imposición de honorarios a la persona asistida o a su acervo.” (Kemelmajer de Carlucci, A., “Capacidad Jurídica y sistema de apoyos”, Rubinzal-Culzoni.). Sumado a lo indicado ha dicho la jurisprudencia que “La actuación del Asesor o Curador Oficial no genera honorarios exigibles contra la persona asistida ni contra su acervo, pues su intervención responde a un deber legal y no a una relación onerosa.” – Cám. Civ. y Com. La Plata, Sala II, causa “R., A. s/Insania”, 12/08/2019″
El curador apeló invocando la normativa que establecen la obligación de las Curadurías Oficiales de rendir cuenta final y solicitar la regulación de honorarios al cesar en su actuación. Argumentó que la regulación de honorarios no implica automáticamente su ejecución, sino que queda sujeta a una decisión posterior sobre su cobro.
Al examinar el recurso, la Cámara advirtió que no contaba con antecedentes sobre el tema y ordenó a la Biblioteca Departamental la búsqueda de la doctrina y jurisprudencia citadas.
El organismo informó que no fue posible hallarlas. Posteriormente, los camaristas se comunicaron telefónicamente con el juzgado de origen, que confirmó la imposibilidad de localizar las citas y atribuyó el problema a “un error de la web”.
Fue entonces cuando la Cámara, integrada por los jueces Ana Inés Comparato, Esteban Louge Emiliozzi y Yamila Carrasco, advirtió que la resolución de primera instancia se habría elaborado con auxilio de inteligencia artificial, sin la debida verificación.
“Podemos inferir que se ha utilizado la IA, lo cual no está prohibido más requiere de un uso extremadamente responsable.- Ello así por cuanto respecto de la doctrina señala una editorial pero no cuál es el libro en concreto o la cita on line correspondiente mientras que el fallo citado carece de número y asimismo precisa que fue dictado por la Sala II de la Cam. Civ. y Com. de La Plata cuando en realidad en dicha jurisdicción hay dos cámaras de apelaciones con tres salas cada una”, precisaron los jueces.
“Se puede advertir un uso inadecuado de las herramientas de Inteligencia Artificial al no verificar o corroborar la información recabada y luego citada. En ese marco se insta a realizar las citas debidamente indicando fuente, pág. si es una obra, etc”, remarcó el fallo.
Los jueces recordaron que la IA generativa es aquella capaz de “crear contenidos originales (textos, imágenes, audios, código) a partir de instrucciones o prompts específicos” y advirtió sobre el fenómeno de las “alucinaciones”: “Este fenómeno se produce cuando el modelo inventa respuestas falsas o inexactas, pero presentadas de manera convincente. Ocurre cuando el algoritmo carece de información suficiente y la completa con inferencias plausibles pero erróneas. En el ámbito judicial, esto ha derivado en la citación de jurisprudencia y normas inexistentes”.
“Las alucinaciones pueden tener consecuencias graves, especialmente si el juez o los abogados no tienen los medios para verificar la veracidad de la información proporcionada por el modelo”, concluyó el fallo.
Estimado colega periodista: si va a utilizar parte esta nota o del fallo adjunto como “inspiración” para su producción, por favor cítenos como fuente incluyendo el link activo a http://www.diariojudicial.com. Si se trata de una nota firmada, no omita el nombre del autor. Muchas gracias.
—
