La inteligencia artificial (IA) está marcando un antes y un después en la práctica profesional. Sin embargo, no está exenta de riesgos. Una de las principales preocupaciones son las denominadas “alucinaciones de IA”: situaciones en las que los modelos generativos, como ChatGPT, Claude o Copilot, fabrican información verosímil pero falsa, incluyendo jurisprudencia con nombre, número de expediente hasta argumentos que jamás existieron.
El fenómeno ya provocó problemas en distintas partes del mundo. En junio de 2025, un Tribunal británico dio una dura advertencia tras detectar docenas de citas de jurisprudencia falsas que eran completamente ficticias o contenían párrafos inventados. En Estados Unidos, la situación tampoco pasó desapercibida: un bufete fue sancionado luego de presentar cinco citas inexistentes generadas por ChatGPT.
Primer caso local
Esta semana se conoció un episodio similar a nivel local. La Cámara de Apelación en lo Civil y Comercial de Rosario cuestionó el uso de herramientas de inteligencia artificial por parte de un abogado de la parte actora. El juez Oscar Puccinelli advirtió que en una de las presentaciones se incluyeron citas jurisprudenciales inexistentes. Ante ello, requirió al profesional que identificara las fuentes y este último reconoció haber utilizado un sistema de IA, sin verificarlo.
El Colegio Público de la Abogacía de la Capital Federal (CPACF) ya había tomado nota de estos riesgos. Hace pocas semanas difundió una guía integral sobre el uso de Inteligencia Artificial Generativa (IAGen). En el documento se advierte expresamente que “es falta ética efectuar citas doctrinarias o jurisprudenciales inexistentes, exponerlas en forma tal que falseen la opinión o el fallo invocados, o realizar falsas transcripciones de resoluciones judiciales o escritos de la contraparte”.
En diálogo con Diario Judicial, el Secretario General del CPACF, Martín Casares explicó que la entidad – actualmente presidida por Ricardo Gil Lavedra- inició primero una etapa de sensibilización y luego avanzó con capacitaciones: “Ya participaron más de 4.000 profesionales. Ahora el CPACF también cumple un rol de acompañamiento”.
“No es estar en contra ni retroceder, sino aprender a usarla con cuidado. Es una herramienta que potencia, no va a dejar sin trabajo a los abogados ni los va a reemplazar”, dijo el letrado sobre las oportunidades y dilemas que se presentan.
Según detalló, además de los cursos se lanzó un boletín mensual —AbogacIA— con consejos prácticos, recomendaciones éticas y novedades. Casares remarcó, en este sentido, la importancia de saber formular las instrucciones -prompt- correctamente, para luego chequear la información obtenida y darle una impronta personal: “No se trata de decirle a la máquina ‘necesito esto’”.
“No es estar en contra ni retroceder, sino aprender a usarla con cuidado. Es una herramienta que potencia, no va a dejar sin trabajo a los abogados ni los va a reemplazar”, dijo el letrado sobre las oportunidades y dilemas que se presentan, ya que hoy los matriculados pueden desde redactar escritos, buscar jurisprudencia, resumir textos, analizar contratos hasta organizar su trabajo.
También destacó que algunos modelos comienzan a ofrecer enlaces directos a los fallos citados, lo que permite verificar la información. “Cada versión es diez veces mejor y más rápida que la anterior. Los abogados que aprendan a usarla estarán en mejores condiciones que los que no lo hagan”.
No obstante, Casares también llamó a la prudencia respecto al uso de datos confidenciales de clientes. “Evitar subir expedientes con datos sensibles a una herramienta sin garantías. Mantener la privacidad de la información sensible y evitar su divulgación en plataformas sin garantías de seguridad, respetando el secreto profesional y solicitando la autorización del cliente cuando corresponda. El abogado debe respetar rigurosamente todo secreto profesional y oponerse ante los jueces u otra autoridad al relevamiento del secreto profesional, negándose a responder las preguntas que lo expongan a violarlo”, recomienda expresamente la guía.
Estimado colega periodista: si va a utilizar parte esta nota o del fallo adjunto como “inspiración” para su producción, por favor cítenos como fuente incluyendo el link activo a http://www.diariojudicial.com. Si se trata de una nota firmada, no omita el nombre del autor. Muchas gracias.
—
