Inteligencia artificial y corporaciones no humanas: un debate que necesita más tiempo

La propuesta de reforma de la Ley de Sociedades impulsada por Javier Milei derivó en un debate global sobre una de las cuestiones más complejas de esta era: la posibilidad de crear corporaciones operadas exclusivamente por inteligencia artificial.

La secuencia es conocida. En una columna publicada en el Financial Times, el presidente de la Nación defendió la posibilidad de habilitar nuevas formas societarias automatizadas. La respuesta llegó de la mano de Yuval Noah Harari, quien advirtió sobre los riesgos de reconocer personalidad jurídica a entidades no humanas capaces de acumular poder económico sin los límites tradicionales de la responsabilidad individual.

La penosa inmortalidad de la IA

A la discusión, se sumó el CEO de Microsoft AI, Mustafa Suleyman, con argumentos similares.

Milei respondió de manera respetuosa, celebrando el intercambio y remitiendo a análisis de referentes tecnológicos como Martín Varsavsky y Emiliano Kargieman. Probablemente se trate de uno de los debates intelectuales más relevantes del presente.

Sin embargo, existe un aspecto que ha recibido mucha menos atención: el instrumento jurídico actualmente en consideración no parece reflejar con claridad ninguna de las posiciones que dominan la discusión pública.

¿Más autonomía o mayor irresponsabilidad?

Harari plantea una objeción filosófica seria: si las corporaciones ya son ficciones jurídicas capaces de contratar, litigar, acumular recursos e influir sobre la vida social, ¿qué ocurrirá cuando incorporen niveles crecientes de autonomía algorítmica? Su preocupación no gira en torno de la tecnología en sí misma, sino de la posibilidad de que surjan nuevos centros de poder cuya relación con la responsabilidad humana resulte cada vez más difusa.

Alarmado, Yuval Noah Harari teme lo peor ante el avance de la Inteligencia Artificial

Los defensores de la iniciativa, por el contrario, enfatizan la necesidad de adaptar las instituciones jurídicas a una realidad económica en transformación. La historia del derecho societario es, en buena medida, la historia de esa adaptación.

Pero incluso entre quienes apoyan la innovación existe una coincidencia importante: la necesidad de mantener mecanismos claros de responsabilidad. Emiliano Kargieman ha defendido públicamente esquemas de múltiples capas que incluyen patrimonio propio de la entidad, seguros obligatorios y responsabilidad de los órganos humanos encargados de la supervisión. Innovación, sí; irresponsabilidad, no.

Y es precisamente aquí donde aparece la principal dificultad.

La lectura del proyecto enviado al Congreso no parece conducir con claridad ni al escenario que preocupa a Harari ni al modelo de responsabilidad defendido por varios de sus promotores. Por el contrario, varias de sus disposiciones sugieren simultáneamente una fuerte autonomía patrimonial de las sociedades automatizadas y la persistencia de órganos humanos sometidos a reglas tradicionales de responsabilidad.

La cuestión adquiere especial relevancia al comparar el artículo 14 con otras disposiciones vinculadas a la administración de estas entidades. Según la formulación difundida, el artículo 14 establece que la sociedad responderá frente a terceros con su propio patrimonio. Considerado aisladamente, el precepto parece aproximarse a un modelo donde el riesgo económico queda confinado a los activos de la entidad automatizada.

Sin embargo, otras normas, particularmente las referidas a administradores o integrantes del denominado steering board o comité de dirección, parecen partir de un presupuesto distinto: la existencia de personas humanas con deberes de diligencia, supervisión y control.

Ambas soluciones son defendibles. Lo problemático es la falta de una articulación clara entre ellas.

Un problema de seguridad jurídica

Si existe un órgano humano con obligaciones de supervisión y eventual responsabilidad por incumplimiento de esos deberes, entonces la idea de una corporación completamente desvinculada de seres humanos pierde buena parte de su contenido jurídico. La novedad sería la automatización de la operación, no la desaparición de los sujetos responsables.

Si, por el contrario, la intención es que la responsabilidad quede confinada exclusivamente al patrimonio de la sociedad automatizada, el proyecto debería establecerlo de manera expresa y explicar cuál es entonces la función jurídica de esos órganos y cuáles son los límites efectivos de sus deberes.

La diferencia no es menor tratándose de una reforma que incorpora al derecho societario argentino debates largamente desarrollados en otras jurisdicciones, como la business judgment rule. Es razonable limitar, como plantea este concepto, la responsabilidad de los administradores cuando actúan de buena fe dentro de márgenes aceptables de discrecionalidad. Pero cuando la gestión cotidiana es delegada a sistemas algorítmicos, la pregunta deja de ser únicamente qué decisiones quedan protegidas por esa regla y pasa a ser quién asume los riesgos residuales derivados de la autonomía operativa del sistema.

Esa distancia entre el debate filosófico, la narrativa pública y el texto normativo no constituye un mero problema de técnica legislativa. Constituye un problema de seguridad jurídica.

Antes de decidir si Argentina quiere liderar esta transformación, el Congreso debería responder una pregunta previa: qué clase de entidad está creando exactamente y quién responderá cuando su patrimonio no alcance para reparar el daño causado.

La innovación puede convivir con la incertidumbre tecnológica. Lo que no tolera incertidumbre es la asignación de responsabilidades. Debatir cómo innovar con seguridad jurídica merece algo más de tiempo.