“Un algoritmo no es una entidad jurídica”: debate sobre Inteligencia Artificial y Derecho en la UNMDP

Si un sistema de inteligencia artificial sugiere una decisión errónea, ¿quién responde? Con ese interrogante abrió su exposición el jurista e investigador italiano Dr. Luigi Quintieri durante la Conferencia Comparativa de Inteligencia Artificial y Derecho, realizada en la Facultad de Derecho de la Universidad Nacional de Mar del Plata (UNMDP). La jornada contó con las palabras de apertura de Mónica Biasone, rectora de la UNMDP, y estuvo encabezada por el director del Centro Interuniversitario de Investigaciones en Sistemas Constitucionales Comparados (JIIESCC), el juez Eduardo Jiménez. También participaron los doctores Federico Álvarez Larrondo y Alberto Rodríguez.

Quintieri, quien presentó su tratado Intelligenza Artificiale e Diritto, remarcó que la respuesta jamás puede recaer en el software: “Un algoritmo no es una entidad jurídica. No tiene activos, no tiene deberes profesionales, no tiene responsabilidad moral y no puede comparecer ante un juez para explicar sus decisiones”. La responsabilidad legal siempre pertenece a las personas y organizaciones que diseñan, comercializan, implementan o deciden confiarle una función concreta.

El impacto en las aulas: exámenes y biometría

Pensando en el ámbito universitario, el especialista ilustró los riesgos mediante el uso de software de monitoreo en exámenes remotos que reporta “comportamientos inusuales” a través de cámaras y capturas biométricas.

Dr. Luigi Quintieri, autor de obra Intelligenza Artificiale e Diritto

Un estudiante que desvía la mirada para tomar notas en papel, alguien con una discapacidad motriz o un alumno con una conexión inestable pueden activar alertas del sistema sin haber cometido infracción alguna. Según Quintieri, el algoritmo emite una señal probabilística, pero nunca una prueba definitiva. Por eso, alertó sobre el “sesgo de automatización” (la tendencia a confiar ciegamente en la máquina) y subrayó que la supervisión docente no debe ser meramente formal: quien evalúa debe contar con la capacidad real y el criterio para contradecir o anular el resultado del software.

El jurista abordó también las limitaciones de la IA generativa, capaz de redactar textos con sintaxis impecable y tono verosímil, pero inventando normas o sentencias inexistentes. “La IA puede ayudar en la investigación, pero no puede sustituir la verificación de la fuente”, sintetizó. Transferir el juicio crítico a una máquina compromete la confianza y la responsabilidad ética del profesional.

Europa y Argentina: dos modelos frente a la tecnología

La conferencia también profundizó en el contraste entre el modelo regulatorio europeo y el escenario nacional. Mientras la Unión Europea avanzó con el Reglamento 2024/1689 (Ley de IA) —un marco preventivo organizado en cuatro niveles de riesgo que prohíbe prácticas lesivas y exige estrictas auditorías a los sistemas de alto impacto—, la Argentina presenta un esquema mucho más fragmentado.

Quintieri señaló que el país todavía no cuenta con una ley marco nacional, sino que se apoya en normativas preexistentes (como la protección de datos personales), directrices no vinculantes y experiencias dispares según la jurisdicción. Como ejemplo, citó el uso del sistema Prometea en los tribunales de la provincia de Buenos Aires frente a otras provincias sin regulación específica, al tiempo que advirtió sobre iniciativas que exploran la figura de “Sociedades No Humanas” para atribuir personería patrimonial a las máquinas, una postura que entra en tensión con la premisa europea de mantener siempre la responsabilidad legal en las personas.

Siete preguntas antes de incorporar IA en las instituciones

Para evaluar la adopción de estas herramientas en ámbitos académicos o públicos, Quintieri propuso una guía básica:

• Propósito: qué tarea cumple y cuánto puede afectar derechos u oportunidades.

• Datos: si utiliza información personal, de salud o biométrica sensible.

• Población afectada: nivel de vulnerabilidad de los destinatarios (estudiantes, pacientes, usuarios).

• Margen de error: qué gravedad tiene un fallo del sistema.

• Verificación: si quien supervisa tiene tiempo, conocimiento y potestad real para corregir desvíos.

• Impugnación: si existen canales claros para que las personas reclamen ante un error.

• Trazabilidad: registros que permitan reconstruir los hechos si ocurre un daño.

Como conclusión, Quintieri sostuvo que el avance tecnológico no vuelve obsoleta a la ley, sino que vuelve más evidente su necesidad. “La verdadera cuestión no es si la inteligencia artificial llegará a ser cada vez más poderosa. Es si las instituciones, universidades y profesiones podrán llegar a ser lo suficientemente competentes para guiarla”.