IA y redacción de leyes: ¿Quién revisa lo que quedó afuera?
La discusión sobre la automatización en el Estado tomó un nuevo impulso tras los anuncios impulsados por el ministro de Desregulación y Transformación del Estado, Federico Sturzenegger, que plantean utilizar agentes de inteligencia artificial para auditar, modificar o derogar cuerpos normativos de gran extensión en Argentina. La propuesta de poner a competir y “votar” entre sí a distintos modelos algorítmicos para recortar decretos y leyes reabrió un debate incómodo: hasta qué punto la inteligencia artificial respeta las garantías constitucionales, la transparencia administrativa y el sentido democrático de la producción técnica de las leyes.
Para analizar las implicancias institucionales de esta iniciativa y desmenuzar sus alcances técnicos, Portal Universidad dialogó con Alberto Rodríguez, docente de la Tecnicatura en Periodismo Digital de la Universidad Nacional de Mar del Plata (UNMDP), quien evaluó los riesgos de caer en el hermetismo algorítmico, comparó los modelos de regulación global y cuestionó la idea de que la tecnología pueda reemplazar el juicio crítico y la visión de futuro de la política.
El filtro humano, la firma política y el riesgo de la “caja negra”
En la carrera por acelerar trámites administrativos, la promesa de procesar miles de artículos en pocos segundos suele presentarse como un avance neutro. Sin embargo, en la técnica legislativa, delegar el filtrado inicial en algoritmos plantea un dilema directo sobre la responsabilidad jurídica y la auditabilidad de las decisiones públicas.
Al examinar los mecanismos de supervisión sobre las recomendaciones digitales, Rodríguez enfatizó: “Pareciera que en el proceso interviene un operador humano que estaría al final de esa primera selección y de esas instancias de votaciones mediante distintos agentes de inteligencia artificial, habría una suerte de control humano. En el componente normativo, en definitiva, si hay alguna reforma, modificación o lo que fuere, debe estar con las firmas de los funcionarios pertinentes y que tengan competencia para promover este tipo de reformas”.
Esta advertencia coincide con los análisis del doctor en Derecho y profesor de la Universidad de Valencia, Javier Guillem Carrau en sus investigaciones sobre la función legislativa, donde remarca que los modelos masivos de lenguaje operan como “cajas negras” cuya lógica interna escapa a la auditoría clásica. Si el código no explica de forma transparente por qué sugirió eliminar un artículo, el control humano corre el riesgo de convertirse en una mera formalidad. Al respecto, Rodríguez formuló la pregunta central de la discusión: “Se toma las propuestas que recibe de los agentes. La pregunta que habría que hacer es: ¿Quién revisa lo que quedó afuera? Éste es un tema no menor, ¿Realmente se alcanza a auditar bien una recomendación generada por la inteligencia artificial?”
La falsa diversidad algorítmica y los modelos en pugna
Uno de los argumentos oficiales para validar los recortes normativos consiste en cruzar el criterio de varios agentes digitales en simultáneo. Sin embargo, la acumulación de consultas automatizadas no garantiza pluralidad de miradas si las herramientas se nutren de las mismas bases de datos o comparten condicionamientos de origen.
Sobre el peligro de confundir volumen técnico con diversidad de criterio, el especialista advirtió: “Determinados instrumentos pueden ya tener una carga de sesgos o determinados componentes que pueden intoxicar o ser un elemento bastante peligroso acerca de la decisión que se termina proponiendo o sugiriendo por parte de este trabajo en conjunto que hacen distintas inteligencias artificiales. Pueden coincidir dos, tres o cuatro agentes distintos que comparten el mismo criterio y tal vez compartan las mismas fuentes o el mismo punto ciego: la cantidad no me está dando diversidad”.
En ese sentido, la discusión técnica internacional expone dos caminos antagónicos. Mientras que el Reglamento de Inteligencia Artificial de la Unión Europea (UE 2024/1689) exige modelos de “caja blanca”, es decir, sistemas interpretables con supervisión humana estructurada “Human-in-the-loop”, el panorama estadounidense responde a dinámicas de mercado liberador. Rodríguez contrapuso ambas miradas: “Europa es la que más ha llevado a cabo directivas en torno a determinados procedimientos éticos donde se pide una explicación concreta, real y lo más acabada posible del marco procedimental y decisorio, analizada por autores como Mark Coeckelbergh. Mientras que la visión en los Estados Unidos está muy vinculada a grupos dominantes en materia empresarial“.
La visión democrática: por qué la imaginación del futuro es humana
Más allá del salto tecnológico, la tensión de fondo radica en la diferencia entre procesar registros del pasado y proyectar decisiones políticas hacia adelante. Las herramientas digitales sistematizan antecedentes, pero carecen de capacidad deliberativa y de sensibilidad social para interpretar las expectativas de una comunidad.
Al evaluar el impacto cultural de este cambio de época, el Rodriguez observó: “Hay pensadores que dicen que el cambio ha sido cultural y esto devino en instrumentos tecnológicos, y podemos hacer la misma formulación al revés, que ha habido un cambio tecnológico y esto está provocando un cambio cultural. Yo prefiero pensar que la cultura ya estaba cambiando y la tecnología ha sido un facilitador”.
Por último, al definir el núcleo insustituible de la representación democrática y el diseño legislativo, Rodríguez concluyó: “La inteligencia artificial lo que está dando, después de procesos algorítmicos, es una conclusión sobre todo lo que pudo juntar o tomar de lo que ha ocurrido, de la carga que tiene. Lo que no tiene son elementos hacia adelante: esa capacidad de volar, de soñar, de imaginarnos un futuro, sigue siendo una característica humana. Cuando uno hace políticas públicas no sólo debe tomar antecedentes, sino proyectar y diseñar escenarios futuros. La democracia se va construyendo precisamente con aspiraciones, con sueños y perspectivas. A 40 años de democracia en 1983, en 1810 o en la Reforma Universitaria de 1918 cuando el Manifiesto Liminar decía ‘Estamos viviendo una revolución, estamos pisando una hora americana’. Esa es la característica de la humanidad: ir adelantando determinadas cuestiones hacia el futuro”.


