- SONIA SALMERÓN
Suiza, Australia y Nueva Zelanda tienen proyectos legislativos con supervisión humana que España podría usar como modelo para posibles usos de la IA en el proceso legislativo.
Compensar la avalancha regulatoria con la aplicación de la inteligencia artificial para alcanzar una mayor coherencia en el ordenamiento jurídico puede ser una opción legítima siempre que esta tecnología no sustituya al legislador y, en ningún caso, afecte a los derechos fundamentales.
Integrar tecnología para optimizar el proceso legislativo es una posibilidad que puede calificarse como "válida", ya que aplicarla en un enfoque amplio ofrecería "calidad, transparencia, eficiencia y consistencia" sobre la regulación de las leyes españolas.
Estos factores positivos se deducen tras conocer varios proyectos iniciados en Suiza, Nueva Zelanda, Australia y Pennsylvania (EEUU). Así, Nueva Zelanda adoptó esta tecnología como apoyo de los servicios públicos automatizando tareas o revisando documentos. Suiza y Pennsylvania optaron por sacar conclusiones para buscar transparencia y Australia usó la IA para redactar leyes bajo la supervisión humana.
Si fuera necesario España puede echar un vistazo para comprobar de primera mano qué ocurre cuando esta tecnología se utiliza en una evaluación del impacto normativo o cuáles son los proyectos de redacción legislativa que mejoran la eficiencia y consistencia de las normas.
Salvando distancias el Ejecutivo no es ajeno a las tecnologías avanzadas y mucho menos a la inteligencia artificial. La hoja de ruta del Ministerio para la Transformación Digital y de la Función Pública considera la IA como una oportunidad sobresaliente que ofrece soluciones "fiables e interoperables" alineadas con los valores democráticos.
Por su parte, el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes acaba de presentar el Informe FAT. Aquí se establece un marco coherente como garantía de los sistemas, procesos y decisiones vinculados a los servicios de inteligencia artificial desarrollados por la Subdirección General de Digitalización de la Inteligencia Artificial y las Tecnologías del Lenguaje (SGDIISD).
El Informe FAT recoge en uno de sus apartados el uso de la IA para la normalización de leyes. El objetivo es buscar patrones en los servicios online que suministran documentación jurídica, leyes, decretos y conseguir normalizar todo en formato similar. Para esto se utiliza el servicio NER (named entity recognition) que identifica y categoriza elementos clave de un texto no estructurado a través de algoritmos basados en patrones Regex. Esto permite, por ejemplo, generar un informe final con coincidencias a partir de grandes cantidades de texto.
Si bien no existe ningún proyecto de aplicación de tecnologías en el proceso legislativo en España, no sería extraño que a largo plazo esto pudiera ocurrir. Lo importante es, como subrayan los expertos, que nunca se sustituya al legislador o queden afectados los derechos fundamentales.
En este sentido, Moisés Barrio, letrado del Consejo de Estado y experto internacional en regulación digital, está convencido que la IA podría proporcionar "apoyo argumental a las iniciativas legislativas". De esta forma, el debate parlamentario estaría basado en datos y ciencia y no en juicios subjetivos, "tecnificando la actividad parlamentaria". Añade que dicha aplicación ayudaría "a la detección de desinformación, identificando y mitigando campañas que puedan afectar al debate público o al proceso legislativo".
Javier López Gutiérrez, socio de tecnología, medios y telecomunicaciones (TMT) en Ecija, considera que las nuevas tecnologías "mejorarían significativamente el proceso de creación de leyes en diversas fases".
En concreto, el big data permite identificar "patrones y situaciones que requieren nuevas normas". Cuando se trata de recopilar antecedentes, "las plataformas digitales facilitan la participación ciudadana". Además, en el proceso de redacción, la IA generativa aporta "precisión y coherencia a los textos legales". Por último, el blockchain "puede ayudar en la fase de prueba porque permite evaluar el impacto y rastrear modificaciones antes de la publicación".
Alerta de incoherencias
Jurista y consultor legaltech en The Legal Letters, Jorge Morell considera que la aplicación de la IA permite, en su opinión, "detectar tendencias pasadas o futuras, procesar mayor número de enmiendas, gestionar más aportaciones públicas, localizar aportaciones pasadas o anticipar propuestas en función del legislador o partido político".
Sigue la misma línea Gary Robertson, mánager en Ecix Tech. Los beneficios estarían relacionados con la coherencia de la regulación y los plazos de tramitación de normas. Como muestra, Robertson reconoce que el lanzamiento de convocatorias para participar en el proceso de aprobar una norma se puede "eficientar y agilizar", logrando mayor participación ciudadana.
Moisés Barrio concluye que la IA puede ser una herramienta complementaria que optimiza tareas. De hecho, su uso sería muy interesante a fin de "mejorar la calidad del ordenamiento jurídico", desbordado por una actividad normativa "no siempre planificada". Además, alerta que un sistema de IA debería avisar de contradicciones normativas, ofreciendo "sugerencias de mejora en los proyectos de ley".
Para Juan Carlos Guerrero, socio de TMT en Ecija, la IA ni sustituye al legislador ni al ejecutivo, sino que "amplía su capacidad de análisis, agiliza procesos internos y permite centrarse en el debate políticos sustantivo".
Guerrero trae a colación el reglamento europeo en el que la mayoría de los usos de la IA en la práctica jurídica "ni están prohibidos, ni son de alto riesgo". Aun así, explica que si al automatizar decisiones se afecta a los derechos fundamentales "sí se entraría en el ámbito de los sistemas de alto riesgo" teniendo en cuenta el articulado del reglamento.
Su conclusión es que la IA, utilizada con responsabilidad, "eleva la práctica profesional a niveles de eficiencia y calidad", aunque siempre se debe evitar suplantar el juicio legal y quedar garantizado que sea el jurista quien tome las decisiones relevantes.
Riesgos y desigualdades
Con referencia a los riesgos, Juan Carlos Guerrero es el primero que enumera la "falta de transparencia algorítmica o de los datos de entrenamiento del modelo utilizado". En caso de que una IA sugiera una redacción legal sin estar motivada, la cuestión es cómo el legislador deberá defender, modificar o rechazar de forma informada.
Existen también otras desventajas como el riesgo de sesgos cuando se trata de reforzar desigualdades estructurales o excluir sensibilidades normativas por razones de sexo, raza, clase o ideología.
Con la IA existe la posibilidad de "caer en una instrumentalización política". Partiendo de que la transparencia, la neutralidad y la calidad del proceso democrático es lo más importante, Guerrero expone que como herramienta de asistencia es prometedora, pero como sustituto puede "poner en jaque los fundamentos del estado de Derecho".
Las temidas alucinaciones también son un hándicap. Morell advierte de una "mala verificación del contenido generado o de un resumen que pase por alto detalles relevantes". Consciente de esto, Gary Robertson aboga por una "toma de conciencia" de la finalidad de cada uso. Como los sistemas basados en modelos generativos para redactar borradores de regulación, utilizarían "tecnología de base probabilística y no determinista", no quedan garantizados la ausencia de errores o las posibles alucinaciones del sistema.
El resultado sería un texto legislativo que, sin supervisión humana y experta, mantiene el error. "La IA no sabe Derecho, sino que sabe generar texto que puede parecer Derecho", afirma Robertson. Además, hace hincapié en revisar el sistema y las bases de información porque, a su juicio, podrían darse casos de propuestas legislativas que mantengan algún tipo de sesgos como una "mayor dureza para determinados colectivos en leyes penales".
Dos 'bandos' enfrentados: el papel de la IA en el proceso legislativo
A favor
- Detección de contradicciones normativas, referencias incorrectas o vacíos jurídicos del texto.
- Normas robustas, leyes comprensibles, menos mitigables y más coherentes con el ordenamiento jurídico.
- Análisis automático de consultas públicas y mayor participación ciudadana.
- Mejora de la eficiencia y calidad de las leyes.
- Apoyo argumental a las iniciativas legislativas.
- Detección de desinformación que puede afectar al debate público o al proceso legislativo.
En contra
- Falta de transparencia algorítmica con carencias en la trazabilidad de las fuentes o el razonamiento.
- Prejuicios de género, raza, clase o ideología reforzando desigualdades estructurales.
- Tecnocratización del debate y empobrecimiento de pluralidad de enfoques.
- Riesgo de instrumentalización política que hace peligrar la neutralidad del procedimiento legislativo.
- Desequilibrios argumentativos por un acceso desigual a la tecnología entre los grupos parlamentarios.
- Riesgos de privacidad y confidencialidad.