- El Gobierno aprueba el anteproyecto de la Ley de IA con multas de hasta 35 millones de euros
- El Papa defiende en su primera encíclica que la IA tiene que ser "desarmada"
Tras la aprobación definitiva del anteproyecto de ley orgánica que el Consejo de Ministros ratificó ayer, tanto empresas como particulares deberán cumplir con nuevas obligaciones al utilizar modelos de IA, bajo la amenaza de multas de entre 6.000 euros y 35 millones.
El Gobierno dio ayer un paso más en la regulación de las nuevas tecnologías y el uso que tanto empresas como particulares hacen de las herramientas de inteligencia artificial, después de aprobar en Consejo de Ministros el anteproyecto de la Ley orgánica para el buen uso y la gobernanza de la inteligencia artificial, que busca trasponer la regulación europea sobre este asunto imponiendo unas reglas éticas estrictas para los usuarios de la IA.
El texto incorpora un severo régimen sancionador para las empresas y los particulares que no cumplan con la norma, con multas de entre 500.000 euros o el 0,5% del volumen de negocio para los casos más leves y 35 millones -o el 7% del volumen de negocio- en los más graves, y tiene por objeto garantizar un uso "ético, inclusivo y beneficioso" de la inteligencia artificial.
Con este objetivo, las empresas deberán, entre otras reglas, ayudar a los usuarios a distinguir entre los contenidos reales y los generados con inteligencia artificial; mientras que se introducen prohibiciones como utilizar la IA para explotar vulnerabilidades de los usuarios, atendiendo a factores como su edad, si tienen o no un grado de discapacidad o su situación socioeconómica.
El anteproyecto también busca "subir el listón de autoexigencia" dentro de la propia Administración, donde cada vez más organismos, como la Inspección de Hacienda, están utilizando la inteligencia artificial en su operativa diaria. Al respecto, el texto incide en la transparencia que deben tener los modelos de IA dentro de las administraciones públicas e introduce la figura de un "delegado de inteligencia artificial", en línea con la última oferta pública de empleo anunciada por el Ejecutivo, en la cual se buscan expertos en estos modelos para todos los organismos.
En paralelo, el Estado pondrá en marcha en marcha sistemas para que las empresas puedan probar con la Administración que sus propios modelos de inteligencia artificial "cumplen con la normativa y que no tienen ningún problema", señaló ayer el ministro para la Transformación Digital y de la Función Pública, Óscar López.
Los expertos en inteligencia artificial consultados por EXPANSIÓN señalan que el anteproyecto "es un paso necesario para generar confianza y dotar de seguridad jurídica un entorno tecnológico cada vez más crítico" y consideran que "permitirá proteger derechos fundamentales sin frenar la innovación", afirma en este sentido Cristina Muñoz-Aycuens, socia de Forensic y Ciberseguridad de Grant Thornton.
En la misma línea, la patronal de la industria digital y tecnológica, Ametic, calificó el texto como "un paso relevante hacia la consolidación de un marco normativo que permita desplegar esta tecnología con garantías", si bien consideró como un aspecto fundamental "que la regulación actúe como un habilitador de la innovación".
Las prácticas con inteligencia artificial que quedarán prohibidas
La trasposición del reglamento europeo en el marco jurídico español aprobado ayer -después de la revisión del Consejo de Estado en abril, que criticó la memoria económica de la norma- incluye las ocho prohibiciones que en un primer momento recogía el texto elaborado por la Comisión Europea, y que afectan especialmente a las empresas.
En primer lugar, se recoge como práctica prohibida el empleo de la inteligencia artificial para poner en marcha técnicas subliminales o explotar la vulnerabilidad de determinados colectivos, como los menores de edad, las personas con discapacidad o sus circunstancias personales. Poniendo un ejemplo, las compañías no podrán utilizar sus modelos de inteligencia artificial para detectar usuarios con posibles problemas de ludopatía y dirigirles promociones y anuncios relacionados con el juego.
Además, el texto prohíbe expresamente el uso de la IA para establecer clasificaciones biométricas; para evaluar a las personas en base a su comportamiento o historial en línea -en áreas como la sanidad o el empleo-; para reconocer sus emociones o extraer sus rasgos faciales sin garantizar su privacidad y seguridad en Internet.
El anteproyecto también recoge el veto a la vigilancia predictiva, esto es, estimar probabilidades de riesgo en base a la huella digital de los usuarios; o el uso de la IA para procesar archivos de vídeo o audio en aras de reconocer patrones biométricos, una técnica conocida como identificación en tiempo real.
A estas ocho nuevas prohibiciones se suman otras dos, que la Comisión Europea introdujo recientemente en su reglamento a petición del Gobierno español, y que también se han incorporado al anteproyecto de ley orgánica. Se trata de la utilización de las herramientas de inteligencia artificial "para generar deepfakes -suplantaciones de identidad- de contenido sexual"; y de la producción de pornografía infantil, "un avance muy importante en la protección de los menores, especialmente de las niñas", valoró López.
El Gobierno, "plenamente identificado" con la encíclica del Papa sobre la IA
La aprobación en Consejo de Ministros del anteproyecto de ley orgánica sobre la inteligencia artificial se produjo apenas un día después de que el Papa León XIV publicase su primera encíclica como sumo pontífice, en la que cargó duramente contra el uso de algoritmos opacos que, a su modo de ver, amenazan con "nuevas formas de deshumanización" y pueden llevar a "bloquear el acceso a la sanidad o al empleo" a los ciudadanos, mediante técnicas como la clasificación biométrica, la puntuación social o la vigilancia predictiva que, de aprobarse el texto en el Congreso de los Diputados, quedarían prohibidas en España, so pena de cuantiosas sanciones económicas para las empresas.
Al respecto, el ministro para la Transformación Digital y de la Función Pública, Óscar López, afirmó ayer que el Gobierno se siente "plenamente identificado" con la postura del sumo pontífice, "con una visión humanista de la IA que proteja los derechos y que no sea incompatible con los valores que hemos desarrollado como sociedad".
Estas palabras de acercamiento del Ejecutivo al Vaticano se pronunciaron la víspera de la audiencia que León XIV celebra hoy en Roma con el presidente del Gobierno, Pedro Sánchez, y a pocos días de la llegada del líder de la iglesia católica a Madrid, Barcelona y las Islas Canarias, entre el 6 y el 12 de junio. El Ejecutivo movilizará durante la visita a 10.500 efectivos de Policía Nacional y 2.190 de Guardia Civil, "además de aquellos que pongan a disposición los Mossos d'Esquadra o las policías locales". Además, Renfe aumentará en dos millones las plazas de Cercanías en la capital e incrementará la oferta de media distancia, con ofertas especiales.
De los 'deepfakes' sexuales a la identificación biométrica: el Gobierno prohíbe prácticas "inmorales" con IAHacienda lanza la primera oleada de cartas por errores en la declaración de la RentaEl fin del registro de alquileres abre una guerra judicial de 160 millones contra el Estado Comentar ÚLTIMA HORA