El Parlamento Europeo Aprueba el Reglamento de Inteligencia Artificial

Hoy, miércoles 13 de marzo de 2024, ha sido aprobada por la Eurocámara la primera norma europea reguladora de la Inteligencia Artificial (IA), con 535 votos a favor, 46 en contra y 49 abstenciones.

El texto aprobado y acordado por los Estados Miembros el pasado mes de diciembre, tal y como se desprende de su art. 2, establece requisitos específicos para los sistemas de IA de alto riesgo y obligaciones para los operadores de dichos sistemas, contemplando una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto. Asimismo, regula prohibiciones de determinadas prácticas de IA (como el caso de uso de videocámaras son sistemas de identificación biométrica en lugares públicos salvo excepciones).

Además de lo anterior, en el Reglamento se establecen normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión, de transparencia aplicables a determinados sistemas de IA y de seguimiento del mercado, vigilancia del mercado, gobernanza y ejecución.

¿Qué es la Inteligencia Artificial?

El Reglamento, en su art. 3 define “sistema de IA” como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”

Es decir, la IA se conforma de sistemas que pueden realizar tareas que hasta ahora han requerido de la inteligencia humana, tales como  como el aprendizaje, el razonamiento y la percepción; a través del procesamiento de la información derivada de los datos, pudiendo adoptar decisiones dirigidas a un objetivo.

De la distopía a la realidad: la predicción del delito y la identificación biométrica en remoto

Las prohibiciones reguladas en la nueva norma son de lo más variopintas y algunas de ellas nos hacen recordar ciertos filmes de culto de ciencia ficción.

Al más puro estilo de Minority Report, queda prohibida a explotación de sistemas de IA que sirvan para realizar “evaluaciones de riesgos de personas físicas con el fin de evaluar o predecir la probabilidad de que una persona física cometa una infracción penal basándose únicamente en la elaboración del perfil de una persona física o en la evaluación de los rasgos y características de su personalidad”, añadiendo que “esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la evaluación humana de la implicación de una persona en una actividad delictiva que ya se base en hechos objetivos y verificables directamente relacionados con una actividad delictiva”; por tanto, en cuanto un sujeto esté siendo investigado por un delito concreto, de forma no prospectiva, podrá aplicarse la IA para predicciones delictuales.

Entre otras, también se prohíbe el uso de sistemas de identificación biométrica remota en tiempo real cuando se lleven a cabo en lugares públicos, salvo que dicha medida sea necesaria para la consecución de alguno de los siguientes fines:

– Búsqueda selectiva de víctimas de secuestro, trata de seres humanos o explotación sexual de seres humanos y de personas desaparecidas.

– La prevención de amenazas específicas, importantes, reales e inminentes para la seguridad de las personas.

– La localización o identificación de una persona por la comisión de un delito grave en el marco de una investigación, enjuiciamiento o ejecución penales.

Estos sistemas de identificación biométrica, que mucho nos pueden sonar a la famosa obra de George Orwell, 1984, sólo podrán adoptarse si cuentan con su oportuna autorización judicial o administrativa que deberá ser motivada (auto), justificando la necesidad y proporcionalidad de la adopción de dicha medida.

Al igual que ocurre en el marco de algunas de las diligencias de investigación tecnológicas reguladas en el art. 588 LECrim, como la interceptación de las comunicaciones y la utilización de dispositivos o medios técnicos de seguimiento y localización, cuando concurran ciertos presupuestos y siempre en caso de necesidad, se contempla la posibilidad de adoptar la medida sin previo plácet judicial, debiendo solicitarse autorización en las 24h siguientes.

Dejamos muchas cosas en el tintero que, con total seguridad, abordaremos en futuros artículos. En Despacho Jurídico Valero Cuadra  somos abogados especialistas en ciberdelitos y nuevas tecnologías. Si necesitas ayuda, contacta con nosotros.