El pasado 21 de abril de 2021, la Comisión Europea emitió su propuesta de regulación para el uso de Inteligencia Artificial en Europa. Un documento que, si bien aún falta por ser aprobado por el Parlamento Europeo, trámite que podría demorar varios meses, tiene miras a convertirse en uno de los precursores fundamentales del Derecho de la Inteligencia Artificial, disciplina que dentro de muy poco tiempo cobrará especial relevancia en el mundo. Por ello, a continuación realizaremos un breve análisis de los elementos más destacados que incluye ésta propuesta.

Inteligencia Artificial Prohibida

Además de las clásicas definiciones que trae cualquier tipo de ley y regulación en el mundo, este documento comienza enlistando las clases de Inteligencia Artificial que estarán prohibidas en el territorio de los países miembros de la Unión Europea, entras las que encontramos:

A) Programas que puedan utilizar técnicas subliminales para controlar el comportamiento de una persona y que pueda hacerse daño así misma o a otros. Además de sistemas que se aprovechen de la vulnerabilidad de un grupo de personas por su edad o discapacidad física o mental, para que se provoquen daño así mismos o a otras personas.

B) Programas que puedan utilizar sistemas de puntuación para evaluar y clasificar la integridad de las personas por su comportamiento social para justificar un trato desfavorable hacia esas personas.

C) Programas de identificación biométrica en tiempo real para la aplicación de las leyes en espacios públicos. Aquí, hay que destacar que la propuesta de la Comisión Europea no prohíbe del todo estos programas, sino que establece un marco de actuación, en donde para usarse deben tener autorización judicial y sólo en casos de extrema urgencia, podrán utilizarse primero y obtener la autorización después.

Sistemas de alto riesgo

En este capítulo se definen a los sistemas de inteligencia artificial de alto riesgo como aquellos que son utilizados como componentes de seguridad de un producto o como un producto en sí mismo, o que deben de someterse a aplicaciones de terceros. Estos sistemas de alto riesgo deberán ser acompañados de sus propios Sistemas de Administración del Riesgo, que consistirán en un proceso reiterado que deberá funcionar a lo largo de todo el ciclo de vida del software de IA y deberá realizar lo siguiente:

1. Identificar y analizar los riesgos previsibles con la IA.
2. Estimar y evaluar los posibles riesgos que puedan surgir al utilizar la IA.
3. Adoptar medidas de manejo del riesgo tales como: eliminar o reducir los riesgos desde el propio diseño y desarrollo de la IA e implementar medidas de mitigación y control a los riesgos que no pueden ser eliminados.

Gobierno de datos

Los sistemas de inteligencia artificial que utilicen modelos de entrenamiento con datos (aprendizaje automático y aprendizaje profundo), deberán ser desarrollados bajo el entrenamiento, validación y prueba de acuerdo con los siguientes criterios.

1. Que los datos utilizados sean representativos, relevantes, libres de errores y completos.
2. Los datos deberán tomar en cuenta las características geográficas, del comportamiento y del funcionamiento, del área donde se pretende aplicar la IA.
3. Para determinadas categorías de datos de personas físicas, los programas de IA deberán de utilizar medidas que protejan la privacidad de las personas, como la anonimización o la encriptación.

Transparencia

En el uso de sistemas de Inteligencia Artificial, los sistemas deberán de ser diseñados con la suficiente transparencia para que los usuarios puedan interpretar las respuestas de la propia IA. Además, los sistemas de alto riesgo deberán ser acompañados con instrucciones concisas, completas , correctas y claras para su uso, en el que los usuarios puedan entender cómo funcionan. Además, las personas deberán ser informadas cuando estén interactuando con un sistema de IA; esto también incluye a los sistemas de IA de reconocimiento de emociones o categorización biométrica. En el caso de las imágenes manipuladas a través de una IA, también conocidos como Deep Fakes, se deberá de incluir una leyenda que diga “contenido generado artificialmente o manipulado”.

Sandbox

Estos esquemas también conocidos como Regulatory Sandbox también son abordados en la propuesta de regulación, para que los estados miembros de la Unión Europea puedan permitir sistemas de IA por determinado período de tiempo para su desarrollo, validación y prueba, antes de salir al mercado por completo. Las amenazas a la seguridad y salud pública o a los derechos humanos de personas físicas, provocarán la suspensión de las autorizaciones para operar a través del Sandbox.

La Junta Europea de Inteligencia Artificial

Esta propuesta incluye también el desarrollo de un organismo encargado de proveer consejo y asistencia a la Comisión Europea, para contribuir en la cooperación entre autoridades de distintos países, en materia de inteligencia artificial. Estará compuesta por los supervisores nacionales en IA de cada país miembro.

Sanciones

Esta regulación también contempla sanciones para personas o compañías que incumplan con la regulación en inteligencia artificial, con multas que pueden ir desde los 10 millones de euros, hasta el 6% de la facturación emitida por una empresa en el año fiscal anterior.

Con todo lo mencionado anteriormente, es de aplaudirse el gran esfuerzo que la Comisión Europea ha puesto en esta propuesta para ser considerada y votada por los Estados miembros de la UE. Sin embargo, aún hace falta entender algunas implicaciones que quedan fuera de esta regulación, como la creación de la personalidad jurídica digital, que se ha venido mencionando desde 2017 o los aspectos de la inteligencia artificial relacionados con la Propiedad Intelectual y, especialmente, la autoría de obras creadas con base en la IA.

Sin duda, un documento precursor de lo que el Derecho de la Inteligencia Artificial tendrá que desarrollarse en los próximos años, cuya relevancia está todavía por ser aprobada y probada por el Parlamento Europeo y los estados miembros de la UE. Si quieres leer el texto completo de la propuesta, puedes hacerlo desde la página de la Comisión Europea.