Estrasburgo. – Este miércoles, el Parlamento Europeo llevó a votación el proyecto de ley de inteligencia artificial (IA), arrojando como resultado 523 votos a favor, 46 en contra y 49 abstenciones. De esta forma quedó aprobado y se espera que tras una revisión final sea adoptado definitivamente antes de que la novena legislatura europea finalice en junio de 2024.
El proyecto original fue presentado por la Comisión Europea en el mes de abril de 2021, como una réplica a los desafíos presentados por la rápida evolución de la IA y el desequilibrio que presentaba con respecto a las regulaciones existentes en la Unión Europea (UE), como es el caso de la llegada de la aplicación ChatGPT, que manifestó los beneficios de dicha herramienta digital, sin embargo, también expuso riesgos como la difusión de fotos y/o videos falsos.
En ese sentido, el principal objetivo de la ley es establecer un marco de protección de los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental frente a la IA de alto riesgo así como el impulso a la innovación y posicionar a la UE como líder en el campo.
Algunas de las restricciones planteadas implican la prohibición de:
- Sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza)
- Extracción no dirigida de imágenes faciales de Internet o imágenes de Circuito Cerrado de Televisión (CCTV, por sus siglas en inglés) para crear bases de datos de reconocimiento facial
- Reconocimiento de emociones en el lugar de trabajo y en instituciones educativas
- Puntuación social basada en comportamiento social o características personales
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío
- La IA que explote las vulnerabilidades de las personas (por su edad, discapacidad, situación social o económica)
En simultáneo se consideran algunas excepciones en torno al uso de sistemas de identificación biométrica en situaciones muy concretas y con fines policiales, sujetos a autorización judicial previa y para listas de delitos estrictamente definidas.
Así mismo define la clasificación de sistemas de IA de alto riesgo como aquellos con el potencial de dañar la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho, otorgando así el derecho a presentar quejas por parte de los ciudadanos sobre el tema en cuestión y así mismo recibir explicaciones sobre las decisiones basadas en este tipo de sistemas.
Adicionalmente, la ley pretende promover los “entornos de prueba regulatorios” con el propósito de eliminar presiones por parte de los “gigantes de la industria” hacia las Pequeñas y Medianas Empresas (PYMES) para que estas últimas puedan desarrollar con mayor libertad soluciones de inteligencia artificial propias.
Por su parte, la presidenta de la Comisión Europea, Ursula von der Leyen resaltó que la misma presentará beneficios para el grupo de talentos ubicados en la UE, además de fijar un modelo de IA confiable en todo el mundo.
I welcome the @Europarl_EN vote on the AI Act.
Europe’s pioneering framework for innovative AI, with clear guardrails.
This will benefit Europe’s fantastic pool of talents.
And set a blueprint for trustworthy AI throughout the world.
— Ursula von der Leyen (@vonderleyen) March 13, 2024
Mientras tanto, el eurodiputado y actual presidente del Comité Especial sobre IA, Dragoș Tudorache mencionó en su cuenta de X (antes Twitter):
“¡La Ley de IA ha sido adoptada en su totalidad! Pasemos ahora a la parte importante: la implementación”.
The AI Act has been fully adopted! Now on to the important part – implementation. pic.twitter.com/i3kxCeGO0O
— Dragoș Tudorache (@IoanDragosT) March 13, 2024
