El consenso se ha logrado tras intensas conversaciones que empezaron el miércoles
BlackJack3D / Gettyimages.ru
Los Gobiernos de los países miembros de la Unión Europea y el Parlamento Europeo han llegado a un acuerdo sobre las primeras normas generales del mundo que regularán el uso de la inteligencia artificial.
En un maratón de conversaciones que se extendieron desde el miércoles hasta el viernes, los negociadores lograron superar diferencias sobre una cantidad de asuntos controversiales, tales como el uso de la IA en la vigilancia policial o los requerimientos de transparencia para los sistemas basados en AI para excluir daños potenciales que supondrían para la salud humana, la seguridad pública y otros ámbitos.
Los debates terminaron con la firma de un tentativo acuerdo sobre la Ley de Inteligencia Artificial.
“Este reglamento pretende garantizar la protección de los derechos fundamentales, la democracia, el Estado de Derecho y la sostenibilidad medioambiental frente a la IA de alto riesgo, al tiempo que impulsa la innovación y convierte a Europa en líder en este campo”, según el comunicado del Parlamento Europeo.
La normativa, que todavía debe ser aprobada por el Parlamento y el Consejo Europeo, establece obligaciones para la inteligencia artificial en función de sus riesgos potenciales y su nivel de impacto.
- Los negociadores acordaron la prohibición de sistemas de categorización biométrica que utilizan características sensibles como creencias políticas, religiosas, raza u orientación sexual.
- También se ilegaliza la vigilancia policial predictiva y la recopilación no dirigida de imágenes faciales en la Red o de grabaciones de cámaras de vigilancia para la creación de bases de datos de reconocimiento facial.
- Tampoco se permite el reconocimiento de emociones en lugares de trabajo y en centros educativos, la puntuación social basada en el comportamiento social o las características personales; y sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío.
- Se prohíbe el uso de la IA para explotar las vulnerabilidades de las personas, vinculadas, por ejemplo, a su edad, discapacidad, situación social o económica.
El incumplimiento de las normas sería castigado con multas que oscilan entre 7,5 millones de euros, o el 1,5 % de ingresos de la compañia, y 35 millones de euros (7 % del volúmen de sus ingresos) en función de la infracción y el tamaño de la empresa.
El reglamento establece procedimientos de evaluación de riesgos y rendición de cuentas en ciertas áreas de aplicación de IA, y estipula mecanismos para las pruebas seguras de innovaciones en ese sector.
Varios políticos europeos saludaron el consenso sobre la que sería la primera legislación sobre la inteligencia artificial.
“¡Histórico! La UE se convierte en la primera región en establecer normas claras para el uso de la IA”, escribió en X Thierry Breton, comisario europeo de Mercado Interior.
“La Ley de IA establece normas para grandes y potentes modelos de IA, garantizando que no presenten riesgos sistémicos para la Unión [Europea] y ofrece fuertes salvaguardias para nuestros ciudadanos y nuestras democracias frente a cualquier abuso de la tecnología por parte de las autoridades públicas”, comentó por su parte el europarlamentario rumano Dragos Tudorache, uno de los impulsores del reglamento.