A Unión Europea pacta a primeira lei de intelixencia artificial no mundo

As institucións da Unión Europea pactaron este venres a lei de intelixencia artificial que permite ou prohibe o uso da tecnoloxía en función do risco que supoña para as persoas e que busca impulsar a industria europea fronte a de xigantes como a China e os Estados Unidos.

"A lei de intelixencia artificial da UE é pioneira no mundo. Un marco legal único para o desenvolvemento da intelixencia artificial no que se pode confiar", dixo a presidenta da Comisión Europea, Ursula von der Leyen, nunha mensaxe na rede social X.

O acordo chegou tras 36 horas de negociacións e aínda o terán que ratificar o Parlamento Europeo e o Consello da UE, a institución que representa os gobernos europeos.

Seguridade nacional

Un dos puntos máis sensibles das negociacións foi o uso que as forzas da orde poderán facer das cámaras de identificación biométrica en espazos públicos para garantir a seguridade nacional.

As cámaras poderanse utilizar con previa autorización xudicial para previr unha ameaza terrorista "xenuína e previsible" ou "xenuína e presente", é dicir, que se estea producindo nese momento.

Tamén se poderán empregar para localizar ou identificar unha persoa que cometera delitos de terrorismo, tráfico de persoas, explotación sexual ou, por exemplo un crime ambiental e para buscar as vítimas destes delitos.

Durante as negociacións, os gobernos presionaron para ampliar a lista de delitos, mentres que a Eurocámara tentou limitala o máximo posible e obter fortes salvagardas para os dereitos fundamentais.

Sistemas prohibidos

A norma, ademais, prohibe todos os sistemas de categorización biométrica por crenzas políticas, relixiosas, filosóficas ou pola súa raza e orientación sexual.

Tampouco se poderán utilizar os sistemas que puntúan as persoas en función do seu comportamento ou características persoais nin a intelixencia artificial capaz de manipular o comportamento humano.

Tamén estarán prohibidos os sistemas para expandir ou crear bases de datos faciais captando datos de maneira indiscriminada a través de Internet ou de gravacións audiovisuais.

Ademais, nos centros de traballo ou as escolas tamén estarán prohibidos os sistemas de intelixencia artificial que poden recoñecer as emocións.

IA xenerativa

O outro grande asunto que centrou as negociacións é a regulación dos sistemas de intelixencia artificial xenerativa, nos que se basean modelos como ChatGPT, da empresa OpenAI ou Bard, de Google.

Terán que cumprir criterios de transparencia, como especificar se un texto, unha canción ou unha fotografía se xerou a través da intelixencia artificial e garantir que os datos que se empregaron para adestrar os sistemas respectan os dereitos de autor.

Inicialmente, a lei non estaba pensada para regular este tipo de sistemas, porque aínda non se popularizaran cando Bruxelas propuxo a lei en abril de 2021, pero as institucións comunitarias viron a necesidade de lexislalos desde que chegou o ChatGPT o ano pasado.

O regulamento non prohibe o seu uso pero si establece unha serie de criterios para detectar os modelos que poden xerar un alto risco en función do contexto no que se usen e obriga os seus desenvolvedores a cumprir unhas salvagardas máis estritas antes de sacalos ao mercado.

Negociacións "apaixonadas"

As negociacións foron "apaixonadas", xa que o obxectivo da lei é regular o uso dunha tecnoloxía con grandes posibilidades para a sociedade, que ao mesmo tempo xera dúbidas e algunhas preguntas aínda sen resposta, segundo fontes coñecedoras dos debates.

O regulamento permite ou prohibe o uso da intelixencia artificial en función do risco que xera para as persoas e identifica sistemas de alto risco que só se poderán utilizar se se demostra que respectan os dereitos fundamentais.

Oficina Europea de IA

A norma prevé a creación da Oficina Europea de Intelixencia Artificial, que coordinará o uso da tecnoloxía entre as autoridades nacionais e que estará asesorada por un panel de científicos e de organizacións da sociedade civil.

Está previsto que a lei entre en vigor en 2026 pero aplicarase por fases: a oficina europea crearase de forma inmediata, a prohibición dos sistemas prohibidos de intelixencia artificial chegará aos seis meses e os requisitos para os sistemas e modelos de IA xenerativa, aos 12.

O regulamento prevé multas cun rango que vai desde os 35 millóns de euros ou o 7 % do volume global de negocio das empresas, ata os 7,5 millóns de euros ou o 1,5% do volume global de negocio.