UE aprova legislação sobre sistemas AI

Os sistemas de inteligência artificial passam a estar sujeitos a um conjunto de regras na UE, mas que não são consensuais.

Já sabemos que a UE tem uma predilecção por legislar sobre tudo e mais alguma coisa, umas vezes de forma acertada e bem conseguida, outras vezes nem por isso. Quanto à questão das tecnologias de Inteligência Artificial (AI), que no último ano têm tido uma evolução assombrosa e a velocidade alucinante, as opiniões dividem-se.

Com o acordo em cima da mesa, os sistemas AI passam a ter que cumprir diferentes requisitos de acordo com a sua classificação, com alguns dos pontos chaves a serem:

AI de alto-risco

Que possam pôr em risco a saúde, segurança, direitos fundamentais, ambiente, democracia, eleições, e a lei. Passam a estar sujeitos a requisitos mais apertados, sujeitar-se a testes de avaliação, e obrigatoriedade de actuarem rapidamente para rectificar qualquer situação anómala, se quiserem estar presentes no espaço europeu.

Uso de AI pelas autoridades

Uso de sistemas de identificação biométrica em tempo real em espaços públicos (como reconhecimento facial) só permitido para identificar vítimas de rapto, tráfico humano, tráfico sexual, ou em caso de ameaças terrorista ou crimes graves.

Sistemas GPAI (General Purpose AI) e modelos

Ficam sujeitos a regras de transparência, que indiquem os conteúdos usados para o seu treino, documentação técnica, e garantia que cumprem com as leis de direitos de autor na UE. Os modelos AI também serão sujeitos a testes, avalição de riscos, e terão que revelar informação no caso de incidentes de cibersegurança e também da sua eficiência energética.

Proibição de uso de AI

• Categorização biométrica para características como orientação sexual, raça, tendências políticas, religiosas e filosóficas.
• Uso indiscriminado de rostos recolhidos da internet ou câmaras de vigilância
• Análise de emoções no local de trabalho ou instituições de ensino
• Sistemas AI de manipulação do comportamento humano
• Uso de AI para tirarem partido de pessoas em situações vulneráveis como idade, situação económica ou social, ou deficiências

Por agora isto é algo que a UE pede às empresas que sigam de forma voluntária, mas que deverá tornar-se obrigatório no próximo ano e entrando em vigor em 2025, com multas que irão dos 7.5 milhões de euros aos 35 milhões de euros ou 7% da facturação anual da empresa.

Os críticos dizem que estas regras são preocupantes, pois abrem a porta ao uso de sistemas AI para reconhecimento facial nos espaços públicos, que embora supostamente limitados a alguns casos especiais, acabará por ter impacto global sobre todos os cidadãos, especialmente nos casos em que houver reconhecimentos errados - e que, nos países onde isso acontece, têm acontecido com relativa frequência e resultado em histórias aterrorizantes.