Paulo Cunha, relator do Parlamento Europeu para a Convenção sobre Inteligência Artificial, explica ao CIDADE HOJE como o novo tratado internacional estabelece, pela primeira vez, «princípios claros para garantir que o desenvolvimento da IA respeita os direitos humanos, a democracia e o Estado de Direito». Acredita que a IA pode melhorar serviços públicos, apoiar diagnósticos médicos, otimizar transportes e tornar processos mais eficientes, mas com regras.
CIDADE HOJE (CH): O que mais destaca da primeira Convenção sobre Inteligência Artificial, aprovada no Parlamento Europeu, da qual é relator?
Paulo Cunha (PC): Destaco, acima de tudo, o seu caráter histórico. Estamos perante o primeiro tratado internacional juridicamente vinculativo dedicado à Inteligência Artificial, adotado no âmbito do Conselho da Europa e agora aprovado pelo Parlamento Europeu.
É um marco porque estabelece, pela primeira vez, princípios claros para garantir que o desenvolvimento da IA respeita os direitos humanos, a democracia e o Estado de Direito.
A Europa volta a assumir um papel de liderança global, mostrando que inovação e responsabilidade podem – e devem – caminhar juntas.
CH: Que tipo de regulamentação está a ser criada?
PC: Não se trata de travar a inovação, mas de criar um quadro de garantias. A Convenção define princípios e obrigações para os Estados no que toca à utilização de sistemas de IA, especialmente quando estes afetam direitos fundamentais.
Estamos a falar de transparência, avaliação de riscos, mecanismos de supervisão, responsabilização e proteção contra discriminação algorítmica. O objetivo é assegurar que a tecnologia serve as pessoas, e não o contrário.
«Há países com abordagens mais permissivas e outros com preocupações mais restritivas»
CH: Foi difícil chegar a este documento final. Que maiores dificuldades enfrentou?
PC: O principal desafio foi encontrar um equilíbrio entre realidades muito diferentes. Há países com abordagens mais permissivas e outros com preocupações mais restritivas. Também houve um trabalho técnico exigente: garantir que o texto fosse suficientemente robusto para proteger direitos fundamentais, mas flexível para acompanhar a evolução tecnológica. A negociação exigiu diálogo constante, capacidade de compromisso e clareza política.
CH: Como “geriu” o conflito entre o desenvolvimento tecnológico e o controlo de proteção de potenciais vítimas?
PC: Não vejo isso como um conflito inevitável. A falsa dicotomia entre inovação e proteção é um erro. A proteção das pessoas cria confiança – e a confiança é condição essencial para o desenvolvimento tecnológico sustentável. Se os cidadãos não confiarem na tecnologia, ela não será adotada. A nossa abordagem foi precisamente essa: criar regras que promovam inovação responsável.
«Regras claras criam mercado»
CH: Como as empresas tecnológicas receberam as propostas agora vertidas nesta “Constituição para a IA”?
PC: De forma diversa. Algumas empresas reconheceram a importância de um quadro jurídico claro e estável, que reduza incerteza regulatória; outras manifestaram preocupação quanto a eventuais custos de adaptação. Mas há um ponto essencial: regras claras criam mercado. A previsibilidade jurídica é um ativo económico.
CH: Como pode esta Convenção ter escala global para que não existam “ilhas tecnológicas”?
PC: A Convenção está aberta a países fora da Europa. Tal como aconteceu com a Convenção 108 sobre proteção de dados, a ambição é criar um padrão internacional. Se vários Estados adotarem princípios comuns, evitamos fragmentação e criamos um referencial global. A Europa não impõe: propõe. E quando propõe com credibilidade, influencia.
«Não podemos permitir que a manipulação se torne invisível»
CH: Como proteger as pessoas de conteúdos falsos e de manipulação de imagem?
PC: A proliferação de deepfakes é uma ameaça real. A resposta passa por três pilares: transparência na identificação de conteúdos sintéticos, responsabilização das plataformas e literacia digital.
Os sistemas de IA que possam manipular imagem ou voz devem estar sujeitos a requisitos reforçados de identificação e supervisão. Não podemos permitir que a manipulação se torne invisível.
CH: Não se trata apenas de proteger o cidadão, mas também as empresas, instituições…
PC: Sem dúvida. A manipulação algorítmica pode afetar reputações, mercados e processos administrativos. Proteger direitos fundamentais significa também proteger a integridade das instituições e a confiança no espaço público. Uma economia digital forte depende de segurança jurídica.
«A tecnologia não pode substituir o escrutínio democrático»
CH: Também está associada à manipulação política? Como garantir e proteger o Estado de Direito perante a proliferação da desinformação?
PC: Sim, existe um risco evidente de instrumentalização da IA para fins políticos, através da desinformação e da manipulação emocional. A resposta passa por transparência, responsabilização e supervisão independente. O Estado de Direito exige que as decisões com impacto significativo não sejam opacas nem arbitrárias. A tecnologia não pode substituir o escrutínio democrático.
CH: De que forma a tecnologia, que em muitas situações já substitui o ser humano, pode servir as pessoas sem as prejudicar?
PC: A tecnologia deve ser uma ferramenta, não um substituto da dignidade humana. A IA pode melhorar serviços públicos, apoiar diagnósticos médicos, otimizar transportes e tornar processos mais eficientes. Mas deve sempre existir supervisão humana significativa quando estão em causa direitos, liberdade ou acesso a oportunidades. O princípio é simples: a inovação deve ampliar capacidades humanas, não reduzir autonomia ou responsabilidade.