DPC da Irlanda encontra problemas de transparência em 180 produtos e serviços de IA

A Comissão de Proteção de Dados da Irlanda (DPC) afirma que falhas de transparência e incertezas sobre a base legal para treinar sistemas de IA continuam sendo problemas recorrentes. A conclusão surgiu após a análise de cerca de 180 produtos e serviços de IA criados ou implementados entre 2021 e 2025. A revisão examinou milhares de páginas de avaliações de risco, medidas técnicas e documentos de conformidade apresentados por organizações que desenvolvem e utilizam IA.

Transparência continua sendo o principal problema

Segundo a DPC, 72% das decisões analisadas por sua Função de Supervisão envolveram questões de transparência. As orientações da autoridade determinam que os avisos sejam direcionados às pessoas afetadas e estejam disponíveis antes do processamento de seus dados pessoais. Um aviso difícil de encontrar, voltado ao público errado ou relacionado a uma função que as pessoas de fato não utilizam pode não cumprir essa exigência.

A autoridade também observou que a transparência pode entrar em conflito com preocupações operacionais em sistemas destinados a detectar fraudes ou atividades ilegais. Nesses casos, revelar o funcionamento do sistema poderia ajudar alguém a driblá-lo. Ainda assim, explicações fornecidas posteriormente não eliminam a obrigação de oferecer informações adequadas antes do início do processamento, conforme o GDPR.

Dados de treinamento passam por análise jurídica

Outro problema recorrente foi o uso do interesse legítimo como base legal para processar dados no treinamento de sistemas de IA. A DPC citou como exemplo a proposta apresentada pela Meta em maio de 2024 para treinar IA com dados pessoais de usuários. Depois que a autoridade publicou recomendações, incluindo a filtragem e a desidentificação dos dados antes do treinamento, a Meta adotou essas medidas, segundo a revisão.

IA agêntica traz novas dúvidas

A DPC informou ter dialogado com cinco controladores sobre lançamentos de IA agêntica na União Europeia. Embora ainda não fosse possível identificar temas comuns entre os casos, a autoridade apontou incertezas persistentes sobre transparência, processamento de dados pessoais, funcionamento desses sistemas e possíveis efeitos sobre os direitos dos usuários.

A revisão também alertou que a legislação de proteção de dados não deve ser tratada como substituta de padrões éticos ou sociais mais amplos. A DPC citou a criação de imagens íntimas ou sexualizadas sem consentimento como uma situação em que outros marcos legais ou regulatórios podem ser mais apropriados.

Supervisão de grandes empresas de tecnologia

Como muitas empresas de tecnologia de grande porte mantêm sua sede europeia na Irlanda, a DPC supervisionou trabalhos de IA envolvendo companhias como Airbnb, Apple, DeepSeek, Google, LinkedIn, Meta, Microsoft, OpenAI, Pinterest, TikTok e X. A autoridade afirmou que suas interações resultaram em melhorias relacionadas à base legal, à transparência, à minimização de dados e à proteção de crianças.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Ireland's DPC reports a 'significant' increase in AI-related engagements