UE chega a acordo para regular ChatGPT e tecnologia de IA

Status da AI Act / Disponibilidade do texto

• Vários comentadores observam que o “acordo” é político, não lei final; o texto legislativo exato e as emendas ainda não tinham sido tornados públicos.
• Há alguma confusão sobre se a lei foi “aprovada”; o consenso no tópico é que existe um compromisso, mas a redação jurídica, a tradução e as votações formais ainda estão pendentes.

Âmbito e definição de “IA”

• A abordagem da UE é baseada no risco e no uso (por exemplo, sistemas “de alto risco” como polícia, decisões de asilo, etc.), e não apenas ligada a machine learning.
• Foram citadas definições em estilo de anexo: IA inclui machine learning, sistemas baseados em regras/experts, sistemas baseados em lógica e métodos estatísticos/de pesquisa/otimização.
• Debate sobre a terminologia: alguns argumentam que isso faz de “todo programa alguma vez feito” IA; outros respondem que a lei regula usos sensíveis, independentemente da técnica.

Biometria, classificação social e manipulação

• As áreas de alto risco/proibidas incluem: reconhecimento facial em tempo real (com exceções estreitas para a aplicação da lei), categorização biométrica por traços sensíveis (raça, orientação sexual, religião, crenças políticas), classificação social e manipulação cognitiva/comportamental.
• Disputa sobre proibir a deteção automática de raça/traços:
  • Críticos dizem que é impraticável, prejudica análises úteis e levará os sistemas a inferir traços indiretamente.
  • Apoiante argumentam que o perfilamento automático por atributos sensíveis é inerentemente perigoso e, muitas vezes, já é ilegal quando feito manualmente.
• Preocupações semelhantes em torno de vigilância em massa, policiamento preditivo e classificação social, com referências à China e a escândalos reais na Europa e noutros locais.

Regulação vs inovação / competitividade da UE

• Forte divisão:
  • Críticos: a UE está a “regular-se para fora do mercado”, repetindo ou amplificando o padrão visto com as grandes plataformas da internet; pequenas empresas podem bloquear geograficamente a UE, atrasar lançamentos ou evitar totalmente o mercado; receio de captura regulatória por grandes incumbentes.
  • Apoiante: tecnologia com grandes externalidades (vigilância, discriminação, manipulação) tem de ser limitada; melhor agir cedo do que repetir a experiência das redes sociais; alguns preferem explicitamente inovação mais lenta a danos não regulados.
• Discussão sobre o atraso tecnológico mais amplo da Europa (plataformas dominadas pelos EUA, pools de capital, mercados fragmentados) e se a regulação é causa ou sintoma.

Modelos fundacionais, open source e documentação

• As negociações sobre “foundation models” foram controversas.
• Compromisso relatado: restrições e obrigações de transparência para modelos fundacionais poderosos, mas amplas isenções/vantagens para modelos open source.
• Alguns acolhem isto como proteção contra o aprisionamento por grandes empresas e sistemas “black box”; outros receiam que o registo obrigatório e a documentação para foundation models seja algo semelhante a reviver o controlo estilo “code as munitions”.
• Divergência sobre se isto fortalecerá ou travará o FOSS; não está claro como “training” versus “fine-tuning” será distinguido na prática.

Responsabilidade, caixas-pretas e usos de alto risco

• Muitos defendem que a questão central é a responsabilização: entidades que utilizam sistemas que tomam decisões que mudam vidas (crédito, apoios sociais, policiamento, asilo, triagem médica) devem ser totalmente responsáveis e capazes de explicar os resultados.
• Danos passados citados (discriminação algorítmica, escândalos em apoios sociais, ferramentas enviesadas de saúde e recrutamento) são usados para justificar regras explícitas de IA para além da lei genérica de proteção de dados.
• Contra-argumento: as leis existentes sobre discriminação e processamento de dados (por exemplo, GDPR) deveriam ser suficientes; adicionar camadas específicas para IA arrisca excesso de alcance e peso burocrático.

Analogia com o GDPR e preocupações de implementação

• Alguns veem isto como “o novo GDPR”: grandes empresas conseguem absorver a conformidade; pequenos sites/produtos podem bloquear utilizadores da UE.
• Outros respondem que a conformidade com o GDPR é fácil se simplesmente se evitar rastreamento invasivo; o “inferno dos banners de cookies” é apresentado como design malicioso ou político, não como algo imposto pela lei.
• Medo semelhante de que as regras de IA sejam cumpridas de forma mínima e adversarial, produzindo má UX e legalismo defensivo em vez de verdadeira segurança.

Direitos de autor, dados de treino e direitos de propriedade

• Um subconjunto argumenta que os modelos deveriam ser ilegais de vender a menos que os dados de treino sejam licenciados e comprováveis; outros respondem que isso inverte o ónus da prova e criminalizaria a maior parte das abordagens atuais.
• Debate lateral sobre abolir ou enfraquecer os direitos de autor versus defendê-los como essenciais para a produção cultural; não há consenso.

Preocupações de nível meta

• Divisão filosófica subjacente:
  • Uma corrente desconfia das corporações, favorece uma regulação mais forte e vê a IA como mais um domínio que requer controlo público.
  • A outra desconfia dos Estados e da burocracia da UE, teme controlo progressivo e estrangulamento da inovação, e preferiria focar apenas nos usos nocivos e não na tecnologia em si.