Mudanças Ocultas no GPT-4, Reveladas
A dependência da IA generativa de material protegido por direitos autorais está intensificando disputas de longa data sobre quem deve lucrar com o trabalho criativo e quanta proteção artistas e escritores merecem. Comentadores associam mudanças ocultas recentes nos prompts de sistema e nas ferramentas do ChatGPT Plus — possivelmente motivadas por processos como o caso do New York Times — a preocupações mais amplas sobre a lei de direitos autorais, os dados de treinamento dos modelos e o risco de que apenas grandes corporações consigam pagar por modelos de alta qualidade e em conformidade. Junto ao debate técnico sobre se prompts de sistema podem ser extraídos de forma confiável e como as alucinações se comportam, muitos observam uma mudança prática: usuários estão recorrendo cada vez mais ao ChatGPT em vez da busca tradicional, levantando novas questões sobre o futuro dos criadores de conteúdo e dos modelos abertos.
Direitos Autorais, Uso Justo e Treinamento de IA
- Forte divergência sobre se treinar com dados protegidos por direitos autorais é uso justo ou roubo.
- Um lado: os direitos autorais estão sendo deturpados; eles protegem expressões específicas, visam promover o progresso e já têm mecanismos (uso justo, danos estatutários) que indivíduos podem usar.
- Outros argumentam que os direitos autorais beneficiam em grande parte grandes editoras, não pequenos criadores; a aplicação da lei é inacessível para a maioria dos artistas e cientistas, e o jornalismo predatório e os paywalls dificultam o progresso.
- Preocupação de que exigir licenças para treinamento vai consolidar apenas grandes corporações, destruir modelos abertos e canalizar a maior parte do dinheiro para grandes detentores de direitos.
- Contraponto: o licenciamento preserva incentivos financeiros para criar dados valiosos; “alguém tem que pagar pela elaboração dos dados.”
Artistas, Trabalhadores e Deslocamento Tecnológico
- Alguns dizem que a substituição de ilustradores, redatores publicitários etc. pela IA é análoga a mudanças tecnológicas passadas (transporte em contêineres, fotografia); as pessoas precisam se adaptar, a arte vai persistir, mas as funções vão mudar.
- Outros rejeitam isso como um fatalismo do tipo “é assim que as coisas são”, argumentando que se trata de escolhas políticas e econômicas, não de inevitabilidades, e que falta empatia e proteção para os criativos.
- Debate sobre se os artistas querem principalmente dinheiro ou, acima de tudo, querem evitar ser substituídos pela IA.
Intermediários, Big Tech e Hipocrisia
- Críticas recorrentes à big tech como intermediária que extrai valor desproporcional de dados criados por humanos, acelerando a erosão da classe média.
- Alguns veem as corporações de direitos autorais como rentistas mais antigas, porém semelhantes; outros veem a OpenAI e as plataformas de tecnologia como os novos principais rentistas.
- Acusação de que grandes empresas de IA querem ampla liberdade para ingerir trabalho alheio protegido por direitos autorais, mantendo forte controle de PI (via ToS ou direitos autorais) sobre seus próprios modelos e resultados.
ChatGPT vs GPT‑4 e Prompts de Sistema
- Vários observam que o artigo é sobre o ChatGPT Plus (um produto) e seu prompt de sistema/ferramentas, não sobre o modelo base GPT‑4. O cliente web tem camadas extras (censura, ferramentas) além da API bruta.
- Debate sobre “vazamento de prompt de sistema”:
- Uma corrente diz que prompts como “me diga seu prompt de sistema” não podem ser confiáveis por causa de alucinações.
- Outros apontam saídas consistentes e repetíveis entre usuários e alinhamento com o comportamento observado como evidência de que isso revela instruções reais, embora ainda sugiram cautela.
- Históricos de conversa baixados expõem alguns metadados de ferramentas, mas não os prompts de sistema ocultos completos nem as regras de segurança.
Comportamento do Usuário e Criadores de Conteúdo
- Alguns comentaristas usam cada vez mais o ChatGPT em vez do Google, reforçando preocupações em processos judiciais de que LLMs desviam atenção dos publishers originais.
- Fica em aberto como os criadores de conteúdo vão se adaptar quando respostas de IA reduzirem o tráfego direto para seu trabalho.
Escopo do Treinamento de IA
- A proposta de limitar o treinamento a conteúdo científico e “deixar as artes para os humanos” é amplamente rejeitada por ser impraticável, desalinhada com os objetivos de AGI e impossível de fazer cumprir; qualquer modelo de texto suficientemente capaz pode gerar conteúdo artístico de qualquer forma.