Mais perguntas sobre se pesquisadores podem confiar à OpenAI matemática não publicada
Acusações de que os modelos da OpenAI podem ter usado registros privados de conversas de matemáticos para ajudar a resolver grandes problemas em aberto intensificaram as preocupações com uso indevido de dados e crédito acadêmico. Comentadores debatem se recentes “avanços de IA” em áreas como Navier–Stokes e teoria de grupos refletem inovação algorítmica genuína ou a agregação e amplificação de trabalho humano quase concluído, possivelmente obtido por meio de chats de pesquisa e prompts de usuários. Muitos veem isso como um aviso mais amplo sobre confiar propriedade intelectual sensível à IA na nuvem, defendendo modelos locais, regulamentação mais forte e garantias mais claras sobre dados de treinamento e atribuição.
Suposto uso de matemática não publicada no treinamento
- Vários matemáticos afirmam que os modelos internos da OpenAI provavelmente foram treinados em sessões privadas do ChatGPT/Codex contendo trabalho em andamento sobre problemas difíceis (por exemplo, problemas do Prêmio Millennium).
- Um matemático diz que optou por não participar do treinamento no fim de junho, perguntou à OpenAI sobre uso anterior e, inicialmente, recebeu uma resposta evasiva; depois veio uma declaração de que dados após o início de julho não poderiam ter influenciado o sistema.
- Muitos comentaristas observam que é praticamente impossível para pessoas de fora verificar se tais afirmações são verdadeiras.
Plágio, scooping e atribuição
- Uma reclamação central: supostamente, laboratórios de IA “roubaram a vez” de trabalhos quase concluídos ao despejar enorme poder computacional e equipes internas sobre eles, depois promovendo as soluções como avanços de IA.
- As acusações incluem: usar chats privados como dados de treinamento, omitir ou minimizar contribuições humanas importantes nas citações e tentar moldar a autoria para excluir colaboradores em laboratórios concorrentes.
- Outros argumentam que não há prova concreta de roubo deliberado, comparam isso ao scooping tradicional na academia e observam que os próprios matemáticos usaram ferramentas de IA.
Capacidades vs. carona
- Um grupo vê os resultados como evidência genuína de que modelos de ponta podem fazer grandes avanços matemáticos por meio de busca baseada em agentes mais assistentes de prova (por exemplo, Lean), mesmo que com base em estruturas já conhecidas.
- Outro argumenta que os “avanços” podem ser, em sua maioria, exploração sistemática de um “excedente” já existente de ideias humanas e trabalho parcialmente concluído, e não criatividade autônoma.
Uso de dados, consentimento e dark patterns
- Muitos ficaram surpresos ou irritados ao descobrir que prompts são usados por padrão para treinamento e que a opção de não participar fica escondida, pode ser redefinida ou contornada parcialmente (por exemplo, por meio de feedback de polegar para cima/baixo ou “fins analíticos”).
- Há debate sobre se o uso de dados “desidentificados” de usuários para treinamento é aceitável; alguns veem isso como exploração e apropriação, mesmo que esteja dentro dos TOS.
Impacto na matemática e nas carreiras de pesquisa
- Há relatos de estudantes questionando se vale a pena seguir doutorados em matemática pura se laboratórios de IA podem antecipar e ofuscar seus trabalhos.
- Alguns preveem uma mudança para fluxos de trabalho privados, sem nuvem, marcação antecipada de tempo estilo arXiv ou bolsas para modelos locais.
Confiança mais ampla e preocupações estruturais
- Há um sentimento generalizado de que grandes laboratórios de IA, construídos sobre raspagem em massa e uso agressivo de propriedade intelectual, são fundamentalmente pouco confiáveis.
- Há pedidos por regulamentação mais forte, padrões de consentimento mais claros e uma defesa de modelos locais/abertos; outros argumentam que isso é “opsec de bom senso” que os usuários precisam adotar.