Más preguntas sobre si los investigadores pueden confiar en OpenAI con matemáticas no publicadas
Las acusaciones de que los modelos de OpenAI pudieron usar registros privados de chat de matemáticos para ayudar a resolver problemas abiertos importantes han intensificado las preocupaciones sobre el uso indebido de datos y el crédito académico. Los comentaristas debaten si los recientes “avances de IA” en áreas como Navier–Stokes y la teoría de grupos reflejan una innovación algorítmica genuina o la agregación y amplificación de trabajo humano casi terminado, posiblemente obtenido mediante chats de investigación y prompts de usuarios. Muchos ven esto como una advertencia más amplia sobre confiar propiedad intelectual sensible a la IA en la nube, y abogan por modelos locales, una regulación más estricta y garantías más claras sobre los datos de entrenamiento y la atribución.
Supuesto uso de matemáticas no publicadas en el entrenamiento
- Varios matemáticos afirman que los modelos internos de OpenAI probablemente se entrenaron con sesiones privadas de ChatGPT/Codex que contenían trabajo en curso sobre problemas difíciles (p. ej., problemas del Premio del Milenio).
- Un matemático dice que se excluyó del entrenamiento a finales de junio, preguntó a OpenAI por el uso anterior y al principio obtuvo una no respuesta; luego recibió una declaración posterior de que los datos posteriores a principios de julio no pudieron haber influido en el sistema.
- Muchos comentaristas señalan que es prácticamente imposible para personas externas verificar si esas afirmaciones son ciertas.
Plagio, adelanto y atribución
- Una queja central: supuestamente los laboratorios de IA “adelantaron” trabajo casi terminado, aplicando enormes cantidades de cómputo y equipos internos, y luego comercializando las soluciones como avances de IA.
- Las acusaciones incluyen: usar chats privados como datos de entrenamiento, omitir o minimizar a contribuyentes humanos clave en las citas, e intentar moldear la autoría para excluir a colaboradores de laboratorios rivales.
- Otros sostienen que no hay pruebas concretas de robo deliberado, comparan esto con el adelanto tradicional en el ámbito académico y señalan que los propios matemáticos usaron herramientas de IA.
Capacidades frente a aprovechar trabajo ajeno
- Un bando ve los resultados como evidencia genuina de que los modelos de frontera pueden lograr grandes avances matemáticos mediante búsqueda basada en agentes más asistentes de pruebas (p. ej., Lean), incluso si se basan en marcos ya conocidos.
- Otro argumenta que los “avances” quizá sean sobre todo la explotación sistemática de un “colchón” existente de ideas humanas y trabajo parcialmente terminado, no creatividad autónoma.
Uso de datos, consentimiento y patrones oscuros
- A muchos les sorprendió o molestó que, por defecto, los prompts se usen para entrenamiento, y que desactivar esa opción esté oculto, pueda restablecerse o pueda eludirse parcialmente (p. ej., mediante comentarios de pulgar arriba/abajo o “fines analíticos”).
- Debate sobre si el uso de datos de usuario “desidentificados” para entrenamiento es aceptable; algunos lo ven como explotación y apropiación, incluso si está dentro de los TOS.
Impacto en la matemática y las carreras de investigación
- Hay informes de que los estudiantes se preguntan si deberían cursar doctorados en matemáticas puras si los laboratorios de IA pueden adelantarse y eclipsar su trabajo.
- Algunos prevén un cambio hacia flujos de trabajo privados y no en la nube, un timestamp temprano al estilo arXiv, o subvenciones para modelos locales.
Confianza general y preocupaciones estructurales
- Sentimiento generalizado de que los grandes laboratorios de IA, construidos sobre raspado masivo de datos y uso agresivo de propiedad intelectual, son fundamentalmente poco fiables.
- Llamamientos a una regulación más fuerte, estándares de consentimiento más claros y un impulso hacia modelos locales/abiertos; otros argumentan que esto es una “opsec de sentido común” que los usuarios deben adoptar.