Las cámaras C2PA no sobreviven al contacto con la realidad

Artículo original ↗ Discusión en Hacker News ↗

Los intentos de demostrar criptográficamente que fotos y vídeos son “reales” usando firmas de cámara al estilo C2PA son ampliamente criticados por ser técnicamente frágiles y fáciles de eludir, especialmente en dispositivos rooteados o comprometidos y mediante atajos analógicos como fotografiar una pantalla. Los comentaristas temen que estos sistemas generen una falsa confianza en los medios “verificados”, sean armados por actores poderosos y justifiquen un mayor bloqueo de hardware/software, al tiempo que ofrecen poca protección contra la desinformación de alto riesgo. Algunos siguen viendo un valor limitado en añadir fricción a falsificaciones de baja sofisticación o en flujos de trabajo controlados (p. ej., redacciones, cumplimiento y licencias), pero la mayoría sostiene que la procedencia de las imágenes no puede resolver de forma fiable el problema más amplio de la confianza.

Alcance y objetivos de C2PA

  • Muchos comentaristas sostienen que C2PA nunca podrá ofrecer garantías de “esto es un evento del mundo real”, solo procedencia/atestación para alguna cadena de herramientas o editores.
  • Algunos lo ven principalmente como una forma de que organizaciones (redacciones, agencias, anunciantes) muestren trazas de auditoría, no para probar la realidad de base.
  • Existe confusión entre las afirmaciones de marketing (“capturado con una cámara” como distintivos) y lo que la tecnología realmente puede asegurar.

Limitaciones técnicas y ataques

  • Los teléfonos rooteados o comprometidos pueden falsificar metadatos C2PA; los enfoques actuales en Android se comparan con la “verificación de contraseña del lado del cliente”.
  • La atestación por hardware se considera más fuerte que la de software, pero sigue siendo vulnerable a exploits, problemas de cadena de suministro y ataques físicos (p. ej., glitching, manipulación de módulos de cámara, rotura de componentes tipo TPM).
  • Varios señalan que acercar el chip de firma al sensor ayuda, pero no puede hacerse perfectamente seguro, especialmente contra actores con muchos recursos.

Analog hole y ambigüedad “real vs IA”

  • Un punto recurrente: cualquiera puede fotografiar una pantalla o una impresión de una imagen generada por IA; este ataque de “aislamiento por aire” socava fundamentalmente cualquier afirmación de “real vs IA”.
  • Se discuten ideas como incrustar datos LiDAR/profundidad o firmas del sensor; algunos piensan que eso podría elevar el listón, otros creen que al final seguiría siendo evadible.
  • Los comentaristas señalan que incluso los negativos de película y el trabajo de cuarto oscuro pueden falsificarse o derivarse de fuentes digitales.

Utilidad vs daño

  • Una postura: C2PA es como una cerradura: imperfecta, pero añade fricción, bloqueando abusos casuales y “slop” sin detener a los estados nación.
  • La postura opuesta: como es más débil en los casos de alto riesgo (desinformación, pruebas legales), corre el riesgo de generar una falsa confianza y hacer que el fraude serio sea más fácil de vender. Se hacen comparaciones con DRM o con indicadores de “confianza” engañosos.
  • Algunos sostienen que el mejor resultado es que la sociedad aprenda que las fotos ya no prueban nada por sí solas.

Casos de uso alternativos / restringidos

  • Usos productivos sugeridos:
    • Procedencia interna para organizaciones de medios.
    • Cumplimiento y seguros en publicidad (probar que no se usó IA cuando los contratos o las leyes lo exigen).
    • Ayudar a curar datos de entrenamiento de ML etiquetando al menos algunas imágenes “originales”.
    • Disputas legales o comerciales de bajo riesgo donde una garantía modesta es suficiente.

Preocupaciones regulatorias y del ecosistema

  • Temor a que los sistemas tipo C2PA justifiquen dispositivos bloqueados criptográficamente, marginando a los teléfonos rooteados y a los sistemas operativos de código abierto, y creando un pequeño cártel de proveedores “de confianza” que controlen las claves.
  • Algunos proponen mandatos legales para etiquetar contenido generado por IA y mostrar el país de origen en las publicaciones; otros dudan de la viabilidad de la aplicación y se preocupan por consecuencias no deseadas.