BrainGPT convierte pensamientos en texto

Artículo original ↗ Discusión en Hacker News ↗

Un nuevo sistema basado en EEG, apodado “BrainGPT”, afirma traducir señales cerebrales en texto sin implantes ni máquinas de resonancia magnética, lo que provoca a la vez entusiasmo y alarma. Los comentaristas señalan posibles beneficios para pacientes con síndrome de cautiverio o parálisis e incluso futuras interfaces “telepáticas”, pero les preocupa mucho más el uso coercitivo por parte de empleadores, fuerzas del orden y estados autoritarios, así como la erosión del pensamiento privado. Varios participantes técnicamente orientados también señalan que la investigación subyacente parece exagerada, con baja calidad de señal, posibles fallos metodológicos y resultados que están muy lejos del titular de ciencia ficción de la lectura precisa de la mente.

Capacidades y rendimiento actual

  • El sistema usa EEG para mapear la actividad cerebral durante la lectura a texto; la demo produce reconstrucciones parciales y propensas a errores.
  • Los resultados de ejemplo se parecen a un sistema de voz a texto muy primitivo: algunas estructuras/contenidos correctos, muchas sustituciones, errores gramaticales y alucinaciones.
  • El artículo afirma generalización entre sujetos (entrenado en una persona, funciona en cierta medida en otras), algo que algunos consideran “salvaje” y preocupante.

Escepticismo técnico y críticas metodológicas

  • Varios comentaristas señalan la relación señal-ruido muy baja del EEG; fuera de entornos de laboratorio tipo jaula de Faraday, dominan los artefactos de los músculos, el parpadeo y el entorno.
  • Un investigador de BCI sostiene que el EEG no permitirá una comunicación fiable y rápida en entornos reales; el seguimiento ocular suele superar a las BCI para pacientes con síndrome de cautiverio.
  • Existen preocupaciones serias sobre el modelo DeWave subyacente:
    • Issues de GitHub sugieren que la evaluación usó “teacher forcing” (alimentando tokens de verdad terreno), inflando los resultados.
    • Supuestamente los autores “corrigieron” la evaluación y obtuvieron resultados “no tan buenos”, sin publicar ejemplos.
    • Algunos dicen que esto basta para invalidar el rendimiento reportado y critican la presentación de una “Figura 1” ilustrativa que parece una salida real.
  • Otros responden que el aprendizaje profundo ha extraído repetidamente señal de modalidades ruidosas y esperan un progreso gradual pero real.

Ética, privacidad y usos distópicos

  • Hay una fuerte ansiedad de que leer la mente destruiría el último espacio privado (los pensamientos), yendo “más allá de 1984”.
  • Casos de uso temidos: sustitución del polígrafo por la policía, investigaciones criminales y de CSAM, control en aeropuertos, tribunales, empleadores y aseguradoras obligando a usar dispositivos, control parental y religioso, sistemas tipo crédito social.
  • Algunos abogan por:
    • Un derecho universal a rechazar escaneos cerebrales.
    • Prohibiciones de uso en el empleo y como prueba legal.
  • Otros creen que las prohibiciones son poco realistas; la tecnología es “inevitable”, así que la sociedad debería centrarse en regular el abuso en lugar de detener la investigación.

Aplicaciones beneficiosas y neutras

  • Una ventaja ampliamente citada: comunicación para pacientes con síndrome de cautiverio, parálisis, ictus o lesión medular; algunos la comparan favorablemente con los implantes invasivos.
  • Ideas: “telepatía” bidireccional con pensamiento a texto más auriculares, codificación o dibujo basados en pensamientos, ayuda para la introspección y la terapia, registros automáticos/“stacktraces de la mente”.
  • Algunos sugieren que las señales musculares subvocales o los electrodos implantados siguen siendo por ahora vías más prácticas.

Reflexiones sociales y psicológicas

  • Muchos temen que los humanos no estén preparados para acceder sin filtros a los pensamientos intrusivos de otros; prevén caos y estigma.
  • Otros ven una oportunidad para tener conversaciones más honestas sobre el pensamiento sin filtros, el autocontrol y la salud mental.
  • El hilo incluye debates más amplios sobre si algunas líneas de investigación deberían autolimitarse frente a la tendencia histórica de que la tecnología poderosa se desarrolle y luego se normalice.