Las grandes empresas de IA están contratando filósofos
Contratación de filósofos para laboratorios de IA
- Varios comentaristas con formación en filosofía preguntan cómo dar el salto a estos puestos.
- Otros responden que un minor no es suficiente; es probable que los puestos requieran estar bien publicado y muy citado.
- La competencia se percibe como intensa: roles vagos, compensación muy alta y muchos candidatos con cualificaciones similares.
Escepticismo sobre la escala y las motivaciones
- Algunos dudan de la afirmación del artículo de que los laboratorios estén contratando “a muchos” filósofos, y sospechan que solo hay unos pocos junto a cientos de ingenieros.
- Hay preocupación de que los filósofos se contraten principalmente para relaciones públicas o para respaldar posiciones ya decididas, en vez de cuestionarlas críticamente.
- Se hacen analogías con nutricionistas contratados después de construir una cadena de comida rápida, o psicólogos contratados para hacer más adictivas las redes sociales.
El papel de la filosofía en el comportamiento y la ética de la IA
- La discusión destaca dos marcos éticos principales: la deontología (reglas, deberes, restricciones) y el consecuencialismo (análisis coste-beneficio, razonamiento utilitarista).
- Se percibe que distintos laboratorios se inclinan hacia uno u otro en sus “constituciones” y objetivos de seguridad.
- Algunos consideran útiles a los filósofos para la especificación de valores, las restricciones del entrenamiento de modelos y cuestiones sobre la posible sentiencia de la IA y su estatus moral.
- Otros sostienen que sociólogos o matemáticos podrían ser más adecuados para cuestiones sociales o técnicas.
LLMs, contexto y prompting “filosófico”
- Varios comentarios señalan que los LLMs rinden mejor cuando se les da un contexto rico: el problema, la intención y el razonamiento detrás de una función, no solo instrucciones imperativas.
- Hay debate sobre si esto es realmente “filosofía” o simplemente una mejor formulación del problema; el consenso se inclina hacia que se trata de contexto, aunque algunos ven una superposición con formas prácticas de pensamiento de la filosofía de la acción.
- Se trazan paralelismos con el trabajo de desarrollo humano y el “problema XY” de especificar soluciones en lugar de los problemas subyacentes.
Conciencia, teoría política y alineamiento
- El hilo explora experimentos mentales: dilemas del tranvía, conciencia gradual desde los animales hasta la IA, y si los sistemas solo de lenguaje encajan en ese espectro.
- Hay desacuerdo sobre cómo futuras IA superinteligentes podrían evaluar las normas políticas humanas (por ejemplo, la secesión, la autodeterminación).
- Algunos señalan que las empresas de IA tienen incentivos para insistir en que los modelos no son conscientes, a fin de evitar restricciones éticas sobre su uso.
Academia, carreras y confianza
- Las afirmaciones de una “hemorragia” de filósofos desde la academia reciben escepticismo; las plazas en filosofía siguen siendo escasas y competitivas.
- Se considera que algunos académicos encajan bien en roles orientados al negocio, mientras que otros solo en la investigación tradicional.
- Surge una preocupación más amplia sobre un “futuro de desconfianza negativa” en el que las relaciones públicas, el contenido generado por IA y los relatos corporativos moldeen cada vez más lo que el público cree sobre la IA.