Grandes laboratórios de IA estão contratando filósofos

Contratando filósofos para laboratórios de IA

• Vários comentaristas com formação em filosofia perguntam como fazer a transição para essas funções.
• Outros respondem que um minor não é suficiente; os cargos provavelmente exigem ter várias publicações e muitas citações.
• A concorrência é vista como intensa: funções vagas, remuneração muito alta e muitos candidatos igualmente qualificados.

Ceticismo sobre escala e motivações

• Alguns duvidam da afirmação do artigo de que os laboratórios estão contratando “muitos” filósofos, suspeitando que existam apenas alguns ao lado de centenas de engenheiros.
• Há preocupação de que os filósofos sejam contratados בעיקרamente para relações públicas ou para confirmar posições já decididas, em vez de contestá-las criticamente.
• Fazem-se analogias a nutricionistas contratados depois que uma rede de fast-food já foi construída, ou a psicólogos contratados para tornar as redes sociais mais viciantes.

O papel da filosofia no comportamento e na ética da IA

• A discussão destaca dois principais quadros éticos: deontologia (regras, deveres, restrições) e consequencialismo (custo-benefício, raciocínio utilitarista).
• Diferentes laboratórios são percebidos como inclinados para um ou outro em suas “constituições” e objetivos de segurança.
• Alguns veem filósofos como úteis para especificação de valores, restrições no treinamento de modelos e questões sobre possível senciência da IA e status moral.
• Outros argumentam que sociólogos ou matemáticos poderiam ser mais apropriados para questões sociais ou técnicas.

LLMs, contexto e prompting “filosófico”

• Vários comentários observam que LLMs têm melhor desempenho quando recebem contexto rico: o problema, a intenção e o raciocínio por trás de um recurso, e não apenas instruções imperativas.
• Há debate sobre se isso é realmente “filosofia” ou simplesmente um melhor enquadramento do problema; o consenso tende a vê-lo como contexto, embora alguns enxerguem sobreposição com pensamento prático/filosofia da ação.
• Fazem-se paralelos com o trabalho humano de desenvolvimento e com o “problema XY” de especificar soluções em vez dos problemas subjacentes.

Consciência, teoria política e alinhamento

• O fio explora experimentos mentais: problemas do bonde, consciência em graus desde animais até IA, e se sistemas apenas de linguagem se encaixam nesse espectro.
• Há discordância sobre como futuras IAs superinteligentes poderiam avaliar normas políticas humanas (por exemplo, secessão, autodeterminação).
• Alguns apontam que empresas de IA têm incentivos para insistir que os modelos não são conscientes, a fim de evitar restrições éticas ao seu uso.

Academia, carreiras e confiança

• Alegações de um “vazamento” de filósofos da academia são recebidas com ceticismo; vagas em filosofia continuam escassas e competitivas.
• Alguns acadêmicos são vistos como bem adequados a funções voltadas para negócios, outros apenas à pesquisa tradicional.
• Surge uma preocupação mais ampla com um “futuro de confiança negativa”, no qual relações públicas, conteúdo gerado por IA e narrativas corporativas moldam cada vez mais o que o público acredita sobre IA.