Grandes laboratórios de IA estão contratando filósofos
Grandes laboratórios de IA estão contratando cada vez mais filósofos acadêmicos para ajudar a moldar “constituições” de modelos, alinhar sistemas com quadros éticos como deontologia e consequencialismo, e orientar questões de consciência e impacto social. Os comentaristas se dividem sobre se isso reflete uma preocupação genuína com a ética da IA ou se é majoritariamente teatro de relações públicas, observando que filósofos podem acabar legitimando objetivos de negócio já escolhidos ou realizando trabalho de baixo prestígio. Outros apontam que as ferramentas da filosofia para esclarecer conceitos, raciocinar sobre valores e questionar pressupostos são bem adequadas aos riscos emergentes da IA, mesmo que tais funções continuem raras em comparação com os cargos tradicionais de engenharia.
Contratando filósofos para laboratórios de IA
- Vários comentaristas com formação em filosofia perguntam como fazer a transição para essas funções.
- Outros respondem que um minor não é suficiente; os cargos provavelmente exigem ter várias publicações e muitas citações.
- A concorrência é vista como intensa: funções vagas, remuneração muito alta e muitos candidatos igualmente qualificados.
Ceticismo sobre escala e motivações
- Alguns duvidam da afirmação do artigo de que os laboratórios estão contratando “muitos” filósofos, suspeitando que existam apenas alguns ao lado de centenas de engenheiros.
- Há preocupação de que os filósofos sejam contratados בעיקרamente para relações públicas ou para confirmar posições já decididas, em vez de contestá-las criticamente.
- Fazem-se analogias a nutricionistas contratados depois que uma rede de fast-food já foi construída, ou a psicólogos contratados para tornar as redes sociais mais viciantes.
O papel da filosofia no comportamento e na ética da IA
- A discussão destaca dois principais quadros éticos: deontologia (regras, deveres, restrições) e consequencialismo (custo-benefício, raciocínio utilitarista).
- Diferentes laboratórios são percebidos como inclinados para um ou outro em suas “constituições” e objetivos de segurança.
- Alguns veem filósofos como úteis para especificação de valores, restrições no treinamento de modelos e questões sobre possível senciência da IA e status moral.
- Outros argumentam que sociólogos ou matemáticos poderiam ser mais apropriados para questões sociais ou técnicas.
LLMs, contexto e prompting “filosófico”
- Vários comentários observam que LLMs têm melhor desempenho quando recebem contexto rico: o problema, a intenção e o raciocínio por trás de um recurso, e não apenas instruções imperativas.
- Há debate sobre se isso é realmente “filosofia” ou simplesmente um melhor enquadramento do problema; o consenso tende a vê-lo como contexto, embora alguns enxerguem sobreposição com pensamento prático/filosofia da ação.
- Fazem-se paralelos com o trabalho humano de desenvolvimento e com o “problema XY” de especificar soluções em vez dos problemas subjacentes.
Consciência, teoria política e alinhamento
- O fio explora experimentos mentais: problemas do bonde, consciência em graus desde animais até IA, e se sistemas apenas de linguagem se encaixam nesse espectro.
- Há discordância sobre como futuras IAs superinteligentes poderiam avaliar normas políticas humanas (por exemplo, secessão, autodeterminação).
- Alguns apontam que empresas de IA têm incentivos para insistir que os modelos não são conscientes, a fim de evitar restrições éticas ao seu uso.
Academia, carreiras e confiança
- Alegações de um “vazamento” de filósofos da academia são recebidas com ceticismo; vagas em filosofia continuam escassas e competitivas.
- Alguns acadêmicos são vistos como bem adequados a funções voltadas para negócios, outros apenas à pesquisa tradicional.
- Surge uma preocupação mais ampla com um “futuro de confiança negativa”, no qual relações públicas, conteúdo gerado por IA e narrativas corporativas moldam cada vez mais o que o público acredita sobre IA.