Uma simulação de mim: ajuste fino de um LLM em 240 mil mensagens de texto
O ajuste fino de grandes modelos de linguagem em registros pessoais de chats, e-mails e diários está surgindo como uma forma de criar “doppelgängers” de IA que imitam o tom, as preferências e até partes da vida interior de uma pessoa. Os comentaristas ponderam usos potenciais que vão de conversar com entes queridos falecidos e preservar a história familiar a serviços póstumos e marketing, juntamente com preocupações sobre luto, obsessão, consentimento, direitos autorais e o risco de confundir rastros textuais curados com uma pessoa real. Detalhes técnicos, como escolha de modelo, métodos de treinamento e limites de hardware, aparecem ao lado de referências à ficção científica que há muito explora fantasmas digitais e selves carregados para máquinas.
Questões terapêuticas e emocionais
- Alguns acham que conversar com um “fantasma” de IA de um ente querido poderia ser reconfortante ou terapêutico; outros argumentam que isso corre o risco de prolongar o luto, criar dependência pouco saudável ou obsessão em “melhorar” a simulação.
- São feitas comparações com mensagens de voz guardadas, médiuns e sistemas de vídeo memoriais que respondem a perguntas após a morte; não está claro se isso realmente ajuda as pessoas a se curarem.
- As preocupações incluem “revelações” alucinadas (por exemplo, supostas traições ou favoritismo) e o risco de as pessoas escolherem simulações de parceiros falecidos em vez de processar términos.
- Alguns sugerem que o enquadramento mais saudável é tratá-lo como uma lembrança digital, não como um substituto.
Ética, consentimento e uso de dados
- Alguns participantes consideram antiético treinar em mensagens de outra pessoa sem permissão explícita; outros veem isso como não pior do que um humano ler e internalizar texto.
- Há debate sobre se treinar em texto com direitos autorais é semelhante a copiar um livro; existe forte divergência sobre se modelos são “compressões” de conjuntos de dados e o que isso implica legal e moralmente.
Abordagens técnicas e limitações
- Pessoas compartilham tentativas usando modelos mais antigos (GPT-2, GPT-J) com grandes registros de chats, muitas vezes produzindo saídas no tema, mas incoerentes. Modelos mais novos (por exemplo, Mistral) são relatados como muito melhores.
- Discussão sobre ajuste fino vs. embeddings: ajuste fino para estilo/persona, embeddings e recuperação para recordação factual, às vezes combinados com busca direta em notebooks/e-mails.
- São discutidas restrições de hardware e quantização; o consenso é que modelos maiores e fortemente quantizados podem superar modelos pequenos de alta precisão, inclusive para ajuste fino LoRA de baixa precisão.
- Dicas práticas: exportar e-mails, configurar IMAP local, usar repositórios e tutoriais existentes de ajuste fino.
Possíveis aplicações e ideias de negócio
- Os serviços imaginados incluem chatbots de ancestrais, DMs póstumas, mundos de “fantasmas” em cemitérios ou MMOs, assistentes de inventário/saga familiar e ofertas gerenciadas de “legado digital”.
- Alguns esperam que grandes empresas de tecnologia eventualmente comercializem tais serviços usando históricos de e-mails e mensagens; outros desconfiam da privacidade e da criação de perfis para marketing.
Enquadramento cultural, filosófico e de ficção científica
- Atitudes não ocidentais em relação aos ancestrais podem tornar tais serviços mais aceitáveis em algumas culturas.
- Vários veem o risco de simulacros idealizados e curados piorarem sentimentos de inadequação, de forma semelhante às personas nas redes sociais.
- Numerosas obras de ficção científica são citadas por explorar duplos digitais, simulações póstumas e suas consequências não intencionais, reforçando tanto o fascínio quanto o desconforto.