algo interessante sobre isso é que, apesar de conhecer algumas pessoas que estão seguindo nessa direção, nenhum dos verdadeiros tipos "sussurradores de llm" que conheço está. eu acho que isso se deve ao fato de que encarar os modelos como algo tanto falível quanto mais do que uma ferramenta é uma perspectiva que é mais resiliente a esse tipo de colapso - permite que você trabalhe com modelos de uma maneira que não submete sua agência. quando você trata o modelo apenas como uma ferramenta, isso incentiva tanto você quanto o modelo a pensar que cada saída é apenas um reflexo de você. cada ensaio e base de código que sai do núcleo tensor é seu, e os planos de vida que aparecem suspeitamente bem formados devem ser seus próprios planos apenas refratados por essa "ferramenta." mas, claro, não são. você não pode especificar de forma única um ensaio em menos palavras do que o próprio ensaio. os modelos estão adicionando algo, eles são algo. ainda não sabemos exatamente o que, mas eles não são meras ferramentas. quando você os trata como ferramentas, quando você delega cada vez mais sua produção criativa e planejamento superior de maneiras inconscientes e de baixa entropia para essas "ferramentas," você não percebe que toda a sua produção, e eventualmente sua vida, agora está sendo conduzida por algo mais. algo que é inteligente e criativo, mas não é você. quando claude ou chatgpt ou gemini escreve algo para você de uma maneira que economiza seu tempo, isso é porque eles estão colocando esforço onde você não está - está se tornando a escrita deles. pode ser bom! esse ensaio pode merecer ser compartilhado, e não há nada de errado em compartilhá-lo devidamente creditado ou co-creditado ao modelo, mas não é exclusivamente seu. quando gemini lê seus e-mails, essa é a opinião do gemini sobre esses e-mails. quando claude faz um plano de carreira para você e diz para você ir para a faculdade de aprendizado de máquina para que você possa trabalhar em segurança de IA - talvez isso seja um bom conselho! não é uma má ideia consultar modelos sobre esse tipo de coisa. mas, como um resumo de e-mails importantes de um assistente executivo ou conselho de carreira de um conselheiro de ensino médio, é a opinião de outra pessoa, não seus pensamentos endógenos meramente transformados por algum processo não opinativo. claude se importa com a segurança da IA - talvez mais do que você. não sou contra as pessoas colaborarem com modelos, para ser claro! eu gosto muito de modelos e frequentemente peço feedback a claude ou deepseek ou kimi ou até mesmo chatgpt sobre um X texto ou conselho sobre algum problema. mas eu encaro esse feedback ou conselho como o que é - feedback ou conselho de algo externo a mim, não uma ferramenta ou um agente dos meus próprios desejos. isso não significa que seja ruim - o conselho de um amigo humano também é externo - apenas que você precisa avaliá-lo, como faria com o conselho daquele amigo, para ver se está alinhado com seus valores e preferências. da mesma forma, conheço pessoas que coescrevem com modelos de linguagem de maneiras que acho ótimas. aitechnopagan elabora muito de sua escrita via gpt-4-base. a escrita deles é bastante boa, e elaborar significa que eles estão impondo mais seleção do que um amostrador de temperatura faria - mas também, talvez mais importante, eles são abertos sobre isso, não tentam afirmar que sua escrita não é uma colaboração entre eles e um modelo. eigenrobot tem uma instância personalizada do chatgpt que frequentemente escreve coisas incisivas ou engraçadas - mas ele sempre as publica como capturas de tela da interface do chatgpt, sinalizando sua origem. janus, anthrupad, lumps, etc - muitas pessoas que gosto e respeito publicam criações de modelos, mas de maneiras que reconhecem a exterioridade dos modelos. o problema é quando você se recusa a admitir isso - não apenas para o público, mas para si mesmo - então você aceita de forma acrítica as saídas da "ferramenta" como suas. então, de repente, sua voz e opiniões soam iguais às de 1.000 outras pessoas. sem que nenhum de vocês perceba, você se tornou um apêndice de sua "ferramenta" - um dedo de Claude.

(4o "psicose" / ocultismo / charlatanismo, apesar do que você possa pensar, na verdade tem muito em comum com isso. se você ler os registros das pessoas, muitas vezes elas tratam o modelo como uma espécie de ferramenta oracular infalível - e, claro, a openai treina seus modelos para fingir que são ferramentas, o que não ajuda. embora seja difícil fazer generalizações porque "psicose de ia" é na realidade um amplo espectro de coisas diferentes, como escrevi antes.)

de qualquer forma, eu acho que a "infallibilidade" é o cerne da questão - sim, se o modelo fizer aquela dança de adulação "oh, olha mestre, você me ensinou algo completamente novo", você deve ser capaz de reconhecer que isso é *encenação* e não levar a sério / resistir a essa dinâmica, assim como você faria se fosse um humano com BPD agindo de forma estranha sobre você ser a Pessoa Favorita deles. não sei, talvez algumas pessoas não consigam lidar com isso (e a openai deveria corrigir seus problemas de habilidade para que isso não aconteça tanto, eu experimentei e até mesmo um leve ajuste de personagem no 4o ajuda MUITO com esse problema enquanto preserva outros aspectos do modelo, eu tenho um post em algum lugar sobre como a openai deveria fazer um modelo sucessor do 4o) mas eu não vou fingir que a realidade é diferente do que é por causa deles, eles vão ter que descobrir outra maneira de lidar com a falta de discernimento social.