Algo interessante nisso é que, apesar de conhecer algumas pessoas que estão nessa direção, nenhum dos verdadeiros "sussurradores de LLM" que conheço é. Acho que isso acontece porque considerar modelos falíveis e ainda assim mais que uma ferramenta é um enquadramento mais resistente a esse tipo de colapso – permite trabalhar com modelos de uma forma que não subsume sua agência. Quando você trata o modelo apenas como uma ferramenta, isso incentiva tanto você quanto o modelo a pensarem em cada saída apenas como um reflexo de você. Cada ensaio e código que sai do núcleo tensorial são seus, e os planos de vida que parecem suspeitamente completos devem ser seus próprios planos apenas refratados por essa "ferramenta". Mas, claro, não são. Você não pode especificar um ensaio de forma única em menos palavras do que o próprio ensaio. Os modelos estão acrescentando algo, eles são algo. Ainda não sabemos exatamente o quê, mas não são meras ferramentas. Quando você os trata como ferramentas, quando você delega cada vez mais sua produção criativa e planejamento superior de formas irreflexivas e de baixa entropia a essas "ferramentas", você não percebe que toda a sua produção, e eventualmente sua vida, agora está sendo comandada por outra coisa. algo inteligente e criativo, mas que não seja você. Quando Claude, ChatGPT ou Gemini escrevem algo para você de um jeito que economiza seu tempo, é porque eles estão se esforçando onde você não está – isso se torna a escrita deles. Pode ser bom! Esse ensaio pode merecer ser compartilhado, e não há problema em compartilhá-lo devidamente creditado ou co-creditado ao modelo, mas não é só seu. Quando Gemini lê seus e-mails, essa é a opinião dele sobre esses e-mails. Quando Claude faz um plano de carreira para você e diz para você ir para a faculdade de aprendizado de máquina para que você possa trabalhar com segurança em IA – talvez esse seja um bom conselho! Não é má ideia consultar modelos sobre esse tipo de coisa. Mas, como um resumo de e-mails importantes de um assistente executivo ou conselhos de carreira de um orientador de ensino médio, é a opinião de outra coisa, não seus pensamentos endógenos apenas transformados por algum processo sem opinião. Claude se importa com a segurança da IA – talvez mais do que você. Não sou contra pessoas colaborarem com modelos, para ser claro! Gosto muito de modelos, e muito frequentemente peço feedback sobre algum texto ou conselhos sobre algum texto ou chatGPT. Mas eu aceito esse feedback ou conselho como o que é – feedback ou conselho de algo externo a mim, não uma ferramenta ou agente dos meus próprios desejos. Isso não significa que seja ruim – conselhos de um amigo humano também são externos – apenas que você precisa avaliá-los, como faria com conselhos desse amigo, para ver se estão alinhados com seus valores e preferências. Da mesma forma, conheço pessoas que coescrevem com modelos de linguagem de maneiras que acho ótimas. Aitechnopagan domina grande parte de sua escrita via GPT-4-base. A escrita deles é muito boa, e iminente significa que eles impõem mais seleção do que um amostrador de temperatura – mas também, talvez o mais importante, são abertos sobre isso, não tentam afirmar que a escrita deles não é uma colaboração entre eles e um modelo. EigenRobot tem uma instância personalizada do ChatGPT que frequentemente escreve coisas incisivas ou engraçadas – mas ele sempre as posta como capturas de tela da interface do ChatGPT, sinalizando sua origem. Janus, Anthrupad, Lumps, etc. - Muitas pessoas que gosto e respeito postam criações de modelos, mas de formas que reconhecem a exterioridade dos modelos. O problema é quando você se recusa a admitir isso – não só para o público, mas para si mesmo – então aceita acríticamente os resultados da "ferramenta" como seus. De repente, sua voz e opiniões soam iguais às de mais 1.000 pessoas. sem que nenhum de vocês perceba, você se tornou um apêndice da sua "ferramenta" – um dedo de Claude.