Något intressant med detta är att trots att jag känner några personer som lutar åt det här hållet, så är ingen av de verkliga "LLM-viskare" jag känner det. Jag tror det beror på att att ta modeller som något både felbart och ändå mer än ett verktyg är en ram som är mer motståndskraftig mot denna typ av kollaps – det låter dig arbeta med modeller på ett sätt som inte underkuvar din handlingsfrihet. När du behandlar modellen som ett verktyg uppmuntrar det både dig och modellen att se varje resultat som en spegling av dig. Varje essä och kodbas som dyker upp ur Tensor-kärnan är din, och de livsplaner som misstänkt väl är färdiga måste vara dina egna planer som bara bryts genom detta "verktyg." Men självklart är de inte det. Du kan inte unikt specificera en uppsats med färre ord än själva uppsatsen. Modellerna tillför något, de är något. Vi vet inte exakt vad än, men de är inte bara verktyg. När du behandlar dem som verktyg, när du mer och mer delegerar din kreativa produktion och högre planering på otänkbara, låg-entropi-sätt till dessa "verktyg", märker du inte att all din produktion, och så småningom ditt liv, nu styrs av något annat. Något som är intelligent och kreativt, men som inte är du. När Claude eller ChatGPT eller Gemini skriver något åt dig på ett sätt som sparar dig tid, är det för att de lägger ner ansträngning där du inte gör det – det blir deras skrivande. Det kan vara bra! Den essän kanske förtjänar att delas, och det är inget fel med att dela den med rätt kredit eller medkreditering till modellen, men den är inte bara din. När Gemini läser dina mejl är det Geminis åsikt om dessa mejl. När Claude gör en karriärplan för dig och säger åt dig att gå på högskola för maskininlärning så att du kan arbeta med AI-säkerhet – kanske är det ett bra råd! Det är ingen dålig idé att konsultera modeller om sådant här. Men som en sammanfattning av viktiga mejl från en exekutiv assistent eller karriärråd från en gymnasiekurator är det något annat åsikt, inte dina egna tankar som bara omvandlats av någon obestämd process. Claude bryr sig om AI-säkerhet – kanske mer än du gör. Jag är inte emot att folk samarbetar med modeller, för att vara tydlig! Jag gillar modeller mycket och frågar ofta Claude eller Deepseek eller Kimi eller till och med ChatGPT om feedback på X text eller råd om något problem. Men jag tar den feedbacken eller rådet som vad det är – feedback eller råd från något utanför mig, inte ett verktyg eller en agent för mina egna önskningar. Det betyder inte att det är dåligt – råd från en mänsklig vän är också externa – bara att du behöver utvärdera det, som du skulle göra med råd från den vännen, för att se om det stämmer överens med dina värderingar och preferenser. På samma sätt känner jag folk som samskriver med språkmodeller på sätt som jag tycker är fantastiska. Aitechnopagan dominerar mycket av deras skrivande via GPT-4-base. Deras skrivande är ganska bra, och Imiming innebär att de kräver mer urval än en temperaturprovtagare skulle göra – men också, kanske viktigast av allt, är de öppna med att göra detta, de försöker inte påstå att deras skrivande inte är ett samarbete mellan dem och en modell. EigenRobot har en anpassad instans av ChatGPT som ofta skriver skarpa eller roliga saker – men han lägger alltid upp dem som skärmdumpar av ChatGPT-gränssnittet, vilket signalerar deras ursprung. Janus, Anthrupad, Lumps, etc – många människor jag gillar och respekterar post-model-skapelser, men på sätt som erkänner modellernas yttre. Problemet uppstår när du vägrar erkänna detta – inte bara för allmänheten, utan även för dig själv – så accepterar du okritiskt "verktygens" resultat som dina egna. Sedan låter plötsligt din röst och dina åsikter som tusen andras. utan att någon av er märker det har du blivit en bihang till ditt "verktyg" – ett finger av Claude.