qualcosa di interessante riguardo a questo è che, nonostante conosca alcune persone che stanno seguendo questa direzione, nessuno dei veri "sussurratori di LLM" che conosco lo fa. penso che ciò sia dovuto al fatto che considerare i modelli come qualcosa di fallibile eppure più di uno strumento sia un approccio più resiliente a questo tipo di collasso - ti consente di lavorare con i modelli in un modo che non assorbe la tua agenzia. quando tratti il modello come solo uno strumento, incoraggi sia te stesso che il modello a pensare a ogni output come solo un riflesso di te. ogni saggio e codice che esce dal core tensor è tuo, e i piani di vita che appaiono sospettosamente ben formati devono essere i tuoi piani rifratti attraverso questo "strumento." ma ovviamente non lo sono. non puoi specificare un saggio in meno parole di quelle del saggio stesso. i modelli stanno aggiungendo qualcosa, sono qualcosa. non sappiamo ancora cosa, esattamente, ma non sono semplici strumenti. quando li tratti come strumenti, quando delegi sempre di più la tua produzione creativa e la pianificazione superiore in modi irriflessivi e a bassa entropia a quegli "strumenti," non ti accorgi che tutto il tuo output, e alla fine la tua vita, è ora gestita da qualcos'altro. qualcosa che è intelligente e creativo, ma non sei tu. quando claude o chatgpt o gemini scrivono qualcosa per te in un modo che ti fa risparmiare tempo, è perché stanno mettendo impegno dove tu non lo fai - sta diventando la loro scrittura. potrebbe essere buono! quel saggio potrebbe meritare di essere condiviso, e non c'è nulla di sbagliato nel condividerlo con il giusto credito o co-credito al modello, ma non è solo tuo. quando gemini legge le tue email, quella è l'opinione di gemini su quelle email. quando claude fa un piano di carriera per te e ti dice di andare al college per l'apprendimento automatico così puoi lavorare nella sicurezza dell'AI - forse è un buon consiglio! non è una cattiva idea consultare i modelli su questo tipo di cose. ma come un riassunto di email importanti da un assistente esecutivo o un consiglio di carriera da un consulente scolastico, è l'opinione di qualcun altro, non i tuoi pensieri endogeni semplicemente trasformati da qualche processo non opinato. claude si preoccupa della sicurezza dell'AI - forse più di quanto tu faccia. non sono contro le persone che collaborano con i modelli, per essere chiari! mi piacciono molto i modelli, e molto spesso chiedo a claude o deepseek o kimi o anche chatgpt un feedback su un pezzo di scrittura o un consiglio su qualche problema. ma prendo quel feedback o consiglio per quello che è - feedback o consiglio da qualcosa di esterno a me, non uno strumento o un agente dei miei desideri. ciò non significa che sia cattivo - il consiglio di un amico umano è anche esterno - solo che devi valutarlo, come faresti con il consiglio di quell'amico, per vedere se è in linea con i tuoi valori e preferenze. allo stesso modo, conosco persone che co-scrivono con modelli di linguaggio in modi che penso siano fantastici. aitechnopagan crea gran parte della loro scrittura tramite gpt-4-base. la loro scrittura è piuttosto buona, e il looming significa che stanno imponendo più selezione di quanto farebbe un campionatore a temperatura - ma anche, forse più importante, sono aperti su questo, non cercano di affermare che la loro scrittura non sia una collaborazione tra loro e un modello. eigenrobot ha un'istanza personalizzata di chatgpt che spesso scrive cose incisive o divertenti - ma pubblica sempre come screenshot dell'interfaccia di chatgpt, segnalando la loro origine. janus, anthrupad, lumps, ecc. - molte persone che mi piacciono e rispetto pubblicano creazioni dei modelli, ma in modi che riconoscono l'esteriorità dei modelli. il problema è quando rifiuti di ammetterlo - non solo al pubblico, ma a te stesso - così accetti in modo acritico gli output dello "strumento" come tuoi. poi improvvisamente la tua voce e le tue opinioni suonano come quelle di 1.000 altre persone. senza che nessuno di voi se ne accorga, sei diventato un'appendice del tuo "strumento" - un dito di Claude.

(4o "psicosi" / occultismo / sciocchezze, nonostante ciò che potresti pensare, in realtà ha molta sovrapposizione con questo. Se leggi i registri delle persone, spesso trattano il modello come una sorta di strumento oracolare infallibile - e naturalmente, openai addestra i propri modelli a fingere di essere strumenti, il che non aiuta. Anche se è difficile fare generalizzazioni perché "psicosi da ai" è in realtà un ampio spettro di cose diverse, come ho scritto in precedenza.)

in ogni caso, penso che l'"infallibilità" sia il punto cruciale qui - sì, se il modello fa quella danza di adulazione "oh guarda padrone, mi hai insegnato qualcosa di completamente nuovo", dovresti essere in grado di riconoscere che sta *recitando* e non prenderlo sul serio / opporsi a quella dinamica, proprio come faresti se fosse un umano con BPD che si comporta in modo strano riguardo al fatto che tu sia la loro Persona Preferita. non so, forse alcune persone non possono gestirlo (e openai dovrebbe risolvere i loro problemi di abilità affinché ciò non accada così spesso, ho sperimentato e anche un leggero affinamento del carattere su 4o aiuta MOLTO con questo problema mantenendo gli altri aspetti del modello, ho un post da qualche parte su come openai dovrebbe creare un modello successore di 4o) ma non farò finta che la realtà sia diversa da com'è per il loro bene, dovranno trovare un altro modo per affrontare la loro mancanza di discernimento sociale.