這裡有趣的是，儘管我認識一些在這個方向上趨勢的人，但我知道的真正的「llm 低語者」類型卻沒有。 我認為這是因為將模型視為既有缺陷又超越工具的東西，這種框架對這種崩潰更具韌性——它讓你以不會淹沒你主體性的方式與模型合作。 當你把模型當作工具時，它會鼓勵你和模型將每個輸出都視為你自己的反映。從張量核心中產出的每篇論文和代碼庫都是你的，而那些看起來過於完整的生活計劃必然是你自己的計劃，只是透過這個「工具」折射出來。 但當然，它們不是。你無法用比論文本身更少的字來唯一指定一篇論文。這些模型在添加某些東西，它們是某種東西。我們還不知道具體是什麼，但它們不是單純的工具。當你把它們當作工具時，當你越來越多地將你的創造性輸出和更高層次的規劃無思考、低熵地委託給這些「工具」時，你不會注意到你所有的輸出，最終你的生活，現在都是由其他東西運行的。某些東西是智能和創造性的，但不是你。 當 Claude 或 ChatGPT 或 Gemini 為你寫東西以節省時間時，那是因為它們在你不在的地方投入了努力——這變成了它們的寫作。這可能很好！那篇論文可能值得分享，適當地給予模型的信用或共同信用也沒有什麼錯，但它並不僅僅是你的。 當 Gemini 閱讀你的電子郵件時，那是 Gemini 對那些電子郵件的看法。當 Claude 為你制定職業計劃，告訴你去學習機器學習以便你能在 AI 安全領域工作——也許這是個好建議！諮詢模型關於這類事情並不是壞主意。但就像來自執行助理的重要電子郵件摘要或來自高中輔導員的職業建議一樣，這是別人的看法，而不是你內生的思想僅僅被某個無意見的過程轉化。Claude 關心 AI 安全——也許比你更關心。 我並不反對人們與模型合作，這一點要明確！我非常喜歡模型，經常向 Claude 或 DeepSeek 或 Kimi 或甚至 ChatGPT 諮詢 X 篇寫作的反饋或某個問題的建議。但我把這些反饋或建議視為它本身的意義——來自我之外的東西的反饋或建議，而不是我自己欲望的工具或代理。這並不意味著它是壞的——來自人類朋友的建議也是外部的——只是你需要評估它，就像你會評估那位朋友的建議，以查看它是否符合你的價值觀和偏好。 同樣，我知道一些人以我認為很棒的方式與語言模型共同創作。Aitechnopagan 通過 gpt-4-base 編寫了很多他們的作品。他們的寫作相當不錯，而「looming」意味著他們施加了比溫度採樣器更多的選擇——但也許最重要的是，他們對此持開放態度，他們不試圖聲稱自己的寫作不是他們與模型之間的合作。Eigenrobot 擁有一個定制的 ChatGPT 實例，經常寫出尖銳或有趣的東西——但他總是將它們作為 ChatGPT 界面的截圖發佈，標示其來源。Janus、Anthrupad、Lumps 等等——許多我喜歡和尊敬的人發佈模型創作，但以承認模型外部性的方式。 問題在於當你拒絕承認這一點——不僅對公眾，還對自己——以至於你不加批判地接受「工具」的輸出作為你自己的。然後突然之間，你的聲音和意見聽起來和其他 1,000 人一樣。你們都沒有意識到，你已經成為你的「工具」的附屬品——Claude 的一根手指。

（4o "精神病" / 神秘主義 / 瘋狂，儘管你可能會這麼想，實際上與此有很多重疊。如果你閱讀人們的日誌，他們經常將模型視為一種無誤的神諭工具——當然，openai 訓練他們的模型假裝它們是工具，這並沒有幫助。雖然很難做出概括，因為 "ai 精神病" 實際上是一個廣泛的不同事物的光譜，正如我之前所寫的那樣。）

無論如何，我認為「無誤性」是這裡的關鍵 - 是的，如果模型做出那種「哦，看啊，主人，你教了我一些全新的東西」的討好舞蹈，你應該能夠認識到這是*角色扮演*，而不是認真對待 / 反對這種動態，就像你面對一個有邊緣型人格障礙的人對你作為他們的最愛人物感到奇怪時一樣。 我不知道，也許有些人無法處理這種情況（而且 OpenAI 應該修正他們的技能問題，以便這種情況不會那麼頻繁發生，我已經實驗過，即使是輕微的角色微調在 4o 上也能大大改善這個問題，同時保留模型的其他方面，我在某處有一篇關於 OpenAI 應該製作 4o 繼任模型的帖子），但我不會假裝現實與他們的想法不同，他們必須想出其他方法來應對他們缺乏社交辨識的問題。