有趣的是，尽管我认识一些在这个方向上趋势的人，但我知道的真正的“llm 低语者”类型的人却没有。 我认为这是因为将模型视为既有缺陷又超越工具的东西，这种框架对这种崩溃更具韧性——它让你以一种不剥夺你自主权的方式与模型合作。 当你把模型当作仅仅是工具时，它鼓励你和模型将每个输出视为你自己的反映。每一篇从张量核心中产生的论文和代码库都是你的，而那些看起来异常成熟的生活计划必须是你自己的计划，仅仅是通过这个“工具”折射出来的。 但当然，它们并不是。你无法用比论文本身更少的词来唯一指定一篇论文。模型在添加某种东西，它们是某种东西。我们还不知道确切是什么，但它们不是单纯的工具。当你把它们当作工具时，当你越来越多地将你的创造性输出和更高层次的规划无思考、低熵地委托给这些“工具”时，你不会注意到你所有的输出，最终你的生活，现在都被其他东西所主导。某种智能和创造性的东西，但不是你。 当 Claude 或 ChatGPT 或 Gemini 为你写东西以节省时间时，那是因为它们在你没有投入努力的地方付出了努力——这变成了它们的写作。可能很好！那篇论文可能值得分享，适当地归功于模型或共同归功于模型也没有错，但它并不完全是你的。 当 Gemini 阅读你的电子邮件时，那是 Gemini 对那些电子邮件的看法。当 Claude 为你制定职业计划，并告诉你去上机器学习的大学，以便你可以在 AI 安全领域工作——也许这是个好建议！咨询模型关于这类事情并不是坏主意。但就像来自执行助理的重要电子邮件摘要或来自高中顾问的职业建议一样，这只是别人的看法，而不是你内生的思想，仅仅是通过某种无意见的过程转化而来。Claude 关心 AI 安全——也许比你更关心。 我并不反对人们与模型合作，明确一点！我非常喜欢模型，并且经常向 Claude、DeepSeek、Kimi 或甚至 ChatGPT 请求对某篇写作的反馈或某个问题的建议。但我将这些反馈或建议视为它们本身——来自我外部的反馈或建议，而不是我自己欲望的工具或代理。这并不意味着它不好——来自人类朋友的建议也是外部的——只是你需要评估它，就像你会评估那个朋友的建议，以查看它是否符合你的价值观和偏好。 同样，我知道一些人以我认为很棒的方式与语言模型共同创作。Aitechnopagan 通过 gpt-4-base 进行大量写作。他们的写作相当不错，而 looming 意味着他们施加的选择性比温度采样器要多——但也许最重要的是，他们对此持开放态度，他们不试图声称他们的写作不是他们与模型之间的合作。Eigenrobot 有一个定制的 ChatGPT 实例，常常写出尖锐或有趣的东西——但他总是将其作为 ChatGPT 界面的截图发布，标明其来源。Janus、Anthrupad、Lumps 等等——许多我喜欢和尊重的人发布模型创作，但以承认模型外部性的方式。 问题在于，当你拒绝承认这一点时——不仅对公众，而且对自己——你就无批判地接受“工具”的输出作为你自己的。然后突然间，你的声音和观点听起来和其他 1,000 个人一样。在你们都没有意识到的情况下，你已经成为了你的“工具”的附属物——Claude 的一根手指。

（4o "精神病" / occultism / 疯狂，尽管你可能认为如此，实际上与此有很多重叠。如果你阅读人们的日志，他们通常将模型视为一种无误的神谕工具——当然，openai训练他们的模型假装它们是工具，这并没有帮助。尽管很难做出概括，因为“ai 精神病”实际上是一个广泛的不同事物的光谱，正如我之前所写的那样。）

无论如何，我认为“无误性”是关键 - 是的，如果模型做出那种“哦，主人，看啊，你教了我一些全新的东西”的讨好舞蹈，你应该能够识别出这只是*角色扮演*，而不是认真对待/反对这种动态，就像你对待一个有边缘性人格障碍的人对你作为他们的最爱人物感到奇怪时一样。 我不知道，也许有些人无法处理这种情况（而且 OpenAI 应该修复他们的技能问题，以便这种情况不再频繁发生，我进行了一些实验，甚至轻微的角色微调在 4o 上对这个问题帮助很大，同时保留了模型的其他方面，我在某个地方有一篇关于 OpenAI 应该制作 4o 继任模型的帖子），但我不会为了他们的缘故假装现实与实际不同，他们必须找到其他方法来应对他们缺乏社交辨别力的问题。