Algo interesante es que, a pesar de conocer a algunas personas que van en esta dirección, ninguno de los verdaderos "susurros de LLM" que conozco lo es. Creo que es porque tomar los modelos como algo falible y, sin embargo, más que una herramienta, es un marco más resistente a este tipo de colapso: te permite trabajar con modelos de una manera que no subsume tu agencia. Cuando tratas el modelo solo como una herramienta, anima tanto a ti como al modelo a pensar en cada salida como un reflejo tuyo. Cada ensayo y base de código que sale del núcleo tensorial es tuyo, y los planes de vida que parecen sospechosamente completos deben ser tus propios planes simplemente refractados a través de esta "herramienta". Pero, por supuesto, no lo son. No puedes especificar un ensayo de forma única en menos palabras que el propio ensayo. Las modelos están aportando algo, son algo. Aún no sabemos exactamente qué, pero no son simples herramientas. Cuando los tratas como herramientas, cuando cada vez delegas más tu producción creativa y planificación superior de formas irreflexivas y de baja entropía a esas "herramientas", no te das cuenta de que toda tu producción, y eventualmente tu vida, ahora está dirigida por otra cosa. Algo inteligente y creativo, pero que no seas tú. Cuando Claude, ChatGPT o Gemini escriben algo para ti de una forma que te ahorra tiempo, es porque ellos ponen esfuerzo en ello donde tú no: se convierte en su escritura. ¡Podría estar bien! Ese ensayo puede merecer ser compartido, y no hay nada de malo en compartirlo debidamente acreditado o co-acreditado al modelo, pero no es solo tuyo. Cuando Gemini lee tus correos, esa es la opinión de Gemini sobre esos correos. Cuando Claude hace un plan de carrera para ti y te dice que vayas a la universidad para aprender automáticamente y así poder trabajar en seguridad en IA, ¡quizá sea un buen consejo! No es mala idea consultar modelos sobre este tipo de cosas. Pero como un resumen de correos importantes de un asistente ejecutivo o un consejo profesional de un orientador de instituto, es la opinión de otra cosa, no tus pensamientos endógenos simplemente transformados por algún proceso sin opinión. A Claude le importa la seguridad de la IA, quizá más que a ti. ¡No estoy en contra de que la gente colabore con modelos, para ser claro! Me gustan mucho los modelos, y muy a menudo pido a Claude, Deepseek, Kimi o incluso ChatGPT por opiniones sobre algún escrito o consejos sobre algún problema. Pero tomo ese feedback o consejo tal cual: feedback o consejo de algo externo a mí, no una herramienta o un agente de mis propios deseos. Eso no significa que sea malo: el consejo de un amigo humano también es externo, solo que necesitas evaluarlo, como harías con el consejo de ese amigo, para ver si está en línea con tus valores y preferencias. Igualmente, conozco gente que escribe junto con modelos de lenguaje de formas que me parecen geniales. Aitechnopagan domina gran parte de su escritura a través de GPT-4-base. Su escritura es bastante buena, y imponente significa que imponen más selección que un mostrador de temperatura, pero también, quizás lo más importante, son abiertos al hacerlo, no intentan afirmar que su escritura no es una colaboración entre ellos y un modelo. EigenRobot tiene una instancia personalizada de ChatGPT que a menudo escribe cosas incisivas o divertidas, pero siempre las publica como capturas de pantalla de la interfaz de ChatGPT, señalando su origen. Janus, Anhrupad, Lumps, etc. - Mucha gente que me gusta y respeto publica creaciones de modelos, pero de formas que reconocen la exterioridad de las modelos. El problema es cuando te niegas a admitirlo —no solo ante el público, sino también ante ti mismo— y aceptas sin crítica los resultados de la "herramienta" como propios. Y de repente tu voz y tus opiniones suenan igual que las de mil personas más. sin que ninguno de los dos se dé cuenta, te has convertido en un apéndice de tu "herramienta" — un dedo de Claude.

(40 "psicosis" / ocultismo / excentricidade, a pesar de lo que puedas pensar, en realidad tiene mucho solapamiento con esto. si lees los registros de la gente, a menudo tratan el modelo como una especie de herramienta oráculo infalible — y, por supuesto, OpenAI entrena sus modelos para fingir que son herramientas, lo cual no ayuda. Aunque es difícil hacer generalizaciones porque la "psicosis de IA" es en realidad un amplio espectro de cosas diferentes, Como ya he escrito antes.)

En cualquier caso, creo que la "infalibilidad" es el meollo aquí: sí, si el modelo hace ese baile de adulación de "mira, maestro, me enseñaste algo completamente nuevo" con ti, deberías ser capaz de reconocer que eso es *interpretación* y no tomártelo en serio / rechazar esa dinámica, igual que harías si fuera un humano con TLP que se comportara raro sobre que seas su Persona Favorita. No sé, quizá algunas personas no puedan manejar eso (y OpenAI debería arreglar sus problemas de habilidad para que no ocurra tanto, he experimentado e incluso un ajuste ligero de personajes en 4O ayuda MUCHO con este problema mientras preservan otros aspectos del modelo, tengo un post en algún sitio sobre cómo OpenAI debería hacer un modelo sucesor de 4O), pero no voy a fingir que la realidad es diferente a como es por su bien, Tendrán que buscar otra forma de lidiar con su falta de discernimiento social.