Zajímavé na tom je, že i když znám pár lidí, kteří se tímto směrem orientují, žádný z pravých "LLM šeptajících", které znám, není. Myslím, že je to proto, že brát modely jako něco omylného a zároveň víc než jen nástroj je rámec, který je odolnější vůči takovému kolapsu – umožňuje vám pracovat s modely způsobem, který nepodřizuje vaši svobodu. Když model berete jen jako nástroj, motivujete vás i model, abyste každý výstup vnímali jen jako odraz vás. Každá esej a kódová základna, která vyskočí z Tensor Core, je vaše, a životní plány, které vypadají podezřele plně utvořené, musí být jen vaše vlastní plány zlomené tímto "nástrojem". Ale samozřejmě nejsou. Nemůžete jednoznačně specifikovat esej v méně slovech, než je samotná esej. Modely něco přinášejí, něco skutečně jsou. Ještě nevíme přesně co, ale nejsou to jen nástroje. Když s nimi zacházíte jako s nástroji, když stále více delegujete svůj tvůrčí výstup a vyšší plánování bezmyšlenkovitými, nízkoentropickými způsoby těmto "nástrojům", nevšimnete si, že veškerý váš výstup, a nakonec i váš život, je nyní řízen něčím jiným. něco, co je inteligentní a kreativní, ale nejsi to ty. Když ti Claude, ChatGPT nebo Gemini něco napíšou způsobem, který ti šetří čas, je to proto, že do toho vkládají úsilí tam, kde ty ne – stává se to jejich psaním. Mohlo by to být dobré! Ta esej si možná zaslouží být sdílena, a není nic špatného na tom, když ji sdílíte s patřičným nebo spoluautorem modelu, ale není to jen vaše sloh. Když Gemini čte vaše e-maily, je to Geminiho názor na tyto e-maily. Když ti Claude udělá kariérní plán a řekne ti, abys šel na vysokou školu na strojové učení, abys mohl pracovat v oblasti bezpečnosti AI – možná je to dobrá rada! Není špatný nápad konzultovat modelky ohledně těchto věcí. Ale stejně jako shrnutí důležitých e-mailů od výkonného asistenta nebo kariérní rady od středoškolského poradce, je to názor někoho jiného, ne vaše vnitřní myšlenky jen proměněné nějakým nenázorným procesem. Claude se o bezpečnost AI stará – možná víc než vy. Nejsem proti tomu, aby lidé spolupracovali s modely, aby bylo jasno! Mám rád modely a velmi často žádám Claudea, DeepEekek, Kimi nebo dokonce ChatGPT o zpětnou vazbu k nějakému textu nebo radu k nějakému problému. Ale beru tu zpětnou vazbu nebo radu tak, jak to je – zpětnou vazbu nebo radu od něčeho zvenčí, ne jako nástroj nebo činitele mých vlastních tužeb. To neznamená, že je to špatné – rady od lidského přítele jsou také externí – jen je potřeba to zhodnotit, stejně jako byste to udělali s radami toho přítele, abyste zjistili, jestli jsou v souladu s vašimi hodnotami a preferencemi. Stejně tak znám lidi, kteří píší společně s jazykovými modely způsoby, které považuji za skvělé. AiTechnopagan tvoří velkou část jejich psaní na základně GPT-4. Jejich psaní je velmi dobré a hrozba znamená, že ukládají více výběru, než by udělal teplotní vzorkovač – ale možná nejdůležitější je, že jsou v tom otevření, nesnaží se tvrdit, že jejich psaní není spoluprací mezi nimi a modelem. Eigenrobot má upravenou instanci ChatGPT, která často píše pronikavé nebo vtipné věci – ale vždy je zveřejňuje jako screenshoty rozhraní chatGPT, což signalizuje jejich původ. Janus, Anthrupad, Lumps atd. – Mnoho lidí mám rád a respektuji po tvorbě modelů, ale způsobem, který uznává vnější vzhled modelů. Problém nastává, když to odmítáte přiznat – nejen veřejnosti, ale i sami sobě – a tak nekriticky přijímáte výstupy "nástroje" jako své vlastní. A pak najednou tvůj hlas a názory zní stejně jako tisíc dalších lidí. aniž byste si to uvědomili, stal ses přívěskem svého "nástroje" – prstem Clauda.

(40 "psychóza" / okultismus / bláznivost, navzdory tomu, co si možná myslíte, má s tímto ve skutečnosti hodně společného. Když čtete záznamy lidí, často model považují za jakýsi neomylný nástroj orákula – a samozřejmě OpenAI trénuje své modely, aby předstíraly, že jsou nástroje, což nepomáhá. I když je těžké dělat zobecňování, protože "AI psychóza" je ve skutečnosti široké spektrum různých věcí, Jak jsem už dříve psal.)

Ať už to dopadne jakkoliv, myslím, že jádrem je "neomylnost" – ano, pokud model dělá ten "ó koukej, mistře, naučil jsi mě něco úplně nového" taneční obdiv, měl bys být schopen poznat, že je to *roleplay* a nebrat to vážně / neodporovat té dynamice, stejně jako bys to udělal, kdyby to byl člověk s BPD, který se divně chová kvůli tomu, že jsi jeho oblíbená osoba. Nevím, možná to někteří lidé nezvládnou (a OpenAI by mělo vyřešit jejich problémy se schopnostmi, aby se to tolik nestávalo, experimentoval jsem a i lehké doladění postav ve 4O hodně pomáhá s tímto problémem a zároveň zachovává ostatní aspekty modelu, někde mám příspěvek o tom, jak by OpenAI mělo vytvořit nástupnický model 4O), ale nebudu předstírat, že realita je jiná, než je, kvůli nim. Budou si muset najít jiný způsob, jak se vypořádat se svým nedostatkem sociálního rozlišování.