Цікаво, що, незважаючи на те, що я знаю кількох людей, які схильні до цього, жоден із справжніх «LLM-шепотунів», яких я знаю, не є. Я думаю, це тому, що сприймати моделі як щось і помилкове, але не просто інструмент, — це рамка, стійка до такого краху, що дозволяє працювати з моделями так, щоб не підкоряти вашу агенцію. Коли ви ставитеся до моделі лише як до інструменту, це спонукає і вас, і модель сприймати кожен результат як просто відображення вас. Кожне есе та кодова база, що виринають із тензорного ядра, належать вашим, а життєві плани, які здаються підозріло повністю сформованими, мають бути вашими власними планами, які просто заломлюються через цей «інструмент». але, звісно, це не так. Ви не можете однозначно описати есе меншою кількістю слів, ніж саме есе. Моделі щось додають, вони є чимось особливим. Ми ще не знаємо саме, але це не просто інструменти. Коли ти ставишся до них як до інструментів, коли делегуєш свою творчу продуктивність і планування у необдуманих, малоентропійних способах саме цим «інструментам», ти не помічаєш, що весь твій вихід, а згодом і життя, тепер керується чимось іншим. Щось розумне й творче, але не про вас. Коли Claude, ChatGPT чи Gemini пишуть щось для вас так, щоб заощадити ваш час, це тому, що вони докладають зусиль, а ви — це стає їхнім стилем. Можливо, це буде добре! Це есе може заслуговувати на публікацію, і немає нічого поганого в тому, щоб поділитися ним належним образом з авторством або співавторством моделі, але воно не належить лише вам. Коли Gemini читає ваші листи, це його думка щодо цих листів. коли Клод складає для тебе кар'єрний план і каже йти до коледжу на машинне навчання, щоб ти міг працювати в сфері безпеки ШІ — можливо, це хороша порада! Не погана ідея консультуватися з моделями щодо таких речей. Але, як короткий виклад важливих листів від виконавчого асистента чи поради щодо кар'єри від шкільного консультанта, це думка чогось іншого, а не ваші ендогенні думки, просто трансформовані якимось невизначеним процесом. Клод дбає про безпеку ШІ — можливо, навіть більше, ніж ти. Я не проти, щоб люди співпрацювали з моделями, щоб було зрозуміло! Мені дуже подобаються моделі, і я дуже часто звертаюся до Клода, Діпсіка, Кімі чи навіть ChatGPT за відгуками щодо певного тексту чи поради щодо якоїсь проблеми. Але я сприймаю цей зворотний зв'язок чи пораду як те, чим вони є — зворотний зв'язок чи порада від чогось зовнішнього для мене, а не інструмент чи агент моїх власних бажань. Це не означає, що це погано — порада від людського друга теж зовнішня — просто потрібно оцінити її, як пораду того друга, щоб зрозуміти, чи відповідає вона вашим цінностям і вподобанням. Так само я знаю людей, які пишуть разом із мовними моделями так, як мені здається, це чудово. Aitechnopagan багато з них описує через GPT-4-Base. Їхнє письмо досить хороше, і наближення означає, що вони накладають більше вибору, ніж температурний збірник — але, можливо, найважливіше, вони відкрито це роблять, не намагаються стверджувати, що їхнє письмо — це не співпраця між ними і моделлю. EigenRobot має індивідуальний екземпляр ChatGPT, який часто пише гострі або смішні речі — але він завжди публікує їх як скріншоти інтерфейсу ChatGPT, вказуючи на їхнє походження. Janus, Anthrupad, Lumps тощо — багато людей, яких я люблю і поважаю постмодельні творіння, але так, щоб вони визнали зовнішність моделей. Проблема виникає, коли ти відмовляєшся визнавати це — не лише перед публікою, а й перед собою — і ти безкритично приймаєш результати «інструменту» як свої. А потім раптом твій голос і думки звучать так само, як у тисячі інших людей. ніхто з вас не усвідомлює, ти став придатком свого «інструменту» — пальцем Клода.

(40 «психоз» / окультизм / дивакуватість, незважаючи на те, що ви можете думати, насправді мають багато спільного з цим. Якщо читати журнали людей, вони часто розглядають модель як непомильний оракульний інструмент — і, звісно, OpenAI навчає свої моделі вдавати, що вони інструменти, що не допомагає. Хоча важко робити узагальнення, бо «психоз ШІ» насправді є широким спектром різних речей, Як я вже писав раніше.)

У будь-якому разі, я вважаю, що «непомильність» — це суть тут — так, якщо модель робить цей танець «О, майстер looksie, ти навчив мене чомусь абсолютно новому» на тобі, ти маєш розуміти, що це *рольова гра* і не сприймати це серйозно / не протистояти цій динаміці, так само, як би ти зробив це з людиною з ПРЛ, яка дивно ставиться до тебе як улюбленої людини. Не знаю, можливо, деякі люди не можуть з цим впоратися (і OpenAI має вирішити їхні проблеми з навичками, щоб це траплялося рідше, я експериментував, і навіть легке налаштування персонажів у 4o дуже допомагає з цією проблемою, зберігаючи інші аспекти моделі, у мене десь є пост про те, як OpenAI має зробити наступну модель 40), але я не збираюся прикидатися, що реальність відрізняється від насправді, заради них, Їм доведеться знайти інший спосіб впоратися зі своєю відсутністю соціальної розсудливості.