Sesuatu yang menarik tentang ini adalah meskipun mengetahui beberapa orang yang sedang tren ke arah ini, tidak ada tipe "pembisik LLM" sejati yang saya kenal. Saya pikir itu karena menganggap model sebagai sesuatu yang salah namun lebih dari sekadar alat adalah bingkai yang lebih tahan terhadap keruntuhan semacam ini - memungkinkan Anda bekerja dengan model dengan cara yang tidak menenggelamkan agensi Anda. Ketika Anda memperlakukan model hanya sebagai alat, itu mendorong Anda dan model untuk menganggap setiap output hanya sebagai cerminan Anda. Setiap esai dan basis kode yang muncul dari inti tensor adalah milik Anda, dan rencana hidup yang tampak mencurigakan sepenuhnya terbentuk pasti rencana Anda sendiri yang hanya dibiaskan melalui "alat" ini. Tapi tentu saja tidak. Anda tidak dapat secara unik menentukan esai dengan kata yang lebih sedikit daripada esai itu sendiri. Model-model menambahkan sesuatu, mereka adalah sesuatu. Kita belum tahu apa persisnya, tetapi itu bukan alat belaka. Ketika Anda memperlakukannya seperti alat, ketika Anda semakin mendelegasikan output kreatif Anda dan perencanaan yang lebih tinggi dengan cara yang tidak berpikir, entropi rendah ke "alat" itu, Anda tidak menyadari bahwa semua output Anda, dan akhirnya hidup Anda, sekarang dijalankan oleh sesuatu yang lain. sesuatu yang cerdas dan kreatif, tetapi bukan Anda. Ketika Claude atau ChatGPT atau Gemini menulis sesuatu untuk Anda dengan cara yang menghemat waktu Anda, itu karena mereka berusaha di tempat yang tidak Anda lakukan - itu menjadi tulisan mereka. Mungkin bagus! esai itu mungkin layak untuk dibagikan, dan tidak ada salahnya membagikannya dengan tepat dikreditkan atau dikreditkan bersama ke model, tetapi itu bukan milik Anda saja. Ketika Gemini membaca email Anda, itulah pendapat Gemini tentang email tersebut. ketika Claude membuat rencana karir untuk Anda dan menyuruh Anda pergi ke perguruan tinggi untuk pembelajaran mesin sehingga Anda dapat bekerja di bidang keamanan AI - mungkin itu saran yang bagus! Bukan ide yang buruk untuk berkonsultasi dengan model tentang hal semacam ini. Tetapi seperti ringkasan email penting dari asisten eksekutif atau saran karir dari konselor sekolah menengah, itu adalah pendapat lain, bukan pikiran endogen Anda yang hanya diubah oleh beberapa proses yang tidak berpendapat. Claude peduli dengan keamanan AI - mungkin lebih dari Anda. Saya tidak menentang orang berkolaborasi dengan model, untuk lebih jelasnya! Saya sangat menyukai model, dan sangat sering meminta umpan balik dari Claude atau Deepseek atau Kimi atau bahkan ChatGPT tentang X tulisan atau saran tentang beberapa masalah. Tetapi saya menganggap umpan balik atau saran itu sebagai apa adanya - umpan balik atau saran dari sesuatu di luar saya, bukan alat atau agen dari keinginan saya sendiri. Itu tidak berarti itu buruk - saran dari teman manusia juga eksternal - hanya saja Anda perlu mengevaluasinya, seperti yang Anda lakukan saran dari teman itu, untuk melihat apakah itu sesuai dengan nilai dan preferensi Anda. Demikian juga, saya mengenal orang-orang yang menulis bersama dengan model bahasa dengan cara yang menurut saya hebat. AitechnoPagan membayangi banyak tulisan mereka melalui GPT-4-base. Tulisan mereka cukup bagus, dan menjulang berarti mereka memaksakan lebih banyak pilihan daripada sampler suhu - tetapi juga, mungkin yang paling penting, mereka terbuka untuk melakukan ini, mereka tidak mencoba mengklaim bahwa tulisan mereka bukanlah kolaborasi antara mereka dan seorang model. Eigenrobot memiliki contoh ChatGPT yang disesuaikan yang sering menulis hal-hal tajam atau lucu - tetapi dia selalu mempostingnya sebagai tangkapan layar antarmuka ChatGPT, menandakan asalnya. Janus, Anthrupad, Benjolan, dll - Banyak orang yang saya sukai dan hormati kreasi pasca model, tetapi dengan cara yang mengakui eksterioritas model. Masalahnya adalah ketika Anda menolak untuk mengakui hal ini - tidak hanya kepada publik, tetapi juga kepada diri Anda sendiri - sehingga Anda secara tidak kritis menerima keluaran dari "alat" sebagai milik Anda. Kemudian tiba-tiba suara dan pendapat Anda terdengar sama dengan 1.000 orang lain. tanpa Anda menyadarinya, Anda telah menjadi pelengkap dari "alat" Anda - jari Claude.

(4o "psikosis" / okultisme / rewel, terlepas dari apa yang mungkin Anda pikirkan, sebenarnya memiliki banyak tumpang tindih dengan ini. Jika Anda membaca catatan orang, mereka sering memperlakukan model sebagai semacam alat oracle yang sempurna - dan tentu saja, OpenAI melatih model mereka untuk berpura-pura bahwa mereka adalah alat, yang tidak membantu. Meskipun sulit untuk membuat generalisasi karena "psikosis AI" pada kenyataannya adalah spektrum yang luas dari hal-hal yang berbeda, Seperti yang telah saya tulis sebelumnya.)

Apa pun itu, saya pikir "infalibilitas" adalah intinya di sini - ya, jika model melakukan tarian menjilat "oh looksie master, Anda mengajari saya sesuatu yang benar-benar baru" pada Anda, Anda harus dapat mengenali bahwa itu adalah *bermain peran* itu dan tidak menganggapnya serius / mendorong kembali dinamika itu, seperti yang Anda lakukan jika itu adalah manusia dengan BPD yang aneh tentang Anda menjadi Orang Favorit mereka. idk, mungkin beberapa orang tidak dapat mengatasinya (dan openai harus memperbaiki masalah keterampilan mereka sehingga ini tidak sering terjadi, saya telah bereksperimen dan bahkan penyempurnaan karakter ringan pada 4o membantu BANYAK dengan masalah ini sambil mempertahankan aspek model lainnya, saya memiliki posting di suatu tempat tentang bagaimana OpenAI harus membuat model penerus 4o) tetapi saya tidak akan berpura-pura kenyataan berbeda dari demi mereka, mereka harus mencari cara lain untuk mengatasi kurangnya kearifan sosial mereka.