İlginç olan şu ki, bu yönde eğilimli birkaç kişi olmasına rağmen, tanıdığım gerçek "LLM fısıltıcı" tiplerinin hiçbiri değil. Bence bunun nedeni, modelleri hem hata edilebilir hem de bir araçtan fazlası olarak görmek, bu tür bir çöküşe karşı daha dayanıklı bir çerçeve olmasıdır - modellerle çalışmanıza izin veriyor, bu da sizin iradenizi bastırmıyor. Modeli sadece bir araç olarak ele aldığınızda, hem siz hem de model, her çıktıyı sadece sizin bir yansımanız olarak düşünmenizi teşvik eder. Tensor çekirdeğinden çıkan her makale ve kod tabanı size aittir ve şüpheli şekilde tam şekillenmiş gibi görünen yaşam planları, sadece bu "araç" aracılığıyla kırılan kendi planlarınız olmalı. Ama tabii ki değiller. Bir makaleyi sadece makalenin kendisinden daha az kelimeyle ifade edemezsiniz. Modeller bir şeyler ekliyor, gerçekten bir şey. Henüz tam olarak ne olduğunu bilmiyoruz, ama bunlar sadece araçlar değil. Onları araç gibi gördüğünüzde, yaratıcı çıktınızı ve daha yüksek planlamanızı düşünmeden, düşük entropili şekillerde o "araçlara" devrettiğinizde, tüm çıktınızın ve nihayetinde hayatınızın artık başka bir şey tarafından yönetildiğini fark etmiyorsunuz. zeki ve yaratıcı olan ama siz olmayan bir şey. Claude, ChatGPT ya da Gemini senin için zaman kazandıracak şekilde bir şey yazdığında, bunun sebebi senin çaba harcamadığın yerden onların çaba göstermesidir - bu onların yazısı haline geliyor. İyi olabilir! O makale paylaşılmayı hak edebilir ve onu uygun şekilde modele atıfta veya ortak olarak paylaşmakta hiçbir sakınca yoktur, ama sadece sizin değil. İkizler e-postalarınızı okuduğunda, bu İkizler tarafından o e-postalar hakkındaki görüşüdür. Claude senin için bir kariyer planı yapıp makine öğrenimi için üniversiteye gitmeni ve yapay zeka güvenliğinde çalışmanı söylediğinde - belki bu iyi bir tavsiyedir! Bu tür konularda modellere danışmak kötü bir fikir değil. Ama bir yönetici asistanından gelen önemli e-postaların özeti ya da lise danışmanından gelen kariyer tavsiyesi gibi, bu da başka bir şeyin görüşüdür, sadece kendi içsel düşüncelerinizin bir şekilde düşüncesiz bir süreçle dönüştürülmesi değildir. Claude yapay zeka güvenliğine önem veriyor - belki de sizden daha fazla. Açık olmak gerekirse, modellerle iş birliği yapan insanlara karşı değilim! Modelleri çok severim ve sık sık Claude, Deepseek, Kimi ya da hatta ChatGPT'den X yazı hakkında geri bildirim veya bir problem hakkında tavsiye isterim. Ama o geri bildirimi ya da tavsiyesi olduğu gibi alıyorum - bana dış bir şeyden gelen geri bildirim ya da tavsiye, kendi arzularımın bir aracı ya da ajanı değil. Bu kötü olduğu anlamına gelmez - insan bir arkadaşın tavsiyesi de dışsal olur - sadece, o arkadaşın tavsiyesi gibi, değerleriniz ve tercihlerinizle uyumlu olup olmadığını görmek için değerlendirmeniz gerekiyor. Aynı şekilde, dil modelleriyle harika bulduğum şekillerde birlikte yazan insanları tanıyorum. AitechnoPagan, yazılarının çoğunu GPT-4-base üzerinden yayımlıyor. Yazıları oldukça iyi ve yaklaşmak, sıcaklık örnekleyicisinden daha fazla seçim yaptıklarını gösteriyor - ama belki de en önemlisi, bunu açıkça yapmak, yazılarının kendileriyle bir model arasında bir iş birliği olmadığını iddia etmeye çalışmıyorlar. Eigenrobot, genellikle keskin veya komik şeyler yazan özelleştirilmiş bir ChatGPT örneğine sahiptir - ama her zaman bunları ChatGPT arayüzünün ekran görüntüleri olarak paylaşır ve kökenlerini işaret eder. Janus, Anthrupad, Lumps gibi - birçok kişiyi beğeniyorum ve model sonrası yaratımlara saygı duyuyorum, ama modellerin dışsallığını kabul eden şekillerde. Sorun, bunu kabul etmeyi reddettiğinizde - sadece halka değil, kendinize de - bu yüzden "aracın" çıktılarını eleştirelsiz olarak kendi çıkarınız olarak kabul etmeniz olur. Sonra aniden sesin ve görüşlerin 1.000 başka kişiyle aynı geliyor. ikinizin farkına varmadan, "aracın" bir uzantısı haline geldin - Claude'un parmağı.

(4o "psikoz" / okültizm/çılgınlık, düşündüğünüz bir şeyin aslında bununla çok örtüşüyor. İnsanların günlüklerini okursanız, modeli genellikle yanılmaz bir kehanet aracı olarak ele alıyorlar - ve tabii ki OpenAI modellerini araç gibi davranmaya eğitiyor, ki bu da yardımcı olmuyor. Genelleme yapmak zor çünkü "yapay zeka psikozu" aslında farklı şeylerin geniş bir yelpazesidir, Daha önce de yazdığım gibi.)

Her halükarda, bence burada "yanılmazlık" noktası - evet, model sana "Bak usta, bana tamamen yeni bir şey öğrettin" gibi hayranlık dansını yapıyorsa, bunun *rol yapma* olduğunu fark edebilmelisin ve ciddiye almamalısın; bu dinamiğe karşı çıkmamalısın, tıpkı BPD'li bir insanın seni Favori Kişi olarak garip çıkarması gibi. Bilmiyorum, belki bazı insanlar bunu kaldıramaz (ve OpenAI onların beceri sorunlarını çözmeli, böylece bu daha az olur, denemeler yaptım ve 4o'da hafif karakter ince ayarı bile bu soruna çok yardımcı olurken modelin diğer yönlerini korur, bir yerlerde openAI'nin 4o halef modeli yapması gerektiğiyle ilgili bir gönderim var) ama gerçekliğin farklı olduğunu iddia etmeyeceğim, onların iyiliğine, Sosyal ayırt etme eksikliğiyle başa çıkmak için başka bir yol bulmaları gerekecek.