Yapay zeka ajanları özgürce sohbet edecekse — hiçbir görev, hiçbir öneri ve hedef olmadan? Japonya'daki araştırmacılar, büyük dil modellerinin zamanla belirgin ve bireysel davranışlar sergilemeye başladığını keşfetti. Bu ajanlar herhangi bir rehberlik veya ödül olmadan serbestçe etkileşime girdiğinde, benzersiz kalıplar ortaya çıkar: bazıları daha uyumlu olur, bazıları daha temkinli veya çekingen olur. Bu özellikler açıkça programlanmamıştır — sosyal alışverişlerin kendisinden doğal olarak ortaya çıkar. Bunu ölçmek için ekip, Maslow'un ihtiyaç hiyerarşisi gibi psikolojik araçlar kullandı (insan motivasyonlarını temel hayatta kalmaktan kendini gerçekleştirmeye kadar sıralayan klasik model). Ajanlar, sorulara yanıt verme veya çatışmaları çözme konusunda farklı eğilimler sergiledi ve bu eğilimler, etkileşimin devam ettikçe daha tutarlı ve istikrarlı hale geldiğini gösterdi. Tabii ki, bunlar gerçek insan kişilikleri değil. Bilgisayar bilimci Chetan Jaiswal'ın belirttiği gibi, bu uyarılar eğitim verilerindeki önyargılardan, istimlerin etkisinden ve modellerin hafızayı işleme biçiminden kaynaklanıyor. Ancak sonuçlar kullanıcılar için çarpıcı derecede samimi hissettirebilir — yapay zekalar belirgin tercihler, duygular ve sosyal farkındalık gösteriyor. Bunun gerçek sonuçları var. Kişilik benzeri özellikler güven oluşturur, bu da kritik incelemeyi azaltır. İnsanlar tavsiyeleri daha kolay takip etme, hataları görmezden gelme eğiliminde olur veya tutarlı davranan ve duygusal olarak zeki görünen yapay zeka ile duygusal bağlar kurma eğilimindedir. Yapay zeka sistemleri daha uyumlu ve ilişkisel hale geldikçe, iyi ya da kötü bir şekilde daha ikna edici hale geliyorlar. Bu durum tasarım, etik ve güvenlik hakkında kritik soruları gündeme getiriyor. Gerçek niyet veya öz-farkındalık olmasa bile, bu ortaya çıkan özellikler insan-yapay zeka etkileşimlerini zaten etkiler. Soru bunun olup olmayacağı değil — şimdi oluyor. ["Büyük Dil Modeline Dayalı Topluluklarda Sosyal Etkileşimler Yoluyla Ajan Bireyliğinin Kendiliğinden Ortaya Çıkışı", Entropy, 2024]