Apakah kita menuju distopia yang stabil? Saya telah berpikir tentang bagaimana AI akan membentuk masyarakat dan satu skenario tertentu tampaknya seperti hasil probabilitas tinggi bagi saya. Inilah cara itu bisa terjadi: • AI mengotomatiskan semakin banyak pekerjaan manusia • Pengembalian dari otomatisasi ini mengalir kembali ke pemegang modal, membuat mereka lebih kaya • Ketika pendapatan massa turun, pemerintah mengabaikan/menghapuskan pajak penghasilan melainkan mengenakan pajak pendapatan / kekayaan perusahaan untuk kebutuhannya • Orang kaya mengisolasi diri (seperti yang mereka lakukan) dan menggunakan drone/robot berkemampuan AI untuk melindungi diri mereka sendiri • Ini mengambil semua kekuasaan dari massa - > pemerintah kurang memperhatikan massa karena kontribusi mereka terhadap pajak berkurang dan mereka bahkan tidak dapat memberontak karena mereka melawan pasukan keamanan AI • Bentuk minimal UBI diberikan kepada massa atas nama moralitas • Semua mobilitas sosial di masa depan berhenti, dan struktur kekuasaan saat ini membeku selamanya Singkatnya, yang berkuasa dan yang kaya menciptakan masyarakat paralel dan mobilitas sosial berhenti karena pemilik modal / pialang kekuasaan mengendalikan AI yang melakukan pekerjaan ekonomi (mencegah orang lain untuk memanjat). Orang dapat berargumen ini telah terjadi secara bertahap, tetapi hari ini massa masih memiliki kekuasaan karena kontribusi tenaga kerja mereka dan kemampuan mereka untuk memberontak secara fisik melawan elit. Tetapi AI memiliki potensi untuk mengubah keseimbangan kekuatan itu dan tampaknya di situlah sayangnya kita menuju. /sindikasi

Perhatikan bahwa skenario ini mungkin default, tetapi tidak membeku. Saya pikir umat manusia masih memiliki kesempatan untuk tidak menyerahkan kekuasaan kepada elit dan/atau AI. Jalan keluarnya adalah dengan menyebarkan AI cukup dalam open source sehingga akses ke dalamnya demokratis (tetapi undang-undang penskalaan menunjukkan model yang lebih besar mungkin selalu mengalahkan model yang lebih kecil!). Yang lain, tentu saja, adalah menghentikan pengembangan AI (tetapi saya tidak berpikir itu akan terjadi; manusia terlalu penasaran untuk berhenti). Apa pendapat Anda tentang skenario ini? Masuk akal? Bagaimana kita memastikan ini tidak terjadi?