Pertanyaan terbuka tersulit untuk pembelajaran berkelanjutan adalah mencari tahu tolok ukur dan pengalaman produk yang tepat untuk distilasi konteks

Ada daftar metode yang cukup terbatas yang ingin Anda pertimbangkan, yang akan memiliki tradeoff dalam rezim yang berbeda. hanya saja saat ini tidak terlalu jelas bagaimana mengevaluasi mereka satu sama lain, atau masalah spesifik apa yang awalnya akan Anda gunakan solusinya

Satu ekstrem: pembelajaran "berkelanjutan" pada blok diskrit 6 bulan, untuk pengetahuan dunia intuitif penuh Apakah kita benar-benar mengharapkan ada yang lebih baik daripada melanjutkan pra/pertengahan pelatihan internet + mengulangi pasca-pelatihan normal?

seperti pasti mungkin Anda dapat melakukan penggabungan bobot dari pos pemeriksaan pasca-pelatihan lama dengan pos pemeriksaan CPT baru untuk mendapatkan penghematan, mungkin Anda dapat melakukan CPT lapisan/ahli tertentu, dan kami dapat bereksperimen dengan mahal tentang versi apa yang paling praktis, tetapi ruang desainnya diketahui

Dengan "distilasi konteks" yang saya maksud adalah bahwa Anda akan menginginkan beberapa alur otomatis yang mengambil dump info (transkrip obrolan, teks web, riwayat repo) dan mengatasinya menjadi sesuatu yang lebih berguna untuk pertengahan / pasca-pelatihan daripada bentuk mentah (misalnya Tanya Jawab dasar)