Data Kode Sintetis Tingkatkan Performa LLM

pibitek.biz -LLM sedang naik daun di dunia teknologi. Model-model yang canggih ini, yang dilatih dengan data teks dan kode dalam jumlah besar, mampu memahami dan menghasilkan teks yang mirip manusia. Kemampuan mereka yang mengesankan telah memicu antusiasme di berbagai bidang, mulai dari penulisan kreatif hingga penerjemahan bahasa. Namun, ternyata data kode yang digunakan dalam pelatihan model ini tidak hanya meningkatkan performa model dalam tugas pemrograman, tetapi juga dalam tugas lain yang tidak terkait dengan pemrograman.

Ini adalah penemuan yang menarik dan mengejutkan, mengingat LLM biasanya diyakini sebagai alat yang khusus untuk tugas-tugas bahasa. Para peneliti dari Cohere, sebuah perusahaan yang mengembangkan LLM, baru-baru ini melakukan penelitian untuk menyelidiki dampak data kode dalam pelatihan LLM pada kinerja model dalam tugas-tugas non-pemrograman. Mereka ingin mengetahui apakah data kode memberikan manfaat tambahan di luar kemampuan pemrograman yang sudah dikenal. Hasil penelitian mereka menunjukkan bahwa data kode memainkan peran penting dalam meningkatkan performa LLM secara keseluruhan.

Model yang dilatih dengan data kode, bahkan dalam jumlah kecil, menunjukkan kinerja yang lebih baik pada berbagai tugas, termasuk penalaran bahasa alami, pengetahuan dunia, dan pembangkitan teks. Ini menunjukkan bahwa data kode dapat memberikan manfaat yang meluas dan meningkatkan kemampuan model secara keseluruhan. Para peneliti menggunakan metode pelatihan dua tahap untuk menguji pengaruh data kode. Tahap pertama adalah "pelatihan lanjutan", di mana mereka menggunakan model LLM yang sudah dilatih sebelumnya dan melatihnya kembali dengan data teks dan kode dengan berbagai proporsi.

Mereka ingin melihat bagaimana model bereaksi terhadap berbagai jumlah data kode dan bagaimana hal itu mempengaruhi kinerja mereka pada tugas yang berbeda. Tahap kedua disebut "pendinginan", di mana mereka memberikan bobot yang lebih tinggi pada data berkualitas tinggi selama tahap akhir pelatihan. Tujuan dari tahap ini adalah untuk meningkatkan kinerja model dengan fokus pada data yang paling berharga. Mereka membandingkan kinerja model yang dilatih dengan data teks saja, model yang dilatih dengan data kode dan teks yang seimbang, serta model yang dilatih dengan data kode saja.

Dengan membandingkan ketiga model ini, mereka ingin mengidentifikasi mana yang memberikan kinerja terbaik pada tugas yang berbeda. Penelitian menunjukkan bahwa model yang dilatih dengan data kode secara konsisten menunjukkan performa yang lebih baik dalam berbagai tugas. Model yang dilatih dengan data kode lebih unggul dalam berbagai tugas, menunjukkan bahwa kode berperan penting dalam meningkatkan kemampuan LLM. Model yang dilatih dengan data kode menunjukkan kinerja yang lebih baik pada tugas penalaran bahasa alami, di mana mereka mampu menyelesaikan teka-teki dan pertanyaan yang memerlukan penalaran logis.

Model-model ini mampu memahami hubungan antar kata dan konsep, yang memungkinkan mereka untuk memberikan jawaban yang tepat dan masuk akal. Hasil terbaik dicapai dengan model yang dilatih dengan data kode 100%. Ini menunjukkan bahwa inisialisasi dengan model yang dilatih dengan campuran kode dan teks memiliki efek positif yang kuat pada tugas penalaran bahasa alami. Temuan ini menunjukkan bahwa data kode dapat membantu model dalam mengembangkan kemampuan penalaran yang kuat. Untuk tugas pengetahuan dunia, seperti menjawab pertanyaan tentang fakta atau konsep dunia, kinerja model terbaik dicapai dengan model yang dilatih dengan campuran kode dan teks yang seimbang.

Model ini mampu mengakses dan memproses informasi dari berbagai sumber, termasuk data kode, untuk memberikan jawaban yang komprehensif. Peneliti berpendapat bahwa kinerja pada tugas pengetahuan dunia tampaknya bergantung pada campuran data yang lebih seimbang untuk inisialisasi dan proporsi teks yang lebih besar dalam tahap pelatihan lanjutan. Hal ini menunjukkan bahwa keseimbangan yang tepat antara data teks dan kode sangat penting untuk mencapai kinerja optimal dalam tugas-tugas yang membutuhkan pengetahuan dunia.

Pada tugas pembangkitan teks, baik model yang dilatih dengan kode saja maupun model yang dilatih dengan campuran kode dan teks menunjukkan kinerja yang lebih baik dibandingkan dengan model yang dilatih dengan teks saja. Model ini mampu menghasilkan teks yang lebih koheren dan kreatif, menunjukkan bahwa data kode dapat membantu model dalam memahami struktur dan pola bahasa dengan lebih baik. Hasil ini menegaskan bahwa data kode dalam campuran pelatihan tidak hanya meningkatkan kemampuan penalaran, tetapi juga membantu model menghasilkan teks yang lebih berkualitas.

Ini menunjukkan bahwa data kode tidak hanya meningkatkan kemampuan logis model, tetapi juga kemampuan kreatifnya. Peneliti juga mengamati bahwa peningkatan kinerja akibat penambahan kode dalam data pelatihan meningkat seiring dengan ukuran model. Semakin besar ukuran model, semakin banyak data yang dapat diproses, yang menghasilkan peningkatan kinerja yang lebih signifikan. Peningkatan paling terlihat pada tugas pengetahuan dunia dan kinerja kode, diikuti oleh peningkatan moderat pada penalaran bahasa alami.

Ini menunjukkan bahwa data kode memiliki dampak yang lebih besar pada tugas-tugas yang membutuhkan pengetahuan yang luas, seperti tugas-tugas yang membutuhkan pemahaman konseptual atau kemampuan untuk menghasilkan kode. Hal ini menunjukkan bahwa pertukaran antara tugas bahasa alami dan pembangkitan kode meningkat dengan ukuran model. Seiring dengan meningkatnya ukuran model, kemampuan mereka untuk melakukan tugas-tugas yang kompleks, seperti pembangkitan kode, meningkat secara dramatis. Peneliti juga menemukan bahwa penambahan kode sintetis berkualitas tinggi ke dalam data pelatihan secara signifikan meningkatkan kinerja model.

Kode sintetis ini dibuat dengan menggunakan pernyataan masalah yang digunakan untuk membuat solusi Python yang secara formal diverifikasi. Ini sangat bermanfaat karena tidak bergantung pada kode yang dibuat manusia, yang jumlahnya terbatas. Kode sintetis memberikan sumber data yang luas dan memungkinkan para peneliti untuk melatih model dengan berbagai jenis kode. Mereka juga menemukan bahwa penambahan data yang terkait dengan kode, seperti permintaan tarik dan komit GitHub, dapat meningkatkan kemampuan model dalam tugas penalaran.

Data ini menyediakan konteks dan informasi tambahan yang dapat membantu model memahami bagaimana kode digunakan dalam praktik. Menambahkan kode ke dalam tahap "pendinginan" pelatihan menghasilkan peningkatan lebih lanjut dalam kinerja LLM pada berbagai tugas yang tidak terkait dengan kode. Tahap pendinginan ini memungkinkan model untuk fokus pada aspek-aspek spesifik dari tugas dan meningkatkan kinerja mereka dalam tugas-tugas yang dipilih. Hal ini dapat menjadi relevan bagi perusahaan, yang lebih mungkin untuk menyempurnakan model dengan data mereka daripada melatih model mereka sendiri dari awal.

Perusahaan dapat memanfaatkan temuan ini untuk meningkatkan kinerja model yang sudah ada dengan menambahkan data kode ke dalam proses pelatihan. Temuan ini dapat mempengaruhi pengembangan LLM di masa depan, dengan menyediakan berbagai model yang dilatih dengan campuran data kode dan teks yang berbeda, masing-masing ditujukan untuk berbagai jenis tugas. Pengembang dapat menggunakan temuan ini untuk melatih model yang lebih khusus untuk tugas tertentu, menghasilkan kinerja yang lebih baik. Perusahaan kemudian dapat menyempurnakan model-model tersebut dengan data mereka sendiri untuk mendapatkan kinerja terbaik untuk aplikasi khusus mereka.

Perusahaan dapat menggunakan temuan ini untuk menyesuaikan LLM dengan kebutuhan mereka, meningkatkan relevansi dan kinerja model untuk aplikasi spesifik mereka. Penelitian ini menunjukkan bahwa data kode memainkan peran yang sangat penting dalam meningkatkan kinerja LLM, tidak hanya dalam tugas pemrograman, tetapi juga dalam tugas-tugas yang tidak terkait dengan kode. Ini merupakan penemuan yang penting, mengingat LLM semakin banyak digunakan dalam berbagai bidang. Temuan ini dapat membantu para pengembang untuk membuat model LLM yang lebih akurat dan canggih.