Apa itu Bagging dan Boosting
Bagging dan Boosting merupakan jenis dari Ensemble Learning, dimana dapat membantu meningkatkan hasil prediksi machine learning dengan cara menggabungkan beberapa model. Pada artikel ini akan dibahas tentang apa ituBagging dan Boosting beserta dengan langkah-langkahnya.
Apa itu Bagging?
Bagging merupakan model pembelajaran yang dilakukan secara pararel, dimana sebuah data dipecah menjadi beberapa subset data, kemudian masing-masing subset data dilatih dengan model yang sama. Hasil dari masing-masing model pada masing masing subset data akan digabungkan sehingga dapat meningkatkan akurasi model. Bagging dilakukan untuk mengurangi variansi pada model. Contoh penggunaan Bagging adalah model Random Forest.
Source: https://medium.com/@roshmitadey/bagging-v-s-boosting-be765c970fd1
Bagaimana cara melakukan Bagging?
- Memecah data dari kumpulan data asli menjadi beberapa subset data
- Buatlah model dasar dari setiap subset
- Setiap model dipelajari secara pararel dengan setiap set pelatihan dan independent satu sama lain
- Menggabungkan prediksi dari semua model untuk mendapatkan prediksi akhir
Apa itu Boosting?
Boosting merupakan model pembelajaran yang dilakukan secara bertahap atau sequential, dimana sebuah data yang telah latih akan digunakan untuk pelatihan model berikutnya sehingga dapat meningkatkan prediksi model. Boosting dilakukan untuk mengurangi bias pada model. Contoh penggunaan Boosting adalah algoritma AdaBoost (Adaptive Boosting)
Source: https://medium.com/@roshmitadey/bagging-v-s-boosting-be765c970fd1
Bagaimana cara melakukan Boosting?
- Menyiapkan data yang akan dilatih dan menetapkan bobot pada setiap titik data
- Mengidentifikasi titik data yang salah
- Meningkatkan bobot pada titik data yang salah dan mengurangi bobot pada titik data yang benar, kemudian jalankan kembali
- Jika sudah mendapatkan hasil yang dibutuhkan maka selesai, jika belum mendapatkan hasil yang dibutuhkan maka kembali ke tahap nomor 2
References:
https://www.kaggle.com/code/prashant111/bagging-vs-boosting
https://www.geeksforgeeks.org/bagging-vs-boosting-in-machine-learning/
https://medium.com/@roshmitadey/bagging-v-s-boosting-be765c970fd1