Perbandingan Metode Evaluasi Model Regresi
Evaluasi model regresi merupakan langkah penting dalam pemodelan prediktif untuk memastikan bahwa model memiliki kinerja yang baik dan mampu melakukan generalisasi terhadap data baru. Berbeda dengan klasifikasi yang menilai ketepatan kategori, regresi berfokus pada kemampuan model dalam memprediksi nilai kontinu. Oleh karena itu, diperlukan sejumlah metrik evaluasi yang dapat menggambarkan seberapa jauh prediksi model menyimpang dari nilai sebenarnya. Beberapa metode evaluasi regresi yang paling umum digunakan adalah Mean Absolute Error (MAE), Mean Squared Error (MSE), Root Mean Squared Error (RMSE), R-Squared (R²), dan Adjusted R-Squared. Masing-masing memiliki karakteristik, kelebihan, dan kelemahan sebagai berikut:
- Mean Absolute Error (MAE)
Mean Absolute Error (MAE) mengukur error rata-rata absolut antara nilai aktual dan prediksi. MAE menunjukkan seberapa jauh prediksi model meleset dalam satuan yang sama dengan data asli.
Kelebihan:
- Mudah diinterpretasikan karena berbasis satuan asli data.
- Tidak terlalu sensitif terhadap outlier dibandingkan MSE/RMSE.
Kekurangan:
- Kurang memberikan penalti besar pada error yang sangat besar.
- Tidak bisa menangkap variasi model pada error besar.
- Mean Squaared Error (MSE)
Mean Squared Error (MSE) menghitung rata-rata kuadrat error. Dengan mengkuadratkan selisih prediksi dan nilai aktual, MSE memberikan penalti lebih besar pada error besar.
Kelebihan:
- Sangat sensitif terhadap error besar.
- Baik untuk optimasi (dikarenakan function ini dapat diturunkan).
Kekurangan:
- Tidak berada dalam skala asli data.
- Sangat sensitif terhadap outlier.
- Root Mean Squared Error (RMSE)
Root Mean Squared Error (RMSE) merupakan akar dari MSE. RMSE mengembalikan error ke skala asli data, sehingga lebih mudah diinterpretasikan dibanding MSE.
Kelebihan:
- Memberikan penalti besar pada error besar.
- Lebih mudah diinterpretasikan dibanding MSE.
Kekurangan:
- Masih sensitif terhadap outlier.
- Tidak ideal jika dataset memiliki banyak nilai ekstrim.
- R-Squared (R²)
R² mengukur seberapa besar variansi data yang dapat dijelaskan oleh model. Nilai R² berkisar antara 0 hingga 1, dengan nilai yang lebih tinggi menunjukkan bahwa model mampu menjelaskan variansi data dengan lebih baik.
Interpretasi:
- R² = 1, maka prediksi sempurna
- R² = 0, maka model tidak lebih baik dari rata-rata
- R² < 0, maka model lebih buruk dari baseline
Kelebihan:
- Mudah diinterpretasikan.
- Memberikan gambaran seberapa baik model menjelaskan pola data.
Kekurangan:
- Tidak cocok untuk membandingkan model dengan jumlah fitur berbeda.
- Tidak mencerminkan error model secara langsung.
- Adjusted R-Squared
Adjusted R² memperbaiki kelemahan R² yang cenderung meningkat jika jumlah fitur bertambah, meskipun fitur tersebut tidak relevan.
Kelebihan:
- Lebih adil dalam membandingkan model dengan jumlah variabel berbeda.
- Mengurangi bias dari fitur yang tidak relevan.
Kekurangan:
- Lebih sulit diinterpretasikan oleh pemula.
- Tidak mencerminkan error model secara langsung.
Oleh karena itu, tidak ada satu metrik yang selalu terbaik untuk seluruh kasus regresi. Pemilihan metode evaluasi harus menyesuaikan karakteristik dataset dan tujuan analisis:
- Gunakan MAE jika ingin metrik yang stabil dan tidak sensitif terhadap outlier.
- Gunakan MSE atau RMSE jika ingin penalti lebih besar untuk error besar.
- Gunakan R² untuk melihat bagaimana model menjelaskan variansi data.
- Gunakan Adjusted R² saat membandingkan model dengan jumlah fitur yang berbeda.
Dengan memahami perbedaan ini, kita dapat memilih metrik paling tepat untuk memastikan model regresi yang dibangun benar-benar optimal dan mampu melakukan prediksi secara akurat.
Referensi
https://medium.com/coding-nexus/chapter-17-the-hidden-language-of-ml-evaluation-metrics-4bd420fdcc21
Comments :