Apa Itu Regresi Linear? Pengertian, Rumus, dan Contoh Perhitungannya

Dalam Machine Learning, kita sering menemukan permasalahan yang membutuhkan prediksi angka, seperti memperkirakan harga rumah, penjualan produk, atau nilai mahasiswa. Salah satu metode yang dapat digunakan untuk menyelesaikan permasalahan tersebut adalah Regresi Linear (Linear Regression).

Metode ini cukup populer karena konsepnya relatif sederhana dan hasil modelnya mudah dipahami.

Lalu, apa itu Regresi Linear, bagaimana rumusnya, dan bagaimana contoh perhitungannya? Mari kita bahas secara sederhana.

Apa Itu Regresi Linear?

Regresi Linear adalah metode statistik dan Machine Learning yang digunakan untuk memodelkan hubungan antara variabel input dan variabel target menggunakan persamaan linear.

Sederhananya, metode ini mencari hubungan antara data yang diketahui dengan nilai yang ingin diprediksi.

Contohnya, kita ingin memperkirakan nilai ujian mahasiswa berdasarkan lama waktu belajar. Jika terdapat kecenderungan bahwa semakin lama waktu belajar, semakin tinggi nilai ujian, Regresi Linear dapat digunakan untuk memodelkan hubungan tersebut.

Model yang dihasilkan kemudian digunakan untuk memperkirakan nilai ujian berdasarkan durasi belajar yang baru.

Menurut Google for Developers, Regresi Linear dalam Machine Learning mempelajari hubungan antara fitur (input) dan label (target) untuk menghasilkan prediksi.

Jenis-Jenis Regresi Linear

Secara umum, Regresi Linear dapat dibedakan menjadi dua jenis berdasarkan jumlah variabel input yang digunakan.

1. Regresi Linear Sederhana

Regresi Linear Sederhana menggunakan satu variabel independen untuk memprediksi satu variabel dependen.

Contohnya:

• Variabel input: lama belajar mahasiswa.
• Variabel target: nilai ujian mahasiswa.

Model ini cocok digunakan ketika kita ingin mempelajari hubungan antara satu faktor dengan nilai yang diprediksi.

2. Regresi Linear Berganda

Regresi Linear Berganda menggunakan dua atau lebih variabel independen untuk memprediksi satu variabel dependen.

Misalnya, untuk memprediksi harga rumah, kita menggunakan beberapa variabel seperti luas bangunan, luas tanah, dan jumlah kamar tidur.

Dengan mempertimbangkan beberapa faktor tersebut, model dapat mempelajari hubungan masing-masing variabel input dengan harga rumah.

Rumus Regresi Linear

Rumus Regresi Linear Sederhana adalah:

y = a + bx

Keterangan:

• y = nilai yang diprediksi.
• a = konstanta atau intersep.
• b = koefisien regresi atau kemiringan garis.
• x = variabel input.

Nilai a menunjukkan nilai prediksi ketika x bernilai nol, sedangkan b menunjukkan perubahan prediksi y untuk setiap kenaikan satu unit x.

Sementara itu, rumus Regresi Linear Berganda dapat ditulis sebagai berikut:

y = a + b1x1 + b2x2 + ... + bnxn

Keterangan:

• a = konstanta.
• b1, b2, dan seterusnya = koefisien setiap variabel input.
• x1, x2, dan seterusnya = variabel input yang digunakan dalam model.

Koefisien model dipelajari dari data pelatihan agar garis atau persamaan yang dihasilkan sesuai dengan pola data.

Contoh Perhitungan Regresi Linear Sederhana

Agar lebih mudah dipahami, kita gunakan contoh sederhana untuk memprediksi nilai ujian mahasiswa berdasarkan lama waktu belajar.

Misalnya, kita memiliki data berikut.

Dari data tersebut, kita ingin membangun model Regresi Linear untuk memperkirakan nilai ujian berdasarkan lama belajar.

Langkah 1: Menghitung rata-rata

Rata-rata lama belajar:

x̄ = (1 + 2 + 3 + 4 + 5) / 5 = 3

Rata-rata nilai ujian:

ȳ = (50 + 55 + 65 + 70 + 80) / 5 = 64

Jadi, rata-rata lama belajar adalah 3 jam dan rata-rata nilai ujian adalah 64.

Langkah 2: Menghitung koefisien regresi

Koefisien regresi (b) dapat dihitung menggunakan rumus:

b = Σ[(x − x̄)(y − ȳ)] / Σ[(x − x̄)²]

Berdasarkan data yang tersedia:

Σ[(x − x̄)(y − ȳ)] = 75

Σ[(x − x̄)²] = 10

Maka:

b = 75 / 10 = 7,5

Artinya, model menunjukkan bahwa setiap tambahan satu jam belajar berkaitan dengan kenaikan nilai prediksi sebesar 7,5 poin pada data contoh ini.

Langkah 3: Menghitung konstanta

Konstanta (a) dihitung dengan rumus:

a = ȳ − b × x̄

Masukkan nilai yang telah diperoleh:

a = 64 − (7,5 × 3)

a = 64 − 22,5 = 41,5

Dengan demikian, konstanta model adalah 41,5.

Langkah 4: Membentuk persamaan regresi

Setelah nilai a dan b diketahui, kita dapat membentuk persamaan Regresi Linear:

y = 41,5 + 7,5x

Persamaan tersebut merupakan model yang akan digunakan untuk menghasilkan prediksi.

Langkah 5: Melakukan prediksi

Misalnya, kita ingin memperkirakan nilai ujian mahasiswa yang belajar selama 6 jam.

Masukkan x = 6 ke dalam persamaan:

y = 41,5 + (7,5 × 6)

y = 41,5 + 45

y = 86,5

Jadi, model memprediksi nilai ujian sebesar 86,5 untuk durasi belajar 6 jam.

Perlu diingat bahwa angka tersebut merupakan hasil prediksi dari model sederhana, bukan jaminan nilai ujian yang sebenarnya. Contoh ini juga menggunakan data yang sangat kecil sehingga belum cukup untuk menarik kesimpulan umum tentang hubungan waktu belajar dan nilai ujian.

Cara Mengevaluasi Model Regresi Linear

Setelah model dibuat, kita perlu mengukur seberapa baik hasil prediksinya. Evaluasi sebaiknya dilakukan menggunakan data pengujian yang tidak digunakan untuk melatih model.

Beberapa metrik yang sering digunakan adalah:

1. Mean Absolute Error (MAE)
MAE mengukur rata-rata nilai absolut selisih antara hasil prediksi dan nilai aktual. Semakin kecil nilai MAE, semakin dekat prediksi model dengan nilai aktual secara rata-rata.

2. Root Mean Squared Error (RMSE)
RMSE mengukur besarnya kesalahan prediksi dengan memberikan penalti lebih besar terhadap kesalahan yang besar. Semakin kecil RMSE, semakin baik hasil prediksi dalam satuan target yang sama.

3. R-squared (R²)
R² menggambarkan seberapa besar variasi target dapat dijelaskan oleh model dibandingkan dengan model pembanding yang hanya menggunakan rata-rata target. Interpretasinya perlu mempertimbangkan data dan metode evaluasi yang digunakan.

Pemilihan metrik bergantung pada kebutuhan penelitian. Sebaiknya jangan hanya menggunakan satu metrik untuk menilai seluruh kualitas model.

Kelebihan dan Kekurangan Regresi Linear

Regresi Linear memiliki beberapa kelebihan yang membuatnya sering digunakan sebagai metode dasar dalam Machine Learning.

Kelebihan:

• Konsep dan perhitungannya relatif mudah dipahami.
• Proses pelatihan umumnya ringan untuk dataset berukuran kecil hingga menengah.
• Koefisien model dapat membantu menjelaskan hubungan linear antara fitur dan target.
• Cocok dijadikan model awal atau baseline untuk membandingkan metode lain.

Kekurangan:

• Kurang sesuai jika hubungan antara fitur dan target sangat nonlinier.
• Dapat sensitif terhadap pencilan (outlier).
• Multikolinearitas pada regresi berganda dapat menyulitkan interpretasi koefisien.
• Hasil yang baik tetap bergantung pada kualitas data, pemilihan fitur, dan asumsi model.

Karena itu, Regresi Linear tidak selalu menjadi metode terbaik untuk setiap permasalahan prediksi.

Contoh Penerapan Regresi Linear

Regresi Linear dapat diterapkan pada berbagai bidang, misalnya:

• Bisnis: memperkirakan penjualan berdasarkan data historis dan faktor yang relevan.
• Properti: memprediksi harga rumah berdasarkan luas bangunan dan karakteristik lainnya.
• Pendidikan: memperkirakan nilai akademik berdasarkan sejumlah variabel yang relevan.
• Pertanian: memodelkan hasil panen berdasarkan faktor seperti luas lahan dan penggunaan pupuk.
• Penelitian: menganalisis hubungan antara variabel independen dan variabel dependen.

Dalam penelitian, pemilihan variabel harus didasarkan pada teori, tujuan penelitian, dan ketersediaan data. Hubungan yang ditemukan oleh model juga tidak otomatis membuktikan hubungan sebab-akibat.

Kesimpulan

Regresi Linear merupakan metode statistik dan Machine Learning yang digunakan untuk memodelkan hubungan linear antara variabel input dan target numerik.

Terdapat Regresi Linear Sederhana yang menggunakan satu variabel input dan Regresi Linear Berganda yang menggunakan beberapa variabel input. Proses dasarnya meliputi pengolahan data, pembentukan persamaan, pembuatan prediksi, dan evaluasi model.

Bagi mahasiswa yang sedang mempelajari Machine Learning, Regresi Linear dapat menjadi langkah awal yang baik sebelum mempelajari algoritma prediksi lainnya.