Analisis Regresi PDF

Preview

Summary

1 Disusun oleh: FITRI KURNIYAWATI ANALISIS REGRESI Dosen pengampu: Dr. Riswan Efendi, S. Si, M. Sc HALIMAH TUN SATDIAH JURUSAN MATEMATIKA FAKULTAS SAINS DAN TEKNOLOGI LISA RAHAYU UNIVERSITAS ISLAM NEGERI SULTAN SYARIF KASIM RIAU NUR KHASANAH 2 KATA PENGANTAR Puji syukur penulis ucapkan kehadirat All...

Description

1

Disusun oleh: FITRI KURNIYAWATI

ANALISIS REGRESI Dosen pengampu: Dr. Riswan Efendi, S. Si, M. Sc

HALIMAH TUN SATDIAH

JURUSAN MATEMATIKA FAKULTAS SAINS DAN TEKNOLOGI

LISA RAHAYU

UNIVERSITAS ISLAM NEGERI SULTAN SYARIF KASIM RIAU

NUR KHASANAH

2

KATA PENGANTAR Puji syukur penulis ucapkan kehadirat Allah Subhanahu wa Ta’ala. karena dengan rahmat, karunia, serta taufik dan hidayah-Nya penulis dapat menyelesaikan buku yang berjudul “Analisis Regresi” ini dengan baik meskipun masih banyak kekurangan didalamnya. Penulis mengucapkan terima kasih kepada beberapa pihak yang telah banyak membantu dalam penyelesaian buku ini, diantaranya: 1. Dr. Riswan Efendi, S.Si, M.Sc., selaku dosen pengampu mata kuliah Analisis Regresi. 2. Seluruh dosen Program Studi Matematika yang telah memberikan ilmu-ilmu yang sangat bermanfaat bagi penulis. 3. Seluruh keluarga penulis yang senantiasa mendoakan dan memberikan semangat dalam menyelesaian buku ini. 4. Seluruh teman kelas IV B yang juga turut membimbing penulis. Penulis sangat berharap buku ini dapat berguna selain memenuhi tugas mata kuliah Analisis Regresi juga dalam rangka menambah wawasan serta pengetahuan kita. Penulis

menyadari sepenuhnya bahwa buku ini terdapat kekurangan dan jauh dari kata sempurna. Oleh sebab itu, penulis berharap adanya kritik dan saran demi perbaikan di masa yang akan datang, mengingat tidak ada sesuatu yang sempurna tanpa saran yang membangun. Semoga buku ini dapat dipahami bagi siapapun yang membacanya. Sekiranya buku yang telah disusun ini dapat berguna bagi kami penulis maupun para pembaca. Sebelumnya penulis memohon maaf apabila terdapat kesalahan dan kata-kata yang kurang berkenan.

Pekanbaru, 28 Mei 2019

Penulis

3

DAFTAR ISI KATA PENGANTAR ..........................................................................................................

i

DAFTAR ISI ..........................................................................................................................

ii

BAB I PENDAHULUAN ..................................................................................................... 1.1 Latar Belakang ..................................................................................................... 1.2 Rumusan Masalah ................................................................................................ 1.3 Tujuan Penulisan .................................................................................................. 1.4 Manfaat Penulisan ................................................................................................

1 1 1 1 1

BAB II KORELASI DAN REGRESI LINIER SEDERHANA .............................................

3

KORELASI 2.1 Pengeritan Korelasi ................................................................................................. 2.2 Koefesien Korelasi ................................................................................................. 2.3 Interpretasi Korelasi ................................................................................................ 2.4 Menghitung Korelasi dengan Aplikasi .................................................................... REGRESI LINEAR SEDERHANA 2.5 Pengertian Regresi Linier Sederhana ....................................................................... 2.6 Model Analisis Regresi Sederhana .......................................................................... 2.7 Menghitung Regresi Linear dengan Aplikasi ........................................................... CONTOH KASUS ......................................................................................................

6 7 8 12

BAB III METODE KUADRAT TERKECIL (OLS) DAN PENCILAN (OULIER) .............. 3.1 Mengestimasi Parameter ......................................................................................... Metode Ordinary Least Square (OLS) dalam Bentuk Matriks ................................. Contoh Kasus ......................................................................................................... 3.2 Pencilan (Outlier) ................................................................................................... 3.2.1 Pengaruh Pencilan...........................................................................................

17 17 19 22 23 28

BAB IV REGRESI LINIER BERGANDA ............................................................................. 4.1 Pengertian Regresi Linier Berganda ........................................................................ 4.2 Model Regresi Linier Berganda .............................................................................. 4.3 Derivasi dalam Bentuk Matriks ............................................................................... 4.4 Contoh Kasus .........................................................................................................

29 29 29 30 30

BAB V REGRESI DUMMY ................................................................................................... 5.1 Pengertian Regresi Dummy .................................................................................... 5.2 Model Regresi dengan Variabel Dummy ................................................................ 5.3 Prosedur Analisa .................................................................................................... 5.4 Contoh Kasus Regresi Dummy ...............................................................................

34 34 34 36 36

BAB VI REGRESI LOGISTIK .............................................................................................. 6.1 Pengertian Regresi Logistik ................................................................................... 6.1.1 Regresi Logistik Multinomial ................................................................... 6.1.2 Regresi Logistik Ordinal ..........................................................................

42 42 43 48

3 3 3 4

4 6.1.3 Regresi Logistik Biner .............................................................................

52

BAB VII PENUTUP ................................................................................................................ 7.1 Kesimpulan ............................................................................................................. 7.2 Saran .......................................................................................................................

58 58 58

DAFTAR PUSTAKA ..............................................................................................................

59

5

BAB I PENDAHULUAN

1.1 Latar Belakang Istilah regresi dikemukakan untuk pertama kali oleh seorang antropolog dan ahli meteorology Francis Galton dala artikelnya “Family Likeness in Stature” pada tahun 1886. Ada juga sumber lain yang menyatakan istilah regresi pertama kali muncul dalam pidato Francis Galton di depan Section H of The British Associaton di Aberdeen, 1855 dan dalam makalah “Regression towards mediocrity in hereditary stature”, yang dimuat dalam Journal of The Anthropological Institute (Draper an Smith, 1992).1 Studinya ini menghasilkan apa yang dikenal dengan hukum regresi universal tentang tingginya anggota suatu masyarakat. Hukum tersebut menyatakan bahwa distribusi tinggi suatu masyarakat tidak mengalami perubahan yang besar sekali antar generasi. Hal ini dijelaskan Galton berdasarkan fakta yang memperlihatkan adanya kecenderungan mundurnya (regress) tinggi ratarata anak dari orang tua dengan tinggi tertentu menuju tinggi rata-rata seluruh anggota masyarakat. Ini berarti terjadi penyusutan ke arah keadaan sekarang. Tetapi sekarang istilah regresi telah diberikan makna yang jauh berbeda dari yang dimaksudkan oleh Gaston. Secara luas analisis regresi diartikan sebagai suatu analisis tentang ketergantungan suatu variabel kepada variabel lain yaitu variabel bebas dalam rangka membuat estimasi atau prediksi dari nilai rata-rata variabel tergantung dengan diketahuinya nilai variabel bebas. 2 Analisis statistik yang digunakan untuk menyelesaikan masalah kausalitas atau sebab akibat adalah analisis regresi (Sembiring, 1995: 30). Metode yang sering digunakan dalam menyelesaikan masalah estimasi koefisien regresi adalah metode kuadrat terkecil, karena estimator yang didapat dari metode ini merupakan estimator yang tak bias (Neter, 1997: 37). 1.2 Rumusan Masalah 1. Apakah yang dimaksud dengan regresi linear sederhana? 2. Apakah yang dimaksud dengan OLS? 3. Apakah yang dimaksud dengan pencilan (outlier)? 4. Apakah yang dimaksud dengan regresi linear berganda?

1.3 Tujuan Penulisan 1. Menyempurnakan tugas mata kuliah analisis regresi. 2. Menjelaskan apa yang dimaksud dengan regresi linear sederhana. 3. Menjelaskan apa yang dimaksud dengan OLS dan pencilan (outlier). 4. Menjelaskan apa yang dimaksud dengan regresi linear berganda. 1.4 Manfaat Penulisan Manfaat dari penulisan ini adalah sebagai berikut. 1

Agus Tri Basuki dan Nano Prawoto, Analisis Regresi Dalam Penelitian Ekonomi & Bisnis: Dilengkapi Aplikasi SPSS & Eviews, Ed. 1 (Cet. 1; Jakarta: Rajawali Pers, 2016), h. 1. 2 Ibid.

6 1. 2. 3. 4.

Menambah pengetahuan penulis tentang regresi linear sederhana. Menambah pengetahuan penulis tentang ols dan pencilan (outlier). Menambah pengetahuan penulis tentang regresi linear berganda. Menambah referensi bagi mahasiswa mengenai analisis regresi serta sebagai dasar penelitian selanjutnya.

7

BAB II KORELASI DAN REGRESI LINIER SEDERHANA A. KORELASI 2.1 Pengertian Korelasi Korelasi merupakan salah satu statistik infarensi yang akan menguji apakah dua variabel atau lebih mempunyai hubungan atau tidak. Terdapat tiga penggolongan berdasarkan jenis data dalam uji relasi yaitu sebagai berikut: 1. Data nominal: Uji Koefisien Kontingens, 2. Data ordinal: Uji Kendall, Spearman, 3. Data rasio dan interval: Uji Product Moment. 3 Kuat lemah hubungan diukur diantara jarak (range) 0 sampai 1. Korelasi mempunyai kemungkinan pengujian hipotesis dua arah. Korelasi searah jika nilai koefesiennya ditemukan positif, sebaliknya jika nilai koefesien korelasi negatif maka korelasi disebut tidak searah. Dalam korelasi sempurna tidak diperlukan lagi pengujian hipotesis, karena kedua variabel mempunyai hubungan linear yang sempurna. Artinya variabel X mempengaruhi variabel Y secara sempurna. Jika korelasi sama dengan nol, maka tidak terdapat hubungan antara kedua variabel tersebut. Kegunaan korelasi atau pengukuran asosiasi yaitu untuk mengukur kekuatan hubungan antar dua variabel atau lebih. Contohnya mengukur huungan antara variabel motivasi kerja dengan produktivitas, kualitas layanan dengan kepuasan pelanggan, dan lain sebagainya. 2.2 Koefesien Korelasi Koefesien korelasi adalah pengukuran asosiasi antara dua variabel yang menunjukkan kekuatan hubungan linear dan arah hubungan dua variabel acak. Besarnya koefesien korelasi berkisar antara -1 sampai +1. Untuk memudahkan melakukan interpretasi mengenai kekuatan hubungan anntara dua variabel, penulis memberikan kriteria sebagai berikut (Sarwono: 2006): 1. 0: tidak ada korelasi antara dua variabel 2. 0 – 0.25: korelasi sangat lemah 3. 0.25 – 0.5: korelasi cukup 4. 0.5 – 0.75: korelasi kuat 5. 0.75 – 0.99: korelasi sangat kuat 6. 1: korelasi sempurna 2.3 Interpretasi Korelasi Ada tiga penafsiran hasil anaisis korelasi, meliputi: (1) melihat kekuatan huungan dua variabel; (2) melihat signifikansi hubungan; dan (3) melihat arah hubungan. Untuk melakukan interpretasi kekuatan hubungan antara dua variabel dilakukan dengan melihat angka koefesien korelasi hasil perhitungan dengan kriteria :  Jika angka koefesien korelasi menunjukkan 0, maka kedua variabel tidak mempunyai hubungan.  Jika angka koefesien korelasi mendekati 1, maka kedua variabel mempunyai hubungan semakin kuat.

3

V. Wiratna Sujarweni, Statistik Untuk Bisnis Dan Ekonomi, (Cet. 1; Yogyakarta: Pustaka Baru Press, 2015), h. 98.

8   

Jika angka koefesien korelasi mendekati 0, maka kedua variabel mempunyai hubungan semakin lemah. Jika angka koefesien korelasi menunjukkan 1, maka kedua variabel mempunyai hubungan linear sempurna positif. Jika angka koefesien korelasi menunjukkan -1, maka kedua variabel mempunyai hubungan linear negatif.

Interpretasi berikutnya melihat signifikansi hubungan antara dua variabel dengan didasarkan pada angka signifikansi yang dihasilkan dari penghitungan dengan ketentuan (dalam SPSS) :  Jika angka signifikansi hasil riset < 0.05, maka hubungan kedua variabel signifikan.  Jika angka signifikansi hasil riset > 0.05, maka hubungan kedua variabel tidak signifikan. Interpretasi ketiga melihat arah korelasi yang dilihat dari angka koefesien korelasi. Jika koefesien positif, variabel X bernilai tinggi dan variabel Y juga tinggi maka arah korelasi searah. Sedangkan jika koefesien korelasi negatif, variabel X bernilai tinggi sedangkan variabel Y rendah maka arah korelasi tidak searah. Dalam kasus, misalnya hubungan antara kepuasan kerja dan komitmen terhadap organisasi sebesar 0.86 dengan angka signifikansi sebesar 0.2 akan mempunyai makna bahwa hubungan antar dua variabel tersebut sangat kuat, signifikan dan searah. Sebaliknya dalam kasus hubungan antara variabel mangkir kerja dengan produktivitas sebesar -0.86 dengan angka signifikansi sebesar 0.34, maka hubungan kedua variabel sangat kuat dan signifikan dan tidak searah. 2.4 Menghitung Korelasi dengan Aplikasi 1. Ms. Excel Ketikkan rumus =CORREL(array1,array2)* lalu tekan tombol Enter. *array1 dan array2 dapat dilakukan dengan menandai seluruh data di kolom (mineral water (per day) dan CGPA last sem)

2. SPSS  Pada bagian sudut kiri bawah pilih “Variable View” dan isi seperti gambar di bawah.

Gambar 1 : Variable View

 

Selanjutnya pada bagian sudut kiri bawah pilih “Data View” dan masukkan data pada kolom yang sesuai. Lalu pilih menu Analyze-Correlate-Bivariate…

9

Gambar 2 : Analyze Data



Kemudian akan muncul kotak dialog “Bivariate Correlations” dan pilih sesuai gambar dibawah dan pilih OK.

Gambar 3 : Bivariate Correlations



Lalu akan muncul tampilan output SPSS “Correlations”.

3. Minitab  Masukkan data ke dalam “Worksheet 1”.

Gambar 4 : Worksheet 1

10



Pilih Stat-Basic Statistics-Correlation

Gambar 5 : Stat-Basic Statistics-Correlation



Sehingga muncul kotak dialog “Correlation” dan isi sesuai gambar dibawah.

Gambar 6 : Correlation

*masukkan C1 dan C2 lalu klik “Select” sehingga kedua variabel tersebut muncul di kotak “Variables”



Selanjutnya akan muncul hasil output “Correlations” pada “Session”.

B. REGRESI LINIER SEDERHANA 2.5 Pengertian Regresi Linier Sederhana Model regresi linier sederhana adalah model probabilistik yang menyatakan hubungan linier antara dua variabel di mana salah satu variabel dianggap memengaruhi variabel yang lain. Variabel yang memengaruhi dinamakan variabel independen dan variabel yang dipengaruhi dinamakan variabel dependen. Sebagai contoh mungkin seorang peneliti tertarik untuk menyelidiki pengaruh (hubungan) linier dari Intelegency Quotient (IQ) terhadap hasil belajar statistika mahasiswa. Disini IQ adalah variabel independen, sedangkan hasil belajar adalah variabel dependen. Masih banyak contoh yang dapat dimodelkan dengan regresi linier sederhana, misalnya hubungan antara motivasi dan kinerja pegawai, hubungan antara usia dan tinggi badan manusia, hubungan antara pendapat dan pengeluaran rumah tangga, dan lain-lain.4

4

Suyono,Analisis Regresi untuk Penelitian, Ed.1, (Cet. 1; Yogyakarta: Deepublish, Februari-2018), hlm. 5.

11 Analisis regresi setidak-tidaknya memiliki tiga kegunaan, yaitu : 5 1. Untuk tujuan deskripsi dari fenomena data atau kasus yang sedang diteliti, regresi mampu mendeskripsikan fenomena data melalui terbentuknya suatu model hubungan yang bersifat numerik; 2. Untuk tujuan kontrol, regresi juga dapat digunakan untuk melakukan pengendalian (control) terhadap suatu kasus atau hal-hal yang sedang diamati melalui penggunaan model regresi yang diperoleh; 3. Sebagai prediksi, model regresi juga dapat dimanfaatkan untuk melakukan prediksi variabel terikat. 2.6 Model Analisis Regresi Sederhana Model probabilistik untuk regresi linier sederhana adalah : 𝑌 = 𝛽0 + 𝛽1 + 𝜀

(1.1)

Dimana X adalah variabel independen, Y adalah variabel dependen, 𝛽0 dan 𝛽1 adalah parameter- parameter yang nilainya tidak diketahui yang dinamakan koefisien regresi, dan 𝜀 adalah kekeliruan atau galat acak (random error). Di sini variabel dependen diasumsikan bukan, dapat diobservasi atau diukur dengan kekeliruan yang dapat diabaikan, dan variasi dalam X dianggap dapat diabaikan dibanding dengan range dari X. Sebagai konsekuensi dari adanya suku galat acak 𝜀 maka variabel dependen Y juga merupakan variabel acak. Galat acak 𝜀 memiliki peranan yang sangat penting dalam analisis regresi. Galat acak 𝜀 digunakan untuk memodelkan variasi nilai-nilai Y untuk nilai X yang tetap. Karena kita hanya fokus pada pengaruh X terhadap Y maka akan selalu diasumsikan bahwa mean (harga harapan atau ekspektasi) galat acak 𝜀 sama dengan 0, ditulis 𝐸(𝜀) = 0. Ini berarti bahwa pengaruh semua faktor diluar X mean-nya dianggap sama dengan 0. Asumsi ini kiranya beralasan untuk mendapatkan model regresi linier sederhana yang baik. Dengan asumsi bahwa mean galat acak sama dengan nol, maka mean variabel dependen Y dinotasikan dengan E(Y) adalah : 𝑬(𝒀) = 𝜷𝟎 + 𝜷𝟏𝑿

(1.2)

Dari rumus ini terlihat bahwa mean dari Y hanya dipengaruhi oleh X, parameter 𝛽0 dan 𝛽1 dan tidak dipengaruhi oleh faktor lain. Persamaan (1.2) merupakan persamaan garis lurus dengan gradien (kemiringan) 𝛽1 yang memotong sumbu vertikal di 𝛽0 . Parameter 𝛽0 dinamakan intercept dan parameter 𝛽1 menyatakan perubahan pada mean E(Y) untuk setiap kenaikan satu satuan dalam X. Jika (X1,Y1), (X2,Y2), ..., (Xn,Yn) adalah sampel dari pasangan variabel independen X dan variabel dependen Y yang memenuhi persamaan (1.1) maka, 𝑌1 = 𝛽0 + 𝛽1 𝑋1 + 𝜀1 𝑌2 = 𝛽0 + 𝛽1 𝑋2 + 𝜀 2

5

Tri Basuki, Agus, Analisis Regresi dalam Penelitian Ekonomi & Bisnis,Ed.1, (Cet. 1; Jakarta: Rajawali Pers, 2016), hlm. 4

12 ⋮ 𝒀𝒏 = 𝜷𝟎 + 𝜷𝟏𝑿𝒏 + 𝜺𝒏

(1.3)

Disini terdapat sejumlah-n galat acak 𝜀1 , 𝜀2 ,.., 𝜀𝑛 , semua galat acak ini diasumsikan memiliki mean 0.6

2.7 Menghitung Regresi Linear dengan Aplikasi 1. Ms. Excel  Klik menu Data-Data Analysis. *jika Data Analysis belum muncul, aktifkan menu tersebut dengan klik menu File > Option > Add-Ins > centang Analysis Toolpak > Go > (pastikan centang sudah benar) OK, ulangi ini sebanyak 2 kali.

Gambar 7 : Data Analysis



Setelah muncul kotak dialog “Data Analysis” seperti pada gambar diatas, pilih Regression-OK. Kemudian muncul kotak dialog “Regression” dan input data sesuai variabel lalu tekan OK.

Gambar 8 : Kotak Dialog "Regression"



Setelah itu, hasil output akan muncul di sheet sebelumnya.

2. SPSS  Pada bagian sudut kiri bawah pilih “Variable View” dan isi seperti gambar di bawah.

6

Suyono,Analisis Regresi untuk Penelitian, Ed.1, (Cet. 1; Yogyakarta: Deepublish, Februari-2018), hlm. 5-7.

13

Gambar 9 : Data View

 

Selanjutnya pada bagian sudut kiri bawah pilih “Data View” dan masukkan data pada kolom yang sesuai. Lalu pilih menu Analyze-Regression-Linear…

Gambar 10 : Menu Analyze



...