Regresi logistik adalah sebuah pendekatan untuk membuat model prediksi seperti halnya regresi linear atau yang biasa disebut dengan istilah Ordinary Least Squares (OLS) regression. Perbedaannya adalah pada regresi logistik, peneliti memprediksi variabel terikat yang berskala dikotomi. Skala dikotomi yang dimaksud adalah skala data nominal dengan dua kategori, misalnya: Ya dan Tidak, Baik dan Buruk atau Tinggi dan Rendah.

Apabila pada OLS mewajibkan syarat atau asumsi bahwa error varians (residual) terdistribusi secara normal. Sebaliknya, pada regresi ini tidak dibutuhkan asumsi tersebut sebab pada regresi jenis logistik ini mengikuti distribusi logistik.

Asumsi Regresi Logistik antara lain:

1. Regresi logistik tidak membutuhkan hubungan linier antara variabel independen dengan variabel dependen.
2. Variabel independen tidak memerlukan asumsi multivariate normality.
3. Asumsi homokedastisitas tidak diperlukan
4. Variabel bebas tidak perlu diubah ke dalam bentuk metrik (interval atau skala ratio).
5. Variabel dependen harus bersifat dikotomi (2 kategori, misal: tinggi dan rendah atau baik dan buruk)
6. Variabel independen tidak harus memiliki keragaman yang sama antar kelompok variabel
7. Kategori dalam variabel independen harus terpisah satu sama lain atau bersifat eksklusif
8. Sampel yang diperlukan dalam jumlah relatif besar, minimum dibutuhkan hingga 50 sampel data untuk sebuah variabel prediktor (independen).
9. Dapat menyeleksi hubungan karena menggunakan pendekatan non linier log transformasi untuk memprediksi odds ratio. Odd dalam regresi logistik sering dinyatakan sebagai probabilitas.

Model Persamaan Regresi Logistik

Model persamaan aljabar layaknya OLS yang biasa kita gunakan adalah berikut: Y = B0 + B1X + e. Dimana e adalah error varians atau residual. Dengan model regresi ini, tidak menggunakan interpretasi yang sama seperti halnya persamaan regresi OLS. Model Persamaan yang terbentuk berbeda dengan persamaan OLS.

Berikut persamaannya:

Ln: Logaritma Natural.Di mana:

B0 + B1X: Persamaan yang biasa dikenal dalam OLS.

Di mana:

exp atau ditulis ΓÇ£eΓÇ¥ adalah fungsi exponen.

(Perlu diingat bahwa exponen merupakan kebalikan dari logaritma natural. Sedangkan logaritma natural adalah bentuk logaritma namun dengan nilai konstanta 2,71828182845904 atau biasa dibulatkan menjadi 2,72).

Dengan model persamaan di atas, tentunya akan sangat sulit untuk menginterprestasikan koefisien regresinya. Oleh karena itu maka diperkenalkanlah istilah Odds Ratio atau yang biasa disingkat Exp(B) atau OR. Exp(B) merupakan exponen dari koefisien regresi. Jadi misalkan nilai slope dari regresi adalah sebesar 0,80, maka Exp(B) dapat diperkirakan sebagai berikut:

Nilai Odds Ratio

Besarnya nilai Exp(B) dapat diartikan sebagai berikut:

Misalnya nilai Exp (B) pengaruh rokok terhadap terhadap kanker paru adalah sebesar 2,23, maka disimpulkan bahwa orang yang merokok lebih beresiko untuk mengalami kanker paru dibadningkan dengan orang yang tidak merokok. Interprestasi ini diartikan apabila pengkodean kategori pada tiap variabel sebagai berikut:

1. Variabel bebas adalah Rokok: Kode 0 untuk tidak merokok, kode 1 untuk merokok.
2. Variabel terikat adalah kanker Paru: Kode 0 untuk tidak mengalami kanker paru, kode 1 untuk mengalami kanker paru.

Pseudo R Square

Perbedaan lainnya yaitu pada regresi ini tidak ada nilai ΓÇ£R SquareΓÇ¥ untuk mengukur besarnya pengaruh simultan beberapa variabel bebas terhadap variabel terikat. Dalam regresi logistik dikenal istilah Pseudo R Square, yaitu nilai R Square Semu yang maksudnya sama atau identik dengan R Square pada OLS.

Jika pada OLS menggunakan uji F Anova untuk mengukur tingkat signifikansi dan seberapa baik model persamaan yang terbentuk, maka pada regresi ini menggunakan Nilai Chi-Square. Perhitungan nilai Chi-Square ini berdasarkan perhitungan Maximum Likelihood.

Untuk melihat contoh penelitian yang menggunakan regresi logisti silahkan anda lihat pada file Pdf dan utk praktikum dan tutorial penggunaan regresi data logit bisa anda lihat pada tayangan sbb:

http://

Tujuan Menggunakan regresi Logistik

Pemahaman tujuan menggunakan regresi logistik sangat diperlukan sebelum anda menggunakannya sebagai alat penelitian. Anda bisa mendalami dan membahas secara detil jika tujuan penggunaan regresi logistik anda kuasai secara detil. Setelah saya membaca beberapa jurnal yang menggunakan regresi logistik, saya menyimpulkan tujuan penggunaan regresi logistik secara umum ada tiga, yakni: 

1. Menghitung peluang

Persamaan yang diperoleh dari proses regresi logistik, dapat digunakan untuk menghitung peluang responden diluar responden yang termasuk dalam penelitian. Contoh yang dapat dipahami adalah proses pengajuan kredit. Pihak bank biasanya melakukan evaluasi kelayakan seseorang layak atau tidak untuk menerima kredit pinjaman dari bank. Beberapa pertanyaan diberikan kepada pihak bank terhadap calon penerima kredit. Pertanyaan yang diberikan seputar karakteristik variabel calon penerima modal tersebut merupakan variabel independen yang akan diinput oleh petugas bank kedalam model. Dari beberapa variabel yang dipertanyakan itulah, petugas bank dapat menentukan peluang calon penerima kredit tersebut untuk bisa mengembalikan pinjaman atau tidak, nilai antara 0 ΓÇô 1.

Tentunya model yang digunakan oleh petugas bank adalah model regresi logistik berdasarkan data-data peminjam sebelumnya. Dalam model tersebut terdapat komponen bahwa biasanya peminjam yang memiliki pendapatan dibawah sekian dengan pinjaman yang telah dimiliki sebelumnya sekian, ditambah tanggungan kerja sekian, memiliki peluang untuk mengembalikan pinjaman sebesar sekian ( nilai 0 -1).

2. Melihat karakteristik

Tujuan kedua ini sering digunakan untuk melihat perbedaan karakteristik antara 2 kelompok. Salah satunya adalah skripsi saya yang saya sebutkan diatas. Skripsi tersebut menggambarkan karakteristik petani anorganik dan petani organik. Hasil kesimpulan bahwa peluang petani mampu beralih dari anorganik ke organik adalah karena perbedaan harga produk hasil kedua proses tersebut. Petani organik bersedia beralih dari anorganik ke organik meskipun produktivitas organik lebih kecil dibanding anorganik. Namun, perbedaan harga yang tinggi menjadikan petani organik memiliki pendapatan yang lebih tinggi dibandingkan petani anorganik.

Tujuan melihat karakteristik ini biasanya membahas nilai odds ratio di masing masing variabel independen (nilai odds ratio adalah (exp(koefisien)) masing-masing variabel). Nilai odds ratio menjelaskan peluang responden beralih ke organik (contoh kasus diatas). Penjelasan nilai odds ratio berbeda dari nilai koefisien regresi pada umumnya. Bila koefisien regresi menjelaskan : ΓÇ£ jika variabel X naik 1 satuan, maka nilai Y akan naik sebesar nilai koefisien satuanΓÇ¥ maka exp(koefisien) atau odds ratio pada regresi logistik menjelaskan : ΓÇ£ responden yang memiliki variabel x lebih tinggi, maka akan berpeluang untuk memilih organik (contoh kasus diatas) sebesar ΓÇ£exp(nilai koefisien) atau biasa disebut odds ratioΓÇ¥ kali dibandingkan responden yang memiliki variabel x lebih rendahΓÇ¥. Iya, nilai exp(koefisien) pada regresi logistik atau disebut sebagai odds ratio menjelaskan peluang, dan tidak menjelaskan berapa yang dimaksud ΓÇ£lebih tinggiΓÇ¥ dari variabel X tersebut.

3. Faktor Yang mempengaruhi

Tujuan ketiga ini merupakan pengembangan dari tujuan kedua, peneliti mampu mengetahui faktor yang mempengaruhi mengapa terdapat perbedaan antara kedua kelompok tersebut. Nilai odds ratio yang tinggi menandakan varaibel tersebut memiliki pengaruh yang tinggi  terhadap pemilihan beda dari responden. Tujuan untuk mengetahui faktor yang mempengaruhi ini adalah diharapkan faktor yang signifikan mempengaruhi tersebut merupakan faktor yang bisa diatur oleh peneliti atau pengambil kebijakan sehingga bisa menggiring responden lainnya untuk berbuat yang sama terhadap responden yang bernilai 1 sebelumnya.

Contoh pada skripsi ini adalah bahwa harga merupakan faktor yang paling berpengaruh terhadap preferensi petani memilih pertanian organik, maka pemerintah jika ingin mengembangkan pertanian organik harus melakukan kebijakan yang tetap menstabilkan harga agar terus berada diatas harga produk anorganik sehingga peminat petani organik akan sebakin banyak dan bisa terus berkembang.

Untuk megolah data dengan menggunakan persamaan Regresgi logit, silhahkan anda cek PPT sebagai berikut: 

Pada kesempatan kali ini kita akan membahas salah satu model regresi Y dummy (varibel boneka) lainnya yang akan memperbaiki model peluang linear dan secara kebagusan model sama dengan model logit yaitu model probit. Dimana secara nyata akan memperbaiki dua aspek sekaligus yaitu letak nilai peluang yang dihasilkan oleh model pasti berada pada selang 0 Γëñ P Γëñ 1 dan dipenuhinya asumsi homoskedastisitas pada model dikarenakan pada model probit dikenai proses pembobotan. Jadi, model probit ini menyempurnakan model sebelumnya yaitu model peluang linear dan secara perlakuan data sama dengan model logit.

Model PROBIT

Apabila model logit menggunakan fungsi peluang logistik kumulatif (logit), maka model probit menggunakan fungsi peluang normal kumulatif, oleh karena itu kadang-kadang model probit disebut dengan model normit (normit model). Pada prinsipnya model probit serupa dengan model logit, kecuali model logit menggunakan fungsi peluang logistik kumulatif sedangkan model probit menggunakan fungsi peluang normal kumulatif. Model probit dapat dinyatakan, sebagai berikut : 

Dimana F menunjukkan fungsi peluang kumulatif sedangkan X_i menunjukkan variabel bebas yang bersifat stokastik.

Oleh karena model peluang probit berkaitan dengan fungsi peluang normal kumulatif, maka kita dapat menulis model peluang probit sederhana, sebagai berikut : 

Oleh karena dalam persamaan di atas P_i menunjukkan peluang bahwa suatu kejadian akan terjadi, maka dapat diukur melalui daerah di bawah kurva normal baku dari ΓÇô Γê₧ sampai dengan Z_i.

Untuk memperoleh suatu dugaan dari indeks Z_i, maka kita dapat menggunakan invers dari fungi normal kumulatif (Lihat tabel normal baku Z sebagai bantuan), sehingga diperoleh : 

Kita dapat menginterpretasikan peluang P_i yang dihasilkan dari model probit sebagai suatu dugaan dari peluang bersyarat (conditional probability) bahwa suatu objek pengamatan atau kelompok akan mengalami suatu kejadian berdasarkan nilai tertentu dari variabel X.

Hal ini akan serupa dengan peluang bahwa variabel normal baku Z_i akan lebih kecil atau sama dengan  ╬▓₀ + ╬▓₁ X_1i  atau P(Z_i Γëñ ╬▓₀ + ╬▓₁ X_1i), dimana besar nilai peluang tersebut dapat dilihat dari tabel distribusi normal kumulatif.

Persamaan Z_i di atas merupakan persamaan yang linear dalam parameter, sehingga dapat diduga dengan menggunakan metode kuadrat terkecil (OLS).

Karena P_i_Topi (rumus pada artikel : Model Logit) merupakan peluang dibawah kurva normal dari nilai Z_i, maka terdapat masalah dalam menggunakan metode kuadrat terkecil untuk pendugaan kasus data berkelompok. Jika kita mengasumsikan setiap objek pengamatan dalam kelompok adalah bebas dan mengikuti distribusi peluang binomial, maka variabel takbebas dari persamaan di atas akan mendekati distribusi normal (apabila ukuran sampel besar) yang memiliki nilai rata-rata nol (0) dan varians sebesar: 

Hal lain bahwa persamaan di atas akan memiliki sifat heteroskedastik. Untuk mengatasi hal tersebut, maka persamaan tersebut diduga dengan menggunakan metode kuadrat terkecil terbobot (weighted least square method), dengan jalan melakukan pembobotan terhadap setiap nilai pengamatan melalui penggandaan dengan pembobot W_i = 1/ΓêÜV_i.

Untuk memudahkan pemahaman terhadap penurunan perumusan secara matematis tersebut di atas, berikut disajikan tabel perhitungan secara manual atas data dengan konsep logit (kasus data berkelompok ΓÇô rancangan percobaan) sebagai berikut,

Gambar 1. Penaksiran Model Probit Data Berkelompok

Dari fungsi data di atas regresi dapat dilakukan antara variabel Z_i dengan variabel X dengan sebelumnya dilakukan pemobobotan pada masing-masing variabel. Untuk memperoleh nilai peluang P_i kembali, peneliti dapat mengembalikan perhitungan atas fungsi invers pada persamaan awal (Z_i dengan fungsi invers).

Meskipun uraian di atas lumayan kompleks dengan adanya penurunan model persamaan matematis (pencarian nilai Z_i dari nilai peluangnya), akan tetapi bagi peneliti sangat diperlukan dalam proses pemahaman untuk menghasilkan data mentah (raw data) untuk digunakan dalam proses perhitungan dan pembentukan model probit. Oleh karenanya, peneliti dituntut untuk memahami segala bentuk notasi dan pemaknaan arti serta prosesnya sehingga pada tahapan selanjutnya dapat memudahkan peneliti dalam penerapan data baik kepada rumus maupun penggunaan software pendukung (misal : SPSS) dalam pembentukan model probit.

Pada kesempatan lainnya kita akan coba secara alplikatif menggunakan software SPSS untuk mencari model peluang linear, model logit dan model probit yang diaplikasi pada data riil penelitian. Agar dapat membantu peneliti secara sederhana mengaplikasikan pemahaman terori kepada data yang dimilikinya. SEMANGAT MEMPELAJARI!!!

Sumber Buku : Dr. Ir. Vincent Gaspersz, M.Sc.

Berikut ini akan saya berikan contoh riset keuangan menggunakan analisis Probit 

Regresi probit merupakan salah satu model regresi yang dapat menjelaskan hubungan antara variabel dependen kualitatif (kategorik) berdistribusi normal dan Bernoulli dan variabel independen kualitatif, kuantitatif, atau gabungan kualitatif dan kuantitatif. 

Adapun untuk tutorial pegolahan analisis regresi Probit, silahkan anda lihat pada PPT sbb: