Ridge Regresyon ve Öğrenci Başarısı Üzerine Bir Uygulama

Abstract

I I I ÖZET Ridge regresyon, regresyon analizinde karşılaşılan ve 'çoklubag 1 ant ı' diye adlandırılan açıklayıcı değişkenlerin bağımsızlık varsayımının bozulması sorunundan kurtulabilmek amacıyla geliştirilen bir regresyon yöntemidir. Çok1u bag1antı varlığının, regresyon katsayılarının en kUçUk kareler tahminleri üzerinde önemi i etkileri mevcuttur. Bu sorunun en önemli etkisi, regresyon katsayılarının en kUçUk kareler tahminIerinin. buyuk varyansa sahip olmalarına neden olmasıdır. Çok1u bağlantı sorununu giderme yollarından biri fi'nın yansız olma gerektirimini göz ardı etmektir. Ridge modeli, tahminlerin varyanslarını azaltabilmek için regresyon denk1emindeki katsayıları yanlı olarak tahmin eder. Bu çalışmanın amacı, çok1ubag1antı sorununu inceleyip, çözüm yollarından biri olan ridge regresyon modelini eğitim' verisine uygulamak ve ridge metodunun özelliklerini ve performansını BEK ile karşılaştırmaktır. Çalışmada ridge izi, basit, genelleştirilmiş ve yönlendirilmiş ridge olmak Üzere dört farklı ridge yaklaşım kapsama alındı ve tüm sonuçlar BEK sonuçları ile karşılaştırıldı. Her bir tahmin değeri büyüklük, işaret ve istatistiksel anlamlılık bakımlarından karşılaştırılırken, modeller doğruluk dereceleri bakımlarından karşılaştırıldı. Gerçek veri Üzerinde yapılan uygulama sonucu ridge yaklaşımlarının bu veri için BEK'den ustun olmadığı görüldü.

IV ABSTRACT Ridge regression is a type of regression technique which was developed to remedy the problem of mul tico 1 inear i ty in regression analysis. The presence of mul tico 1 inear i ty has a number of potentially serious effects on the least squares estimates of regression coefficients. The most important effect is that it causes high variances in the estimation of regression cofficients. One way to alleviate the problem of mul tico 1 inear i ty is to drop the requirement that the estimator of J3 be unbiased. The ridge model introduces some bias Into the regression equation in order to reduce the variance of the estimator. The porpose of this study were to demonstrate the application of the ridge regression model to educational data and to compare the characteristics and performance of the ridge metod and the least squares metod. In this study, four types of ridge were compared to the least squares metod. They were ridge trace, generalized, ordinary and directed ridge. These methods were compared in terms of magnititude, direction and statistical significance of each estimator. The performance of the whole model was compared in terms of the predictive accuracy. It was seen that in this study the level of mul tico 1 inear i ty was not so high and none of ridge modelcdidnot outperformed the least squares method.