ANKARA ÜNİVERSİTESİ EĞİTİM BİLİMLERİ ENSTİTÜSÜ ÖLÇME VE DEĞERLENDİRME ANABİLİM DALI EĞİTİMDE ÖLÇME VE DEĞERLENDİRME BİLİM DALI - PDF
1 ANKARA ÜNİVERSİTESİ EĞİTİM BİLİMLERİ ENSTİTÜSÜ ÖLÇME VE DEĞERLENDİRME ANABİLİM DALI EĞİTİMDE ÖLÇME VE DEĞERLENDİRME BİLİM DALI ÇOK KATEGORİLİ PUANLANAN MADDELERDE MADDE İŞLEV FARKLILIĞININ MANTEL TEST VE OLABİLİRLİK ORAN TESTİ İLE KARŞILAŞTIRILMASI DOKTORA TEZİ Safiye Bilican Demir Ankara Ocak, 2014
2 ANKARA ÜNİVERSİTESİ EĞİTİM BİLİMLERİ ENSTİTÜSÜ ÖLÇME VE DEĞERLENDİRME ANABİLİM DALI EĞİTİMDE ÖLÇME VE DEĞERLENDİRME BİLİM DALI ÇOK KATEGORİLİ PUANLANAN MADDELERDE MADDE İŞLEV FARKLILIĞININ MANTEL TEST VE OLABİLİRLİK ORAN TESTİ İLE KARŞILAŞTIRILMASI DOKTORA TEZİ Safiye Bilican Demir Danışman: Prof. Dr. Nükhet Çıkrıkçı Demirtaşlı Ankara Ocak, 2014
4 ÖNSÖZ Eğitim sürecinde testlerden elde edilen sonuçlar özellikle öğrenci başarısının değerlendirilmesinde, sınıf geçme veya mezuniyet ile ilgili kararlarda, okul yöneticilerinin ve çalışanlarının değerlendirilmesinde giderek daha sıkılıkla kullanılmaktadır. Bu durumda testlerden elde edilen puanların geçerlik ve güvenirlik gibi temel psikometrik özelliklerinin kabul edilebilir seviyelerde olması beklenir. Eğer bir testin psikometrik özellikleri uygun standartları/ölçütleri karşılayamıyorsa, bu test sonuçlarına dayanarak verilecek kararların ve çıkarımların geçerliğiyle ilgili kuşkular ortaya çıkacaktır. Eğitim ve psikoloji alanında kullanılan testlerden elde edilen puanların geçerliliği için en büyük tehditlerden birisinin yanlılık olduğu vurgulanmaktadır. Yanlılık, testle ölçülmesi amaçlanmayan yapıların test sonuçlarını olumsuz etkileyerek, test puanlarına dayalı olarak verilen kararların geçerliğini azaltması olarak tanımlanabilir. Bu araştırmada ise yanlılık kavramı ele alınarak, geçerlik çalışmaları kapsamında yapılan yanlılık analizlerinin önemine dikkat çekilmiştir. Bu bağlamda madde düzeyinde yanlılık analizlerinin bir parçası olan Madde İşlev Farklılığı (MİF) ve bunu test etmenin yolları üzerinde durulmuştur. Test geliştirme sürecinde ve ölçme araçlarından elde edilen sonuçların ne kadar adil ve geçerli olduğu konusunda MİF analizlerinin önemi dikkate alındığında, performans, başarı, tutum, kişilik vb. psikolojik yapıların ölçülmesinde artık daha sıklıkla kullanılmaya başlanan çok kategorili puanlanan maddeler için de MİF analizlerinin yapılması gerekmektedir. Çok kategorili puanlanan maddeler için pek çok MİF belirleme tekniği bulunmasına karşın, pratik test uygulamalarında değişen farklı koşullar için hangi tekniklerin daha tutarlı sonuçlar verdiğinin belirlenmesi önemli hale gelmektedir. Bu araştırmada sıklıkla kullanılan MİF belirleme tekniklerinden Mantel Test ve ii
5 Olabilirlik Oran Testi nin farklı test koşullarında MİF belirleme performansları yapay veriler üzerinden karşılaştırılmıştır. Böylece bu araştırma sonuçlarının özellikle uygulayıcılar için değişen test koşullarında daha geçerli sonuçlar elde etmek üzere hangi MİF belirleme tekniğini kullanacakları konusunda önemli bilgiler sunması beklenmektedir. Öncelikle, lisansüstü eğitimin boyunca yönlendirmeleri ile bana sürekli rehber olan, araştırmamım her aşamasında yardımları ve fikirleri ile yol gösteren sevgili Hocam ve danışmanım Prof. Dr. Nükhet Çıkrıkçı Demirtaşlı ya motivasyonu, emeği ve sabrı için çok teşekkür ediyorum. Lisansüstü eğitimim boyunca yetişmemde emeği bulunan değerli hocalarım Prof. Dr. Nizamettin Koç, Prof. Dr. Ezel Tavşancıl, Yrd. Doç. Dr. Ömer Kutlu ve Doç. Dr. Ömay Çokluk a; tez jürimde yer alarak tezimin gelişmesine katkıda bulunan saygı değer hocalarım Prof. Dr. Mehmet Ali Kısakürek ve Doç. Dr. Halil Yurdugül e; araştırma süreci boyunca sürekli fikir alışverişinde bulunduğumuz sevgili arkadaşım Özen Yıldırım a; doktora öğrenimim boyunca yurt içi doktora burs olanağı sağlayan TÜBİTAK a teşekkür ederim. Her zaman desteklerini hissettiğim canım anneme ve babama; bu çalışma sürecinde özveri ve anlayışı için sevgili eşim Hasan Basri Demir e çok teşekkür ediyorum. Safiye Bilican Demir iii
6 ÖZET ÇOK KATEGORİLİ PUANLANAN MADDELERDE MADDE İŞLEV FARKLILIĞININ MANTEL TEST VE OLABİLİRLİK ORAN TESTİ İLE KARŞILAŞTIRILMASI Bilican Demir, Safiye Doktora, Ölçme ve Değerlendirme Anabilim Dalı Tez Danışmanı: Prof. Dr. Nükhet Çıkrıkçı Demirtaşlı Ocak, 2014, xiii+ 109 sayfa Bu araştırmada, çok kategorili tepki gerektiren maddelerde MİF belirleme testlerinden Mantel Test ve MTK-Olabilirlik Oran Testi nin farklı test koşullarında I.Tip hata ve istatistiksel güç (power) oranları karşılaştırılmıştır. Çalışmada, Monte Carlo simülasyon tekniği yaklaşımıyla araştırma koşullarına uygun yapay veri setleri elde edilmiştir. Bu çalışmada grupların yetenek dağılımı, örneklem büyüklüğü, MİF miktarı ve MİF örüntüsü manipüle edilen değişkenler olarak belirlenmiş; çok kategorili MTK modeli, madde sayısı, MİF içeren madde sayısı ve MİF türü (tek biçimli) bütün koşullar altında sabit tutulmuştur. Son durumda I. Tip hata çalışması için 18 [3 (yetenek dağılımı) x 3 (örneklem büyüklüğü) x 2 (MİF belirleme testi)] simülasyon koşulu ortaya çıkmıştır. İstatistiksel güç çalışmaları için 76 [3 (yetenek dağılımı) x 3 (örneklem büyüklüğü) x 2 (MİF miktarı) x 2 (MİF örüntüsü) x 2 (MİF belirleme tekniği)] simülasyon koşulu ortaya çıkmıştır. Her bir koşul için 100 tekrar yapılmıştır. iv
7 I. Tip hata oranları MİF içermeyen 20 madde için hesaplanırken güç oranları MİF içerecek biçimde modellenen üç madde üzerinden hesaplanmıştır. Çalışmada veri üretmek için WinGen1, MTK-OOT karşılaştırmaları için MULTİLOG ve Mantel Test analizleri için DIFAS programı kullanılmıştır. Araştırma sonuçları, referans ve odak grubun yetenek dağılımı birim normal dağılım gösterdiği koşulda her iki MİF belirleme testin de I. Tip hatayı iyi kontrol ettiğini göstermiştir. Grup yetenek dağılımlarının benzer olduğu koşul için artan örneklem büyüklüğüne bağlı olarak I. Tip hata oranları Mantel Test için yükselirken MTK-OOT için düşme eğilimi göstermiştir. Her iki MİF belirleme testi için de artan örneklem büyüklüğü ve odak grup yetenek dağılım ortalamasındaki sapmalara bağlı olarak I. Tip hata değerleri artma eğilim göstermiştir. Mantel Test ile karşılaştırıldığında, artan örneklem büyüklüğü ve grupların yetenek ortalamasındaki sapmaya bağlı olarak MTK-OOT için I. Tip hata değerlerindeki artış daha yüksek olmuştur. Her iki MİF belirleme testi için de, artan MİF miktarı ve örneklem büyüklüğüne bağlı olarak ilgili testlerin istatistiksel güç oranlarını yükselmiştir. Araştırma bulguları tüm örneklem büyüklüğü ve MİF miktarı koşullarında MTK- OOT in istatistiksel güç oranlarının, Mantel Test e göre daha yüksek olduğunu göstermektedir. Yüksek MİF örüntüsü koşullarında ilgili testlerin MİF i belirlemedeki performansı zayıftır. Mantel Test ve MTK-OOT nin MİF belirlemedeki gücü odak grubun yetenek ortalamasındaki sapmaya bağlı olarak bir miktar yükselmiştir. Ancak genel olarak farklı sapma koşulları için ilgili testlerin istatistiksel gücü birbirine yakın değerler almıştır. Anahtar kelimeler: Çok kategoride puanlanan maddeler, Madde İşlev Farklılığı, Mantel Test, Olabilirlik Oran Testi, I. Tip Hata, istatistiksel güç. v
8 ABSTRACT COMPARISION OF MANTEL TEST AND LIKELIHOOD RATIO TEST FOR DETECTION OF DIFFERENTIAL ITEM FUNCTIONING IN POLYTOMOUS ITEM RESPONSES Bilican Demir, Safiye Dissertation, Department of Measurement and Evaluation Advisor: Professor Dr. Nükhet Çıkrıkçı Demirtaşlı January, 2014, xiii pages The purpose of this study was to investigate the power and Type I error rate of the likelihood ratio goodness-of-fit (LR) statistic and Mantel Test in detecting differential item functioning (DIF) under Master's (1969, 1972) Partial Credit Model. A multiple replication Monte Carlo study was utilized for simulated data sets. Several variables were manipulated in this study, including the sample size, group mean difference, DIF condition and DIF magnitude. On the other hand some variables were held constant, including polytomous IRT model, test length, Percent of Items with DIF and Type of DIF. In final study design, there were 18 conditions [3 (sample size) x 3 (group mean difference) x 2 (methods of DIF detection)] for Type I error rate study and 76 conditions [3 (sample size) x 3 (group mean difference) x 2 (DIF magnitude) x 2 (DIF pattern) x 2 (methods of DIF detection)] for power study. Simulation was replicated for 100 times for each simulation condition. The conditions investigating Type I error had twenty items with no DIF, whereas the conditions investigating power had three items with DIF. In this study, WinGen3 was used to simulate ability estimates and to generate vi
9 response data sets. MULTİLOG and DIFAS were used to conduct the Mantel and IRT likelihood-ratio test DIF analyses. Results indicated that with equal group distribution, Mantel Test and IRT-LR Test performed similarly under all testing conditions and had better Type I error rate control. Type I error rate for Mantel Test increased as sample size increased. Conversely, as sample size increased, the Type I error rate for IRT-LR decreased under equal group distribution condition. The presence of group mean difference affected the Type I error results of both DIF detection tests. The results showed that large sample size and presence of group mean difference tended to inflate the Type I error rates of both DIF detection tests. IRT-LR had higher Type I error rates than Mantel Test when large sample size and when group mean difference conditions. For both DIF detection tests, the power to detect DIF increased as the DIF Magnitude and sample size increased. The results also showed that IRT- LR had higher DIF detection rates than Mantel test under all test conditions. For both DIF detection tests, conditions with high-shift DIF pattern had the poorest power. The presence of group mean difference had minimal effect on the power results of both DIF detection tests. Key words: Polytomous items, Differential item functioning, Mantel test, Item Response Theory- Likelihood Ratio test, Type I error, power vii
10 İÇİNDEKİLER Sayfa JÜRİ ÜYELERİNİN İMZA SAYFASI... i ÖNSÖZ... ii ÖZET... iv ABSTRACT... vi ÇİZELGELER LİSTESİ... x ŞEKİLLER LİSTESİ... xii EKLER LİSTESİ... xiii BÖLÜM 1 GİRİŞ... 1 Problem... 1 Amaç Önem Sınırlılıklar Tanımlar BÖLÜM 2 İLGİLİ ARAŞTIRMALAR BÖLÜM 3 YÖNTEM Araştırma Modeli Veriler Sabit Tutulan Faktörler Değişimleme Yapılan Faktörler Verilerin Üretilmesi vii
11 Verilerin Analizi ve Yorumlanması BÖLÜM 4 BULGULAR VE YORUMLAR Mantel Test ve MTK-OOT İçin I. Tip Hata Oranları R~N(0,1), O~N(0,1) dağılım koşulunda Mantel Test ve MTK-OOT için I. Tip hata oranları Referans ve odak grup yetenek dağılımlarının farklılaştığı koşulda Mantel Test ve MTK-OOT için I. Tip hata oranları R~N(0,1), O~N(-0.5,1) dağılım koşulunda Mantel Test ve MTK-OOT için I. Tip hata oranları R~N(0,1), O~N(-1,1) dağılım koşulunda Mantel Test ve MTK-OOT için I. Tip hata oranları Mantel Test ve MTK-OOT İçin İstatistiksel Güç Oranları R~N(0,1), O~N(0,1) dağılım koşulunda Mantel Test ve MTK-OOT İçin İstatistiksel Güç Oranları Düşük MİF Örüntüsü Koşulu Yüksek MİF Örüntüsü Koşulu R~N(0,1), O~N(-0.5,1) dağılım koşulunda Mantel Test ve MTK-OOT İçin İstatistiksel Güç Oranları Düşük MİF Örüntüsü Koşulu Yüksek MİF Örüntüsü Koşulu R~N(0,1), O~N(-1,1) dağılım koşulunda Mantel Test ve MTK-OOT İçin İstatistiksel Güç Oranları Düşük MİF Örüntüsü Koşulu Yüksek MİF Örüntüsü Koşulu viii
12 BÖLÜM 5 SONUÇ VE ÖNERİLER Sonuçlar Öneriler KAYNAKÇA EKLER ix
13 ÇİZELGELER LİSTESİ Çizelge 1. Mantel Test İçin Her Bir Puan Aralığında Oluşturulan Çapraz Tablo Örneği Çizelge 2. I. Tip Hata Çalışmaları İçin Simülasyon Deseni Çizelge 3. Güç Çalışmaları İçin Simülasyon Deseni Çizelge 4. MİF İçermeyen Maddelere Ait Adım Güçlüğü Parametreleri Çizelge 5a. MİF İçeren Maddelerin Adım Güçlüğü Parametreleri (Düşük MİF Örüntüsü Koşulunda) Çizelge 5b. MİF İçeren Maddelerin Adım Güçlüğü Parametreleri (Yüksek MİF Örüntüsü Koşulunda) Çizelge 6. R~N(0,1), O~N(0,1) Dağılım Koşulunda Değişen Örneklem Büyüklükleri için Mantel Test ve MTK-OOT nin I. Tip Hata Oranları Çizelge 7. R~N(0,1), O~N(-0.5,1) Dağılım Koşulunda Değişen Örneklem Büyüklükleri için Mantel Test ve MTK-OOT nin I. Tip Hata Oranları Çizelge 8. R~N(0,1), O~N(-1,1) Dağılım Koşulunda Değişen Örneklem Büyüklükleri için Mantel Test ve MTK-OOT nin I. Tip Hata Oranları Çizelge 9. Farklı Yetenek Dağılımları ve Örneklem Büyüklüklerinde Mantel Test ve MTK-OOT nin I. Tip Hata Oranları Çizelge 10. R~N(0,1), O~N(0,1) Dağılım Koşulu ve Yüksek MİF Örüntüsünde, Değişen Örneklem Büyüklükler ve MİF Miktarına göre Mantel Test ve MTK-OOT nin İstatistiksel Güç Oranları x
14 Çizelge 11. R~N(0,1), O~N(-0.5,1) Dağılım Koşulu ve Düşük MİF Örüntüsünde, Değişen Örneklem Büyüklükleri ve MİF Miktarına göre Mantel Test ve MTK-OOT nin İstatistiksel Güç Oranları Çizelge 12. R~N(0,1), O~N(-0.5,1) Dağılım Koşulu ve Yüksek MİF Örüntüsünde, Değişen Örneklem Büyüklükleri ve MİF Miktarına göre Mantel Test ve MTK-OOT nin İstatistiksel Güç Oranları Çizelge 13. R~N(0,1), O~N(-01,1) Dağılım Koşulu ve Düşük MİF Örüntüsünde, Değişen Örneklem Büyüklükleri ve MİF Miktarına göre Mantel Test ve MTK-OOT nin İstatistiksel Güç Oranları Çizelge 14. R~N(0,1), O~N(-1,1) Dağılım Koşulu ve Yüksek MİF Örüntüsünde, Değişen Örneklem Büyüklükleri ve MİF Miktarına göre Mantel Test ve MTK-OOT nin İstatistiksel Güç Oranları Çizelge 15. Mantel Test ve MTK-OOT nin İlişkin İstatistiksel Güç Oranları xi
15 ŞEKİLLER LİSTESİ Şekil 1. Tek Biçimli MİF İçin Grupların Beklenen Puan Dağılımı... 9 Şekil 2. Tek Biçimli MİF İçin Gruplardan Elde Edilen Kategori Tepki Fonksiyonları... 9 Şekil 3. Tek Biçimli Olmayan MİF İçin Grupların Beklenen Puan Dağılımı Şekil 4. Tek Biçimli Olmayan MİF İçin Gruplardan Elde Edilen Kategori Tepki Fonksiyonları Şekil 5. Madde Karakteristik Eğrisi Şekil 6. Beş Kategorili Bir Madde İçin Kategori Tepki Fonksiyonu Şekil 7. Bir Numaralı Madde İçin Kategori Tepki Fonksiyonu Şekil 8. Referans Gruptan Elde Edilen Kategori Tepki Fonksiyonu Şekil 9. Odak gruptan elde edilen kategori tepki fonksiyonu Şekil 10. Farklı Yetenek Dağılımları ve Örneklem Büyüklüklerinde Mantel Test ve MTK-OOT nin I. Tip Hata Oranları xii
16 EKLER LİSTESİ EK 1. Madde Karakteristik Eğrileri EK 2. MULTILOG Programında Olabilirlik Oran Testi İçin Yazılan Komut Dosyası Örneği xiii
17 BÖLÜM 1 GİRİŞ Bu bölümde araştırma problemi, araştırmanın amacı, önemi, tanımlar ve sınırlılıklar yer almaktadır. Problem Pek çok alanda bireyler hakkında karar vermek üzere testlerden yararlanılmaktadır. Test sonuçlarına dayalı olarak bireyleri bir öğretim kurumuna yerleştirme, bireylerin akademik veya iş performansının belirlenmesi, personel seçimi, öğrenmelerin takibi, geri bildirim verme, davranış bozukluklarının teşhis edilmesi veya mesleki yönlendirme gibi çok çeşitli konularda önemli kararlar alınmaktadır. Eğitim sürecinde ise testlerden elde edilen sonuçlar özellikle öğrenci başarısının değerlendirilmesinde, sınıf geçme veya mezuniyet ile ilgili kararlarda, okul yöneticilerinin ve çalışanlarının değerlendirilmesinde giderek daha sıkılıkla kullanılmaktadır (Kubiszyn ve Borich, 2000; Popham, 1999). Alınan bu kararlar bireylerin kişisel, toplumsal, sosyal ya da politik durumları üzerinde önemli etkilere sahip olabilmektedir (Clauser ve Mazor,1998; Messisck, 1995). Bu durumda ölçme araçlarının nitelikleri alınan bu karaları etkileyeceği için, ölçme araçlarından elde edilen puanların geçerlik ve güvenirlik gibi temel psikometrik özelliklerinin kabul edilebilir seviyelerde olması beklenir (Horst 1966). Bir ölçme aracı, o aracı alan tüm bireyler için aynı özelliği ölçmeli ve her bir bireye ölçülen psikolojik özelliği göstermeleri konusunda eşit fırsat sunmalıdır (Roever, 2005). Benzer şekilde Messick (1995) de bir ölçme aracından elde edilen puanların geçerli, güvenilir, karşılaştırılabilir ve adil
18 2 olması gerektiğini vurgulamaktadır. Bu durum eğitim ve psikolojide kullanılan ölçme araçlarına ilişkin standartlarda da açıkça dile getirilmektedir. Amerikan Eğitim Araştırmaları Derneği (American Educational Research Association), Amerikan Psikoloji Birliği (American Psychological Association) ve Eğitimde Ölçme Ulusal Konseyi nin (National Council on Measurement in Education) (1999) Eğitimde ve Psikolojide Ölçme Standartları adlı ortak yayını test kullanıcıları, test yayıncıları ve araştırmacılar için testlerin kullanımı, test puanlarının yorumlanması, basım ve dağıtım vb. birçok konuda standartları içermektedir. İlgili yayınında test puanlarının adil (fairness) olması gerektiğiyle ilgili olarak 12 standart sunulmaktadır. Bu standartlarla test ya da madde puanlarının alt gruplardan gelen bireyler için aynı anlam ifade etmesinin puanların karşılaştırılabilir olması açısından önemini vurgulamış; aksi durumda ilgili test ya da maddeler için adilliğin sağlanamayacağı uyarısı yapılmıştır. Örneğin ilgili yayında 7.3 nolu standartta bu durum şöyle vurgulamaktadır: Standart 7.3: Daha önceki araştırmalar, test katılımcıları evrenindeki farklı yaş, etnik köken, kültürel yapı ve cinsiyet grupları için testle ölçülen özellik bakımından madde veya test performansı farklılıklarını inceleme ihtiyacını işaret ediyorsa mümkün olduğu oranda bu tür çalışmalar yapılmalıdır. Bu tür araştırmalar, belirli bir grup için test puanlarında yanlılığa yol açabilen test tasarımı, içeriği veya test formatını belirlemeli ve bunları azaltmak için düzenlenmelidir (syf: 81). Eğitim ve psikolojide çeşitli amaçlarla kullanılan testlerin belirtilen standartları karşılaması gerekmektedir. Eğer bir ölçme aracı tüm bireyler için eşit ölçme yapmıyorsa, bireyler arasında gözlenen puan farklılıkları sadece ölçülmesi amaçlanan özellikle ilgili farkları değil aynı zamanda ölçme hatalarını da içerecektir. Diğer bir ifadeyle bir öğrencinin bu testten aldığı puan grup üyeliği ve testle ölçülen özelliğinin bir fonksiyonu olmaktadır. Bu durumda aynı yeteneğe sahip fakat farklı gruptaki bireylerin test puanları ve başarı sıralamaları farklı olacaktır. Örneğin, özel bir orta öğretim
19 3 kurumunun öğrenci seçmek üzere kullandığı genel yetenek testinde alt sosyo ekonomik düzeyden gelen katılımcıların üst sosyo ekonomik düzeydekilere göre tutarlı olarak daha düşük puanlar alsın. Bu durumda sadece test puanlarındaki farkları dikkate alarak alt sosyo ekonomik düzeyden gelen öğrencilerin daha düşük yetenek düzeyine sahip olduğu sonucuna varılmaktadır. Bu sonuca uygun olarak üst sosyo ekonomik düzeyden gelen öğrencilerin bu okulda eğitim hakkı kazanması daha olası bir durum olacaktır. Benzer şekilde uluslararası düzeyde öğrenci başarısının belirlendiği PISA ve TIMSS gibi projelerden elde edilen sonuçlara dayalı olarak ülkeler başarıları bakımından sıralanmakta veya eğitim politikalarına ilişkin önemli kararlar alınmaktadır. Bu durumda bu projelerde kullanılan testlerde yer alan maddelerin katılımcılar için eşit ve yansız ölçme yaptığını gösteren kanıtlara ihtiyaç duyulmaktadır. Araştırmacılar veya test geliştiriciler, kullandıkları ölçme araçlarından elde ettikleri puanların testi alan tüm bireyler için adil ve test puanlarının karşılaştırılabilir olduğunu göstermek için ampirik kanıtlar sunacak geçerlik çalışmaları yapmaktadırlar. Messick (1995), geçerlik kavramını test puanlarını anlamlandırmak veya yorumlamak amacıyla bilimsel sorgulama ve mantığa dayalı karar verme sürecin bir araya getirmek olarak tanımlamaktadır. Geçerlik test ya da değerlendirmelerin bir özelliğinden ziyade test puanlarının anlamıyla ilgilidir. Daha teknik ifadeyle test puanı, ilgili yapıya uygun olarak bir test, ölçek, gözlem veya başka bir ölçme aracı yoluyla gözlenen davranışın kodlanmasını veya özetlenmesini ifade eder. Bu anlamından dolayı test puanları sadece bireylerin davranışlarındaki değişimleri/tutarlılıkları değil, kişilerin/grupların özelliklerini, koşul, çevre vb. sosyal göstergeleri de kapsamaktadır. Bir ölçme aracından elde edilen puanların geçerliğini belirlemek için yapı geçerliği çalışmaları yapılmaktadır. Bu çalışmalar test puanlarının ölçme amacını ne kadar yerine getirebildiğine ilişkin kanıt toplamak için yapılır (Crocker ve Algina, 1986). Messick (1995), yapı geçerliğini merkeze koyarak diğer geçerlik türlerinin (ölçüt ve kapsam) yapı geçerliğiyle yakından ilişkili olduğunu ve yapı geçerliği çalışmalarında test puanlarını yorumlamak ve anlamlandırmak üzere ölçüt ve kapsamla bağlantılı kanıtların bir araya
20 4 getirildiğini belirtmektedir. Messcik (1995) ve Kristanjansonn, Aylesworth, McDowell ve Zumbo (2005) eğitim ve psikoloji alanında kullanılan testlerden elde edilen puanların yapı geçerliği için en büyük tehditlerden birisinin yanlılık olduğuna dikkat çekmektedir. Bu kapsamda ölçmelerdeki yanlılık kavramı geçerlik kapsamında tartışılmış; test ve madde yanlılığı ve Madde İşlev Farklılığı kavramları açıklanmıştır. Ölçmede Yanlılık Yanlılık, yapı geçerliği kavramı kapsamında, testle ölçülmesi amaçlanmayan yapıların açıkladığı varyansın test sonuçlarını olumsuz etkilemesi ve test puanlarına dayalı olarak verilen kararların geçerliğini düşürmesi olarak ele alınabilir. Daha teknik bir tanımla yanlılık, farklı alt gruplardaki bireylere ait test puanlarının bulundukları gruba bağlı olarak sistematik hata içermesidir (Angoff, 1993; Clauser ve Mazor,1998). Böyle bir durumda herhangi bir grup üyeliği, testle ölçülmek istenen yapı dışında bir varyans kaynağı olarak test puanlarına karışmaktadır. Yanlılık aynı zamanda maddenin çok boyutlu olması kapsamında da tartışılabilir (Camilli ve Shepard, 1994). Eğer bir madde eş zamanlı olarak iki ya da daha fazla yapıyı ölçüyorsa o maddenin çok boyutlu olduğundan bahsedilir. Shealy ve Stout (1993), bir maddenin birden fazla yapıyı ölçtüğü durumlarda yanlılığın ortaya çıkabileceğini belirtmektedir. Çünkü eşleştirme değişkeni boyutunda bireyler aynı yetenek ya da katılma düzeyindeyken, ölçülen diğer boyut için bireylerin yetenekleri veya katılma düzeyleri farklı olacaktır (Gierl, 2005). Ackerman (1992), özel bir ölçekleme yapmadan bireyleri iki farklı boyutta eşitlemenin mümkün olmayacağını vurgulamaktadır. Örneğin okuma yükü gerektiren bir matematik problemi çözmek için, bireyin maddede ölçülen matematik becerisi dışında okuduğunu anlama becerisini de gerektirebilir. Okuma becerisi ilgili maddede bireylerin performansını ölçmek üzere düşünülmeyen bir değişken olduğu için, bireyler matematik becerisi bakımından eşleştirilse bile okuma becerileri farklı olduğu için yanlılık ortaya çıkacaktır. Bu durumda okuma becerisi, matematik becerisinden bağımsız olarak dilbilgisi veya kelime dağarcığı zayıf olan öğrencilerin test puanlarını
21 5 düşüren bir faktör olacaktır. Messcik (1995), ölçülmesi amaçlanmayan bu yapıların bazı grup ya da bireyler için testi daha zor hale getirmesini yapıyla ilişkisiz zorluk (construct-irrelevant difficulty) olarak tanımlamış ve bu durumun testlerin puanlanması, puanların yorumlanması ve kullanımıyla ilgili yanlılığın ve haksızlığın (unfairness) temel kaynağı olduğunu belirtmiştir. Genel olarak yanlılık için olası kaynakların daha çok dil ve kültür kapsamında tartışıldığı görülmektedir. Bu konuda yapılan araştırma bulgularına göre olası yanlılık kaynaklarından bazıları şöyle sıralanabilir (Bakan Kalaycıgolu ve Berberoglu, 2010; Ercikan, 1998; Uiterwijk ve Valen, 2007): Soyo-ekonomik farklıklar Çeviriden kaynaklı anlam karmaşası, Bazı kavramlar için farklı kültürlerde aynı karşılıklarının bulunmaması, Farklı kültürden veya sosyal gruplardan gelen öğrencilerin bazı kavramlara farklı düzeylerde aşina olması, Kültüre özgü deyim, ima ve kavramların kullanılması Negatif, edilgen ve mecazi anlam içeren kavram veya cümle yapılarının kullanılması, Kullanım sıklığı yaygın olmayan, soyut ve anlam belirsizliği gösteren kavram ya da cümlelerin kullanımı, Dini, siyasi, etnik vb. bakış açıları Eğitim programlarındaki (kapsam, öğretim yöntemleri, kazanımlar vs.) farklılıklar Dil ve kültüre bağlı yanlılık kaynaklarına ek olarak çalışmalarda ayrıca cinsiyet de yanlılık bağlamında incelenmiş; maddenin yapısı/formatı, kapsamı, bilişsel karmaşıklık düzeyi gibi etmenler olası yanlılık kaynağı olarak ortaya konmuştur (Bakan Kalaycıgolu ve Berberoglu, 2010; Mendes-Barnett ve Ercikan, 2006).
22 6 Test ve Madde Yanlılığı. Yanlılığın ölçme araçlarından elde edilen puanların geçerliği için en büyük tehditlerden biri olduğu dikkate alındığında, ölçme sonuçlarındaki yanlılık kaynaklarının azaltılması için test (test bias) ve madde düzeyinde yanlılık (item bias) analizleri yapılmaktadır. Böylece olası yanlılık kaynaklarının azaltılarak test puanlarının geçerliğinin artırılması amaçlanmaktadır. Test yanlılığı incelemeleri, testteki maddeleri tek tek değerlendirmekten ziyade, toplam test puan ortalamaları arasındaki farklılık bakımından alt grupları karşılaştırmaktadır. Bu durumda alt gruplara ait test puanlarının gerçek puanları yordadığı dikkate alınarak test yanlılığı değerlendirilmektedir (Camilli ve Shepard, 1994). Test yanlılığı, herhangi bir gruba üye olmaktan kaynaklı test puanlarındaki sistematik farklılıkları ifade etmektedir. Bu durum testin bütünün bir özelliğidir ve toplam test puanları düzeyinde analiz edilir. Çoğu durumda maddelerin toplamının sahip olduğu özelikler, tek tek maddelerin sahip olduğu özelliklerden farklı olabilir. Ayrıca, herhangi bir grup için avantaj ve dezavantaj gösteren madde sayıları birbirine yakın olduğunda, yanlılıklar toplam puan düzeyinde birbirinin etkisini yok edebilir. Bu durumda toplam puanların çok az veya hiç yanlılık taşımadığı sonucuna ulaşılabilir (Hong ve Roznowski, 2001). Çoğu durumda araştırmacılar madde düzeyinde yanlılık ile ilgilenmektedir. Bu özellikle test geliştirme sürecinde yararlıdır. Böylece yanlı maddeler gözden geçirilebilir ya da testten çıkarılabilir. Bu durum test denkliğini sağlamada önemli ve gerekli bir süreçtir (Kamata ve Vaughn, 2004). Madde yanlılığı testteki her madde için ayrı ayrı geçerlik kanıtı toplama sürecini işaret etmektedir. Bu durumda maddelerin ilgili alt gruplarda benzer işlev gösterdiğine ilişkin veriler elde edilmeye çalışılır. Madde yanlılığı kavramına iki anlam yüklenebilir: Yargısal ve istatistiksel anlam. Bu kavramın yargısal anlamı, bir maddenin bazı gruplara avantaj/dezavantaj sağlamasını; istatistiksel anlamı ise, karşılaştırılabilir yetenek düzeyindeki grup üyelerinin ilgili maddedeki performansları bakımından istatistiksel bakımdan anlamlı farkların ortaya çıkmasını ifade etmektedir. Madde yanlılığı kavramı, yargısal ve istatistiksel anlamı bakımından bir karmaşaya yol açtığı için, madde işlev farklılığı (MİF) kavramı
23 7 yanlılık yerine daha yaygın olarak kullanılmakta, böylece madde yanlılığının ele alınmasında yargısal yaklaşım ile ampirik kanıt bulma yaklaşımı arasındaki ayrım yapılmaktadır (Angoff,1993). Hambleton, Swaminathan ve Rogers (1991) yanlılık çalışmalarında, odak ve referans gruplarının test maddelerindeki performanslarına ilişkin deneysel kanıtların toplanması gerektiğini vurgulamaktadır. Araştırmacılar yanlılık kararına varmak için deneysel kanıtlar yeterli olmadığını ve bu araştırmalarda elde edilen deneysel kanıtı tanımlamak için madde yanlılığı ile madde işlev farklılığı (MİF) kavramının farklılığını ayırt etmek gerektiğini belirtmektedir. Bu tartışmalara paralel olarak son yıllarda yapılan çalışmalarda madde yanlıdır demek yerine MİF kavramının kullanımı tercih edilmektedir (Ellis ve Raju, 2003). MİF, testle ölçülen psikolojik özellik bakımından denk olan ancak cinsiyet, sosyo-ekonomik düzey gibi değişkenler açısından alt gruplarda yer alan bireylerin, bir maddeyi doğru yanıtlama olasılıklarının farklılaşması olarak tanımlanabilir (Camilli ve Shepard,1994). Belli istatistiksel sınamalar sonrası MİF gösteren bir madde olası yanlı madde olarak değerlendirilir (Kamata ve Vaughn, 2004). Sadece ampirik kanıtlara dayanarak bir maddenin yanlı olduğu kararı verilemez. Madde yanlılığının varlığını belirlemek için sonraki madde yanlılık analizlerinin (içerik analizi, deneysel değerlendirme) yapılması gerekmektedir. Yani, maddenin işlev farklılığı göstermesinin olası sebepleri tespit edilerek, maddenin ölçülmek istenen yapıdan ilişkisiz olarak bazı alt gruplar için adil olmayan bir avantaj /dezavantaj sağlayıp sağlamadığının uzman kişiler tarafından belirlenmesi gerekmektedir (Camilli ve Shepard, 1994; Hambelton ve diğerleri, 1991;Zumbo, 1999). Yanlılık çalışmalarında, madde etkisi (item impact) ve MİF kavramları arasındaki farkın açıklanması önemlidir. Madde etkisi, farklı alt gruplardan gelen bireylerin bir maddeyi doğru yanıtlama olasılıklarının, ilgili madde ile ölçülmek istenen psikolojik özellik bakımından farklılaşmasını ifade etmektedir (Zumbo, 1999). Bu farklılık, madde ile ölçülen psikolojik özellik bakımından gruplar arasındaki gerçek farklardan (true differences) kaynaklanmaktadır. Oysa MİF için alt gruplardan gelen bireylerin bir maddeyi doğru yanıtlama olasılıklarının farklılaşması koşulludur; yani alt gruplarda yer alan bireylerin
24 8 puan ortalamaları hesaplanmadan önce gruplar testle ölçülen özellik bakımından eşleştirilir. Böylece grupların puan ortalamaları arasındaki fark, grupların yetenek düzeylerindeki farklılaşmadan değil, MİF ten kaynaklanmaktadır (Camilli ve Shepard, 1994). MİF çalışmalarında, ölçülen psikolojik özellik bakımından benzer bireylerin ait oldukları alt gruptan bağımsız olarak test maddelerinde benzer performans göstermesi gerektiği varsayımından yola çıkılarak ilgili özellik bakımından karşılaştırılabilir iki grup kullanılır. Bu iki grup, testle ölçülen özellik bakımından eşleştirilmiş ancak belli bir özellik bakımından (cinsiyet, etnik köken, meslek, vb.) farklı alt gruplardan gelmektedir. Odak (focal) grup ve referans (reference) biçiminde adlandırılan bu gruplardan odak grup, referans gruba göre dezavantajlı olduğu düşünülen gruptur. Karşılaştırılabilir iki grup elde etmek amacıyla bireylerin testle ölçülen psikolojik özellikleri yetenekleri- iki ölçüte göre eşleştirilir: iç ölçüt ve dış ölçüt. İç ölçüt, bir testte üzerinde çalışılacak maddelerden elde edilen toplam test puanları veya kestirilen yetenek düzeyi iken; ilgili test maddeleriyle aynı yapıyı ölçen diğer bir testteki performans değişken olarak kullanılırsa, bu durumda kullanılan dış ölçüttür. Her durumda, eşleştirme ölçütünün, yapı geçerliği yüksek olmalıdır; yani bu ölçüt ölçmeyi amaçladığı özelliklerin dışında bir yapı göstermemelidir. Yetenek düzeyi eşleştirilerek odak grubun performansı referans grup ile karşılaştırılır. Karşılaştırma sonuçlarına göre MİF gösteren maddeler için, maddenin doğru cevaplandırılma olasılığının odak ve referans grup üyeleri için farklı olduğu kararı verilir (Camilli ve Shepard, 1994; Zumbo 1999). MİF çalışmalarında odak ve referans grup bireyleri belirli yetenek aralıklarında eşleştirildikten sonra, ilgili maddedeki performansları karşılaştırılır. Maddenin referans ve odak grupta MİF göstermesi iki farklı biçimde ortaya çıkabilir: tek biçimli (uniform) ve tek biçimli olmayan (non-uniform) MİF. Su ve Wang (2005), tek biçimli ve tek biçimli olmayan MİF i testle ölçülmek istenen psikolojik özellik (yetenek) ve grup üyeliği kavramlarını kullanarak açıklamaktadır. Buna göre tek biçimli MİF, bireylerin yetenekleri veya katılma düzeyi ile bireylerin ait oldukları grup arasında bir ilişki olmama durumunu ifade etmektedir. Çok kategoride puanlanan bir madde için tek biçimli MİF,
25 9 herhangi bir tepki ya da puan kategorisinde, bir gruptaki bireylerin tutarlı olarak diğer gruba göre daha iyi performans göstermesi ya da daha olumlu tepkiler göstermesi durumunda ortaya çıkmaktadır. Tek biçimli MİF için örnek olarak, beş kategoride puanlanan bir maddeden elde edilen referans ve odak grup için beklenen tepki kategori puanları ve her bir tepki kategorisindeki olasılıkları gösteren grafikler Şekil 1 ve 2 de verilmektedir. Şekil 1. Tek Biçimli MİF İçin Grupların Beklenen Puan Dağılımı Şekil 2. Tek Biçimli MİF İçin Gruplardan Elde Edilen Kategori Tepki Fonksiyonları
26 10 Tek biçimli olmayan MİF, bireylerin yetenekleri veya katılma düzeyi ile bireylerin ait oldukları grup arasında bir ilişki olma durumunu ifade etmektedir. Bu durumda, farklı yetenek düzeyleri için herhangi bir tepki ya da puan kategorisinde yanıt verme olasılıkları herhangi bir grubun lehine/aleyhine değişmektedir. Aynı madde için tek biçimli olmayan MİF durumunu gösteren grafikler Şekil 3 ve 4 te verilmektedir. Şekil 3. Tek Biçimli Olmayan MİF İçin Grupların Beklenen Puan Dağılımı Şekil 4. Tek Biçimli Olmayan MİF İçin Gruplardan Elde Edilen Kategori Tepki Fonksiyonları
27 11 Eğitim ve psikoloji alanında kullanılan ölçme araçlarından elde edilen puanların geçerlik kanıtları test ve madde yanlılığı analizlerini de içermektedir. Geçtiğimiz 20 yılda madde ve test yanlılığını belirleme çalışmaları öncelikli olarak iki kategorili puanlanan (dikotomus) maddeler üzerinde yoğunlaşmıştır. Ancak, çok kategorili puanlanan (polytomus) madde formatının tutum, kişilik vb. psikolojik yapıların ölçülmesinde daha sıklıkla tercih edilmesi ve performansa dayalı durum belirleme, otantik durum belirleme, portfolyo vb. ölçme yaklaşımlarının gelişimine bağlı olarak bu tür maddeler için de yanlılık belirleme araştırmalarının arttığı dikkat çekmektedir (Kim, Cohen, Alagöz ve Kim, 2007). Bu kısımda çok kategorili puanlanan madde formatı detaylı olarak ele alınmıştır. Çok Kategorili Puanlanan (Polytomus) Maddeler Çok kategorili puanlanan madde formatı bilişsel ve duyuşsal özelliklerin değerlendirilmesiyle ilgili ölçme uygulamalarında sıklıkla kullanılmaktadır. Bilişsel becerilerle ilgili durum belirlemeler okuduğunu anlama, yazılı anlatım ve matematik gibi alanlarda bilişsel yapıların ölçülmesini içerir. Bu ölçmelerde tamamen çok kategorili puanlanan maddeler kullanılacağı gibi, ikili ve çoklu puanlanan maddeler birlikte de kullanılabilir (Shaeffer, Henderson-Montero, Julian, ve Bené, 2002; Thissen ve Wainer, 2001). Böylece test geliştiriciler her iki tür madde formatının da avantajlarını kullanabilirler. Çünkü iki kategorili madde formatı bilişsel alandaki birçok konu için kullanılabilir ve puanlanması daha az zaman alıcıdır. Buna karşın, çok kategorili puanlanan maddeler belirli bir kavram ya da beceri ile ilgili olarak bireyin karmaşık öğrenmelerini değerlendirme konusunda daha etkilidir; ancak bu tür maddelerin puanlanması zaman alıcıdır ( Sykes ve Hou, 2003; Thissen ve Wainer, 2001). Bilişsel becerilerle ilgili durum belirlemelerde çok kategorili puanlanan maddeler genellikle yanıtı testi alan tarafından yapılandırılan maddeler veya performans görevleri biçiminde kullanılabilir. Yapılandırılmış yanıt içeren maddelerde bireylerin bir soruya ya da ifadeye yanıt vermek üzere yanıtlarını yazmaları beklenir. Performans görevi kapsamındaki maddelerde ise
28 12 öğrencilerin değerlendirme, analiz etme ve sentez yapma becerilerini göstererek kendilerine özgü yanıtlarını oluşturmaları gerekmektedir. Kompozisyon türü sınavlar ve öğrenci portfolyoları bu tür maddelere örnek olarak verilebilir. Bilişsel beceriler kapsamında çok kategorili puanlanan madde formatı çözümü birden fazla adım gerektiren maddeler (multistep item) biçiminde de olabilir. Bu tür madde formatında, öğrencilerin çözüm sürecindeki her bir adımı göstererek bir problemi çözmeleri beklenir. Çok adımlı maddeler tipik olarak matematik ve fen derslerinde öğrencilerin başarılarının değerlendirilmesinde kullanılır (Dodd, De Ayala ve Koch, 1995). Yapılandırılmış yanıt gerektiren maddeler, performans görevleri ve çok adımlı maddelere ait puanlar, bireylerin yazılı yanıtlarını veya ürünlerini değerlendirilen puanlayıcılar tarafından belirlenir ve bu puanlar bireylerin ilgili beceri ya da kavramları ne kadar doğru anladıklarının derecesini tanımlar. Bilişsel becerilerden farklı olarak duyuşsal özelliklerin (örn., ilgi, tutum, kişilik) ölçülmesinde genellikle çok kategorili puanlanan maddeler kullanılmaktadır. Örneğin, tutumla ilgili değerlendirmelerde kullanılan maddeler tipik olarak yanıtlayıcıların katılma ya da katılmama düzeylerini gösteren çok kategorili tepki seçenekleri içerir. Bu tür maddelere tamamen katılıyorum dan hiç katılmıyorum a uzanan bir boyut üzerinde tepki seçenekleri içeren Likert tipi maddeler örnek olarak verilebilir. Ancak iki kategorili puanlanan maddeler bireylerin düşünceleri veya eğilimlerini belirleme konusunda yanıtlayıcılara uygun seçenek aralığı sunamaz (Ostini ve Nering, 2006). Sonuç olarak çok kategoride puanlanan maddeler bu tür özelliklerin değerlendirmelerde tipik olarak kullanılan maddelerdir. Bilişsel beceriler kapsamında MİF, ilgili beceri yetenek- bakımından eşleştirilmiş gruplar arasında gözlenen performans farklılıklarını tanımlar. Tutum, algı, ilgi gibi dereceli tepkilerin verilebildiği madde formatının kullanıldığı ölçme uygulamalarında MİF tanımı tamamen farklıdır. Örneğin, tutum ölçeğindeki tepkiler yetenek yerine genel katılma (overall agreement) düzeyinde eşleştirilir (Dodeen, 2004). Dodeen ve Johanson (2003), bilişsel bir özelliğin ölçülmesinde doğru yanıtın, bir tutum maddesine yönelik katılma düzeyindeki artıştaki etki ile benzer olduğunu belirtmektedir. Tutum ölçen bir
29 13 madde için, MİF belirli bir alt grubun diğer alt gruba göre o maddeye daha pozitif tepkiler verdiğini ifade eder. Eğitim ve psikoloji alanının konuları düşünüldüğünde, çok kategorili tepki seçenekleri sayesinde daha çok bilgi sunan çok kategorili puanlanan maddeler, iki kategorili puanlanan maddelere göre daha ilgi çekici görünmektedir (Ostini ve Nering, 2006). Çok kategorili tepki modellerine olan ihtiyaç özellikle kişilik, tutum vb. duyuşsal değişkenlerin ölçümünde daha belirgin olarak ortaya çıkmaktadır. Cox (1980) ve Kamakura ve Balasubramanian (1989) bu bağlamdaki ölçümler için iki kategorili puanlama ayırımının çok belirgin olmadığını, yanıtlayıcıları sınırlandırdığını ve daha çok kategoride puanlamaya ihtiyaç olduğunu ifade etmektedir (Akt.Ostini ve Nerig, 2006). Çok kategorili puanlanan maddelerin kullanımının artmasına (Dodeen, 2004; Zwick, Donoghue ve Grima, 1993) bağlı olarak bu tür maddelerden elde edilen veri setlerini analiz etmek üzere farklı ölçme yaklaşımları kullanılabilir. Bu türden farklı puanlama gerektiren maddelere verilen tepkilerden elde edilen puanların ölçeklenmesinde iki temel ölçme kuramı bulunmaktadır: Klasik Test Kuramı ve Madde Tepki Kuramı (MTK). Bu kuramların temel odak noktası, (1) ölçme araçlarının ya da maddelerin özelliklerini kestirmek, (2) bireyin ölçülen özellikteki yerini kestirmektir (Bei, 1995). Madde Tepki Kuramı ve Çok Kategorili Tepki Modelleri Ölçme tarihi incelendiğinde, ölçme yaklaşımlarıyla ilgili yöntemleri etkileyen esas faktörler arasında test maddelerinin niteliğinin değerlendirilmesinde ve test puanlarının elde edilmesiyle ilgili olarak Klasik Test Kuramından Madde Tepki Kuramına (MTK) doğru değişen eğilim olduğu dikkat çekmektedir (Beretvas, 2000). MTK, bireyleri ve maddeleri tek bir örtük değişken (yetenek) üzerinde ölçeklemek için bireylerin ilgili maddelere verdikleri yanıtları kullanmaktadır ve herhangi bir yetenek düzeyindeki bireyin maddeyi doğru yanıtlama olasılığının, bireyin yeteneğinin ve maddenin özelliklerinin bir fonksiyonu
30 14 olduğunu belirtmektedir. Bu modelin grafiksel gösterimi ise madde karakteristik eğrisini tanımlamaktadır. Madde karakteristik eğrisi, belirli yetenek düzeyindeki bireyin bir maddeye vereceği tepkiye ilişkin olasılıkları grafiksel olarak göstermektedir. 1-0 puanlanan bir başarı testi için bu eğri herhangi bir yetenek düzeyindeki bireyin ilgili maddeyi doğru yanıtlama olasılığı hakkında bilgi verir (Hambelton ve Swaminathan,1985). Aşağıda bir madde karakteristik eğrisi örneği verilmiştir. Şekil 5. Madde Karakteristik Eğrisi Şekil 5 te yatay eksen bireyin test ile ölçülen örtük özelliğini yetenek-, dikey eksen ise ilgili maddeye doğru yanıt verme olasılığını- P(ϴ)- göstermektedir. Bu eğriye göre, bireyin yetenek düzeyi arttıkça maddeyi doğru yanıtlama olasılığı da artmaktadır. Madde Tepki Kuramında bireyin bir test maddesindeki performansı ile örtük değişken arasındaki ilişkiyi doğrusal olmayan matematiksel modelleme yoluyla açıklamaktadır. Bu modeller kullanılan puanlama türüne göre ikili (1-0) veya çoklu modeller biçiminde olabilir. Bu matematiksel modelleri kullanarak bireylerin testteki performansını belirlemek için öncelikle bazı varsayımların karşılanması gerekmektir. MTK uygulamaları için bu varsayımlar tek boyutluluk ve yerel bağımsızlıktır (Hambleton ve diğerleri, 1991).
31 15 Tek boyutluluk testin tek bir örtük özelliği ölçmesi yani test puanlarının baskın tek bir özelliğe bağlı olmasıdır. Yerel bağımsızlık ise belirli bir yetenek düzeyindeki bireylerin, belirli bir maddeyi doğru cevaplandırma olasılıklarının testteki diğer maddelerden bağımsız olma durumunu ifade etmektedir. Bu varsayımlara ek olarak seçilen MTK modelinin madde ve yetenek düzeyinde veriyi ne kadar iyi temsil ettiği incelenmelidir. Bu yüzden herhangi bir MTK modeli seçilirken eldeki veriyi en iyi temsil edecek modelin seçilmesi önemlidir. Böylece, ölçülen örtük özellik ile madde performansı arasındaki ilişkiyi en doğru gösteren model elde edilir. Bu durum model-veri uyumunun incelenmesini belirtmektedir. İlgili varsayımlar ve model-veri uyumu sağlandıktan sonra, MTK nın Klasik Kurama göre en önemli avantajı kestirilen madde ve yetenek parametrelerinin değişmezlik (invariance) özelliğidir. Yani, kişilerin yetenek parametreleri maddelerin kolay ya da zor olmasından bağımsız olarak kestirilebilmektedir (item-free). Benzer şekilde madde parametreleri de aynı evrenin farklı alt gruplarından bağımsız olarak kestirilebilir (sample-free). Buna ek olarak MTK modelleri her bir yetenek düzeyi için yapılan ölçümlerin doğruluğu konusunda daha çok bilgi vermektedir. Yetenek kestiriminin doğruluğu test bilgi fonksiyonu kullanılarak değerlendirilebilir. MTK belirtilen bu avantajları sayesinde, eğitim alanında kullanılan test ve ölçme problemlerine (madde yanlılığı, test puanlarını eşitleme, amaca uygun test geliştirme vb.) daha iyi çözümler sunmaktadır. İlk MTK modelleri ikili cevaplar örneğin 0 (yanlış / hayır), 1(doğru / evet) için geliştirilmiştir; ancak son yıllarda eğitim ve psikolojide kullanılan tüm veri türleri için MTK modelleri de bulunmaktadır. MTK uygulamalarına ve bu kuramın gelişmesine önemli bir katkı, kuramı çok kategorili yanıt gerektiren veriler ve çok boyutlu durumlar için de genişleten Samejima tarafından yapılmıştır. Samejima (1969) iki veya daha fazla sıralı yanıt kategorisi içeren maddeler için Dereceli Tepki Modelinin (Graded Response Model) kullanılmasını önermiştir. Diğer çok kategorili tepki modelleri iki parametreli modeller esas alınarak formüle edilmiştir.
32 16 Bu modellerden bazıları şunlardır (Ostini ve Nerig, 2006): Samejina nın Dereceli Yanıt Modeli (Graded Response Model) Muraki nin Dereceli Ölçek Modeli (Muraki s Rating Scale Model) Bock un Sınıflamalı Yanıt Modeli (Nominal Response Model) Master ın Kısmi Puan Modeli (Partial Credit Model) Muraki nin Genelleştirilmiş Kısmi Puanlama Modeli (Generalized partial credit Model) Dereceli tepkileri analiz etmek üzere pek çok MTK modelleri bulunmasına karşın, Kısmi Puan Modeli, Rasch modellerinin özelliklerini taşıdığından çok kategorili MTK modelleri arasında yaygın olarak kullanılan bir modeldir. Çok kategorili Rasch modellerinin iki önemli avantajı bulunmaktadır (Embretson ve Reise, 2000). Bunlardan ilki parametre kestiriminin tek adımda ve tek bir eşitlik (direct models) yardımıyla yapılmasıdır. Bu tür modellere Kısmi Puan Modeli ve Andrich in Dereceli Tepki Modeli örnek olarak verilebilir. Bu tür doğrudan modeller, bir bireyin herhangi bir kategoride yanıt verme olasılığını iki adımda hesaplayan modellere (indirect models) göre daha az matematiksel hesaplama gerektirmektedir. Çok kategorili Rasch modellerinin diğer avantajı ise, testten alınan toplam puanın bireyin performansını kestirmek için yeterli bir istatistik olarak kabul edilmesidir. Çok kategorili puanlanan maddeler üzerinde yapılan MİF belirleme çalışmalarında ağırlıklı olarak Dereceli Tepki Modeli ne uygun verilerin kullanıldığı dikkat çekmektedir (Örneğin: Ankenmann, Witt ve Dunbar, 1999; Artar, 2007; Bolt, 2002, Dooden, 2004; Fidalgo ve Bartman, 2010; Garett, 2009; Wang ve Su, 2004). Uygulama şartlarında, araştırmacıların sahip oldukları verilerin her zaman bu modele uyum göstermesi beklenemez. Bu model dışında sıralı tepki seçenekleri için geliştirilmiş diğer çok kategorili MTK modelleri de bulunmaktadır. Bu modellere uygun veriler üzerinde de MİF belirleme çalışmalarının yapılması araştırmacıların/uygulayıcıların daha geçerli değerlendirmeler yapması konusunda yaralı olacaktır. Son dönemde yapılan çalışmalarda (örn., Carter, 2011; Wang, Tay ve Drasgow, 2013) parametrik MTK modellerinden açımlamalı (unfolding) modellerin kullanım sıklığının arttığı dikkat çekmedir. Ancak bu modellerde
33 17 parametre kestirimi için farklı yazılım programlarının gerekmesi ve bu programları edinme konuları dikkate alınarak, sıralı tepki seçenekleri için çok kategorili MTK modellerinden Kısmi Puan Modeli daha önce bahsedilen avantajlarından dolayı bu çalışmada tercih edilmiştir. Bu model ayrıca diğer araştırmacılar tarafından da tercih edilen bir modeldir (örn.,garrett, 2009; Kim, Cohen, Distefano ve Kim, 1998; Su ve Wang, 2005; Wang ve Su,2004). Bu modele ilişkin açıklamalar aşağıda sunulmuştur. Kısmi Puan Modeli Kısmi Puan Modeli (Partial Credit Model), iki veya daha fazla sayıda sıralı tepkilerin analizi için kullanılan tek boyutlu bir MTK modeldir. Master (1982) bu modeli esas olarak, çözümü birden çok adım gerektiren (multistep) test maddelerinin analizi için geliştirilmiştir. Bu model kısmi doğru yanıtların verilebileceği başarı testleri veya ölçülen özelliğin farklı düzeylerde olabileceği kişilik, tutum, inanç vb. değişkenlerin değerlendirildiği ölçeklerdeki maddelerin analizi için de uygundur. Belirli bir yetenek düzeyindeki birey için k veya k-1 kategorisini seçme olasılıkları ikili MTK modelleri yoluyla karşılaştırılır. De Ayala (1993), kısmi puanlanan bir madde örneğini çözümü birden fazla adım gerektiren bir problem örneği üzerinden şöyle açıklamaktadır: (6:3)+2. Bir öğrencinin bu problemi çözebilmesi ve tam puan alabilmesi için iki adımı tamamlaması gerekmektedir: 1. Adım: Bölme işlemi (6:3) 2. Adım: Toplama işlemi (2+2) Bu problemin doğru olarak çözülebilmesi için bu adımların sırasıyla tamamlanması gerekmektedir. Yalnızca birinci adımı tamamlayan öğrenci kısmı puan kazanmaktadır; ancak hem birinci hem de ikinci adım tamamlanamazsa öğrenci puan alamamaktadır. Bu durumda bu madde için üç farklı puan değeri vardır: 0,1 ve 2. Kategori 0 öğrencinin puan alamadığını, Kategori 1 kısmi puan aldığını ve Kategori 2 tam puan aldığını ifade etmektedir.
34 18 Kısmi Puan Modeli, iki puan kategorisine sahip olduğunda ikili puanlanan maddeler için 1 parametreli lojistik modele (Rasch) denktir. Bilindiği gibi bu model bireyin bir maddeye yanıt verme olasılığının bireyin yeteneğinden ve maddenin güçlük parametresinden etkilendiğini varsaymaktadır. Ayırıcılık parametresi tüm maddeler için sabittir ve yetenek parametrelerinin kestirimi için ham puanlar yeterli bir istatistiktir. Kısmı Puan Modelinde ise madde güçlük parametresi yerine madde adım güçlüğünü (item step difficulty) parametresi bulunmaktadır. Bu model bireyin testteki performansı ile örtük özellik (yetenek) arasındaki doğrusal olmayan ilişkiyi modellemek için sadece adım güçlüğü parametresi kullanılır. Adım güçlüğü parametresi, örtük özellik ölçeğinde ardışık iki tepki kategori eğrisinin kesiştiği noktayı göstermektedir. Bu yüzden madde parametreleri kategori kesişim parametresi (category intersection parameter) olarak da adlandırılmaktadır (Embretson ve Reise, 2000). Bu modelde, maddenin sahip olduğu tepki kategori sayısının bir eksiği kadar adım güçlüğü parametresi bulunmaktadır ve tüm maddelerin eşit eğim (ayırıcılık) parametresine sahip olduğu varsayılmaktadır. Madde adım güçlüğü parametresi ne kadar yüksek olursa, bu durum bir sonraki adıma geçmenin o kadar zorlaştığını ifade etmektedir. Bu model için herhangi bir kategoride yanıt verme olasılığı aşağıdaki formülle ifade edilir: ( ) : Örtük özellik j: 0, 1,2, m i: birey mi: kategori eşik parametre sayısı x: tepki kategorileri : j ile puanlanan kategoriye ait adım güçlüğü parametresi Bu formül, i bireyinin x kategorisindeki mi. adımda yanıt verme olasılığının, bireyin yetenek parametresi ile bir kategori eşik parametresi arasındaki farkının fonksiyonu olduğunu göstermektedir. Bu modelde, birey ne kadar çok adımı tamamlarsa, o kadar yüksek tepki kategori puanı almaktadır.
35 19 Yüksek kategori tepki puanı ise düşük tepki kategori puanına göre daha yüksek yeteneği ( ifade etmektedir. Örneğin beş tepki seçeneği bulunan bir tutum ifadesi için tepki seçenekleri ve tamamlanması gereken adımlar aşağıdaki gibi gösterilebilir: (Hiç katılmıyorum tamamen katılıyorum) Adım 1 Adım 2 Adım 3 Adım 4 Bu madde için adım güçlüğü parametreleri sırasıyla : 2.519, : 0.063, : 0.170, : olarak hesaplanmıştır. Bu parametreler örtük özellik boyutunda kategori tepki eğrilerinin kesiştiği yerleri gösterdiği için, bir kategoride tepki verme olasılığının bir önceki kategoriye göre daha olası olduğu noktayı göstermektedir. Bir bireyin bu maddeden en yüksek kategoride puan alabilmesi için tüm adımları tamamlaması gerekmektedir. Bu madde için tamamlanması en zor adım katılıyorum ile tamamen katılıyorum tepki kategorileri arasındaki adımdır. Bu maddeye ait tepki kategori eğrilerinin grafiksel gösterimi Şekil 6 da verilmektedir. Şekil 6. Beş Kategorili Bir Madde İçin Kategori Tepki Fonksiyonu ( : 2.519, : 0.063, : 0.170, : 2.055
36 20 Şekil 6 ya göre, örneğin örtük özellik ölçeğinde yeri -3 olan bir birey bu madde için hiçbir adımı geçemeyerek 0 puan alması daha olasıdır. Buna karşılık örtük özelliği 2.5 olan bir bireyin dört adımı da tamamlayarak 5 puan alması daha olası olacaktır. İkili puanlanan maddelerde olduğu gibi, çoklu puanlanan maddeler için de maddelerin alt gruplarda farklı işlev gösterip göstermediğinin incelenmesi gerekmektedir. Grupların madde performanslarının farklılaşması yetenek farklılıklarından kaynaklanabilir; ancak aynı yetenek düzeyindeki bireylerin farklı madde performansları göstermesi bu maddeler için MİF göstergesi olabilir. Çok kategorili MTK modelleri kapsamında kullanılabilecek MİF belirleme tekniklerine ilişkin açıklamalar aşağıda sunulmuştur. Çok Kategorili Puanlanan Maddelerde MİF Belirleme Teknikleri Çok kategorili puanlanan maddelerde MİF belirme teknikleri, iki kategorili puanlanan maddeler için geliştirilen MİF tekniklerinden farklı değildir. Benzer şekilde çok kategoride puanlanan maddelerde MİF belirlemek üzere herhangi bir tekniğin seçilmesi genellikle zordur ve bazı durumlarda oldukça karmaşıktır (Kim ve diğerleri, 2007). Bu karmaşa özellikle MİF tekniklerinin aynı maddelerde MİF göstermemesi durumunda ortaya çıkmaktadır. Son yıllarda, eğitim ve psikoloji alanında kullanılan testlerde MİF belirlenmesi için birçok istatistiksel yöntem geliştirilmiştir. MİF ile ilgili alan yazın incelendiğinde, istatistiksel bir ölçüte dayalı olarak farklı MİF belirleme yaklaşımları olduğu görülmektedir. Bu yaklaşımlarda esas alınan ölçütler anlamlılık testlerini, MİF miktarının yorumlanabilir ölçüsü ve kestirime ilişkin standart hata nın kullanımını kapsamaktadır (Mapuranga,Dorans ve Middleton, 2008; Akt. Wang, 2009). Çok kategorili puanlanan maddelerde MİF belirleme ile ilgili olarak kullanılan yaklaşımlardan biri, hipotez testine dayalı anlamlılık sınamalarıdır. Çok kategorili maddelerde MİF belirlemek üzere anlamlılık testlerini kullanan tekniklerinden bazıları şöyle sıralanabilir (Bolt, 2002; Kim ve diğerleri, 2007):
PISA 2009 TUTUM ANKETİ MADDE PUANLARININ AŞAMALI MADDE TEPKİ MODELİ İLE İNCELENMESİ
PISA 2009 TUTUM ANKETİ MADDE PUANLARININ AŞAMALI MADDE TEPKİ MODELİ İLE İNCELENMESİ Arş. Gör. Şeyma Uyar Mehmet Akif Ersoy Üniversitesi, Burdur syuksel@mehmetakif.edu.tr Arş. Gör. Neşe Öztürk Gübeş Hacettepe
Farklı Boyutluluk Özelliklerindeki Basit ve Karmaşık Yapılı Testlerin Çok Boyutlu Madde Tepki Kuramına Dayalı Parametre Kestirimlerinin İncelenmesi*
ISSN: 1309 6575 Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi 2015; 6(2); 331-350 Farklı Boyutluluk Özelliklerindeki Basit ve Karmaşık Yapılı Testlerin Çok Boyutlu Madde Tepki Kuramına Dayalı