Michigan Üniversitesi araştırması: Soyadı alfabetik sırada daha sonra gelen öğrenciler daha düşük not alıyor
(record.umich.edu)- Michigan Üniversitesi araştırmacıları, 30 milyondan fazla Canvas notlandırma kaydını analiz ederek soyadı alfabede daha geride olan öğrencilerin daha düşük puan alma eğiliminde olduğunu ortaya koydu
- Temel neden, gönderileri soyadına göre alfabetik sırada gösteren Canvas’ın varsayılan sıralaması ve not verenlerin ödevleri sırayla değerlendirirken ortaya çıkan sıralı önyargı
- A-E soyadına sahip öğrenciler, rastgele notlandırmaya kıyasla 100 puan üzerinden 0,3 puan daha yüksek, alfabede daha gerideki soyadlarına sahip öğrenciler ise 0,3 puan daha düşük alıyor; toplamda 0,6 puanlık fark oluşuyor
- Not verenlerin yaklaşık %5’i Z’den A’ya doğru notlandırdığında fark tersine dönüyor; bu da puan farkını soyadının kendisinden çok notlandırma sırasının yarattığı yorumunu destekliyor
- 0,6 puanlık fark küçük görünse de ders GPA’sını ve kariyer fırsatlarını etkileyebileceğinden, rastgele notlandırmayı varsayılan yapmak ve büyük derslerde notlandırma yükünü azaltmak gerekiyor
Canvas’ın varsayılan sıralamasının yarattığı soyadı baş harfi farkı
- Michigan Üniversitesi araştırmacıları, 2014 güz döneminden 2022 yaz dönemine kadar Canvas’ta erişilebilen tüm programlar, öğrenciler ve ödevlere ait geçmiş notlandırma verilerini topladı
- Analiz kapsamına 30 milyondan fazla notlandırma kaydı girdi; üniversite kayıt ofisi verileriyle öğrenci geçmişi, demografi ve öğrenim yolu bilgileri tamamlandı
- Soyadının alfabetik sırası daha geride olan öğrencilerin daha düşük puan aldığı, daha olumsuz ve daha az nazik geri bildirim aldığı ve öğrenci şikâyetleriyle ölçülen notlandırma kalitesinin de daha düşük olduğu bir örüntü görüldü
- İlgili makale 30 Million Canvas Grading Records Reveal Widespread Sequential Bias and System-Induced Surname Initial Disparity başlığını taşıyor ve Management Science tarafından inceleniyor
Sıralı notlandırma önyargısı nasıl işliyor
- Canvas, öğrenci gönderilerini varsayılan olarak soyadına göre alfabetik sırada sıralıyor
- Bu varsayılan tasarım belirli bir dersle sınırlı kalmayıp öğrenim yönetim sistemi kullanan çeşitli kurum ve derslere yayılabiliyor
- Not veren kişi daha fazla ödev değerlendirdikçe notlandırma kalitesinin düştüğü bir örüntü ortaya çıkıyor
- Wang’a göre A, B, C, D, E ile başlayan soyadlarına sahip öğrenciler, rastgele sırayla notlandırıldıkları duruma kıyasla 100 puan üzerinden 0,3 puan daha yüksek alıyor; alfabede daha gerideki soyadlarına sahip öğrenciler ise 0,3 puan daha düşük alıyor
Ters sırayla notlandırmada görülen karşıt etki
- Not verenlerin yaklaşık %5’i Z’den A’ya doğru notlandırıyor
- Bu durumda fark beklendiği gibi tersine dönüyor
- A-E soyadına sahip öğrenciler dezavantajlı oluyor
- W-Z soyadına sahip öğrenciler rastgele notlandırmaya kıyasla daha yüksek puan alıyor
- Bu gözlem, ilk puan farkının nedeninin soyadının kendisi değil notlandırma sırası olduğu yorumunu güçlendiriyor
Küçük puan farkının öğrenciler üzerindeki etkisi
- 0,6 puanlık fark küçük görünebilir, ancak öğrencinin ders GPA’sını etkiliyor
- GPA’daki değişim, her öğrencinin kariyer fırsatlarını da olumsuz etkileyebilir
- Wang, not verenlerde bilinçsizce ortaya çıkan bir durumun gerçek toplumsal etkiye dönüşebileceğini söylüyor
Araştırma fikri ve yorgunluk faktörü
- Araştırma fikri, Wang’ın eğitim teknolojisi araştırmaları ile Pei’nin yapay zeka araştırmalarının tartışılması sırasında ortaya çıktı
- Pei, makine öğrenmesinin temel işlerinden biri olan veri etiketlemenin de uzun ve sıkıcı bir sıralı iş olmasına rağmen rastgeleleştirildiğine dikkat çekti
- Bu gözlem, Canvas gibi eğitim sistemlerinde notlandırma süresi ile not farkları arasındaki ilişkiyi inceleyen bir pilot araştırmaya yol açtı
- Uzun süreli çalışmalarda yorgunluk biriktiği, dikkat ve bilişsel yetenekler azaldığı için yorgunluk etkiyi yaratan başlıca faktörlerden biri olabilir
Önerilen iyileştirmeler
- Canvas’ta ödevleri rastgele sırayla notlandırma seçeneği var ve bazı eğitimciler bunu kullanıyor
- Ancak Canvas ve diğer çevrim içi öğrenim yönetim sistemlerinde varsayılan mod alfabetik sıra
- En basit çözüm, rastgele sırayı varsayılan ayar haline getirmek
- Akademik kurumlar için şu alternatifler de öneriliyor
- Büyük dersler için daha fazla not veren kişi istihdam etmek
- Notlandırma işini daha fazla kişiye dağıtmak
- Notlandırma sırasında önyargıları fark edip azaltmaya yönelik eğitim sağlamak
1 yorum
Hacker News yorumları
Akademide çalışıyorum. Sınavları notlandırırken cevap kâğıdı yığınlarının sırası, sınıfta toplandıkları sıradır; genelde bir odada 5 kişi toplanır ve tutarlılığı sağlamak için herkes yalnızca belirli bir sorudan sorumlu olur.
Herkes yığından alıp kendi sorusu henüz notlandırılmamış cevap kâğıtlarını bulup ayırdığı için kâğıtlar epey karışır; gerçek notlandırma sırası neredeyse rastgele sayılabilir.
Öte yandan dönem içindeki haftalık ödevler depoya commit edilir ve öğrenci klasörleri adlarının ilk harfiyle başlar. Adalet için her hafta notlandırma sırasını karıştırmak gerektiği konusunda hepimiz hemfikirdik. Başlarda daha az yorgun olursunuz; son 2 civarında ise yakında bitecek diye moraliniz düzelir. Özellikle başlarda yaygın hataları henüz yeterince görmediğiniz için neye bakacağınızı tam kavrayamaz, bazılarını kaçırırsınız; daha sonraki teslimlerde ise hemen yakalarsınız.
Bir başka alfabe etkisi olarak, ilkokulda sınıf listesinin en üstünde olduğum için müze grup biletlerini taşımak, bir şeyleri kaydetmek, kimsenin önce yapmak istemediği bir işi herkesin önünde ilk yapmak, beden eğitimi değerlendirmesine ilk girmek gibi işleri sık sık üstlenirdim. Oldukça utangaç bir çocuktum; bu yüzden 1. sınıftan itibaren canımı sıkardı.
Böylece aynı hatayı yapan öğrenciler aynı puanı alır. Bir soruyu bitirdikçe cevap kâğıtlarının sırası da doğal olarak karışma eğiliminde olur.
Basit çoktan seçmeli sorularda buna gerek yok; uzun denemelere de pek uymaz. Ama bilgisayar bilimi ve güvenlik alanındaki teknik kısa cevaplı sorular için çok iyi çalışıyordu.
Bunun nedeni, bir hatanın gerçekten ne kadar kötü olduğuna ancak tüm hataları bir kez gördükten sonra karar verilebilmesidir.
Ama hiçbir not ya da işaret olmadan %80 aldım.
Son 25 yıldır öğrenci ödevlerinin gerçekte ne kadar incelendiğini merak edip duruyorum.
EdTech’te çalışıyorum; öğrenci çalışmalarının öğretmen tarafından elle incelenmesini gerektiren bir özellik eklediğimiz her seferinde, bazı öğretmenlerin çok titiz olduğunu, bazılarının ise hiç dokunmadığını görüyoruz.
İlk kırmızı kalem, yazım hataları veya bariz kullanım hataları gibi tekil nokta sorunlarını işaretler. Bu süreçte genel yazı düzeyi de doğal olarak anlaşılır ve tüm metinler hızlıca gözden geçirilebilir.
İkinci yeşil kalem, iyi bir argümanın ortaya çıktığı veya sonuca ulaşılan yerleri, sonraki aşamaya hazırlık olarak çoğunlukla kenar boşluğunda işaretler. Bu da tüm metinlere uygulanır.
Üçüncü mavi kalemde metnin niteliğini değerlendirir ve eleştirirdim. Kenar boşluklarına kısa notlar bırakır veya denemenin sonuna yorum eklerdim.
Öğrenciler güzel renkleri görünce bazen gülerdi ama yöntemi ve nedenini açıklayınca net biçimde anlarlardı; sanırım minnettar da olurlardı.
İlgili olabilir de olmayabilir de ama 80’lerde ve 90’ların başında K-12 okuluna giderken bizi her zaman soyadına göre alfabetik sırayla, önden arkaya oturturlardı. A-D civarı harflerle başlayan çocuklar hep önde, U-Z civarı hep arkadaydı; her derste böyleydi.
Arkadaşlarım arasında soyadı benimkine yakın olanların çok olmasını da hep yakın oturmamıza bağlıyorum. Liseye gelindiğinde, A-D soyadlarına sahip yüksek başarı gösteren öğrencilerin belirgin biçimde daha fazla, U-Z tarafında ise sorunlu öğrencilerin daha çok olduğu hissediliyordu.
Bu, öğretmene yakın oturmanın ve daha fazla ilgi görmenin sonucu muydu? Deney değil, kontrol grubu yok; bilemeyiz.
Arkadaşlarım arasında da gözlük takan çok kişi vardı; gözlük görüşü tamamen düzeltmediği için ön sıraları tercih ederlerdi.
Elbette 1. haftaya önde başlayan öğrencilerin hâlâ bir avantajı olduğu söylenebilir ama muhtemelen o kadar büyük değildi.
Baş harflerim Z ve W olduğu için alfabetik sıralamayı sık sık fark ederim. Baş harfleri A ve B olan bir arkadaşıma sordum; bunu hiç fark etmediğini söyledi.
Notlandırmada veya sıralamada bir fark hissetmedim ama “sıra sana gelmeden eşya/zaman vb. tükendi” sözünü çok daha sık duydum; bu yüzden planlama ve organizasyon sorunlarına karşı çok daha duyarlı hâle geldim.
Ben alfabenin en sonundaydım; bu, okuyacak kitap seçerken bile zaten sorundu. Kitap seçebiliyorduk ama sıra hep alfabetikti; bana sıra geldiğinde birkaç kitap kalır, popüler kitapların hepsi gitmiş olurdu.
Nihayet misket alma sıram geldiğinde de hepsi bitmişti. “Benim misketlerim nerede?” diye sorunca öğretmen omuz silkerek “Bitti” dedi. Sanırım 7 yaşındaydım; çok ağladım ve diğer çocuklardan biraz misket aldığımı hatırlıyorum ama aslında mesele misketlerin kendisi değildi.
Böyle bir sonuç dışında ne beklenebileceğini hâlâ anlamıyorum.
Bir gün öğretmen “Bugün sırayı tersine çevirelim, ama adlara göre de sıralayalım” gibi bir şey söyledi. Adım A ile başladığı için sonuçta yine en sona düştüm ve herkes buna çok eğlendi.
Bizim üniversitede neredeyse tüm notlandırma takma adla yapılıyordu. Her yılın başında rastgele bir sınav numarası alırdık; önemli ödevlere ve sınavlara o numarayı yazardık.
Daha az önemli ders ödevlerinde bu kadar ileri gidilmez, çoğu zaman öğrenci numarası yazılırdı ama temel fikir aynıydı.
Tezler ve genel nota etkisi olmayan birkaç önemsiz ödev dışında isim yazmazdık. Anonimliği kaldırmak o kadar zor değildi ama sisteme biraz daha bütünlük katıyordu.
Uygulaması çok basit bir yöntem; neden daha sık kullanılmadığını bilmiyorum.
Sanal öğrenme ortamımız da ödevleri herhangi bir tanımlayıcıya göre değil, teslim zamanına göre sıralıyordu sanırım.
Kişiye yönelik önyargıyı çözer ama teslimlerin nasıl sıralandığıyla ilgili önyargıyı çözmez.
Rastgele tanımlayıcı ile rastgele sıralama düzenini birlikte kullanmak doğru görünüyor.
Ancak kör konferans tekliflerinin iyi bir fikir olduğundan daha az eminim. Geçmiş deneyimlerime göre birinin neredeyse kesin olarak çok başarılı olacağını biliyorsam, aynı konuda belirgin bir yetkinliği olmayan rastgele birini seçmek bana daha az cazip geliyor. Elbette sadece komitedeki arkadaşları seçmek de açıkça aşırıya kaçabilir.
Kullanıcı adları dışarıdan rastgele görünse de dersin tartışma panosunda belirli adlar itibar kazanmaya başladı ve öğrenciler de bazı adları tanır hale geldi.
Yine de bilgisayar bilimi derslerinde notlandırma ölçütleri oldukça nesnel olduğundan anonimliğin ne kadar önemli olduğundan emin değilim.
“Basit çözüm, rastgele sırayı varsayılan yapmak” deniyor ama düzelmesi, önyargının rastgele hale gelmesi anlamına geliyor. Muhtemelen en son notlandırılan öğrenci yine daha düşük puan alacaktır.
Eğitmenlik deneyimime göre bu önyargı kesinlikle var. Ama tamamen yanlış bir cevabı ya da çok iyi ve doğru bir cevabı başka bir şeye dönüştüremez.
Bir süre sonra zorlanan öğrencileri ve iyi öğrencileri tanır oldum. İyi bir öğrenci yanlış yaptıysa büyük bir şey olmuş demekti; bu yüzden önce kabaca göz atar, sonra zorlanan öğrencilerin sorunlarına bakar, ardından kalanları aldığım sırayla notlandırır ve en sonda zorlanan öğrencilerle iyi öğrencilere dönerdim. En kötü cevapların gerçekten ne kadar kötü olduğunu görmek için bir referans çizgisine ihtiyacım vardı. Bazı ödev kâğıtları tesadüfi bir macera gibiydi denebilir.
Böyle yazınca tamamen duygusuz ve soğuk geliyor ama alıştırmalarda alt üçte birlik dilime odaklanmak ve nerede takıldıklarını asistanlara ve profesöre iletmek herkes için, özellikle de o öğrenciler için çok faydalıydı. Önemli temelleri düzgün oturtmalarını sağlıyordu.
Birkaç ay önce ilk kez notlandırma yaptığımda ben de bunu hissettim.
İlk notlandırdığım cevaplar belirli hataları yapmamış ya da beklediğim şekilde yanıtlamıştı; daha sonra beklenmedik cevaplar veya hatalarla karşılaşınca, daha önce notlandırdığım cevapların puanını yeniden düşünmem gerekti. Örneğin birinin cevabı yüzünden yanlış sandığım bir cevabın aslında daha az yanlış olduğunu hissettiğim durumlar oldu.
Küçük bir sınıf olduğu için geri dönmek mümkündü ve teslim sırası zaten bir ölçüde karışık olduğundan böyle notlandırdım; ama öyle olmasaydı kesinlikle önyargı oluşurdu.
Bir hatanın çok yaygın olduğunu ancak birkaç kez gördükten sonra yeniden değerlendirmeye başlıyorsunuz ve meğer kolayca yapılabilecek bir hataymış.
Ya da başta bilmediğiniz yeni bir hatanın oldukça yaygın olduğunu keşfediyorsunuz. O zaman testleri güncelleyip herkese yeniden çalıştırmanız gerekiyor.
Ben oldukça titiz olmaya çalıştım ve sonunda tüm yığını yeniden gözden geçiriyordum ama gerçekten çok acı vericiydi. Üstünkörü de yapabilirdim ama öğrencilerin haftalarını verdiği bir çalışma olduğu için dürüst geri bildirim vermem gerektiğini hissettim.
Bu da notlandırmanın daha hoşgörülü olma eğilimine girmesine yol açıyordu. Tembellik edip sadece birkaç hatayı kontrol ederseniz her sorun için çok puan kırarsınız; bu da beklenen hatalara tesadüfen yakalanan öğrencilere adil olmaz. Tüm hataları bulduğunuzda, herkesin notunu mahvetmemek için hata başına yalnızca birkaç puan kırmak zorunda kalırsınız.
Ben de aynı durumdayım ve aynısını yapıyorum. Elle gerçekten rastgele bir sıralama yapacağıma güvenmediğim için teslim sırasının sağladığı çok zayıf rastgeleliğe yaslanıyorum.
Çocuklarımızın soyadının böyle olmasının nedeni fiilen bu.
Benim soyadım E ile, eşimin soyadı Y ile başlıyor. Geleneğin aksine, evlenirken eşim soyadını değiştirmedi; çocuklarımız doğduğunda onlara hangi soyadını vereceğimize karar vermemiz gerekti. Tireli soyadı seçtik.
Tarihsel olarak tireli soyadlarda sıra kadının soyadı-erkek soyadı şeklindeydi. Ama eşim büyürken soyadının alfabenin sonlarına yakın olmasından nefret etmişti.
Bu yüzden geleneği tekrar bozup benim soyadımı öne koyduk; böylece alfabetik sıralamada çocuklar önde yer alacaktı. Ayrıca çocukların adları da A ve B ile başlıyor, bu yüzden ada göre sıralamada da öne çıkıyorlar.
Gerçekten geleneği bozmak istiyorsanız evlenmeyip sadece birlikte yaşayıp çocuk sahibi olabilirsiniz.
Sonuçta evlilik kadar geleneksel bir şey var mı?
Soyadım alfabetik sıranın sonlarına yakın bir harfle başladığı için böyle şeyleri hep fark ederim. Bu yıl yaşanan bir örnek: Oğlum, uzun vadeli bir proje için öğretmenin sürekli geri bildirimine ihtiyaç duyulan bir lise dersine giriyor.
Öğretmen projeleri soyadına göre alfabetik sırayla inceliyor; ancak yaklaşık %40 oranında sınıfın alt sıralarına kadar gelemiyor ve bir sorun varsa okuldan sonra kendisini bulmalarını söylüyor. Oysa projenin niteliği gereği öğretmenin proaktif yorumları mutlaka gerekiyor.
Bu yüzden oğluma, bir sorun olmasa bile öğretmene gidip önceden inceleme almasını söylüyorum; ama her çocuk bunu yapmıyor ve bunun sonucunda daha düşük not alma olasılığı doğuyor.
Helen Wang’in bunu neden araştırma konusu olarak seçtiğini merak ediyorum.
Sıralamanın ciddi istenmeyen sonuçları akla geliyor.
Aç yargıç etkisine [1] benziyor. Yargıçların mola öncesinde daha katı, moladan sonra ise daha hoşgörülü olma eğiliminde olduğunu söyleyen etki.
[1] https://en.m.wikipedia.org/wiki/Hungry_judge_effect