Bilim İnsanları Şokta: Yapay Zeka Kendi Kendine Röntgenlerden Irkları Tahmin Etmeye Başladı

11 Mayıs’ta Lancet Digital Health’te yayımlanan çalışmada mamografi imajı, göğüs röntgeni ve tomografi üzere imajları kullanan makine tahsil modelleri tahlil edildi.

Araştırma grubu birinci olarak yapa zeka sistemini kelam konusu imgelerle eğitti. Bunlarda hastaların ırkları da yazıyordu.

Daha sonra ırkların belirtilmediği manzara kümeleri gösterildi.

Modellerin birçoklarında yapay zeka sistemi, insanların ırkını yüzde 95 ile yüzde 99 ortasında yanlışsız kestirim etti.

Uzmanlar, yapay zekanın bunu nasıl yapabildiğini bilmiyor. Cilt rengini belirleyen pigment olan melaninle ilgisi olmasından şüpheleniliyor.

Araştırmacılar, sistemin daha koyu renklerin daha yüksek düzeyde melanin içerdiğini tespit ettiğini ve bu bilgiyi ırk kestirim etmede kullanabileceğini söylüyor.

Vice haber sitesi bulguların “son derece tasa verici” olduğunu yazdı. Haberde, tıbbi algoritmaların farklı ırklardan hastalar için farklı sonuçlar verdiği evvelki çalışmalar hatırlatıldı.

Makalede şu sözlere yer verildi:

Tıbbi manzara tahliline dahil olan tüm geliştiricilerin, düzenleyicilerin ve kullanıcıların derin öğrenme modellerinin kullanımını son derece dikkatli bir biçimde düşünmelerini şiddetle tavsiye ediyoruz. Zira bu tıp bilgiler tıbbi uygulamada var olan ırksal eşitsizlikleri sürdürmek yahut daha da kötüleştirmek için kullanılabilir.

Araştırma takımından Marzyeh Ghassemi ‘Öğrencilerim bana bu makaledeki birtakım sonuçları gösterdiğinde, aslında bunun bir kusur olması gerektiğini düşündüm’ diye konuştu.