Tıbbi amaçlı olarak geliştirilen yapay zekanın röntgen ve tomografi görüntülerinden insan ırklarını tahmin etmesi doktorları şoke etti. Bilim insanları yapay zekanın bunu nasıl yapabildiğini bilmediklerini söyledi.
Bilim İnsanları Şokta: Yapay Zeka Kendi Kendine Röntgenlerden Irkları Tahmin Etmeye Başladı
9
Yapay zeka talep edilmemesine rağmen röntgen görüntüleri üzerinden hastaların ırklarını da belirtmiş.
11 Mayıs'ta Lancet Digital Health'te yayımlanan çalışmada mamografi görüntüsü, göğüs röntgeni ve tomografi gibi görüntüleri kullanan makine öğrenim modelleri analiz edildi.
Araştırma ekibi ilk olarak yapa zeka sistemini söz konusu görüntülerle eğitti. Bunlarda hastaların ırkları da yazıyordu.
Daha sonra ırkların belirtilmediği görüntü kümeleri gösterildi.
Modellerin çoğunda yapay zeka sistemi, insanların ırkını yüzde 95 ile yüzde 99 arasında doğru tahmin etti.
Radyologlar ırkları sadece görüntülere bakarak yüzde 50 oranında doğru tahmin edebiliyor.
Uzmanlar, yapay zekanın bunu nasıl yapabildiğini bilmiyor. Ten rengini belirleyen pigment olan melaninle ilgisi olmasından şüpheleniliyor.
Araştırmacılar, sistemin daha koyu renklerin daha yüksek seviyede melanin içerdiğini tespit ettiğini ve bu bilgiyi ırk tahmin etmede kullanabileceğini söylüyor.
Vice haber sitesi bulguların “son derece endişe verici” olduğunu yazdı. Haberde, tıbbi algoritmaların farklı ırklardan hastalar için farklı sonuçlar verdiği önceki çalışmalar hatırlatıldı.
Araştırmacılar da ırkı doğru tahmin edip buna dayalı olarak farklı sonuçlar veren algoritmaların ortaya çıkmasından endişeleniyor.
Makalede şu ifadelere yer verildi:
Tıbbi görüntü analizine dahil olan tüm geliştiricilerin, düzenleyicilerin ve kullanıcıların derin öğrenme modellerinin kullanımını son derece dikkatli bir şekilde düşünmelerini şiddetle tavsiye ediyoruz. Çünkü bu tür bilgiler tıbbi uygulamada var olan ırksal eşitsizlikleri sürdürmek veya daha da kötüleştirmek için kullanılabilir.
Araştırma ekibinden Marzyeh Ghassemi 'Öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, aslında bunun bir hata olması gerektiğini düşündüm' diye konuştu.
Yapay zekanın kendi kendine ırkları doğru tahmin etmeye başlaması hakkında siz ne düşünüyorsunuz? Yorumlarınızı bekliyoruz.
İlginizi çekebilir:
Dünyanın En Küçük Uzaktan Kumandalı Robotu Geliştirildi: Damarların İçinde Gezebilecek Kadar Minik!
Yemeğin Tadına Bakıp Tuzunu Ayarlayabilen Robot Geliştirildi
Popüler İçerikler
Gelenek Bozulmadı: ODTÜ Mezuniyet Töreninden Birbirinden Yaratıcı Pankartlar
Hadise’den Harbiye’de Olay Yaratan Konser! Sandalye Dansı Gündemde
24 Bin TL Ödediği Dövme Hayal Kırıklığı Oldu: "Resmen Mahvettiler"
Neden endise verici olsun ki? Hastaliklar bazi durumlarda farkli irklarda daha degisik evriliyor. Sonucta yapay zekanin insanin irkina gore tedavi olusturma sansi ortaya cikiyor. Bu durumun kanser tedavisi icin kullanilma ihtimali olmasi bile guzel, sonucta kanser her insan icin farkli seyrediyor, cok kisisel bir hastalik oldugundan bir tedavi gelistirilemiyor, cok fazla farkli veri var ve hangisine gore hareket edilecek?
Irk: Nigga
yarın kendini hangi ırk olduğunu kendi ırkını da sorgular, düşünebilen humonoidlerin gelecekte bize dinazorlara bakar gibi bakacağını düşünüyorum