Allison Whitten

Yıllardır, birçok yapay zeka meraklısı ve araştırmacı makine tahsilinin asrî tıbbı değiştireceğine dair kelamlar verdi. Kanser, kalp marazı ve psikiyatrik bozukluklar üzere durumları teşhis etmek için binlerce algoritma geliştirildi. Şimdiyse, algoritmalar artık CT taramaları ve akciğerlerin X-ray imajlarındaki desenleri tanıyarak Covid-19’u tespit etmek üzere eğitiliyorlar.

Bu modellerin büyük kısmı hangi hastaların en ağır sonuçlarla karşılaşacağını ve kimlerin teneffüs cihazına muhtaçlık duyacağını varsayım etmeyi amaçlıyor. Heyecan hissedilir aşamada yüksek; şayet modeller doğruysa, tabiplere, hastaları test etme ve korona virüsüne yakalanan hastaları tedavi etme bahislerinde büyük bir ilerleme sağlayabilirler.

ACI GERÇEKLER

Ne var ki gerçek Covid-19 hastalarının tedavisi için yapay zeka destekli ilaç ihtimali şimdilik çok uzakta üzere görünüyor. Dünyanın dört bir yanından bir küme istatistikçi, makine tahsili modellerinin büyük çoğunluğunun kalitesinden ve hastanelerin yakın devirde bunları tasarrufa alması durumunda neden olabilecekleri zararlardan dolayı tasa duyuyorlar.

Hollanda’da bulunan Utrecht Üniversitesi Tıp Merkezi’nde tıbbi istatistikçi olarak hizmet yapan Maarten van Smeden, “Bu bizi çok korkutuyor; zira modellerin tıbbi kararlar almak için kullanılabileceğini biliyoruz” diyor. “Eğer model berbatsa, tıbbi kararlar olumsuz etkilenebilir. Bu yolla da hastalara zarar görebilir.”

Van Smeden, Covid-19 modellerini standart hale getirilmiş ölçütler kullanarak kıymetlendirmek üzere toplanan ve memleketler arası araştırmacılardan oluşan geniş bir ekibin yürüttüğü bir girişime liderlik ediyor. Girişim, BMJ’de (Britanya Tıp Bülteni/ç.n.) üzerindeki birinci canlı (online) inceleme; yani 40 kişilik bir hakem kümesinden oluşan (ve büyüyen) ekip, yeni modeller piyasaya sürüldükçe incelemelerini faal biçimde güncelliyor.

Şu ana dek, Covid-19 makine öğrenme modelleri hakkındaki değerlendirmeleri olumlu değildi: Geniş bir yelpazedeki araştırma yerlerinde çalışan bilirkişilerin ve önemli bir done birikiminin eksikliğinden ötürü dert yaşanıyor. Öte yandan, yeni Covid-19 algoritmalarının karşı zıdda kaldığı sıkıntılar hiç de yeni değil: Tıbbi araştırmalarda kullanılan yapay zeka modelleri yıllardan beridir derin kusurlar barındırıyor ve van Smeden üzere istatistikçiler yaşanan gelgiti bilakis çevirmek için alarm çanını çalıyor.

‘ZORLA ALINAN’ OLGULAR

Covid-19 salgınından evvel, Vanderbilt Üniversitesi’nde biyoistatistikçi olan Frank Harrell, mevcut tıbbi yapay zeka modelleriyle ilgili yaygın görülen problemler hakkında tıbbi araştırmacılarla görüşmeler yapmak üzere memleket umumunda seyahat ediyordu. Sıkça, bu sorunu tanımlamak için ünlü bir ekonomistten bir satır ödünç alıyor: Tıp araştırmacıları ‘bir itiraf elde edene kadar olgulara azap etmek için’ makine tahsilini kullanıyorlar.

Sayılar Harrell’ın argümanını destekliyor ve tıbbi algoritmaların büyük kısmının temel kalite standartlarını zar güçlükle karşıladığını ortaya koyuyor. Ekim 2019’da, İngiltere’de bulunan Birmingham Üniversitesi’nden Xiaoxuan Liu ve Alastair Denniston liderliğindeki bir araştırma ekibi, modaya mütenasip ancak sıkıntı bir soruyu yanıtlamayı hedefleyen birinci sistematik tahlili yayınladı: Makineler, hastaları teşhis etmede insan hekimler kadar ve velev onlardan daha iyi olabilirler miydi? Makine öğrenme algoritmalarının birçoklarının, tıbbi görüntüleme aracılığıyla marazlar tespit edilirken insan tabiplerle eşit olduğu sonucuna vardılar. Bununla birlikte, daha sağlam ve şok edici bir bulgu laf konusuydu; 2012’den bu yana yayınlanan hastalık tespit algoritmaları hakkında yapılan yekun 20 bin 530 çalışmanın ama yüzde birinden daha azı, tahlillerine dahil edilecek kadar metodolojik olarak titizdi.

Araştırmacılar, yapay zeka çalışmalarının büyük çoğunluğunun iç karartıcı bir kalitede olmasının, tıp yerinde yapay zekanın son devirlerde haddinden fazla basınca maruz kalmasıyla direkt bağlantılı olduğuna inanıyorlar. Bilim kişileri çalışmalarına git gide daha fazla yapay zeka eklemek istiyor ve tıp mecmuaları de yapay zeka kullanan çalışmaları her zamankinden daha fazla yayınlamak istiyorlar. Denniston, “Yayına giren çalışmaların kalitesi, başlığında yapa zeka olmayan bir çalışmayla kıyaslandığında bile beklediğimiz kadar iyi değil” diyor.

Ve evvelki algoritmalarda görülen temel kalite meseleleri Covid-19 modellerinde de ortaya çıkıyor. Covid-19 hakkındaki makine öğrenme algoritmalarının sayısı süratle arttıkça, bu yerde esasen var olan tüm problemlerden oluşan bir mikrokozmos haline geliyorlar.

KUSURLU MUHABERE

Tıpkı öncülleri üzere, yeni Covid-19 modellerinin kusurları da şeffaflık eksikliğiyle başlıyor. İstatistikçiler sadece sınırlı bir Covid-19 yapay zeka çalışmasının araştırmacılarının bile aslında ne yaptığını anlamaya çalışırken güç devranlar geçiriyorlar; zira haberler birden fazla sefer kendi yayınlarında dahi belgelenmiş değil. Van Smeden, “O kadar berbat rapor ediliyorlar ki, bırakın bu modellerin çıktı olarak ne sunduklarını, girdi olarak neleri barındırdığını bile tam olarak anlayamıyorum” diyor. “Bu, dehşetli bir durum.”

Van Smeden’in ekibi, belgelendirme eksikliğinden ötürü, birinci etapta modelin oluşturulması için gereken olguların nereden sağlandığından emin olamıyor; bu durum, modelin, marazın ciddiyeti hakkında akıllıca teşhisler yahut iddialar yapıp yapmadığını değerlendirmelerini zorlaştırıyor. Bu da modelin yeni hastalara uygulandığında yanlışsız sonuçlar verip vermeyeceği hususunda bir belirsizlik yaratıyor.

Yaygın rastlanan bir gayrı sorun, makine tahsili algoritmalarının eğitiminin büyük ölçüde done gerektirmesi ancak van Smeden, ekibinin gözden geçirdiği modellerin çok az olgu kullanıldığını tabir ediyor. Karmaşık modellerin milyonlarca değişken içerebileceğini söylüyor ve bu durum, yanlışsız bir teşhis yahut hastalık ilerlemesi modeli oluşturmak için binlerce hastayla ilgili data kümelerinin kullanılmasının gerekli olduğu mealine geliyor. Buna rağmen, van Smeden, var olan yüzlerce modelden pek birçoklarının bu geniş sahaya yaklaşmayı bile başaramadığını söylüyor.

Bununla birlikte, done kümelerinin küçük olmasının sebebi, dünya çapındaki Covid-19 vakalarının eksik olması değil. Van Smeden, bundan ziyade, araştırmacılar arasındaki işbirliği eksikliğinin, ekiplerin kendi küçük olgu kümelerine güvenmelerine yol açtığını söylüyor. Bu durum, birebir devirde, çeşitli meydanlarda çalışan araştırmacıların birlikte çalışmadığını gösteriyor ve araştırmacıların klinik bakımı ilerletme konusunda gerçek bir bahtı olan modeller geliştirme ve ince ayarlar yapma kabiliyetinde büyük ve yavuz bir ket oluşum ediyor.

Van Smeden’in de belirttiği üzere, “Yalnızca modelleyicinin bilirkişiliği yetmiyor, tıpkı vakitte istatistikçilerin, epidemiyologların ve klinisyenlerin de hakikaten yararlı bir şeyi gerçekleştirmek için birlikte çalışması gerekiyor”. Van Smeden, son olarak, yapay zeka araştırmacılarının bir salgın sırasında bile ebediyen kaliteyi sürat ile dengelemesi gerektiğini işaret ediyor. Neticede, istenilmeyen modeller olan süratli modeller, vakit kaybına neden oluyor.

Van Smeden “Bizler istatistik polisi olmak istemiyoruz” diyor. “İyi modeller bulmak istiyoruz. Şayet ortada iyi modeller varsa, bence ziyadesiyle yardımcı olabilirler.”

Metnin aslı Discover Magazine sitesinden alınmıştır. (Çeviren: Tarkan Tufan)

Gazete Duvar