Eksik Dosyalar, Yanlış Kararlar: Klinik Yapay Zekâda Adalet Açığına Yeni Çözüm

Klinik yapay zekâ, hastalıkları daha erken saptama, riskleri öngörme ve tedavi kararlarını destekleme vaadiyle sağlık sistemlerinde hızla yayılıyor. Ancak yeni bir çalışma, bu teknolojilerin çoğu zaman sessiz ama kritik bir zayıflık taşıdığını gösteriyor: tıbbi kayıtlar eksik olduğunda algoritmaların “unutması”. Chen, Thakur, Soltan ve çalışma arkadaşlarının yürüttüğü araştırma, eksik veya parçalı hasta verilerinin yapay zekâ tabanlı klinik karar sistemlerinde yalnızca doğruluğu değil, adaleti de bozabildiğini ortaya koyuyor. Nature Communications’ta yayımlanması beklenen çalışma, sağlıkta algoritmik tarafgirliğin daha az görünür bir kaynağına odaklanıyor ve bu soruna karşı yeni bir yaklaşım öneriyor.

Araştırmanın işaret ettiği temel sorun, gerçek dünyadaki sağlık kayıtlarının çoğu zaman kusursuz olmaması. Hastalar farklı kurumlarda tedavi gördüğünde kayıtlar bölünebiliyor, bazı bilgiler sistemler arasında taşınmayabiliyor ya da gizlilik kısıtlamaları nedeniyle tam bir hasta geçmişine erişilemiyor. Bu tür “episodik” ya da eksik kayıtlar, insan klinisyenler için bile zorluk yaratırken, veriden öğrenen yapay zekâ modelleri için daha da ciddi bir risk oluşturuyor. Çünkü model, yalnızca önüne konan bilgiyi kullanabiliyor; eksik veri ise modelin belirli hasta gruplarını yanlış okumasına, riskleri olduğundan düşük ya da yüksek değerlendirmesine yol açabiliyor.

Bu bağlamda araştırmacıların “forgetfulness” olarak tanımladığı durum, yapay zekânın bir hastanın geçmişini tam olarak birleştirememesi anlamına geliyor. Sorun yalnızca teknik bir eksiklik değil; klinik sonuçları olan bir adalet meselesi. Eksik veriye dayalı modeller, sağlık hizmetine daha düzensiz erişimi olan, sık yer değiştiren ya da kayıtları parçalı kalan topluluklarda daha fazla hata yapabiliyor. Böylece algoritmanın performansı ortalama olarak yüksek görünse bile, bazı alt gruplar için ciddi biçimde düşebiliyor. Uzmanların uzun süredir uyardığı gibi, tıbbi yapay zekâ sistemleri veri dağılımındaki eşitsizlikleri yeniden üretebilir, hatta büyütebilir.

Çalışmanın önemi tam da burada ortaya çıkıyor. Chen ve ekibi, yapay zekâ modellerinin eksik tıbbi geçmiş karşısında daha dayanıklı hale getirilmesi için bir yöntem geliştiriyor. Araştırmanın ayrıntıları henüz tam olarak kamuya açılmamış olsa da, çalışmanın ana hedefi açık: eksik kayıtlar nedeniyle oluşan algoritmik adaletsizliği azaltmak. Bu, yalnızca teknik performansı iyileştirmekten ibaret değil; aynı zamanda karar destek sistemlerinin farklı hasta grupları için daha eşit davranmasını sağlamak anlamına geliyor. Klinik yapay zekâda adalet, bir modelin ortalama doğruluğundan çok, farklı popülasyonlar arasında ne kadar tutarlı çalıştığıyla ölçülüyor.

Sağlık hizmetlerinde yapay zekânın yükselişi, bu tür sorunları daha görünür hale getiriyor. Çünkü hastaneler ve araştırma merkezleri, yoğun bakım triyajından görüntüleme analizine, yeniden yatış riskinin hesaplanmasından hastalık prognozuna kadar pek çok alanda algoritmalara güvenmeye başlıyor. Ancak modelin eğitildiği veriler belirli grupları yeterince temsil etmiyorsa ya da kayıt yapısı tutarsızsa, sonuçlar sistematik biçimde şaşabiliyor. Eksik kayıtlar, özellikle kronik hastalıklar, göçmen sağlık hizmetleri, farklı kurumlara dağılmış bakım geçmişi ve sosyoekonomik erişim sorunları olan popülasyonlarda daha belirgin hale geliyor. Bu nedenle kayıt eksikliği, sadece veri kalitesi değil, aynı zamanda sağlık eşitsizliklerinin dijital bir yansıması olarak görülüyor.

Bilim insanları son yıllarda klinik yapay zekâda açıklanabilirlik, önyargı denetimi ve dış doğrulama gibi konulara odaklanmış olsa da, eksik veri problemi çoğu zaman arka planda kalmıştı. Oysa gerçek hayatta bir hastanın tam elektronik sağlık kaydına sahip olması istisna olabilir. Bu nedenle, gerçek dünyaya uyarlanacak bir modelin kusursuz veri varsayımıyla tasarlanması güvenli kabul edilmiyor. Yeni çalışma, tam da bu noktada önemli bir boşluğu dolduruyor: Modelin, eksik geçmişi yalnızca tolere etmesi değil, bu eksikliğin farklı gruplar üzerindeki etkisini de daha dengeli yönetmesi gerekiyor.

Araştırmanın sonuçları, sağlıkta yapay zekâ geliştiren ekipler için daha geniş bir mesaj taşıyor. Veri temizliği ya da veri miktarı tek başına yeterli değil; verinin nasıl eksildiği, hangi grupların bu eksiklikten daha fazla etkilendiği ve modelin bu boşluklara nasıl tepki verdiği de en az bunlar kadar önemli. Klinik karar destek sistemlerinin güvenilirliği, yalnızca laboratuvar ortamında değil, dağınık ve gerçek dünya sağlık kayıtlarıyla da test edilmeli. Aksi halde algoritmalar, görünürde nesnel olsa bile, pratikte eşitsiz sonuçlar üretmeye devam edebilir.

Chen ve ekibinin çalışması bu nedenle yalnızca bir teknik iyileştirme olarak değil, daha adil bir dijital sağlık altyapısına doğru atılmış anlamlı bir adım olarak değerlendiriliyor. Sağlık sistemleri giderek daha fazla yapay zekâya yaslanırken, eksik verinin nasıl işlendiği sorusu merkezde kalmaya devam edecek. Bu yeni yaklaşım, klinik yapay zekânın geleceğinde güven kadar adaletin de temel ölçütlerden biri olması gerektiğini hatırlatıyor. Eğer modeller hastaların tam hikâyesini göremiyorsa, en gelişmiş sistemler bile yanlış yönlere sapabilir; bu nedenle veri eksikliğini azaltmak kadar, eksikliğin etkisini adil biçimde yönetmek de artık öncelikli bir araştırma konusu haline geliyor.