İhlas Haber Ajansı (İHA) kaynaklarından alınan bilgilere göre, Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğine dikkat çekti. Baydar, yapay zekânın kararlarını klinik olarak anlamlı olmayan özelliklere dayandırmasının farklı hasta gruplarında güvenilirliği etkileyebileceğini belirterek, modellerin karar süreçlerinin açıklanabilir olmasının önemini vurguladı.

Yapay Zekâ ve Sağlık Sektörü

Tıbbi görüntülerin değerlendirilmesinden hastalık risklerinin tahminine, genomik verilerin analizinden klinik karar destek sistemlerine kadar pek çok alanda yapay zekâ modelleri sağlık profesyonellerine yardımcı olabilecek sonuçlar üretiyor. Ancak sistemlerin başarısının çoğunlukla tahmin doğruluğuyla ölçüldüğünü belirten Baydar, sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmanın yeterli olmayabileceğini ifade etti.

Kara Kutu Modelleri ve Açıklanabilirlik

Derin öğrenme modellerinin karar süreçlerinin anlaşılması gerektiğine işaret eden uzmanlar, bu modellerin hangi bilgilere dayanarak sonuca vardığının her zaman kolayca görülemediğini aktarıyor. Bir model yüksek doğrulukla tahmin yapabilse de, bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi yoksa verideki tesadüfi bir örüntüye mi dayandırdığının bilinmesi gerekiyor.

Uzman Görüşü / Editöryel Değerlendirme

Sağlık alanında yapay zekâ uygulamaları, klinik karar destek sistemlerinin geliştirilmesi ve veri analitiği süreçlerinde önemli bir dönüşüm sağlamaktadır. Bilimsel literatürde ve uluslararası sağlık otoritelerinin düzenlemelerinde, yapay zekâ algoritmalarının şeffaflığı ve doğrulanabilirliği, hasta güvenliği açısından kritik bir parametre olarak ele alınmaktadır.