Hatalı Yapay Zekâ Teşhisi: Algoritma Yanılırsa Sorumlu Kim? Hekim mi, Yazılım mı?
Bir hastanede veya mobil sağlık uygulamasında kullanılan yapay zekâ sisteminin, bir röntgen görüntüsünü yanlış yorumlaması, bir kisti “iyi huylu” olarak etiketlemesi veya semptomları hatalı analiz ederek hastayı yanlış bir ilaç kullanımına yönlendirmesi, 2026 tıbbının en büyük hukuki paradokslarından biridir. Bu noktada en temel soru şudur: Hatayı kodlayan mı, hatayı onaylayan mı, yoksa hatayı sunan kurum mu suçludur? Hukuk sistemimizde “organizasyon kusuru” ve “hekimin özen borcu” ilkeleri gereği, yapay zekâ bir “fail” değil, bir “araç” olarak kabul edilir. Dolayısıyla algoritmanın hatası, onu kullanan profesyonelin ve sunan kurumun sorumluluğunu ortadan kaldırmaz, aksine denetim yükümlülüğünü artırır.
Böyle bir mağduriyet durumunda sorumluluk zinciri oldukça geniştir ve “zincirleme sorumluluk” ilkesi işler. Teşhisi son aşamada onaylayan hekim, yapay zekâyı bir “yardımcı görüş” olarak kullanmakla mükelleftir; ancak kararı bizzat kendisi vermediği veya algoritmanın çıktısını sorgulamadığı takdirde “tıbbi malpraktis” (uygulama hatası) nedeniyle birinci dereceden sorumlu olur. Öte yandan, sistemi hastaneye entegre eden sağlık kuruluşu, sistemin güvenilirliğini ve güncelliğini denetlemediği için “hizmet kusuru” kapsamında sorumludur. Son olarak, eğer hatanın kaynağı yazılımdaki bir kodlama yanlışı veya yetersiz veri setiyle eğitilmiş bir model ise, yazılım firmasına karşı “ayıplı ürün” ve “üreticinin sorumluluğu” çerçevesinde milyarlarca liralık tazminat davaları açılabilir.
Hukuki süreçte en belirleyici aşama, mahkemece atanacak olan ve hem tıp doktorlarından hem de yapay zekâ uzmanlarından oluşan “karma bilirkişi heyeti”nin raporudur. Bu rapor; hatanın hekimin klinik gözlemindeki bir eksiklikten mi, yoksa yapay zekânın “kara kutu” (black box) dediğimiz açıklanamaz bir mantık hatasından mı kaynaklandığını tespit eder. Eğer yazılım şirketi, sistemin hata payını olduğundan düşük göstermiş veya yeterli klinik test aşamalarından geçmemişse, bu durum “taksirle yaralamaya sebebiyet verme” suçuna kadar uzanabilir. “Algoritma böyle dedi” savunması, bir hastanın vücut bütünlüğünün bozulduğu veya hayati tehlike atlattığı bir davada yasal bir kurtarıcı veya mazeret olarak asla kabul edilmemektedir.
Mağdur olan bireyin yapması gereken ilk iş, teşhis ve tedavi sürecine dair tüm dijital log kayıtlarını, algoritmanın ürettiği rapor çıktılarını ve konulan yanlış teşhise dayalı olarak yapılan müdahalelerin tıbbi dökümlerini güvence altına almaktır. Ardından “maddi tazminat” (tedavi giderleri, iş gücü kaybı, sakatlık oranına göre tazminat) ve yaşanan ağır travma için “manevi tazminat” talebiyle dava süreci başlatılmalıdır. Unutulmamalıdır ki, teknoloji ne kadar gelişirse gelişsin, tıp hukukunun temel taşı “önce zarar verme” ilkesidir. Yapay zekâ, hekimin sezgisinin ve sorumluluğunun yerine geçemez; o sadece bir yardımcıdır ve bu yardımcının hatası, onu kullananların yasal sorumluluğunu eksiltmez.
