Sağlık AI sistemlerinde risk yalnızca model hatası değildir; özel nitelikli sağlık verisinin hukuki şartı, veri kalitesi, güvenlik, tıbbi karar üzerindeki rol, insan denetimi, ürünün iddiası ve hastaya yapılan açıklama birlikte değerlendirilmelidir. Sağlık verisi, kişinin en mahrem bilgilerinden biridir; aynı zamanda klinik karar destek modellerinin temel girdisidir.
Veri eksik veya yanlıysa model belirli hasta gruplarında daha fazla hata yapabilir. Bir sistemin 'karar destek' olarak adlandırılması da tek başına sorumluluğu azaltmaz.
Hekimin çıktıyı ne ölçüde anlayıp değiştirebildiği ve kurumun sistemi nasıl yerleştirdiği incelenmelidir.
Sağlık verisi için güncel işleme şartı belirlenmelidir
Sağlık bilgileri KVKK kapsamında özel nitelikli kişisel veridir. KVKK m. 6, 1 Haziran 2024’te değişmiş ve özel nitelikli veriler için yeni işleme şartları eklenmiştir. Bu nedenle sağlık verisinin yalnızca açık rıza veya sır saklama yükümlülüğü altındaki sağlık personeli tarafından işlenebileceği yönündeki eski özet, güncel maddeyi eksik yansıtır.
Hastanın raporunu genel amaçlı üretken yapay zekâ aracına yüklemek ile hastane içinde yetkilendirilmiş klinik sistemde işlemek aynı veri akışına sahip değildir. Veri kategorisi, amaç, işleme şartı, alıcı, yurt dışı aktarım ve güvenlik tedbirleri ayrı kaydedilmelidir.
Uygun işleme şartı; sağlık hizmetinin sunulması, kanuni yükümlülük, kamu sağlığı, çalışma ve sosyal güvenlik gibi somut amaç ve şartlara göre belirlenir. Kişisel Sağlık Verileri Hakkında Yönetmelik de sağlık hizmeti süreçlerinde mahremiyet ve erişim bakımından ayrıca dikkate alınır.
Veri kalitesi klinik güvenliği etkiler
Sağlık modelinin eğitildiği ve test edildiği verinin doğruluğu, temsil gücü ve güncelliği çıktının güvenilirliğini etkiler. KVKK’nın doğruluk ve gerektiğinde güncel olma ilkesi, yanlış hasta verisinin karar süreçlerinde kullanılmasını önleme bakımından önemlidir. Veri kaynağı, eksik grup, etiketleme kalitesi, performans alt grupları ve güncelleme planı klinik doğrulama dosyasına eklenmelidir.
Yalnızca yetişkin erkek hastalarla eğitilen modelin kadın ve çocuk hastalarda aynı performansı göstereceği varsayılamaz. Veri setinde grup farkı bulunması, her hatanın otomatik olarak hukuki ayrımcılık olduğu sonucunu doğurmaz.
Hekim onayı yalnızca şekli bir adım değildir
AI çıktısının hekim tarafından imzalanması, hekimin sonucu anlayamadığı veya değiştiremediği durumda gerçek insan denetimini tek başına göstermez.
Hekime sunulan açıklama, uyarı, eğitim, geçersiz kılma yetkisi ve geri bildirim kanalı test edilmelidir.
Sağlık kararında insan gözetimi; modelin sınırlarını bilme, alternatif klinik veriyi değerlendirme ve çıktıyı gerekçeli biçimde reddedebilme imkânı gerektirir. Radyoloji sisteminin işaretlediği alanı hiç görüntüye bakmadan rapora aktarmak ile işareti diğer bulgularla karşılaştırmak aynı değildir. İnsan denetimi, sistemin bütün hatalarını ve kurumun tedarik sorumluluğunu otomatik olarak hekime devretmez.
Yanlış çıktı ve sorumluluk zinciri
Yanlış teşhis veya triyaj sonucu; sağlık kuruluşu, hekim, yazılım sağlayıcısı ve veri hazırlayan tarafın farklı fiillerini gündeme getirebilir. Sorumluluk her aktörün üstlendiği edim, kusur, denetim imkânı ve zararla illiyet bağı bakımından ayrı değerlendirilir. Tedarik belgesi, klinik kabul testi, kullanım talimatı, karar logu, sürüm ve olay incelemesi birlikte korunmalıdır.
Sağlayıcının doğruluk eşiğini yanlış bildirmesi ile hastanenin sistemi onaylanmayan amaçta kullanması farklı kusur olgularıdır. AI kullanılması hekimin veya kurumun her hatadan mutlaka sorumlu olduğu ya da sağlayıcının tamamen sorumsuz olduğu sonucu doğurmaz.
Hastaya şeffaflık ve başvuru yolu
Sağlık verisinin işlenmesi ve karar destek sisteminin kullanımı hakkında hastaya yapılacak bilgilendirme, gerçek veri akışını anlaşılır biçimde açıklamalıdır. Yalnızca otomatik analiz sonucu hasta aleyhine sonuç doğması hâlinde KVKK’daki itiraz hakkı gündeme gelebilir.
Aydınlatma, sonuç düzeltme, insan incelemesi, veri erişimi ve olay bildirimi hasta yolculuğunda erişilebilir olmalıdır.
AI triyaj sisteminin başvuruyu düşük önceliğe alması ve insan inceleme kanalı sunmaması, veri ve karar hakları bakımından sorun yaratabilir. Her klinik AI kullanımı için bütün algoritmanın hastaya açıklanması gerektiği söylenemez; fakat hakların kullanılmasını sağlayacak temel şeffaflık kurulmalıdır.
Sağlık AI sistemi için sonuç
Sağlık AI sistemlerinde hukuki güvenlik, yalnızca veriyi şifrelemek veya hekim imzası almak değildir. Özel nitelikli veri zemini, temsil gücü, klinik doğrulama, gerçek insan denetimi ve sorumluluk zinciri birlikte kurulmalıdır.
Bu makale sağlık verisi ve karar desteğine odaklanır; genel AI hizmet hatası ve anonim veri ayrı sayfalarda incelenmiştir.
Aktörler arasındaki genel dağılım için sorumluluğun aktörler arasında dağılımı yazımız bütünleyici bir çerçeve sunar.
Bu içerik genel bilgilendirme amaçlıdır; her dosyanın koşulları farklıdır ve somut durum ayrıca değerlendirilmelidir. Son hukuki kontrol: 12 Temmuz 2026. Konuyla ilgili destek için iletişim sayfamızı kullanabilirsiniz.