Yüksek riskli sistem, yalnızca güçlü veya karmaşık yapay zekâ demek değildir; Avrupa Birliği Yapay Zekâ Tüzüğü (AI Act) kapsamında belirlenen ürün bağlantıları veya hassas kullanım alanları içinde, kişilerin sağlık, güvenlik ya da temel hakları üzerinde önemli etki yaratabilecek kullanım şartlarını karşılayan sistemdir. 'Model çok gelişmiş, o hâlde yüksek risklidir' yaklaşımı hukuki sınıflandırmayı teknik performansla karıştırır.
Aynı temel model bir pazarlama metni taslağında düşük etkili, aday eleme sürecinde ise bambaşka bir değerlendirmeye konu olabilir. Doğru sınıflandırma, ürünün genel yetenek listesinden değil amaçlanan ve makul ölçüde öngörülebilir kullanımından başlar.
Yüksek risk, model büyüklüğü değildir
AI Act risk sınıflandırmasını işlemci gücü, parametre sayısı veya popülerlik gibi tek bir teknik ölçüte bağlamaz. Yüksek risk değerlendirmesi, sistemin bir ürünün güvenlik bileşeni olup olmadığına veya düzenlemede sayılan hassas alanlarda belirli işlevleri yerine getirip getirmediğine dayanır. Sınıflandırma dosyasında temel model, uygulama katmanı, amaçlanan kullanım ve kullanıcı talimatı ayrı gösterilmelidir. Genel amaçlı model ile onun üzerine kurulan belirli yüksek etkili uygulamanın yükümlülükleri birbirine karıştırılmamalıdır.
Büyük dil modelinin müşteri e-postası taslağı hazırlaması ile acil sağlık önceliği belirlemesi aynı sınıfta kabul edilemez.
Kullanım alanı ve işlev birlikte okunur
Komisyonun açıklamasında biyometri, kritik altyapı, eğitim, istihdam, temel hizmetler, kolluk, göç ve adalet gibi alanlar yüksek risk değerlendirmesinde öne çıkan kategoriler arasındadır.
Her kullanım senaryosu için kim hakkında hangi kararın verildiği ve model çıktısının kararı nasıl etkilediği yazılmalıdır.
Bir sistemin bu sektörlerden birinde bulunması her durumda yeterli olmayabilir; sistemin o alandaki somut işlevi ve karar üzerindeki etkisi incelenir. Okulun yemek listesini optimize eden yazılım ile öğrencinin sınava kabulünü puanlayan sistem aynı eğitim işlevini görmez. Sektör etiketini tek başına kullanmak sınıflandırmayı hem gereksiz genişletebilir hem de kritik işlevi gizleyebilir.
İşe alım ve çalışan yönetimi neden hassastır?
AI Act, istihdam ve çalışan yönetiminde kullanılan belirli sistemleri temel haklar üzerindeki etkileri nedeniyle yüksek riskli alanlar arasında ele alır. Özgeçmişleri sıralayan, adayları filtreleyen veya çalışan performansını etkileyen sistemlerin gerçek işlevi, yalnızca 'verimlilik aracı' olarak adlandırılmalarından bağımsız değerlendirilir. Karar etkisi, insanın modeli geçersiz kılma yetkisi, kullanılan veri ve itiraz kanalı tasarım belgesinde gösterilmelidir.
Toplantı saatini öneren takvim aracı ile işten çıkarma listesini puanlayan model çalışan üzerinde aynı etkiyi yaratmaz. İnsan yöneticinin son imzayı atması, modelin fiilen belirleyici olduğu bir süreci otomatik olarak düşük riskli hâle getirmez.
Yükümlülükler yalnızca bir etik kurulundan ibaret değildir
Yüksek riskli sistemler için risk yönetimi, veri yönetişimi, teknik dokümantasyon, kayıt, insan gözetimi, doğruluk, sağlamlık ve siber güvenlik gibi birbirini tamamlayan yükümlülükler öngörülür. Bu yükümlülükler sağlayıcı ve kullanıcı rollerine göre farklılaşır; bütün görevlerin tek tarafa ait olduğu varsayılamaz.
Her yükümlülük için sorumlu ekip, kanıt dosyası, gözden geçirme tarihi ve olay bildirimi yolu belirlenmelidir.
Sağlayıcının model kartı hazırlaması, işverenin sistemi kendi çalışanları üzerindeki gerçek kullanımını izleme görevini bütünüyle ortadan kaldırmaz. Bir kontrol listesini imzalamak, teknik ve organizasyonel tedbirlerin fiilen uygulanmasının yerine geçmez.
Yüksek risk kurallarının güncel uygulama tarihleri
Yüksek risk sınıflandırması ürünün kullanım amacı ve düzenlemedeki kategori şartlarına göre yapılır; modelin güçlü, pahalı veya popüler olması tek başına belirleyici değildir. Sistemin amacı ya da kullanım biçimi esaslı biçimde değişirse sınıflandırma ve aktör rolü yeniden incelenmelidir. Ürün değişiklik kaydı, amaçlanan kullanım, müşteri sektörü ve piyasaya sunma tarihi birlikte izlenmelidir. Bu tarihler, daha önce uygulanmaya başlayan yasaklar, okuryazarlık ve genel amaçlı model kurallarıyla karıştırılmamalıdır.
2026’da kabul edilen değişikliklerle, istihdam, eğitim, biyometri ve benzeri belirli yüksek riskli kullanım alanlarına ilişkin kuralların 2 Aralık 2027’de; ürün güvenliği mevzuatına bağlı sistemlere ilişkin kuralların ise 2 Ağustos 2028’de uygulanması öngörülmüştür.
Pratik ayrımlar
| Soru | Kısa yanıt |
|---|---|
| Her işe alım yazılımı yüksek riskli midir? | Araç adı değil somut işlev belirleyicidir. Adayları değerlendiren veya seçim kararını etkileyen sistem ile yalnızca görüşme takvimi oluşturan araç aynı değerlendirmeye tabi değildir. |
| İnsan onayı sistemi yüksek riskten çıkarır mı? | Her zaman değil. İnsan gözetiminin gerçek yetkisi ve model çıktısının karar üzerindeki fiilî etkisi incelenmelidir. |
Sınıflandırma sonucunda ne değişir?
Yüksek riskli AI, 'çok akıllı model' etiketi değil belirli kullanım alanı ve karar etkisine dayanan hukuki bir sınıflandırmadır. Sınıflandırmanın sağlam olması için sektör, işlev, aktör, insan denetimi ve ürün değişiklikleri birlikte ele alınmalıdır.
Uygulama takvimi ve Türkiye’den AB’ye ürün sunma koşulları bu yazının dışında ayrı sayfalarda açıklanmıştır.
Aktörler arasındaki genel dağılım için yapay zekâ kullanımında hukuki sorumluluk yazımız bütünleyici bir çerçeve sunar.
Bu içerik genel bilgilendirme amaçlıdır; her dosyanın koşulları farklıdır ve somut durum ayrıca değerlendirilmelidir. Son hukuki kontrol: 12 Temmuz 2026. Konuyla ilgili destek için iletişim sayfamızı kullanabilirsiniz.