Yapay Zekâ ve Kamu Yönetimi

Kamu yönetiminde yapay zekâ kullanımı, otomatik karar alma, şeffaflık, yanlılık ve insan denetimi.

Kullanım alanları

Yapay zekâ, kamu yönetiminde giderek daha fazla kullanılmaktadır. Başvuruların ön değerlendirmesi, yazışmaların sınıflandırılması, talep yoğunluğunun tahmini, denetim için riskli işlemlerin belirlenmesi ve vatandaş sorularının yanıtlanması bu alanlar arasındadır. Bu uygulamalar, tekrarlayan işleri hızlandırabilir ve personelin daha karmaşık işlere odaklanmasını sağlayabilir. Ancak yapay zekâ, kararın yerine geçmez; kararın hazırlanmasına yardımcı olur. Kamu yönetiminde nihai sorumluluk, insan karar vericiye ve kuruma aittir. Bu sorumluluğun açıkça tanımlanması, yapay zekâ kullanımının meşruiyet koşuludur.

Otomatik karar alma

Otomatik karar alma, belirli kurallara veya model çıktısına dayanarak idari işlemin insan müdahalesi olmadan üretilmesidir. Bu yöntem, hız ve tutarlılık sağlar; ancak bireyin durumunun özgüllüğünü gözden kaçırabilir. İdare hukuku açısından kararın gerekçeli olması, ilgiliye savunma hakkı tanınması ve hukuka uygunluk denetiminin yapılabilmesi gerekir. Modelin çıktısı gerekçe olarak sunulamaz; gerekçenin anlaşılır ve denetlenebilir olması gerekir. Kişisel verilerin münhasıran otomatik sistemlerle analiz edilmesi suretiyle kişinin kendisi aleyhine bir sonucun ortaya çıkmasına itiraz hakkı, kanunda ayrıca güvence altına alınmıştır. Otomasyon, hukuki güvenceleri ortadan kaldırmaz.

Yanlılık ve ayrımcılık riski

Yapay zekâ modelleri, eğitildikleri verideki örüntüleri öğrenir. Geçmişte ayrımcı uygulamaların olduğu bir alanda eğitilen model, bu örüntüyü sürdürebilir. Örneğin sosyal yardım başvurularında geçmiş kararlara dayanan bir model, belirli mahallelerde yaşayanları veya belirli bir yaş grubunu sistematik olarak dezavantajlı konuma düşürebilir. Yanlılık, yalnızca modelin hatası değildir; veri toplama, değişken seçimi ve eşik değerleri de yanlılık üretir. Kurumlar, model çıktısını düzenli olarak gruplar arası etki açısından test etmelidir. Test edilmeyen model, ayrımcılığı görünmez kılar.

Şeffaflık ve açıklanabilirlik

Kamu yönetiminde yapay zekâ kullanımı, vatandaşın kararın nasıl verildiğini anlayabilmesini gerektirir. Açıklanabilirlik, modelin her ayrıntısının kamuya açılması değil; kararın hangi verilere ve kurallara dayandığının anlaşılır biçimde ifade edilmesidir. Kara kutu niteliğindeki bir model, idari denetimi ve yargısal incelemeyi zorlaştırır. Kurumlar, yapay zekâ kullanımını ve amacını kamuya bildirmeli; hangi kararlarda insan denetimi olduğunu açıklamalıdır. Şeffaflık, güveni artırır ve hatalı çıktıların düzeltilmesini kolaylaştırır. Açıklanmayan otomasyon, hukuki belirsizlik üretir.

Açıklanabilirlik, kullanıcıya sunulan bilgi ile iç denetim için gereken bilgi arasında farklılaşabilir. Vatandaş, kararın hangi gerekçeye dayandığını anlayabilmeli; denetçi ise modelin teknik ayrıntısına erişebilmelidir. Kurum, bu iki düzeyi ayrı tanımlamalıdır. Aksi halde ya vatandaş anlaşılmaz teknik metinle baş başa kalır ya da denetim yüzeysel kalır.

İnsan denetimi ve hesap verebilirlik

Yapay zekâ destekli kararlarda insan denetimi, son kontrol olarak tasarlanmalıdır. Denetim, modelin çıktısını imzalamakla sınırlı olmamalı; karar vericinin çıktıyı sorgulama, ek bilgi isteme ve farklı sonuca varma yetkisi bulunmalıdır. Aksi halde insan, otomasyonun kılıfı haline gelir. Kurum, modelin sürümünü, eğitim verisini ve karar kayıtlarını saklamalıdır; böylece sonradan denetim mümkün olur. Hesap verebilirlik, teknik ekibin değil, kararı veren makamın sorumluluğundadır. Sorumluluğun dağıtılması, hesap vermeyi imkânsız kılar.

Kamu alımlarında yapay zekâ

Kurumlar, yapay zekâ çözümlerini çoğu zaman dış sağlayıcılardan satın alır. Bu durumda modelin nasıl çalıştığı, hangi veriyle eğitildiği ve çıktının nasıl denetleneceği sözleşmede belirlenmelidir. Kurum, modelin kendi verisiyle güncellenmesi, verinin sağlayıcıya aktarımı ve saklama süresi konusunda açık hüküm istemelidir. Denetim hakkı ve hata bildirim yükümlülüğü de sözleşmeye eklenmelidir. Aksi halde kamu, sonucu denetleyemediği bir sisteme bağımlı hale gelir.

Satın alma, yalnız yazılım teslimi olarak görülmemelidir. Kurum, modelin performansını izlemek için kendi verisini ve uzmanlığını korumalıdır. Sağlayıcı değişikliğinde veri ve model geçişi planlanmalıdır. Tek sağlayıcıya bağımlılık, maliyet ve güvenlik riskini artırır.

Risk değerlendirmesi, yapay zekâ kullanımının ön koşulu olmalıdır. Kurum, uygulamanın birey ve toplum üzerindeki etkisini, hata halinde doğacak sonuçları ve geri dönüş imkânını değerlendirmelidir. Yüksek riskli alanlarda insan incelemesi zorunlu tutulmalı; düşük riskli alanlarda daha hafif güvenceler yeterli olabilir. Değerlendirme, kullanım öncesinde yapılmalı ve düzenli olarak yenilenmelidir. Ayrıca olay bildirim ve şikâyet mekanizması kurulmalıdır. Risk yönetimi olmayan yapay zekâ uygulaması, kamu güvenini hızla tüketir.

Yapay zekâ uygulaması, kamu personelinin yerini almak yerine iş yükünü azaltmalıdır. Personelin çıktıyı değerlendirme ve düzeltme yetkinliği korunmalıdır. Aksi halde kurum, modelin hatalarını fark edemez ve sorumluluk belirsizleşir. Yetkinlik geliştirme, yatırımın parçası olmalıdır. Kurum, personelin soru ve itirazlarını kayıt altına almalı ve modelin sınırlarını açıkça bildirmelidir. Bu kayıt, denetim ve şeffaflık için gereklidir.

Bu notlar hukuki danışmanlık değildir; güncel mevzuatı resmî kaynaktan kontrol edin.