Bir sosyal yardım başvurusunun reddedildiğini öğrenen kişi, kararın hangi bilgiye dayanarak verildiğini bilmek ister. Sürece bir algoritmik araç dahil olduğunda bu sorunun yanıtı daha da önemli hale gelir; çünkü kararın arkasındaki ölçütler başvurandan uzaklaşabilir. Kamu hizmetlerinde yapay zekâ kullanımı, ancak sorumluluğun kimde olduğu ve kararın nasıl sorgulanacağı açıkça belli olduğunda toplumsal fayda üretebilir.
Kararın arkasını görünür kılmak
Bir sistemin nasıl çalıştığını herkesin teknik ayrıntılarıyla bilmesi beklenemez. Ancak kurumlar, hangi amaçla araç kullandıklarını, hangi verilerin etkili olduğunu ve son kararı kimin verdiğini anlaşılır biçimde açıklayabilmelidir. Bu açıklama, yalnızca bir bilgilendirme metni değil; kamusal hesap verebilirliğin başlangıç noktasıdır.
İtiraz yolu tasarımın parçası
Bir karara katılmayan kişi, başvurusunun gerçek bir insan tarafından yeniden değerlendirilmesini isteyebilmelidir. İtiraz hakkı, algoritmanın çıktısını otomatik olarak onaylayan bir iş akışına bırakılırsa kâğıt üzerinde kalır. Kurumlar bu nedenle değerlendirme, düzeltme ve başvuru kanallarını sistem devreye alınmadan önce tanımlamalıdır.
Önce kamu yararı sorusu
Bir teknolojinin kullanılabilir olması, kamu hizmetinde kullanılmasının gerekli olduğunu tek başına göstermez. Kurumlar beklenen faydayı, hata halinde doğacak zararı ve mevcut yönteme göre neyin iyileşeceğini birlikte değerlendirmelidir. Cevaplar belirsizse, doğru adım sistemi hızla yaygınlaştırmak değil, daha fazla kanıt ve kamusal tartışma istemektir.