Fransa İş Kurumu, işsizleri öncelikli olarak denetlemek için yapay zeka aracı test ediyor

La Quadrature du Net derneği, France Travail'in (eski adıyla Pôle Emploi) işsizleri denetlemek için bir profil çıkarma algoritması geliştirdiğini ortaya koyan bir belgeye erişti. 20 Temmuz'da paylaşılan belgeye göre, algoritma 'derinlemesine inceleme gerektiren dosyaları belirlemek' ve 'iş arama denetimini otomatik olarak beslemek' için tasarlanmış ve 10 Aralık'ta kurumun yapay zeka etik komitesine sunulmuştur.

Algoritma, işsizlerin iş arama yükümlülüklerini ihlal etme olasılığını tahmin etmek için 'şüpheli/şüpheli değil' profilleri oluşturmaktadır. Bu profiller, 60.000 geçmiş denetimin analizine dayanmakta olup, 'bildirilen faaliyetler', 'ihlal geçmişi' (randevu ertelemeleri, bir hizmete katılmama vb.) ve 'kayıt süresi' gibi 26 değişken kullanılarak işsizlerin geçmişi yeniden yapılandırılmaktadır.

Algoritma, her kayıtlı kişiye 'şüpheli' veya 'şüpheli değil' profili atamakta; şüpheli olarak sınıflandırılanlar öncelikli denetim listesine alınmaktadır. La Quadrature du Net, bu değişkenlerin listesine erişmiş olsa da, profillerin oluşturulmasında kullanılan kuralların bilinmediğini ve bu nedenle hangi popülasyonların hedef alındığının simülasyonlarla belirlenemediğini belirtmektedir.

France Travail, algoritmayı test ettikten sonra, bazı değişkenler nedeniyle seçim yanlılıklarını artırdığını fark etmiştir. Kurum, 'modelin en düşük gelirli iş arayanların denetimini teşvik edebileceğini' tespit etmiş ve bu nedenle 'Referans Günlük Ücret' değişkenini çıkarmıştır. Ayrıca 'Eğitim Seviyesi' değişkeninde var olan bir yanlılığı düzelttiklerini belirtmişlerdir. Ancak, aracın sınıflandırma kurallarına ilişkin şeffaflık eksikliği endişe yaratmaktadır.