Conditionele generatieve modellen voor transparante detectie en inperking van discriminatie in algoritmische besluitvormingssystemen

Het toenemende gebruik van machine learning-algoritmen in geautomatiseerde besluitvormingssystemen heeft geleid tot bezorgdheid over discriminerende beslissingspatronen. Hoewel de literatuur zich heeft gericht op het definiëren en uitbannen van discriminatie, zijn er minder pogingen gedaan om het rigoureus op te sporen in black-box-systemen. State-of-the-art detectiemethoden vertalen noties van rechtvaardigheid in een statistische pariteitsmetriek op de uitkomst van het model of houden rekening met aanvullende kennis over de wereld via een causaal model. Deze benaderingen zijn gericht op gelijkheid van uitkomst en hebben enkele tekortkomingen, zoals onverenigbaarheid, gebrek aan interpreteerbaarheid en het amper detecteren van intersectionele discriminatie. Deze tekortkomingen stimuleren mijn onderzoek naar complementaire methoden die gericht zijn op gelijke behandeling door extra transparantie te bieden en geen rekening houden met een a priori beslissing over de keuze van discriminerende kenmerken. In dit project, stel ik voor om het besluitvormingsproces van een model te onthullen door gebruik te maken van generatieve modellen. Mijn bijdragen zullen de transparantie vergroten en discriminatie verminderen in veel economische toepassingen, zoals verzekeringen en marketing. Ten slotte kunnen we, door de interne logica van elk model te begrijpen, de discriminatie gevallen evalueren zonder aanvullende statistische of causale aannames te doen die de evaluatie kunnen vertekenen.