Nieuwe inzichten die de wisselwerking tussen artificiële intelligentie en de samenleving verbeteren: over begrijpelijke algoritmes, gericht vergeten en algoritmische rechtvaardigheid.

Veel beslissingen die ons persoonlijk aangaan, zullen we krijgen, als we de behandeling krijgen, als we schuldig zijn, door andere mensen. Door de geschiedenis heen heeft de maatschappij mensen zoals managers, artsen en rechters opgeleid en vertrouwd om deze belangrijke beslissingen op de best mogelijke manier te nemen. Onlangs ontdekten wetenschappers hoe we kunstmatig intelligente computerprogramma's kunnen trainen om ons bij dit proces te helpen. Maar moeten we ook deze programma's vertrouwen? We wisten al dat mensen racistisch, seksistisch, bevooroordeeld of gewoon verkeerd kunnen zijn. Het blijkt dat intelligente computerprogramma's dat ook kunnen zijn. Hier stellen we onderzoek voor naar methoden die ons helpen die programma's beter te begrijpen, te controleren en te corrigeren. We willen methoden bedenken die licht werpen op de innerlijke werking van zogenaamde kunstmatige neurale netwerken, bijvoorbeeld door te proberen de complexe varianten van deze netwerken te begrijpen in termen van hoe ze verschillen van meer eenvoudige netwerken die we volledig begrijpen. Daarnaast stellen we voor om onderzoek te doen naar de verschillende vormen van geheugen die deze netwerken kunnen bezitten, en over hoe
we kunnen dit geheugen zodanig manipuleren dat specifieke informatie, bijvoorbeeld persoonlijke privégegevens, kan worden gewist. Ten slotte stellen we voor oneerlijke geautomatiseerde beslissingen te corrigeren nog voordat de programma's in de samenleving worden toegepast, en dit door de programma's de mogelijkheid te bieden vragen te stellen aan een expert over de gegevens waarvan ze leren. Wij geloven dat de ontwikkeling van deze methoden het heilzame gebruik van intelligente programma's in de samenleving ten goede zal komen.