ML-expert met interesse in AI- en algoritmebeleid

Functie­omschrijving

Wat ga je doen?

De ontwikkelingen op het gebied van AI gaan in sneltreinvaart en kunnen fundamentele impact hebben op de wereld om ons heen. Vanuit jouw expertise ga je binnen de Directie Coördinatie Algoritmes van de AP bijdragen aan onze coördinerende rol om vanuit toezichthoudersperspectief deze ontwikkelingen in goede banen te leiden.

Op het gebied van regelgeving voor algoritmes en AI vinden veel ontwikkelingen plaats. Denk aan de totstandkoming van algoritmekaders op nationaal niveau en de AI-verordening op Europees niveau. Deze regelgeving biedt houvast door te specificeren wat nodig is voor een goede beheersing van algoritmische processen en AI-systemen. Tegelijkertijd moet veel nadere uitwerking nog plaatsvinden, bijvoorbeeld door te concretiseren (i) wat transparante en “explainable” AI nu precies inhoudt, (ii) hoe de performance van een AI-systeem of algoritme objectief gemeten kan worden of (iii) op welke manier – en hoe vaak en op welke moment – bias en fairnesstoetsingen plaats moeten vinden. Onder andere via de uitwerking van standaarden worden hier verdere stappen gezet. Zodra die duidelijkheid er is, is de volgende uitdaging natuurlijk ook te zorgen dat dit concreet in de praktijk wordt gebracht en dat er toezicht op wordt gehouden. De komende jaren zijn bepalend voor de praktische uitwerking van dit alles: een kritieke fase. Door je technische kennis op deze manier in te zetten werk je naar een situatie waarbij AI de maatschappij ondersteunt in plaats van onder druk zet.

Kortom, het werkveld van toezicht op algoritmes en AI bevindt zich op het snijvlak van de dagelijkse praktijk waarin data scientists en ML-engineers opereren en de praktijk van regulering, beleidsvorming en toezicht. We zoeken voor ons groeiende team iemand die vanuit de praktijkervaring met machine learning in productie de brug kan slaan naar de uitdagingen waaraan wij werken op het gebied van risicomonitoring, beleidsvorming en toezicht.

Als technisch ML-expert draag je met fundamentele kennis bij aan de beheersing van AI en algoritme inzet in Nederland. Je hebt kennis over actuele ontwikkelingen en inzet van AI-systemen, door deze te analyseren identificeer je risico’s en help je daarnaast het team met meer duidelijkheid naar de toekomst te kijken. Verder gebruik je jouw expertise om te beoordelen of verantwoorde oplossingen van hoge kwaliteit en realistisch zijn. Je werkt binnen een zeer interdisciplinair team met daarin andere technisch experts om het werk samen mee op te pakken en te sparren waar nodig.

Praktisch voorzien we dat je aan de volgende activiteiten gaat werken, met veel ruimte voor eigen invulling:

• Vanuit technisch perspectief in kaart brengen en beschrijven wat de nieuwste ontwikkelingen, uitdagingen en risico’s op het gebied van AI en algoritmes zijn.
• Technische onderbouwing van sturing op verantwoorde inzet van AI en algoritmen. Bijvoorbeeld via methoden om (i) discriminatie te detecteren en corrigeren, (ii) uitlegbaarheid van systemen te waarborgen of (iii) experimenten veilig op te zetten.
• Ontwikkeling van technische capaciteiten voor toezicht, waaronder AI-testfaciliteiten.
• Bijdragen aan technische standaarden voor de AI-verordening.
• Bijdragen aan publieksvoorlichting over AI en algoritmes.

Functie-eisen

De functie valt binnen Functie-gebouw Rijk in de functiegroep onder de functie senior) adviseur met bijbehorende competenties.

Verder heb je:

• Een technische opleiding, zoals Artificial Intelligence, Computer Science of Natuurkunde
• Ervaring (2+ jaar) met Machine Learning (ML) in productie, bijvoorbeeld als ML (Ops) engineer of data scientist.
• Kennis van de verschillende aspecten van een ML lifecycle, waaronder het waarborgen van datakwaliteit, trainen van modellen, de deployment en serving van modellen en het monitoren en loggen van model input en output
• De vaardigheid om technische onderwerpen goed te verwoorden en uit te leggen
• Interesse in de maatschappelijke impact van AI en algoritmische processen en affiniteit met de ethische aandachtspunten voor een verantwoorde inzet van AI en algoritmische processen
• Gevoel voor het bestuurlijke en politieke krachtenveld waarin het algoritmetoezicht opgebouwd moet worden

Meer over jouw toekomstige afdeling

Wat kan je meer verwachten? We werken binnen de Directie Coördinatie Algoritmes (DCA) van de AP op een interdisciplinaire manier samen. Ook in brede zin is het toezicht op algoritmes en AI nog sterk in ontwikkeling. In brede zin kenmerkt je werk zich dus door het uitbouwen van de samenwerking met andere toezichthouders en publieke organisaties. Dit doe je samen met jouw collega’s door gesprekken, presentaties en het schrijven van richtinggevende papers en voorstellen.

Om dit werk mogelijk te maken, fungeren jij en je collega’s onderling als klankbord en werken jullie intensief samen. De directie waar je komt te werken is een op elkaar ingespeeld multidisciplinair team waar veel ruimte is om samen verder te ontwikkelen. Daarbij is er ook ruime aandacht voor opleiding en loopbaanontwikkeling, dit sluit aan bij het “start up”-karakter van ons werk en de dynamiek van het onderwerp van algoritmen en AI.