Data engineer DevOps real-time

Werk mee aan een veiliger, beter bereikbaar en duurzamer Nederland door het bouwen van betrouwbare real-time dataproducten.

Bij het Nationaal Dataportaal Wegverkeer (NDW) verwerken we elke minuut grote hoeveelheden real-time verkeersdata. Deze data gebruiken we voor verkeersmanagement, beleidsinformatie en datadiensten richting publieke en private partijen. Als data engineer in ons DevOps-team ben jij medeverantwoordelijk voor het bouwen, beheren en verbeteren van de datastromen en kwaliteitscontroles die de ruggengraat vormen van ons dataplatform.

Hoe jij bijdraagt in je rol

Als data engineer ben je (mede-)verantwoordelijk voor het ontwerpen, beheren en optimaliseren van real-time datastromen en de datakwaliteit van onze producten. Je werkt aan dataverwerking in verschillende formats en protocollen, en zorgt ervoor dat onze data compleet, actueel en betrouwbaar is. Dit doe je zowel voor externe afnemers als voor interne teams die historische en analytische toepassingen bouwen.

Je dagelijkse werk omvat onder andere:

• Het testen en beheren van dataverbindingen: het uitvoeren van aansluittesten en valideren van de integratie van externe verkeersdataleveranciers met onze systemen.
• Het automatiseren van datakwaliteitscontroles: volledigheid, trendbreukdetectie, plausibiliteitschecks en latency-monitoring.
• Het ontwikkelen van Python-scripts en SQL-queries voor transformaties, validaties en analyses.
• Het monitoren en verbeteren van dataproducten, met gebruik van observability tools zoals Prometheus, Grafana en Loki.
• Het doen van incidentanalyses en herstel van datasets, inclusief replay- en herstelstrategieën.
• Het samenwerken met andere ontwikkelteams, onder meer teams die historische aggregaties en kaartvisualisaties bouwen.
• Het aanspreekpunt zijn voor binnenkomende meldingen over datastromen en die omzetten in acties of verbeteringen.

Dit is waar jij voldoening uit haalt

• Werken met hoogfrequente real time verkeersdata waarbij de maatschappelijke impact direct voelbaar is
• Zowel bouwen als bewaken van dataproducten waarbij je meewerkt aan datakwaliteit én productieomgevingen
• Samenwerken in een DevOps team dat end to end verantwoordelijk is voor de volledige dataketen van binnenkomst tot publicatie
• Het combineren van data engineering met moderne manieren van meten en sturen op betrouwbaarheid en prestaties
• De kans krijgen om te leren en te experimenteren met technologieën als Apache Kafka, Avro en Kubernetes waardoor je je technische vakmanschap verder verdiept

Dit krijg je

• Arbeidsovereenkomst voor bepaalde tijd met uitzicht op onbepaalde tijd
• 12 maanden
• 144 vakantie-uren per jaar op basis van 36 uur
• Mobiele telefoon en laptop
• Hybride werken met een thuiswerkvergoeding van € 2,40 per dag
• € 750,- voor het inrichten van je thuiswerkplek of het verduurzamen van jouw woning
• 100% OV-vergoeding met de 2e klas mobiliteitskaart, ook voor OV-fiets
• Fietsreiskostenvergoeding van € 0,21 per kilometer
• Elke 5 jaar € 500,- om fiets(accessoires) aan te schaffen
• Voor je elektrische fiets kun je elke 3 jaar € 300,- gebruiken voor een nieuwe accu
• Individueel Keuzebudget van 16,5% van je salaris
• Trainingen, cursussen, opleidingen: van persoonlijk leiderschap tot certificeringen op je vakgebied
• Verlofregelingen per situatie, zoals zorgverlof, ouderschapsverlof, adoptieverlof en pleegzorgverlof
• Sportdagen met collega’s en een gezonde keuze in het bedrijfsrestaurant

Dit vragen wij

• Je hebt minimaal een afgeronde hbo-opleiding in een relevante richting, zoals (Geo)Informatica, Data Science of Software Engineering.
• Je hebt ervaring met Python (Pandas, bij voorkeur GeoPandas) en SQL.
• Je hebt ervaring met meerdere dataformaten (onder andere JSON, CSV, XML).
• Je hebt ervaring met datatransformatie en API-integratie.
• Je hebt ervaring in een DevOps-omgeving en met containertechnologie (Docker).
• Je hebt basiskennis van data-monitoring en alerting. Bereidheid om domeinkennis (verkeersdata, Datex II) en nieuwe technologieën snel eigen te maken.

Nice-to-haves (of bereid om te leren)

• Apache Kafka (liefst met Schema Registry en Avro), Kafka Connect.
• Kubernetes (AKS), Helm charts, CI/CD-pijplijnen.
• PostGIS, geospatial tooling (GeoPandas, shapely, pyproj).
• Kwaliteitsframeworks zoals Great Expectations.
• OAuth2/JWT, API-gateway, data governance & lineage tools (DataHub).

Hier kom je te werken

Het Nationaal Dataportaal Wegverkeer (NDW) is een initiatief van het Rijk, provincies en gemeenten. Het verzamelt verkeersdata, bewaakt de kwaliteit en stelt deze beschikbaar voor diverse afnemers. Hiertoe maakt en beheert de NDW verkeers- en netwerkmanagementapplicaties voor en door wegbeheerders. Dit varieert van overheden tot navigatiediensten. Dankzij deze applicaties kunnen rijk, provincies en gemeenten ervoor zorgen dat het verkeer goed wordt geregeld. Zo draag jij bij aan een veilige en gezonde leefomgeving.

De dienstverlening omvat onder andere:

• Een actueel en historisch overzicht van de situatie op wegen binnen jouw beheergebied
• Het leveren van jouw data aan navigatiediensten
• Het plannen en communiceren van wegwerkzaamheden
• Het samenwerken aan en plannen van gedigitaliseerde regelscenario’s
• Inzicht bieden in het fietsverkeer
• Het beschikbaar maken van vindbare multimodale verkeersdata

Bijzonderheden

• Vaste kantoordagen zijn dinsdag en woensdag.
• Bij voldoende geschikte reacties kan de vacature eerder sluiten.
• Om bij ons te werken, moet je een Verklaring Omtrent Gedrag (VOG) kunnen overhandigen, ook als je een interdepartementale transfer maakt. De kosten voor het aanvragen van een VOG worden door ons vergoed.
• Je wordt ingeschaald op basis van ervaring.
• Het inwinnen van referenties kan deel uitmaken van het sollicitatieproces, maar dit doen we altijd in overleg met jou.
• Het maken van een casus en (online) screening via onder meer databanken kunnen deel uitmaken van het sollicitatieproces.