Dit ga je doen
Als Senior Streaming Data Engineer speel je een cruciale rol binnen ons team. Je werkt samen met collega Data Engineers om geavanceerde data-oplossingen te ontwikkelen. Met jouw diepgaande kennis van Spark Structured Streaming en PySpark, draag je bij aan het ontwerp en de implementatie van schaalbare data-oplossingen die onze analytics teams in staat stellen om de beste beslissingen te nemen. Als onderdeel van onze afdeling werk je aan het bouwen en onderhouden van real-time streaming platformen, met focus op semigestructureerde sensorische databronnen en beeldverwerking. Je zorgt ervoor dat data betrouwbaar is en efficiënt en schaalbaar verwerkt wordt. Daarnaast voldoen de oplossingen aan de security- en privacyvereisten van NS. Het team waarin je gaat samenwerken richt zich op grote, semigestructureerde sensorische databronnen en ontwikkelt additionele diensten voor opslag en verwerking van beeldmateriaal.
Dankzij jouw doortastendheid en leergierigheid ben je van onschatbare waarde bij het: Achterhalen van de vraag achter de vraag waardoor je passende oplossingen kunt adviseren. Inrichten van de data pipeline tussen databronnen en onze analytics teams. Opzetten en beheren van de CI/CD pipeline waarbinnen een streaming pipeline van ontwikkeling tot productie wordt gerealiseerd. Bouwen in onze Azure cloud omgeving aan een fundament waarin alle streaming en sensorische databronnen ontsloten worden voor verdere analyses.
Hier ga je werken
Welkom in de wereld van ‘DIA’ – Data, Innovatie & Analyse bij NS! DIA telt op dit moment ruim 300 medewerkers. Op het hoofdkantoor in Utrecht bij het Centraal Station, en gedeeltelijk hybride vanuit huis, bundelen collega’s hun krachten. Een mix van ervaringen en persoonlijkheden, die elkaar graag opzoeken om met elkaar te sparren en kennis te delen. Binnen DIA werken wij Agile in Scrum teams om samen kwalitatief hoogwaardige en innovatieve oplossingen, platformen en dataproducten te ontwikkelen en onderhouden. Onze analytics teams kunnen hierdoor snel en betrouwbaar inzichten genereren om tot juiste acties te komen. Jij wordt onderdeel van het team IoTeam. Dit team bestaat uit vijf Data Engineers, een Product Owner en een Scrum Master. Bij NS vinden we diversiteit en inclusie belangrijk, het maakt samenwerken leuker en het resultaat wordt er ook nog beter van. Wat jouw achtergrond of levensovertuiging is, maakt dan ook niet uit: we zijn vooral benieuwd naar jou als persoon en wat jij meebrengt naar als Senior Streaming Data Engineer.
Op NS kun je rekenen
Werken bij NS betekent dat jij hét verschil kunt maken in de wereld van duurzame mobiliteit. Jij helpt mee om Nederland bereikbaar te houden, voor iedereen. Bij NS krijg je veel vrijheid. We beloven je dat geen dag hetzelfde is. De kernwaarden van NS zijn open en betrouwbaar. Wij gaan voor resultaat en willen vooruit.
Eisen
- Je hebt als Data Engineer minimaal 7 jaar recente ervaring met het verwerken van grote hoeveelheden data en minimaal 3 jaar recente ervaring met Spark Structured Streaming.
- Deze opdracht is alleen geschikt voor kandidaten die in loondienst zijn en waarvoor loonbelasting en premies volks- en werknemersverzekeringen (WW, WAO, WIA en ZW) worden afgedragen. Deze opdracht is niet geschikt voor zelfstandig ondernemers en professionals (waaronder zzp’ers) die zichzelf uitlenen. Deze opdracht is ook niet geschikt voor de directeur-grootaandeelhouder die niet is verzekerd voor de werknemersverzekeringen. Ik verklaar dat de aangeboden kandidaat geen zelfstandig professional is, ook niet via een doorleenconstructie.
- Je hebt minimaal 7 jaar ervaring met Python en PySpark, het ontwikkelen van CI/CD-pipelines, geautomatiseerd testen en Infrastructure-as-Code.
- Je hebt ervaring met Java en/of Scala, Microsoft Azure, Databricks, Azure DevOps, Terraform en/of Bicep, OpenTofu, Kafka, AMQP, RabbitMQ en/of Event Hub.
- Je hebt een uitstekende beheersing (zowel mondeling als schriftelijk) van de Nederlandse taal.
- Je hebt een actueel en relevant inzicht in technologische ontwikkelingen binnen dit domein en gebruikt jouw expertise graag om innovatieve oplossingen en platformen te creëren. Geef op het voorblad een toelichting over hoe je up-to-date blijft met de technologische ontwikkelingen binnen dit domein.