Found Description
Voor Ministerie van Justitie en Veiligheid zoeken wij een Project Architect. Je werkt aan het opzetten van een on-premise AI-platform waarmee medewerkers AI-modellen veilig inzetten voor documentverwerking en samenvatten.
Het platform wordt ingericht als Model-as-a-Service (MaaS), centraal aangeboden via een servicelaag op een on-premise OpenShift (Kubernetes)-omgeving met GPU‑versnelling.
Het traject is verkennend; een proof of concept bepaalt welke modellen en use cases passend zijn en onderbouwt architectuur- en hardwarekeuzes.
Jouw werkzaamheden
Het platform wordt ingericht als Model-as-a-Service (MaaS), centraal aangeboden via een servicelaag op een on-premise OpenShift (Kubernetes)-omgeving met GPU‑versnelling.
Het traject is verkennend; een proof of concept bepaalt welke modellen en use cases passend zijn en onderbouwt architectuur- en hardwarekeuzes.
Jouw werkzaamheden
- Je stelt een doelarchitectuur op voor een MaaS-platform op on-premise OpenShift (Kubernetes).
- Je richt een servicelaag in waarmee modellen als dienst worden ontsloten, inclusief inferentie-endpoints, schaalbaarheid en isolatie.
- Je implementeert GPU-slicing en multi-GPU-koppeling (tensor parallelism) voor het draaien van grotere modellen.
- Je adviseert over capaciteit, kosten en a...