Home / Listings / Platform Engineer (m/w/d) LLMOps/AI Infrastructure
C

Platform Engineer (m/w/d) LLMOps/AI Infrastructure

Cornelsen Verlag GmbH

Berlin, Berlin, Germany FULL_TIME July 23, 2026
Apply Now

Found Description

Deine Aufgaben

  • Du betreibst und entwickelst unseren LiteLLM-basierten LLM-Proxy kontinuierlich weiter und stellst Produktteams zuverlässigen, konsistenten Zugang zu LLM-Anbietern (Azure OpenAI, AWS Bedrock u. a.) bereit 

  • Du betreibst das Gateway als produktionskritischen Service, definierst SLOs, Provider-Failover und Rate-Limiting und übernimmst die Leitung im Incident Response

  • Du stellst den Datenschutz am Gateway sicher – durch DSGVO-konformes Routing, EU-Datenresidenz, klare Grenzen der Auftragsverarbeitung durch Anbieter sowie den Umgang mit personenbezogenen Daten – und behältst die für KI im Bildungsbereich relevanten Vorgaben des EU AI Act im Blick

  • Du berätst Produktteams frühzeitig zu Modellauswahl, Integrationsmustern und Prompt-Strategien und bringst dich ein, bevor Probleme in Produktion gelangen

  • Du erstellst klare, praxisnahe Entwickler*innendokumentation und Best-Practice-Beispiele und unterstützt Te...

    • Ready to Apply?

    Submit your application for Platform Engineer (m/w/d) LLMOps/AI Infrastructure at Cornelsen Verlag GmbH

    Apply Now

    Found Details

    LocationBerlin, Berlin
    CountryGermany
    TypeFULL_TIME
    CategoryComputer Occupations
    PostedJuly 23, 2026

    About Cornelsen Verlag GmbH

    C

    Cornelsen Verlag GmbH

    Berlin, Germany

    Share