Found Description
Aufgaben
- Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
- Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
- Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
- Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
- Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
- Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen
- Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit
- Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
- Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit...
Ready to Apply?
Submit your application for AI Platform Engineer (all genders) at DATAGROUP Stuttgart GmbH
Apply Now