DevOps Engineer – AI Runtime Services

Hyderabad On-site Mid-level 20.08.2026
DevOps Engineer DevOps
Auf einen Blick

DevOps Engineer baut und betreibt das LLM Gateway und AI Runtime.

💰 $130.000–190.000/Jahr 📊 Senior 🕒 Vollzeit 🌍 Remote 🗺️ EMEA
  • Production Infrastructure Background
  • Kubernetes und AWS
  • Python Service Level
  • LLM System Knowledge
Kubernetes AWS Terraform GitOps Python LLM Systems Observability Cost Control
✅ Geeignet für
  • SRE mit LLM/AI Erfahrung
  • Senior DevOps Engineers mit AI-Focus
  • Menschen mit Production Kubernetes
🚫 Weniger geeignet
  • DevOps ohne LLM-Erfahrung
  • Menschen ohne Production On-Call
  • Menschen ohne Python Service-Level
💡 Gut zu wissen
  • Wenn das Gateway unten ist, ist jedes AI-Feature unten
  • Cost Control ist kritisch
  • Hands-On LLM-Erfahrung ist Pflicht

Über das Unternehmen

Demandbase ist die einzige Pipeline-AI-Plattform.

Deine Aufgaben

  • Besitze das LLM Gateway
  • Manage Cost Control
  • Stelle LLM Observability bereit
  • Baue Evals und Experimentation Infra auf
  • Implementiere Caching und Guardrails
  • Besitze On-Call und Incident Response

Deine Voraussetzungen

  • Production Infrastructure Background - Kubernetes, AWS, Terraform
  • Real On-Call und Incident-Response-Erfahrung
  • Python bei Production Service Level
  • Observability Fluency
  • Hands-On Familiarity mit LLM-Systemen