Auf einen Blick
Machine Learning Platform Engineer bei RBC Borealis für Deployment und Betrieb von GenAI-Plattformen auf Kubernetes mit GPU-Infrastruktur. Erfahrung mit LLMs und DevOps erforderlich.
💰 ~CAD 140.000–180.000/Jahr (geschätzt)
📊 Senior
🕒 Vollzeit
🌍 Vor Ort
🗺️ Americas
- Kubernetes/OpenShift-Expertise
- Python-Programmierung
- LLM-Erfahrung
- CI/CD-Pipelines
Kubernetes
Python
Machine Learning
DevOps
GPU Infrastructure
Bash
GitHub Actions
Gehalt geschätzt anhand Senior ML Platform Engineer mit DevOps-Expertise bei großer Bank, typischerweise CAD 140k-180k. Kein Gehalt in der Anzeige angegeben.
✅ Geeignet für
- ML-Ingenieure mit DevOps-Hintergrund
- Platform Engineers für KI-Systeme
- Senior Infrastructure Engineers
🚫 Weniger geeignet
- Junior Entwickler
- Data Scientists ohne Infrastructure-Erfahrung
💡 Gut zu wissen
- RBC Borealis ist innovativ und zukunftsorientiert
- Standort Toronto mit Niederlassungen in mehreren kanadischen Städten
- Fokus auf Enterprise ML mit Regulierungsanforderungen
Über das Unternehmen
RBC Borealis ist die Innovationseinheit von RBC für KI und Datenanalyse. Das Team arbeitet an modernster KI-Forschung und Plattformentwicklung für die Finanzindustrie.
Deine Aufgaben
- Deployment und Betrieb der GenAI-Plattform auf OpenShift/Kubernetes
- Verwaltung großer Sprachmodelle (Cohere Command, Llama, Mistral) auf GPU-Infrastruktur (NVIDIA A100/H100)
- Konfiguration von RAG-Pipelines mit Serving-Frameworks wie vLLM und TensorRT-LLM
- Implementierung von Observability-Stacks mit Prometheus, Grafana und strukturiertem Logging
- Design und Implementierung von Best Practices für ML-Pipelines
- Skalierbare On-Premise-Systeme für Machine-Learning-Anwendungen
Deine Voraussetzungen
- Erfahrung bei Design und Betrieb verteilter ML-Systeme
- Tiefe Kubernetes/OpenShift-Kenntnisse (Helm, Custom Resources, RBAC)
- Erfahrung mit DevOps/CI/CD-Pipelines (GitHub Actions)
- Programmiersprachen: Python, Bash oder Rust
- Verständnis von LLM-Inference und Serving
- Erfahrung mit Hybrid-Umgebungen auf Unternehmensebene
Benefits
- Umfassendes Leistungspaket mit flexiblen Leistungen und Boni
- Coaching und Mentoring-Chancen
- Arbeit mit führender KI-Forschung
- Dynamisches, globales Team