Auf einen Blick
Du entwirfst und betreibst produktionsreife RAG-Systeme end-to-end mit Fokus auf Abrufqualität, Evaluierung und LLM-Optimierung. 6+ Jahre Ingenieurerfahrung mit 2+ Jahren RAG erforderlich. Senior-Rolle mit technischer Führung.
💰 ~$160.000–220.000/Jahr (geschätzt)
📊 Senior
🕒 Vollzeit
🌍 Remote
🗺️ Americas
- 6+ Jahre Ingenieurerfahrung
- 2+ Jahre RAG-Systeme
- Expert Python
- Azure/AWS Expertise
Python
Embeddings
LLM-Optimization
Ollama/llama.cpp
Azure
AWS
Docker
Kubernetes
Gehalt geschätzt anhand Senior/Lead RAG Engineer in USA, Remote, AI-spezialisiert. Kein Gehalt in der Anzeige angegeben.
✅ Geeignet für
- Senior Backend/ML-Ingenieure mit RAG-Erfahrung
- Technische Führungskräfte, die sich auf KI-Systeme konzentrieren
- Personen mit Deep-Learning und Produktions-Systemen Hintergrund
🚫 Weniger geeignet
- Ingenieure mit <6 Jahren oder <2 Jahren RAG-Erfahrung
- Kandidaten ohne Führungserfahrung
- Menschen ohne praktische LLM-Optimierungs-Erfahrung
💡 Gut zu wissen
- Dies ist eine Senior/Lead-Rolle mit Architektur- und Mentoring-Verantwortung
- RAG ist schnell evolvierende Technologie - kontinuierliches Lernen erforderlich
- Evaluierungs-Frameworks und Metriken sind zentral für Qualitätssicherung
- Air-Gapped und On-Prem Deployments erfordern spezifisches Wissen
Über die Rolle
Wir suchen einen Expert RAG Engineer, um Retrieval-Augmented Generation Systeme zu entwerfen, zu bauen und zu betreiben. Du wirst produktionsreife RAG-Pipelines end-to-end architekturieren: von Ingestion bis Reranking, Evaluierung und Serving auf Open-Source-LLMs in Cloud-, On-Prem- und Air-Gapped-Umgebungen.
Deine Aufgaben
- Entwurf und Betrieb von End-to-End RAG-Architekturen mit Fokus auf Abrufqualität
- Entwicklung fortgeschrittener Abrufstrategien: Hybrid Search, Reranking, Query Rewriting, Metadaten-Filterung
- Definition von Chunking und Indexierungsstrategien für diverse Quellen (XML, Office-Formate, PDFs)
- Auswahl, Benchmarking und Feinabstimmung von Embedding-Modellen und Vektor-Datenbanken
- Entwicklung von Evaluierungs-Frameworks für Abruf- und Generierungsqualität
- MCP-Integrationen zur Exposition von RAG-Systemen an LLMs und Agenten
- Optimierung von LLM-Serving mit Ollama und llama.cpp: Quantisierung, GPU/CUDA-Tuning
- Bereitstellung und Skalierung von RAG-Services auf Azure und AWS mit Docker und Kubernetes
Deine Voraussetzungen
- 6+ Jahre Backend/ML/Infrastruktur mit 2+ Jahren produktiver RAG-Systeme
- Expert-Level Python mit tiefem Wissen über Embeddings und Vektor-Datenbanken
- Erfahrung mit Open-Source LLM Serving (Ollama, llama.cpp) und Quantisierung
- Starke Azure/AWS, Docker, Kubernetes und CI/CD Expertise
- Technische Führungskompetenzen und starke Kommunikation
- Fähigkeit zu Selbstlernern und Remote-Zusammenarbeit
