Senior Software Engineer, Agent Infrastructure

Toronto Remote Senior 17.05.2026
Software Engineer backend-developer DevOps Software Engineer
Auf einen Blick

Senior Software Engineer für Agent Infrastructure bei Cohere. Baue Execution Environments, Model Routing und State Management für Agentic AI. ML Systems + Distributed Infrastructure.

💰 $160.000–240.000/Jahr 📊 Senior 🕒 Vollzeit 🌍 Hybrid 🗺️ Americas
  • Production ML Infrastructure Erfahrung
  • Agentic Systems und Multi-Agent Workflows
  • Distributed Systems und Kubernetes
  • Code Execution Sandboxes (gVisor, Firecracker, etc.)
infrastructure kubernetes distributed-systems agentic-ai python golang security identity-auth
✅ Geeignet für
  • Senior Backend/Infrastructure Engineers
  • ML Systems Specialists
  • Distributed Systems Experts
🚫 Weniger geeignet
  • Junior Infrastruktur-Ingenieure
  • Nur Frontend-Entwickler
  • Nicht-System-fokussierte Fachleute
💡 Gut zu wissen
  • Agentic Systems sind ein schnell sich entwickelndes Feld
  • Security und Code Execution sind zentral
  • Forward-looking Problems ohne etablierte Patterns
  • ML-Intuition ist wichtig für Infrastructure-Design

Über das Unternehmen

Cohere baut die nächste Generation von Agentic AI Infrastructure. Das Team sitzt an der Schnittstelle von ML-Systemen, verteilter Infrastruktur und Developer Experience.

Deine Aufgaben

  • Baue Secure Execution Environments für Agent-generierte Code
  • Entwickle Identity, Authentication und Trust Boundaries für Agenten
  • Implementiere Model Routing und Orchestration über verschiedene Modelle
  • Baue Rate Limiting, Quotas und Resource Management für Agent Workflows
  • Gestalte State Management, Memory und Filesystem Abstractions
  • Prototypiere und evaluiere neue Technologien für Produktion

Deine Voraussetzungen

  • Erfahrung mit Production ML Infrastructure mit starken Systems Fundamentals
  • Hands-on Arbeit mit Agentic Systems und Multi-Agent Workflows
  • Erfahrung mit Scalable, Fault-Tolerant Distributed Systems
  • Kubernetes und moderne Infrastruktur-Technologien
  • Track Record von schnellen Prototypes und Production-Entscheidungen
  • Bonus: Code Execution Sandboxes, Storage Systems, Identity/Auth

Benefits

  • Offene Unternehmenskultur
  • Arbeit mit führenden ML-Forschern
  • Umfassende Gesundheitsversicherung
  • Remote-flexible Arbeitsweise
  • 6 Wochen Urlaub