Auf einen Blick
Head of AI Safety bei Moonshot. Leitung des AI Safety Teams mit Fokus auf Red-Teaming, adversarische Evaluierung und Beratung von Frontier-AI-Unternehmen zu Modellsicherheit gegen Gewalt, Extremismus und Online-Schäden.
💰 $100.000–160.000/Jahr
📊 Lead
🕒 Vollzeit
🌍 Remote
🗺️ Worldwide
- AI Safety oder Online Harms Erfahrung
- Red-Teaming Expertise
AI Safety
Red Teaming
Adversarial Evaluation
Model Safety
Leadership
✅ Geeignet für
- AI Safety Spezialisten
- Security Leaders
- Red-Teaming Profis
🚫 Weniger geeignet
- Anfänger ohne Security-Erfahrung
💡 Gut zu wissen
- Remote Standort Dublin
- Internationale Zusammenarbeit mit AI-Unternehmen
- Sensible Inhalte (Extremismus, Gewalt) in der Arbeit
Über das Unternehmen
Moonshot ist eine Sicherheitsorganisation, die sich auf die Bekämpfung von gewalttätigen Extremismus, organisierter Kriminalität, geschlechtsspezifischer Gewalt und Online-Schäden konzentriert. Das Unternehmen arbeitet mit Frontier-AI-Unternehmen, Regierungen und Regulierungsbehörden zusammen.
Deine Aufgaben
- Leitung der AI Safety Portfolio-Lieferung und -Entwicklung
- Red-Teaming und adversarische Evaluierung von AI-Systemen
- Entwicklung von Sicherheitsrichtlinien und Evaluierungs-Methodologien
- Beratung von Frontier-AI-Unternehmen zu Modellsicherheit
- Leitung und Management des AI Safety Teams
- Aufbau von Beziehungen mit Regierungen, Regulierungsbehörden und Akademia
- Überwachung von Schadsicherheit bei verschiedenen Kategorien: Gewalt, Extremismus, CSEA, psychische Gesundheit
Deine Voraussetzungen
- Umfassende Erfahrung in Trust & Safety oder Online Harms
- Expertise in Red-Teaming oder adversarialer AI Evaluierung
- Verständnis von AI-Modell-Sicherheit
- Starke Kommunikations- und Leadership-Fähigkeiten
- Fachkenntnisse in Gewaltprävention oder Schutzprogrammen
Benefits
- Flexible Arbeitszeiten
- Remote Work möglich
- Impactvolle Arbeit an Sicherheitsthemen
- Zusammenarbeit mit führenden AI-Unternehmen
