Auf einen Blick
Baue AI-gesteuerte Abuse-Detektionssysteme bei Replit auf. Arbeite an einzigartigen LLM-Security-Problemen wie Prompt Injection, Jailbreaking und AI-gesteuerten Angriffen.
📊 Senior
🕒 Vollzeit
🌍 Hybrid
🗺️ Americas
- 8+ Jahre Security/Anti-Abuse Engineering
- Python/TypeScript Programmierung
- ML/LLM-basierte Classifiers
- Attack Pattern Investigation
Python
TypeScript
BigQuery
Security
ML/LLM
Fraud Detection
SQL
Hex
✅ Geeignet für
- Security Engineers mit ML/AI-Erfahrung
- Fraud Detection und Anti-Abuse Spezialisten
- Cybersecurity Profis mit Python/TypeScript
🚫 Weniger geeignet
- Reine Research-orientierte Security Profis
- Kandidaten ohne operationale Detection-Erfahrung
- Isolation-bevorzugende Sicherheitsfachleute
💡 Gut zu wissen
- Ort: Foster City mit MWF Büro-Anforderung
- Adversarische Arbeit mit echten Angreifern
- Unique LLM-native Security-Probleme bei Replit
Über das Unternehmen
Replit ist die agentic software creation platform. Das Trust & Safety Team ist an der Frontlinie gegen Platform-Ausbeutung, von Phishing über Cryptomining bis hin zu LLM-Token-Farming. Dies ist adversarische Arbeit: du baust Detektionssysteme und AI-gesteuerte Abwehrmechanismen.
Deine Aufgaben
- LLM Guardrails für AI-generierte Code Abuse Szenarien designen
- AI-gesteuerte Detektionssysteme mit LLMs aufbauen
- Abuse-Detektionssysteme für Phishing, Cryptomining, Account Takeover, Fraud bauen
- Automatisierte Response-Mechanismen designen
- Vollständigen Abuse-Response-Lebenszyklus: Detection, Investigation, Enforcement
- Attack-Patterns mit BigQuery und Hex analysieren
- Interne Detection Tools (Slurper, Netwatch) warten und erweitern
- Security Scanner in CI Pipelines integrieren und tunen
- Abuse-Trends und Detection-Effektivität tracken
Deine Voraussetzungen
- 8+ Jahre in Security Engineering, Anti-Abuse, Trust & Safety oder Fraud Detection
- Strong Python und/oder TypeScript Programmierungsfähigkeiten
- SQL und Data Analysis Skills (BigQuery, Snowflake oder ähnlich)
- ML/LLM-basierte Classifier-Erfahrung für Security/Abuse Detection
- Prompt Injection und LLM Attack Vector Vertrautheit
- Fähigkeit, komplexe Abuse-Patterns zu investigieren
- Vertrautheit mit Common Attack Patterns (Phishing, Account Takeover, Credential Stuffing)
- Clear Communication Skills für Cross-funktionale Teams
Benefits
- Wettbewerbsfähiges Gehalt und Eigenkapital
- 401(k) Programm mit 4% Match
- Umfassende Health, Dental, Vision und Life Insurance
- Bezahlte Freistellung und Feiertage
- Flexible Time Off (FTO)
- Monatliches Wellness-Stipendium
