AI/ML Engineer (Karlsruhe)

1&1 gehört mit über 3.100 Mitarbeitenden und fast 16 Millionen Kundenverträgen zu den führenden Telekommunikationsanbietern in Deutschland. Mit Pioniergeist, ungewöhnlichen Ideen und kreativen Teams haben wir eine führende Marktstellung im Mobilfunk und bei Breitband-Anschlüssen erobert. Durch die Kombination des über 67.000 km langen 1&1 Glasfasernetzes und regionalen Netzen schaffen wir das weitreichendste Glasfasernetz Deutschlands. Außerdem bauen wir das modernste 5G-Netz Europas, auf der Basis der neuartigen Open-RAN-Technologie. Mit offenen Schnittstellen und 5G-Funktionen in einer leistungsfähigen Cloud-Infrastruktur. Schreiben Sie die 1&1 Erfolgsgeschichte fort, indem Sie durch Einsatz und Entwicklung innovativer Technologien, die Zukunft gestalten. Werden Sie Teil von 1&1.

Das sind Ihre Aufgaben

Sie bauen mit uns die 1&1 Software Factory – eine zentrale, mandantenfähige KI-Agenten-Plattform, die Software-Entwicklungsprozesse (SDLC) unternehmensweit automatisiert. Statt Modelle zu trainieren, orchestrieren Sie produktionsreife LLM- und Agenten-Workflows auf Basis gehosteter Modelle und machen diese Fähigkeit als geteilte Plattform für alle Produktteams verfügbar. Wir suchen Sie an unseren Standorten in Karlsruhe, Montabaur, Frankfurt oder Krefeld.

• Entwicklung und Betrieb von LLM- und Agenten-Workflows (Agenten-CLIs wie Claude Code/opencode, Workflow-Orchestrierung, Human-in-the-Loop-Gates)
• Aufbau des Knowledge-Management- und Retrieval-Layers: Embeddings, Chunking und Retrieval-Logik über Code-Repositories, Confluence und Jira – von Volltextsuche bis zu semantischer Suche auf einer Vektordatenbank – inklusive Evaluierung von Retrieval-Qualität
• Integration externer Systeme über APIs und das Model Context Protocol (MCP) (Bitbucket, Confluence, Jira) mit projektbezogener Autorisierung
• Betrieb und Weiterentwicklung des LLM-Gateways (LiteLLM): Modell-Routing, Token-/Kosten-Attribution, Rate-Limiting
• Monitoring und kontinuierliche Verbesserung von Antwortqualität, Latenz, Kosten und Drift (Prometheus, OpenTelemetry, Kafka-basierte Kosten-Events)
• Übersetzung von Anforderungen der Produktteams in skalierbare, wartbare AI-Workflows in einer Kubernetes-nativen Architektur

Das wünschen wir uns

• Erfolgreich abgeschlossenes Studium (z. B. Informatik, Data Science) oder eine vergleichbare Qualifikation
• Mehrjährige Berufserfahrung in der Softwareentwicklung
• Sehr gute Python-Kenntnisse und moderne Engineering-Standards (Testing, API-Design, Git-Workflows); Grundkenntnisse in Java/Spring Boot von Vorteil
• Praktische Erfahrung mit LLM-APIs sowie dem Aufbau von RAG-/Retrieval-Architekturen (Embeddings, Chunking, Vektordatenbanken)
• Erfahrung mit API-basierter Systemintegration; Kenntnisse des Model Context Protocol (MCP) sind ein Plus
• Solides Verständnis verteilter, cloud-nativer Systeme: Docker, Kubernetes, Observability
• Erfahrung mit Event-Streaming (Kafka) und relationalen Datenbanken (PostgreSQL) von Vorteil
• Bewusstsein für Kosten-, Sicherheits- und Governance-Aspekte produktiver LLM-Systeme (EU-Datensouveränität, Secrets-Handling)

Unsere Benefits

•    Attraktives Gehalt
•    Starke Gemeinschaft aus Teamplayern
•    Vertrauensarbeitszeit mit flexibler Einteilung und der Möglichkeit, bis zu 40% mobil zu arbeiten
•    Zahlreiche Weiterbildungsmöglichkeiten on- und offline
•    Rabatte auf 1&1 Produkte und für diverse Freizeitangebote
•    Betriebseigenes Restaurant
•    Kostenlose Getränke und frisches Obst
•    Jobrad-Zuschuss