Senior Machine Learning Engineer, LLM Inference Optimization

Als Senior Machine Learning Engineer bei nebius in Zürich sind Sie für die Entwicklung und Optimierung von hochperformanten Inferenz-Pipelines für große Sprachmodelle verantwortlich. Sie arbeiten eng mit Forschungsteams und Produktmanagern zusammen, um Engpässe in Echtzeitumgebungen zu analysieren und zu beheben. Ihre Hauptaufgaben umfassen das Profiling, die Quantisierung und die Integration von Hardware-Acceleratoren. Ihre täglichen Aufgaben beinhalten die Entwicklung von Optimierungs-Frameworks in Python und C++ sowie die Automatisierung von CI/CD-Workflows für kontinuierliche Modell-Updates. Sie sind für die Skalierung und Implementierung dieser Pipelines verantwortlich, um sicherzustellen, dass sie effizient und zuverlässig arbeiten. Sie sollten über fundierte Kenntnisse in Machine Learning und Erfahrung in der Optimierung von Inferenz-Pipelines verfügen. Kenntnisse in Python und C++ sind unerlässlich, ebenso wie Erfahrung mit CI/CD-Workflows und der Integration von Hardware-Acceleratoren. Was die Stelle verlangt: - Erfahrung in der Optimierung von Inferenz-Pipelines - Kenntnisse in Python und C++ - Erfahrung mit CI/CD-Workflows - Kenntnisse in der Integration von Hardware-Acceleratoren - Erfahrung in der Zusammenarbeit mit Forschungsteams und Produktmanagern - Kenntnisse in Profiling und Quantisierung