Beschreibung

In dieser Rolle entwickelst du innovative KI/ML-Systeme mit einem Fokus auf Large Language Models. Dein Alltag umfasst die Implementierung von LLM-Inferenzlösungen, die Entwicklung agentischer Anwendungen und die Integration von KI-Funktionen in Produktionssysteme.

Anforderungen

• •Erfahrung mit RAG, Prompt Engineering oder Multi-Agenten-Systemen
• •Fundiertes Verständnis von Large Language Models und Erfahrung mit dem HuggingFace-Ökosystem
• •Praktische Erfahrung mit agentischen Frameworks
• •Erfahrung mit Python und modernen ML-Frameworks
• •Kenntnisse in LLM-Inferenz-Runtimes
• •Erfahrung mit LLM-APIs
• •Fundierte Kenntnisse in SQL und Datenbankoperationen
• •Verständnis von LLMOps-Praktiken und Methoden zur Modellevaluierung
• •Erfahrung mit Containerisierung und Orchestrierungstools
• •Erfahrung mit Versionskontrollsystemen und CI/CD-Tools
• •Kenntnisse in DevOps-Praktiken
• •Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift

Aufgaben

• •KI/ML-Systeme entwickeln und einsetzen
• •LLM-Inferenz-Lösungen mit Ollama, vLLM und TensorRT-LLM implementieren und betreiben
• •Agentische Anwendungen mit Dify, LangFlow, Haystack, LlamaIndex, LangChain, LangGraph oder Pydantic AI entwickeln
• •KI-Funktionen von Anbietern wie OpenAI, Anthropic, Groq und Cerebras in Produktionssysteme integrieren
• •LLMOps-Praktiken mit LangFuse und LangSmith für Monitoring, Tracing und Observability implementieren
• •ML-Pipelines mit Python, TensorFlow, PyTorch und scikit-learn für verschiedene KI-Anwendungen entwickeln und optimieren
• •KI-Anwendungen mit Docker und Podman containerisieren und deployen
• •Mit SQL-Datenbanken arbeiten und Evaluierungs-Frameworks wie DeepEval zur Sicherstellung der Modellqualität implementieren
• •Eng mit funktionsübergreifenden Teams zusammenarbeiten und KI-Lösungen kontinuierlich präsentieren und verbessern

Tools & Technologien

Benefits