Als AI Solution Architect (m/w/d) gestaltest du die KI-/ML-Gesamtarchitektur für komplexe Enterprise-Umgebungen auf Azure. Du verbindest fundiertes Know-how in ML-Engineering, RAG-Architekturen und MLOps mit einem starken Verständnis für Governance, Compliance und technische Führung. Damit trägst du dazu bei, KI-Lösungen produktionsreif, skalierbar und regelkonform umzusetzen.
Tätigkeiten
-Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur auf Azure als Enterprise-KI-Plattform.
-Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection, sowie Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration.
-Definition von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry.
-Technische Führung und Koordination eines interdisziplinären Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers.
-Beratung zu AI Governance, Responsible AI und EU-AI-Act-Compliance sowie Stakeholder-Management durch Architekturpräsentationen gegenüber IT-Leitung und Fachbereichen.
Anforderungen
**Das ist uns wichtig:**
- Fundierte Erfahrung mit Azure-basierten KI-/ML-Lösungen, insbesondere mit Azure Machine Learning und Azure OpenAI Service; Kenntnisse weiterer Azure AI Services sind von Vorteil.
- Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen, beispielsweise MLflow, Kubeflow oder Azure ML Pipelines.
- Erfahrung im Aufbau von RAG-Architekturen, im Prompt Engineering und im Umgang mit Vektordatenbanken sowie Kenntnisse in der Integration von Sprachmodellen über APIs. Erfahrung mit Orchestrierungsframeworks wie LangChain oder LlamaIndex ist von Vorteil.
- Erfahrung mit CI/CD für ML-Anwendungen sowie sichere Python-Kenntnisse. Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow.
- Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen. Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights.
- Verständnis für Governance-, Sicherheits- und Compliance-Anforderungen in regulierten Umgebungen. Kenntnisse relevanter Standards und Regelwerke wie ISO 27001, NIS2, BSI-Vorgaben oder dem EU AI Act sowie entsprechender Governance-Werkzeuge sind von Vorteil.
- Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen.
- Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert; einschlägige Azure-Zertifizierungen sind ein Plus.
- Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft, mit Predictive Maintenance, Zeitreihenanalysen oder öffentlichen Vergabeverfahren wie VgV und EVB-IT.
Team
Werde Teil unseres Customer Cluster Environment, Transportation & Energy.
Bewerbungsprozess
- Im ersten Schritt führen wir ein Videointerview (30–60 Minuten, remote), gefolgt von einer Rückmeldung innerhalb von 1–3 Werktagen.
- Anschließend laden wir dich zu einem Kennenlerngespräch ein, das entweder remote oder vor Ort stattfinden kann. Innerhalb von 3–5 Werktagen erhältst du daraufhin unsere Rückmeldung.
- Wenn alles passt, bekommst du unser Vertragsangebot – jetzt liegt die Entscheidung bei dir!








