Aufruf zur Mitarbeit: Fachausschusses „Sicherheit von cyber-physischen KI-Systemen“

(Düsseldorf) - Cyber-physische Systeme bilden das Rückgrat der modernen Industrie 4.0, der automatisierten Mobilität sowie der intelligenten Energie- und Infrastruktursysteme. Durch die zunehmende Integration von Künstlicher Intelligenz (KI) entstehen hochadaptive, autonome Systeme. Deren Absicherung und Zuverlässigkeit sind von fundamentaler Bedeutung für die Betriebssicherheit (Safety).

Die geplante Richtlinienarbeit zur „Sicherheit von cyber-physischen KI-Systemen“ soll eine essenzielle Grundlage für die Entwicklung, den Einsatz und den Betrieb solcher Systeme bilden. Sie behandelt insbesondere das umfassende Zusammenwirken von physischer Hardware, Software-Algorithmen, KI-Modellen als Gesamtsystem und Betriebsstrategien.

Mit dem rasanten Fortschritt der KI-Technologien und neuen regulatorischen Rahmenbedingungen – wie dem EU AI Act oder der neuen EU-Maschinenverordnung – stehen Industrie und Wissenschaft vor der Herausforderung, abstrakte Vorgaben in konkrete technische Handlungsempfehlungen zu übersetzen. Bisherige klassische Sicherheitsnachweise stoßen bei lernenden und probabilistischen KI-Komponenten an ihre Grenzen, weshalb erweiterte Anforderungen an die Validierung, Verifizierung und das Risikomanagement definiert werden müssen.

Vor diesem Hintergrund soll im VDI ein Richtlinienausschuss eingerichtet werden, um hierzu konkrete Handlungsempfehlungen für alle Entscheider und Anwender zu erarbeiten. Ziel ist es, den aktuellen Stand von Wissenschaft und Technik abzubilden und eine praxisorientierte Brücke zwischen KI-Entwicklung und klassischer Ingenieurpraxis zu schlagen.

Für diese Arbeit suchen wir engagierte Mitwirkende, die ihre Erfahrung und ihr Fachwissen einbringen möchten – ehrenamtlich, interdisziplinär und mit dem Ziel, ein praxisnahes und zukunftsfähiges Regelwerk zu entwickeln.

Ein Kick-Off ist am 22.10.2026, 14-16 Uhr als Webmeeting geplant. Welche Inhalte wollen wir erarbeiten?

Definition von ganzheitlichen Sicherheitsbetrachtungen KI-basierter cyber-physische Systeme auf System- und Prozessebene.

Integration aktueller regulatorischer Anforderungen in den Ingenieursalltag
Berücksichtigung neuer Methoden zur Verifizierung, Validierung und kontinuierlichen Überwachung von KI-Modellen im physischen Einsatz
Weiterentwicklung der Anforderungen an das Risikomanagement, die Erklärbarkeit (XAI) und die Resilienz gegenüber äußeren Einflüssen
Berücksichtigung von Praxiserfahrungen aus der Implementierung, Zertifizierung und dem Betrieb intelligenter, autonomer Systeme
Wen suchen wir?

Fachleute aus Unternehmen des Maschinen- und Anlagenbaus, der Automatisierungstechnik, der Mobilitätsbranche und der Softwareentwicklung
Entwicklerinnen, Entwickler und Datenwissenschaftler (Data Scientists) mit Fokus auf industrielle KI-Anwendungen
Ingenieurinnen und Ingenieure aus den Bereichen Funktionale Sicherheit/Safety Engineering und System Safety Management
Wissenschaftlerinnen und Wissenschaftler aus den Bereichen Informatik, KI-Forschung und Robotik
Behördenvertreter, Prüforganisationen und Sachverständige, die sich mit der Zulassung und Zertifizierung von KI-Systemen befassen
Warum mitmachen?

Weil cyber-physische KI-Systeme eine Schlüsselrolle für die Zukunftsfähigkeit und Innovationskraft der Industrie spielen
Weil praxisnahe technische Regeln nur im Austausch zwischen KI-Experten, klassischen Ingenieursdisziplinen, Forschung und Prüfstellen entstehen können
Weil Sie aktiv an der Mitgestaltung eines völlig neuen und hochrelevanten technischen Regelwerks mitwirken können
Weil der fachliche Austausch im VDI-Netzwerk neue Impulse für die eigene Praxis, Standardisierung und Forschung bietet.

Interesse? Oder Fragen?

Dann melden Sie sich bei uns unter gpp@vdi.de. Ob Sie eine Idee haben oder erst einmal reinschnuppern wollen – wir freuen uns auf Sie!

Quelle und Kontaktadresse:
VDI Verein Deutscher Ingenieure e.V. - Hauptgeschäftsstelle, VDI-Platz 1, 40468 Düsseldorf, Telefon: 0211 6214-0