Wie lassen sich KI-Systeme im Gesundheitswesen prüfen und zertifizieren? Welche Rolle spielen dabei neue regulatorische Vorgaben wie der EU AI Act? Und wie lässt sich ein agiler, zukunftsfähiger Zertifizierungsprozess gestalten? Diese und viele weitere Fragen diskutieren Host Anisa Idris und Gast Co-Host Dr. Udo Heintz in dieser Folge mit Alexander von Janowski, AI Certification Manager beim TÜV AI.Lab und Leiter des Arbeitspakets Zertifizierung im europäischen Forschungsprojekt TEF-Health.

Gemeinsam werfen sie einen praxisnahen Blick auf die aktuellen Herausforderungen bei der Zulassung KI-basierter Medizinprodukte und beleuchten zentrale Unterschiede zu klassischen Softwarelösungen. Alexander von Janowski teilt wertvolle Einblicke in die Arbeit des TÜV AI.Lab und zeigt auf, warum Real-Time-Monitoring, Standardisierung und eine klare Rollenverteilung zwischen Herstellern, Benannten Stellen und Gesetzgeber entscheidend für die Zukunft der KI-Zertifizierung sind.

Zum Schluss gibt er einen inspirierenden Einblick in sein Herzensprojekt: den Responsible Technology Hub, der sich für verantwortungsvolle technologische Innovationen einsetzt und junge Stimmen in den gesellschaftlichen Diskurs einbindet.

Inhaltsübersicht:

(00:00) Einleitung

(02:48) Vorstellung Co-Host Dr. Udo Heintz & Gast Alexander von Janowski

(04:10) Was macht das TÜV AI.Lab?

(06:00) Ziel und Struktur des Projekts TEF-Health

(09:00) Erste Fragen zur Umsetzung des EU AI Acts für Medizinprodukte

(13:00) Anforderungen an Datenqualität und Bias-Management

(17:00) Herausforderungen durch fehlende Standardisierung

(22:00) Signifikante Änderungen & dynamische KI-Systeme

(28:00) Real-Time-Monitoring als Zukunftsmodell?

(35:00) Rolle der Hersteller und Benannten Stellen im Zertifizierungsprozess

(44:00) Wunschzettel für eine optimale KI-Zertifizierung

(57:00) Der Responsible Technology Hub: Innovation mit Verantwortung