Wir haben mit Dr. Martin Neumann, Consultant Life Science bei infoteam, über die von der EU entworfene Verordnung zur künstlichen Intelligenz (EU AI Act) gesprochen und welche Auswirkungen sie auf Hersteller von Medizinprodukte hat.
Wie ist der aktuelle Stand zum EU AI Act?
Am 14. Juni hat das Europäische Parlament seinen Entwurf zur KI-Verordnung (EU AI Act) vorgestellt und damit den Weg für die finalen Verhandlungen zwischen der Europäischen Kommission, dem Europäischen Parlament und dem Rat der Europäischen Union (sog. Trilog) frei gemacht.
Nach dem Entwurf der EU-Kommission als der vorschlagenden Instanz und der Position des EU-Rates liegen nach der Abstimmung im EU-Parlament nun also alle drei Entwürfe auf dem Tisch. Wann die Verordnung in Kraft treten wird, ist noch nicht absehbar. Dennoch raten wir den Herstellern von KI-Produkten oder -Komponenten dazu, den EU AI Act und seine Anforderungen schon heute ernst zu nehmen, um einem plötzlichen Wettlauf gegen die Zeit beim Adaptieren ihrer Systeme an die neuen Vorschriften vorzubeugen. Denn es ist damit zu rechnen, dass es wie bei der Datenschutzgrundverordnung (DSGVO) und der europäischen Medizinprodukte-Verordnung (EU-MDR) auch beim EU AI Act und seiner Umsetzung ein ähnlich großes Maß an Unklarheiten geben und guter Rat nötig sein wird.
Der Trilog findet unter spanischer Präsidentschaft statt. Nach eigenem Bekunden misst sie dem AI Act eine Top-Priorität bei und verfolgt das ehrgeizige Ziel einer vorläufigen Einigung bis Mitte November.
Wie ist der aktuelle Stand zum EU AI Act einzuschätzen?
Generell sind die Änderungen im Entwurf des EU-Parlaments positiv zu bewerten. Auch die Reaktion von Medizintechnik-Verbänden fällt in Relation zur ursprünglichen Fassung der Europäischen Kommission positiver aus.
Der AI Act stuft KI-Systeme, bei denen es sich um eigenständige Produkte oder um Sicherheitskomponenten von Produkten handelt, die als Medizinprodukte gelten, als hochriskant ein, wenn sie einer Konformitätsbewertung durch eine unabhängige Bewertungsstelle unterliegen. Diese Hochrisikoklassifizierung bedingt eine Reihe von Anforderungen und Pflichten für Hersteller und Nutzer, die sich aus den Artikeln 8–29 (Kapitel 2 und 3) des Entwurfs ergeben.
Hervorzuheben ist deshalb insbesondere der eingefügte Artikel 8 Abs. 2a, wonach die Anforderungen des AI Act als erfüllt gelten, wenn sie bereits durch die entsprechende sektorale Gesetzgebung (z. B. MDR/IVDR) abgedeckt sind. Dadurch können nicht nur sektorale Besonderheiten berücksichtigt werden, auch die Konformitätsbewertung erfolgt nach den Bestimmungen der MDR/IVDR.
Dennoch ist infolge der Verordnung mit signifikant höheren Anforderungen für Hersteller zu rechnen, da sich insbesondere die Risikoklassifizierung nach dem AI Act weiterhin von der Klassifizierung nach MDR unterscheidet: Alle KI-Produkte, die eine Konformitätsbewertung durch eine entsprechende Stelle benötigen, gelten als Hochrisiko-KI. Eine weitere Herausforderung besteht darin, die erhöhten Anforderungen für KI-Systeme in der Medizintechnik in die EU-MDR zu integrieren, um sie gemäß dem AI Act zu berücksichtigen.
Wie kann infoteam konkret unterstützen?
Mit jahrelanger Erfahrung in der Entwicklung von KI-Systemen und medizinischer Software können wir unsere Kunden optimal auf die bevorstehenden Herausforderungen vorbereiten. Den neuen Bestimmungen können wir kreativ, aber regularienkonform die Stirn bieten und Lösungen erarbeiten, die stets den aktuellen Stand der Technik abbilden.
