News

Kritik an KI-Verordnungsentwurf aus Brüssel

20.05.2021
Der erste Entwurf zur neuen KI-Verordnung der EU-Kommission stößt auf Widerstand in der Industrie. Die Medtech-Unternehmen befürchten eine Überregulierung.

Der Einsatz Künstlicher Intelligenz (KI) gewinnt in der Gesundheitswirtschaft immer stärker an Bedeutung. KI ist aber nicht nur ein Instrument für die medizinische Wissenschaft und Forschung. Auch in der Gesundheitsversorgung spielen Software-Lösungen, die auf KI beruhen, eine immer größere Rolle. Die neue EU-Verordnung über Medizinprodukte (MDR) trägt dem bereits Rechnung. Software kann ein eigenständiges Medizinprodukt sein, dass die Anforderungen der MDR erfüllen muss. Dabei wird ein risikobasierter Ansatz verfolgt.

EU-Kommission betrachtet KI fast ausschließlich als Risiko

Ende April hat die Europäische Kommission den weltweit ersten Entwurf für eine Verordnung zum Thema KI vorgelegt. Diese soll einen verlässlichen Rechtsrahmen für KI-Anwendungen aller Art in der EU schaffen.  „Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist“, sagte Exekutiv-Vizepräsidentin Margrethe Vestager bei der Vorstellung des Entwurfs.

Die Verordnung will hier die Verwendung von KI regeln –  und nicht die Technologie selbst. Dabei handelt es sich primär um ein Verbotsgesetz, das den Einsatz von KI-Systemen in bestimmten Anwendungsszenarien verbietet bzw. von technisch-organisatorischen Voraussetzungen abhängig macht. Zivilrechtliche Fragen beim Einsatz von KI (z.B. Haftung, Zurechnung von Willenserklärungen, Schaffung von geistigem Eigentum) werden durch den Verordnungsentwurf nicht geregelt. Brüssel möchte eine führende Rolle bei der Regulierung von KI einnehmen und hofft, auf diesem Feld ähnlich weitreichende Auswirkungen zu erzielen wie durch die Datenschutz-Grundverordnung 2016/679, die für viele der größten Unternehmen der Welt innerhalb kürzester Zeit zum Standard wurde. Der Vorschlag ist das Ergebnis einiger Jahre vorbereitender Arbeit in Brüssel: Die Grundlage der europäischen KI-Strategie wurde im April 2018 gelegt und mit dem KI-Weißbuch vom Februar 2020 bestätigt.

Der Vorschlag betrachtet dabei ebenfalls die Risiken, die bei diesen unterschiedlichen KI-Anwendungen zu beachten sind. Die Industrie unterstützt die grundlegende Absicht, einheitliche Regeln für die Nutzung von KI aufzustellen. „Der vorgelegte Regulierungsentwurf ist ein erster Schritt in die richtige Richtung. Er bedarf aber einer weiteren ausdifferenzierteren Betrachtung”, sagt Wolfgang Weber, Vorsitzender der Geschäftsführung beim Zentralverband der Elektroindustrie (ZVEI). Denn KI-Software, KI-Sicherheitskomponenten und andere Produkte mit sicherheitsrelevanter KI in der Medizintechnik würden nahezu unterschiedslos als “Hochrisiko”-Anwendungsbereiche betrachtet, die hohe Anforderungen zu erfüllen haben. „Diese Überbewertung von möglichen Risiken hemmt Innovationen und trifft insbesondere unsere mittelständischen Unternehmen“, so Weber.

ZVEI: Rechtsunsicherheit für Hersteller erhöht

Statt Klarheit zu schaffen, verliere sich der Regulierungsentwurf beim Versuch KI zu definieren, in weitgefasster Beliebigkeit, kommentiert der ZVEI. „Schon konventionelle Algorithmen oder statistische Methoden geraten bei der EU-Kommission in den Verdacht, eine risikobehaftete KI zu sein“, kritisiert Weber weiter. „Dies erhöht die Rechtsunsicherheit für Hersteller und Anwender weiter und ist schädlich im globalen Wettbewerb.“

Der ZVEI sieht daher eine Überarbeitung des Regulierungsvorschlags als notwendig an, um zukunftsweisende Technologien im Bereich von KI zu ermöglichen. „KI verdient eine differenzierte Chancen-Risiko-Betrachtung“, so Weber. „Die vermeintliche Komplexität von KI darf nicht dazu führen, dass wir uns in Europa leichtfertig selbst die Chancen nehmen, die KI für innovative industrielle Anwendungen und Medizinprodukte bereithält.“  Zum Nutzen der europäischen Gesellschaft und Volkswirtschaft muss Europas Stärke grade im industriellen KI-Bereich weiter ausgebaut werden, so der Verband.

 Abstimmungsbedarf mit Blick auf EU-MDR

Vor allem mit Blick auf die EU-MDR sieht der ZVEI Handlungsbedarf. "Für die Gesundheitswirtschaft ist es nun immens wichtig, dass die Regelungen der MDR und der geplanten KI-Verordnung aufeinander abgestimmt sind und keine widersprüchlichen Anforderungen stellen", heißt es in einer Pressenotiz. Der Geltungsbeginn der EU-MDR ist bereits der 26. Mai 2021, während die Beratungen zur KI-Verordnung gerade erst begonnen haben. "Es muss verhindert werden, dass nachgewiesen wirksame KI-Anwendungen für die Gesundheitsversorgung auf Basis der MDR eingeführt werden und in der Zukunft wegen möglicher Widersprüche zur KI-Verordnung angepasst oder sogar vom Markt genommen werden müssen", macht der ZVEI eindringlich  klar.

Viele Unternehmen sind enttäuscht von der Unkenntnis der EU-Bürokraten. So zitiert das Handelsblatt in einem Bericht zum Thema den Unternehmer Jaroslav Bláha, CEO der Cellmatiq. Er hat bereits ein zugelassenes Softwareprodukt im Markt, mit dem Röntgenbilder aus der Zahnmedizin mit KI ausgewertet werden und sagt: „Wenn diese Regeln so in Kraft treten, werden wir entweder keine KI mehr entwickeln können oder die EU verlassen müssen – dorthin, wo unsere Arbeit wertgeschätzt wird.“

Teile der Verordnung nicht umsetzbar?

Allerdings stellte die EU-Kommission bereits klar, dass die neue KI-Verordnung nur für Produkte gelten wird, die neu in den Markt kommen. Ein Überprüfung soll dann über die Benannten Stellen im Rahmen der Prüfung zur EU-MDR erfolgen. Ob hierfür dann die entsprechende Expertise vorliegt, bezweifelt die Industrie allerdings, da es schon mit der neuen EU-MDR erhebliche Engpässe gibt. Zudem halten einige Rechtsexperten die aktuell getroffenen Aussagen im Entwurf für mitunter nur schwer umsetzbar. Aus technischer Sicht wird beispielsweise zu klären sein, ob die hohen Anforderungen an KI-Trainingsdaten, repräsentativ und fehlerfrei zu sein, überhaupt erfüllt werden können. Zu bedenken ist zudem, dass sich bei manchen bereits verwendeten KI-Methoden die hohen Anforderungen an Entscheidungstransparenz und -nachvollziehbarkeit aus technischen Gründen kaum oder nur schwer umsetzen lassen. Insofern wird die Regulierungsvorschlag, sofern er umgesetzt wird, einen hohen Einfluss auf die technische Gestaltung von Prozessen und Geschäftsmodellen haben, heißt es.

Jahrelanger Abstimmungsprozess erwartet

Wann genau die neue KI-Verordnung in Kraft treten wird, ist offen. Der Entwurf wird nun im Rahmen des EU-Gesetzgebungsverfahrens durch das Europäische Parlament und den Europäischen Rat gehen. Hier gehen jedoch jetzt schon die Meinungen auseinander. Die einen fordern noch schärfere Regeln, die anderen schwächere. Ein Zusammenschluss einiger Länder, die das Thema als wichtiges Innovationspotenzial für ihre Industrie betrachten, hat sich für eine liberale Lösung stark gemacht. (Positionspapier hier lesen)

Die Kommission hat es vermieden, einen Zeitrahmen für die Verabschiedung der neuen Rechtsvorschriften anzugeben. Erfahrungsgemäß kann es jedoch 18 Monate bis zu zwei Jahre dauern, bis eine Verordnung ratifiziert wird und in Kraft tritt.

Quelle: Meldung medtech-zwo vom 20.05.2021