FDA und generative KI: keine neue Policy, aber ein Rahmen nimmt Gestalt an

Am 18. August 2026 hat die US-amerikanische Food and Drug Administration ihr Diskussionspapier Considerations for the Regulation of Generative AI-Enabled Medical Devices veröffentlicht.

Der rechtliche Status des Dokuments ist wichtig. Es ist kein Guidance-Entwurf, keine endgültige Guidance und keine neue Policy der FDA. Die Behörde hält ausdrücklich fest, dass das Papier keine neuen regulatorischen Erwartungen oder Evidenzanforderungen für künftige Marktzugangsanträge begründet. Es klärt auch nicht, ob die erörterten Ansätze unter den bestehenden Befugnissen der FDA umsetzbar wären oder neue erfordern würden.

Als bloß erkundend sollte man das Papier dennoch nicht abtun.

Es entfaltet eine deutlich strukturiertere Konsultation darüber, wie die FDA Medizinprodukte mit generativer KI über den gesamten Produktlebenszyklus behandeln könnte: von der Risikobeschreibung und der Evidenz vor dem Inverkehrbringen bis zur Leistung nach dem Inverkehrbringen und zur Änderungslenkung. Es ist nicht das erste Mal, dass die FDA Lebenszyklusfragen für generative KI aufgreift, aber es ist die konkretere Formulierung der Fragen, die nun an die Beteiligten gerichtet werden.

Eine Vorbemerkung zum Anwendungsbereich ist wesentlich. Die FDA reguliert generative KI nicht als Technologiekategorie. Sie reguliert Produkte, die die rechtliche Definition eines Medizinprodukts erfüllen. Die regulatorische Analyse bleibt deshalb an der Zweckbestimmung des Produkts, seiner Funktionalität und den Risiken verankert, die mit dem Verlassen auf seine Ausgaben verbunden sind.

Drei Elemente sind besonders bemerkenswert.

1. Ein differenzierterer Rahmen für das Risiko

Die FDA erwägt einen Rahmen mit zwei Achsen. Die erste Achse betrifft die Aktivität des Produkts: in welchem Maß eine Funktion informiert, den Anwender zu einer Handlung hinführt oder selbst handelt, einschließlich Grad und Eigenständigkeit dieser Aktivität. Die zweite Achse betrifft die Folgen, wenn man sich auf eine fehlerhafte Ausgabe verlässt, einschließlich der möglichen Schwere des Schadens.

Das ist differenzierter, als Autonomie zum alleinigen Risikotreiber zu machen. Eine scheinbar rein informierende Funktion kann durch Wortwahl, Konkretheit, Personalisierung oder klinischen Kontext handlungsleitend werden. Das Papier fragt außerdem, wie das Risiko in mehrstufigen Dialogen zu bewerten ist, in Anwendungsfällen mit Patientenkontakt und dort, wo Fehler bei der Versorgungseskalation sowohl durch zu geringe als auch durch zu starke Eskalation Schaden verursachen können.

Die praktische Folge liegt auf der Hand: Eine künftige Evidenzstrategie muss möglicherweise nicht nur die medizinische Zweckbestimmung eines Produkts adressieren, sondern auch, was das Produkt in der Praxis tut, wie eigenständig es handelt, wer sich auf seine Ausgabe verlässt und welche Folgen ein Fehler hat.

2. Ein kompetenzbasierter Ansatz für die Evidenz vor dem Inverkehrbringen

Die FDA erörtert einen möglichen Ansatz, der nichtklinisches Benchmarking des Produkts mit klinischer Bestätigung verbindet.

Entscheidender Bewertungsgegenstand wäre das finale, dem Anwender zugewandte Produkt in seiner vorgesehenen Einsatzkonfiguration, nicht das Basismodell für sich genommen. Tiefe und Breite der Bewertung würden auf Zweckbestimmung und Risikoprofil des Produkts abgestimmt.

Für einschlägige Produkte erörtert die FDA ein Benchmarking, das über die klassische Leistung auf einem Testdatensatz hinausgeht. Mögliche Dimensionen sind das Erkennen sicherheitskritischer Situationen und die Eskalation, das Einhalten des vorgesehenen Anwendungsbereichs, die kalibrierte Kommunikation von Unsicherheit, klinisches Schlussfolgern, quantitative Analyse, Kommunikationsqualität, Robustheit, Reproduzierbarkeit und die Leistung über klinisch bedeutsame Untergruppen hinweg. Für agentische Systeme nennt das Papier zusätzlich mehrstufige Planung, verlässlichen Werkzeuggebrauch, Kontrollpunkte für menschliche Aufsicht vor folgenreichen Handlungen und Widerstandsfähigkeit gegen Prompt Injection.

Der weiterreichende Punkt ist, dass selbst umfangreiches nichtklinisches Benchmarking nicht vollständig belegt, wie sich ein Produkt mit generativer KI in der klinischen Praxis verhält. Die FDA erwägt deshalb, ob eine klinische Bestätigung unter realen oder klinisch repräsentativen Bedingungen erforderlich sein kann. Das würde nicht in jedem Fall eine prospektive klinische Studie verlangen; die erforderliche Evidenz bliebe risikoproportional.

Anders gesagt: Die aufkommende Frage lautet nicht bloß, ob ein Modell unter vorgegebenen Bedingungen eine akzeptable Antwort erzeugen kann. Sie lautet, ob das ausgelieferte Produkt in seiner vorgesehenen klinischen Rolle sicher arbeiten kann, erkennt, wann es zurücktreten oder eskalieren sollte, Unsicherheit angemessen kommuniziert und über die relevanten Anwender, Umgebungen, Patientenpopulationen und Interaktionsmuster hinweg verlässlich funktioniert.

3. Die Leistung nach dem Inverkehrbringen wird Teil der Evidenzstrategie

Die FDA erörtert außerdem mögliche Ansätze für eine risikoproportionale Überwachung nach dem Inverkehrbringen. Dazu zählen wiederkehrendes erneutes Benchmarking, die stichprobenbasierte Durchsicht realer Ein- und Ausgaben durch qualifizierte unabhängige Klinikerinnen und Kliniker sowie die Überwachung auf Leistungsverfall oder Drift, die aus Änderungen der Eingangspopulation, der Datenumgebung, des zugrunde liegenden Modells oder der Einsatzarchitektur entstehen.

Besonders relevant ist das, wenn ein Produkt ein Basismodell eines Dritten einbindet. Das Papier unterscheidet zwischen Updates des Sponsors, Nachtraining oder adaptiven Änderungen und ungeplanten Änderungen, die der Entwickler eines zugrunde liegenden Drittmodells einbringt. Die FDA prüft, ob eine Kompetenzbewertung vor dem Inverkehrbringen die Basislinie liefern könnte, gegen die das Produkt nach einer Änderung erneut gemessen wird. Sie erörtert Predetermined Change Control Plans als einen möglichen Mechanismus für bestimmte Änderungen und bittet um Rückmeldung zu freiwilligen Foundation Model Device Master Files. Wichtig dabei: Eine solche Master File würde die Verantwortung nicht übertragen. Der Sponsor des Produkts bliebe verantwortlich für den Nachweis von Sicherheit und Wirksamkeit seines eigenen Produkts.

Was Hersteller jetzt tun sollten

Hersteller sollten dieses Papier nicht als neue Compliance-Checkliste behandeln. Das ist es nicht.

Sie sollten es aber als nützliche Belastungsprobe für ihre Entwicklungs- und Evidenzstrategie nutzen. Das heißt: die vorgesehene klinische Rolle und die Verhaltensgrenzen jeder Funktion mit generativer KI festlegen; dokumentieren, wann das System zurücktreten, eskalieren oder eine menschliche Prüfung verlangen muss; das ausgelieferte Produkt bewerten, statt sich auf Aussagen über ein zugrunde liegendes Modell zu stützen; und eine begründbare Basislinie für künftige Änderungen und die Überwachung nach dem Inverkehrbringen schaffen.

Für Produkte, die von Drittmodellen abhängen, werden die praktischen Fragen zunehmend konkret. Was steht unter Versionskontrolle? Welche vom Anbieter ausgelösten Änderungen könnten Sicherheit oder Wirksamkeit berühren? Welche Testbestände und Annahmekriterien tragen ein erneutes Benchmarking? Wie werden Leistungsverfall, Untergruppeneffekte, unerwartete Interaktionen und sicherheitskritische Fehler erkannt, untersucht und gesteuert?

Die Policy steht nicht fest. Die Richtung wird jedoch erkennbarer.

Für Medizinprodukte mit generativer KI genügt es möglicherweise nicht, einen Algorithmus zu einem einzigen Zeitpunkt zu validieren. Die FDA lotet aus, wie Hersteller die Kontrolle über das Verhalten des ausgelieferten Produkts über dessen Lebenszyklus hinweg nachweisen können.

Die öffentliche Kommentierung läuft unter Docket FDA-2026-N-7874 bis zum 19. Oktober 2026.

Erstellt aus FDA-Primärquellen; dieser Beitrag dient der Information und stellt keine Rechtsberatung dar.