Effizientere Behörden: US-Gesundheitsbehörden tes­ten KI von OpenAI und Anthropic

US-Gesundheitsbehörden werden im Rahmen des neuen Programms PULSE erstmals generative KI-Lösungen von OpenAI und Anthropic unter realen Bedingungen erproben. Die gewonnenen Erkenntnisse sollen Verwaltungsprozesse effizienter gestalten und die Behörden bei ihren täglichen Aufgaben entlasten.

Am PULSE der Zeit

Das Pilotprojekt mit dem Namen „Public Health Use Case and Learning Scaling Engine“ (PULSE) entstand in Zusammenarbeit mit der Coalition for Health AI (CHAI), OpenAI, Anthropic und Accenture. Ziel ist es, Gesundheitsbehörden mithilfe künstlicher Intelligenz insbesondere bei der Datenanalyse, der öffentlichen Kommunikation sowie der Automatisierung administrativer Aufgaben zu unterstützen. OpenAI und Anthropic stellen dafür jeweils Enterprise-Lizenzen bereit, die zusammen bis zu 2.000 Mitarbeitern im öffentlichen Gesundheitswesen den Zugang zu ihren KI-Diensten ermöglichen. Accenture übernimmt die Einführung der Teilnehmer und erarbeitet auf Basis der Pilotprojekte Handlungsempfehlungen.

Im Fokus stehen zunächst fünf Anwendungsbereiche, zu denen Biosurveillance und Prognosen zu Drogenkrisen, die Analyse sozialer Gesundheitsfaktoren einschließlich entsprechender Kartierungen, die Optimierung interner Verwaltungsabläufe sowie die Auswertung von Bürgerfeedback, die Erstellung öffentlicher Kommunikation inklusive eines mehrsprachigen Übersetzungssystems und der automatisierte Abruf klinischer Daten über eine FHIR-basierte Abfrageplattform zählen.

Bislang nur ein grober Umriss

Laut einem Bericht von AI-News existieren bislang allerdings lediglich Eckpunkte des Projekts. So ist weiterhin unklar, welche KI-Produkte, Modellversionen und Konfigurationen von Anthropic und OpenAI zum Einsatz kommen sollen. Auch detaillierte technische Informationen wurden bislang nicht veröffentlicht. Ebenso hat CHAI noch nicht erläutert, ob die KI ausschließlich Suchanfragen formulieren, medizinische Datensätze abrufen, Ergebnisse zusammenfassen oder sämtliche dieser Aufgaben miteinander kombinieren soll.

Auch beim Datenschutz bleiben wesentliche Fragen offen. Das Projekt könnte sowohl mit demografischen und geografischen als auch mit medizinischen Gesundheitsdaten arbeiten. Unbekannt ist bislang jedoch, ob identifizierbare Patientendaten, ausschließlich anonymisierte Datensätze, synthetische Testdaten oder lediglich aggregierte Informationen verarbeitet werden. Ebenso fehlen Angaben zur Datenspeicherung, zu Aufbewahrungsfristen, Zugriffskontrollen, Protokollierung und Audit-Verfahren. OpenAI und Anthropic verweisen zwar darauf, dass Ein- und Ausgaben ihrer kommerziellen Enterprise-Produkte standardmäßig nicht zum Training ihrer Modelle verwendet werden – welche konkreten Schutzmaßnahmen für die sensiblen Daten darüber hinaus vorgesehen sind, lässt sich daraus jedoch nicht ableiten.

Der bei solchen Verfahren häufig angeführte „Health Insurance Portability and Accountability Act“ (HIPAA) gilt zudem nicht automatisch für sämtliche teilnehmenden Einrichtungen. Welche Anforderungen im Einzelfall greifen, hängt laut dem Bericht vielmehr von der jeweiligen Behörde, den eingesetzten Daten und dem konkreten Anwendungsfall ab. Ebenfalls ungeklärt ist, in welchem Umfang eine menschliche Kontrolle vorgeschrieben wird. Damit bleibt offen, ob Mitarbeiter automatisch erzeugte Pressemitteilungen freigeben, Übersetzungen überprüfen, klinische Informationen validieren oder Ergebnisse aus Biosurveillance und Drogenprognosen vor ihrer Nutzung kontrollieren müssen.

Erste Ergebnisse im nächsten Jahr

Die Pilotphase soll bereits im Herbst 2026 beginnen. Die daraus gewonnenen Erkenntnisse sollen anschließend 2027 in Form eines Leitfadens veröffentlicht werden, der anderen Gesundheitsbehörden als Orientierung für eigene KI-Projekte dienen soll. Hintergrund des Programms ist unter anderem der weiterhin geringe Einsatz künstlicher Intelligenz im öffentlichen US-Gesundheitswesen. Nach Angaben der National Association of County and City Health Officials nutzen rund 40 Prozent der lokalen Gesundheitsbehörden in den USA bislang keine KI. CHAI sieht darin erhebliches Potenzial, Arbeitsabläufe zu modernisieren und die betriebliche Effizienz zu steigern. Bereits im Mai hatte die Organisation angekündigt, gemeinsam mit mehr als 150 Vertretern des Gesundheitswesens Leitlinien für acht zentrale Governance-Bereiche zu erarbeiten.

Auch wenn das Pilotprojekt in den USA durchgeführt wird, könnte es als Vorbild für ähnliche Vorhaben in anderen Ländern dienen – zumindest dann, wenn sich die Umsetzung an die jeweiligen Datenschutzbestimmungen anpassen lässt.