AMA veröffentlicht Grundsätze für den KI-Einsatz

Die American Medical Association hat sieben neue Grundsätze für die Entwicklung, den Einsatz und die Nutzung von KI im Gesundheitswesen vorgestellt und ist damit einen Schritt näher an der Schaffung eines einheitlichen Governance-Rahmens für den Fortschritt der Technologie in der Branche.

Die dargelegten Grundsätze der AMA unterstreichen die Notwendigkeit umfassender Richtlinien, die darauf abzielen, die Risiken für Patienten und Ärzte beim Einsatz von KI-Technologien zu mindern. Laut einer Pressemitteilung der AMA vom 28. November werden diese neuen Prinzipien dazu beitragen, den Nutzen von KI im Gesundheitswesen zu maximieren und gleichzeitig potenzielle Schäden zu minimieren.

Zu den Schlüsselkonzepten der AMA-Grundsätze gehören:

1. Aufsicht: Die AMA unterstützt einen gesamtstaatlichen Ansatz zur Umsetzung von Governance-Richtlinien zur Bewältigung der mit der KI im Gesundheitswesen verbundenen Risiken.
2. Transparenz: Die AMA befürwortet gesetzliche Vorschriften, in denen die wichtigsten Merkmale und Informationen in den Entwurfs-, Entwicklungs- und Einsatzprozessen von KI detailliert beschrieben werden, einschließlich der Behandlung potenzieller Ungleichheitsquellen.
3. Offenlegung und Dokumentation: Die Grundsätze fordern eine angemessene Offenlegung und Dokumentation, wenn KI sich direkt auf die Patientenversorgung, den Zugang, die medizinische Entscheidungsfindung, die Kommunikation oder die Krankenakten auswirkt.
4. Generative KI: Um die mit generativer KI verbundenen Risiken zu bewältigen, fordert die AMA Gesundheitsorganisationen dringend auf, vor ihrer Einführung und Nutzung Richtlinien zu entwickeln und zu verabschieden, die sich mit potenziellen negativen Auswirkungen befassen.
5. Privatsphäre und Sicherheit: Nach diesen Grundsätzen werden KI-Entwickler aufgefordert, Systeme unter Berücksichtigung des Datenschutzes zu entwerfen, und Organisationen müssen Sicherheitsvorkehrungen treffen, um einen verantwortungsvollen Umgang mit personenbezogenen Daten sicherzustellen.
6. Verzerrungsminderung: Die AMA sagte, sie plädiere für eine proaktive Identifizierung und Abschwächung von Vorurteilen in KI-Algorithmen, um ein faires, integratives und diskriminierungsfreies Gesundheitssystem zu fördern.
7. Haftung: AMA sagte, sie werde sich weiterhin für eine Begrenzung der Haftung von Ärzten im Zusammenhang mit der Nutzung KI-gestützter Technologien einsetzen und sich dabei an den bestehenden rechtlichen Ansätzen zur Haftung von Ärzten orientieren.

Darüber hinaus umfassen die vom AMA dargelegten Grundsätze auch Situationen, in denen Kostenträger KI und algorithmische Entscheidungsprozesse nutzen, um Deckungsgrenzen festzulegen, Anspruchsentscheidungen zu treffen und Leistungsdesigns zu gestalten.

Die AMA sagte, wenn Kostenträger KI nutzen, müssen sie sicherstellen, dass der Einsatz automatisierter Entscheidungssysteme nicht den Zugang zu notwendiger Pflege behindert oder bestimmten demografischen Gruppen systematisch die Pflege verweigert.