Warum vertrauenswürdige KI der Schlüssel zur Verhinderung des Vertrauensverlusts in großem Maßstab ist

„Mit künstlicher Intelligenz haben wir jetzt die Möglichkeit, das Vertrauen in großem Maßstab zu untergraben.“

Diese Aussage machte Reggie Townsend, Vizepräsidentin für Datenethik bei SAS, vor einem Raum voller Kunden, Datenanalysten, KI-Experten und Medien auf der SAS Innovate-Konferenz. Mit diesem aufmerksamkeitsstarken Satz eröffnete Townsend eine spannende Keynote über die Notwendigkeit einer „vertrauenswürdigen KI“ und die durchdachte Einbeziehung von Ethik in die KI-Diskussion.

Gesundheits-IT heute hatte die Gelegenheit, sich persönlich mit Townsend zusammenzusetzen, um zu erfahren, wie SAS Ethik und Vertrauenswürdigkeit in ihre Abläufe einfließen lässt. Wir wollten auch mehr über die bahnbrechende KI-Arbeit des Unternehmens mit dem Erasmus University Medical Center (Erasmus MC) und der Technischen Universität Delft (TU Delft) erfahren.

Vertrauenswürdige KI

Townsends provokative Aussage beruht auf seiner Besorgnis über den möglichen Einsatz von KI zur Verbreitung von Fehlinformationen – sowohl absichtlich als auch unabsichtlich – und darüber, wie dies das Vertrauen in allen Branchen und in der gesamten Gesellschaft untergraben kann. Als Beispiel verwendete er die Deep-Fake-Technologie (bei der KI verwendet wird, um realistisch wirkende Bilder von Menschen zu erzeugen, die Dinge sagen/tun).

Vor nicht allzu langer Zeit ging ein Fake-Foto des Papstes in einer Daunenjacke viral. Dieses Foto war eindeutig ein Witz, aber es veranschaulichte die Macht, die KI-generierte Bilder auf die öffentliche Wahrnehmung haben können.

„Man muss nicht lange darüber nachdenken, was passiert, wenn wir dem, was wir sehen und hören, nicht vertrauen können“, sagte Townsend. „Das beunruhigt mich und ich denke, es ist wichtig, dass wir das erkennen und beginnen, unser Gesamtverständnis über KI zu verbessern.“

Townsend empfiehlt außerdem dringend, dass Organisationen Verfechter der „vertrauenswürdigen KI“ werden, um diesen Vertrauensverlust in großem Maßstab zu verhindern.

„Vertrauenswürdige KI ist für uns hier bei SAS von zentraler Bedeutung“, erklärte Townsend. „Wir möchten sicherstellen, dass wir eine Plattform aufbauen, die das Vertrauen unserer Kunden verdient, damit diese wiederum unsere Plattform nutzen können, um verantwortungsvolle Anwendungen zu erstellen.“

Ethik zu einer zentralen operativen Säule machen

Um eine vertrauenswürdige KI-Plattform aufzubauen, hat SAS mehrere interne Initiativen ergriffen, die den Mitarbeitern helfen sollen, sich ethischer Herausforderungen bei der Entwicklung oder dem Einsatz von KI bewusster zu werden und damit umzugehen.

Eine dieser Initiativen war die Festlegung einer Reihe von sechs Grundsätzen für den ethischen Einsatz von KI:

1. Der Mensch im Mittelpunkt
2. Transparenz
3. Inklusivität
4. Privatsphäre und Sicherheit
5. Robustheit
6. Rechenschaftspflicht

Diese Prinzipien helfen bei der Produkt-Roadmap und der Implementierung neuer Funktionen in der SAS-Plattform.

Alle SAS-Mitarbeiter werden zu diesen Grundsätzen geschult. Diese Schulung soll den Mitarbeitern helfen, sich in den „Grauzonen“ zurechtzufinden, die bei Verkaufsgesprächen und Kundengesprächen auftreten können. Diese Grauzonen können ganz schön heikel sein – insbesondere im Gesundheitswesen.

Was ist beispielsweise die richtige Maßnahme, wenn Sie erfahren, dass der KI-Algorithmus, an dem ein Forscher monatelang gearbeitet hat, Frauen im Trainingsdatensatz unterrepräsentiert? Und doch zeigen die vorläufigen Ergebnisse der KI, dass sie das Potenzial hat, die Ergebnisse für Patienten deutlich zu verbessern.

Die Schulung hilft den Mitarbeitern, solche schwierigen Situationen zu meistern.

Vertrauenswürdige KI im Gesundheitswesen

SAS hat eine Kooperationspartnerschaft mit Erasmus MC, einem der führenden akademischen Krankenhäuser Europas, und der TU Delft, der Heimat des TU Delft Digital Ethics Centre, geschlossen. Gemeinsam haben diese drei Organisationen das Responsible and Ethical AI in Healthcare Lab (REAHL) gegründet.

Laut einer Erklärung des SAS-Unternehmens zielt die REAHL darauf ab, die ethischen Bedenken und Herausforderungen im Zusammenhang mit der Entwicklung und Implementierung von KI-Technologien im Gesundheitswesen anzugehen. Dazu gehört die Sicherstellung, dass KI-Systeme unvoreingenommen, transparent und rechenschaftspflichtig sind und auf eine Weise eingesetzt werden, die die Rechte und Werte der Patienten respektiert. Das REAHL möchte einen Rahmen für ethische KI im Gesundheitswesen schaffen, der als Modell für medizinische Zentren und Regionen auf der ganzen Welt dienen soll.

„Mit REAHL haben wir eine multidisziplinäre Expertengruppe, die zusammenkommt, um über Dinge im Zusammenhang mit Medizin, digitaler Ethikpolitik und dem Einsatz von KI nachzudenken“, sagte Townsend.

Ein Beispiel für die Arbeit von REAHL ist der Einsatz von KI zur Ermittlung der Aufenthaltsdauer, die Patienten nach der Operation möglicherweise benötigen. Für eine bestimmte Art von Operation kann der nationale Standard ein sechstägiger Krankenhausaufenthalt mit anschließender Überwachung zu Hause sein. Aber was passiert, wenn ein Patient schneller heilt und bereits nach zwei Tagen nach Hause gehen kann? Was wäre, wenn es einen KI-Algorithmus gäbe, der diese Art von Patienten identifizieren könnte? Dadurch könnten möglicherweise 4 Betttage eingespart werden. Diese zusätzliche Kapazität wirkt sich auf den Patientenzugang aus.

„Basierend auf den ersten Erkenntnissen können wir mit Zuversicht sagen, dass wir bereits 250 Patiententage eingespart haben“, sagte Townsend. „Dies wirkt sich nicht nur auf den Patienten aus, sondern auch aus versicherungstechnischer Sicht. Weitere 250 Tage nicht bezahlen zu müssen, ist eine ziemlich gute Sache. Selbst in einem Einzahlersystem, in dem der Staat zahlt, ist dies eine erhebliche Ersparnis.“

Sehen Sie sich das Interview mit Townsend an, um zu erfahren:

• Die Herausforderung, die Townsend an die Medien im Hinblick auf die Berichterstattung über KI stellte
• Warum es unpraktisch ist, Verzerrungen vollständig aus Datensätzen zu entfernen, auf denen KI-Algorithmen trainiert werden, und wie die Anerkennung und Transparenz dieser Verzerrungen ein besserer Weg nach vorn sein könnte

Erfahren Sie mehr über SAS unter https://www.sas.com/

Hören Sie sich den Healthcare IT Today Interviews Podcast an und abonnieren Sie ihn, um die neuesten Erkenntnisse von Experten für Gesundheits-IT zu erhalten.

Und für einen exklusiven Blick auf unsere Top-StoriesAbonniere unseren Newsletter.

Erzählen Sie uns, was Sie denken. Kontaktieren Sie uns hier oder auf Twitter unter @hcitoday. Und wenn Sie Interesse haben, bei uns zu werben, Schauen Sie sich unsere verschiedenen an Werbepakete und fordern Sie unsere an Werbemöglichkeiten.

SAS übernahm die Reisekosten für Healthcare IT Today zu ihrer Konferenz.