Künstliche Intelligenz verändert unsere Welt rasant. Egal ob ChatGPT oder das neue Binunser kürzlich angekündigtes KI-gestütztes Sucherlebnisgab es viel Aufregung über die potenziellen Vorteile.
Aber bei aller Aufregung gibt es natürlich Fragen, Bedenken und Neugierde zu dieser neuesten Entwicklung in der Technologie, insbesondere wenn es darum geht, sicherzustellen, dass KI verantwortungsbewusst und ethisch einwandfrei eingesetzt wird. Natasha Crampton, Chief Responsible AI Officer von Microsoft, war in Großbritannien, um sich mit politischen Entscheidungsträgern, Mitgliedern der Zivilgesellschaft und der Tech-Community zu treffen, um Perspektiven darüber zu hören, was ihnen in Bezug auf KI wichtig ist, und um mehr über den Ansatz von Microsoft zu erfahren.
Wir haben mit Natasha gesprochen, um zu verstehen, wie ihr Team arbeitet, um sicherzustellen, dass ein verantwortungsbewusster Ansatz für die Entwicklung und den Einsatz von KI im Mittelpunkt dieses grundlegenden Wandels bei der Nutzung von Technologie steht. Hier sind sieben wichtige Erkenntnisse, die Natasha mit uns geteilt hat.
1. Microsoft hat ein dediziertes Office of Responsible AI
„Wir arbeiten seit 2017 hart an diesen Themen, als wir unser forschungsgeführtes Aether-Komitee gegründet haben (Aether ist ein Akronym für AI, Ethics and Effects in Engineering and Research). Hier begannen wir wirklich, tiefer darauf einzugehen, was diese Probleme wirklich für die Welt bedeuten. Daraus haben wir 2018 eine Reihe von Grundsätzen verabschiedet, die unsere Arbeit leiten sollen.
Das Office of Responsible AI wurde dann im Jahr 2019 gegründet, um sicherzustellen, dass wir einen umfassenden Ansatz für Responsible AI haben, ähnlich wie wir es für Datenschutz, Zugänglichkeit und Sicherheit tun. Seitdem haben wir unsere Praxis verfeinert und viel Zeit damit verbracht, herauszufinden, was ein Prinzip wie Rechenschaftspflicht in der Praxis tatsächlich bedeutet.
Wir sind dann in der Lage, Ingenieurteams konkrete Anleitungen zu geben, wie sie diese Prinzipien erfüllen können, und wir teilen das, was wir gelernt haben, mit unseren Kunden und der breiteren Gesellschaft.“
2. Verantwortung ist ein wesentlicher Bestandteil des KI-Designs – kein nachträglicher Einfall
„Im Sommer 2022 haben wir ein aufregendes neues Modell von OpenAI erhalten. Sofort stellten wir eine Gruppe von Testern zusammen und ließen das Rohmodell untersuchen, um seine Fähigkeiten und Grenzen zu verstehen.
Die aus dieser Forschung gewonnenen Erkenntnisse halfen Microsoft, darüber nachzudenken, was die richtigen Gegenmaßnahmen sein werden, wenn wir dieses Modell mit der Leistungsfähigkeit der Websuche kombinieren. Es half auch OpenAI, die ihr Modell ständig weiterentwickeln, zu versuchen, mehr Sicherheit in sie zu integrieren.
Wir haben neue Testpipelines erstellt, in denen wir über die potenziellen Schäden des Modells im Zusammenhang mit der Websuche nachgedacht haben. Wir haben dann systematische Messansätze entwickelt, um besser zu verstehen, welche der größten Herausforderungen wir mit dieser Art von Technologie haben könnten – ein Beispiel ist die sogenannte „Halluzination“, bei der das Modell Fakten erfinden kann, die nicht wirklich wahr sind.
Bis November hatten wir herausgefunden, wie wir sie messen und dann im Laufe der Zeit besser mindern können. Wir haben dieses Produkt mit verantwortungsvollen KI-Steuerelementen im Kern entwickelt, sodass sie ein fester Bestandteil des Produkts sind. Ich bin stolz darauf, wie das gesamte verantwortliche KI-Ökosystem zusammengekommen ist, um daran zu arbeiten.“
3. Microsoft arbeitet daran, Antworten in Suchergebnissen zu erden
„Halluzinationen sind allgemein ein bekanntes Problem bei großen Sprachmodellen. Die Hauptmethode, mit der Microsoft sie im Bing-Produkt ansprechen kann, besteht darin, sicherzustellen, dass die Ausgabe des Modells auf Suchergebnissen basiert.
Das bedeutet, dass sich die Antwort auf die Anfrage eines Benutzers auf hochrangige Inhalte aus dem Internet konzentriert und wir Links zu Websites bereitstellen, damit Benutzer mehr erfahren können.
Bing ordnet den Inhalt der Websuche durch eine starke Gewichtung von Merkmalen wie Relevanz, Qualität und Glaubwürdigkeit sowie Aktualität. Wir betrachten begründete Antworten als Antworten vom neuen Bing, in denen Behauptungen durch Informationen gestützt werden, die in Eingabequellen enthalten sind, wie z Konversationsverlauf aus einem bestimmten Chat. Unbegründete Antworten sind solche, bei denen eine Behauptung nicht auf diesen Eingangsquellen beruht.
Wir wussten, dass es neue Herausforderungen geben würde, wenn wir eine kleine Gruppe von Benutzern einluden, das neue Bing auszuprobieren, also haben wir die Release-Strategie so konzipiert, dass sie inkrementell ist, damit wir von frühen Benutzern lernen können. Wir sind dankbar für diese Erkenntnisse, da sie uns helfen, das Produkt stärker zu machen. Durch diesen Prozess haben wir neue Minderungsmaßnahmen eingeführt und entwickeln unseren Ansatz weiter.“
4. Der Responsible AI Standard von Microsoft ist für die Verwendung durch jedermann vorgesehen
„Im Juni 2022 haben wir beschlossen, die zu veröffentlichen Verantwortlicher KI-Standard. Normalerweise veröffentlichen wir unsere internen Standards nicht für die breite Öffentlichkeit, aber wir glauben, dass es wichtig ist, das zu teilen, was wir in diesem Zusammenhang gelernt haben, und unseren Kunden und Partnern dabei zu helfen, sich auf einem für sie manchmal neuen Terrain zurechtzufinden so wie es bei uns ist.
Wenn wir innerhalb von Microsoft Tools entwickeln, die uns dabei helfen, verantwortungsvolle KI-Herausforderungen zu identifizieren, zu messen und zu mindern, backen wir diese Tools in unsere Azure-Entwicklungsplattform für maschinelles Lernen (ML) ein, damit unsere Kunden sie auch zu ihrem eigenen Vorteil nutzen können.
Für einige unserer neuen Produkte, die auf OpenAI basieren, haben wir ein Sicherheitssystem entwickelt, damit unsere Kunden von unserer Innovation und unseren Erkenntnissen profitieren können, anstatt all diese Technologien von Grund auf neu für sich selbst entwickeln zu müssen. Wir möchten sicherstellen, dass unsere Kunden und Partner in die Lage versetzt werden, verantwortungsbewusste Bereitstellungsentscheidungen zu treffen.“
5. Unterschiedliche Teams und Sichtweisen sind der Schlüssel zur Gewährleistung einer verantwortungsvollen KI
„Die Arbeit an Responsible AI ist unglaublich multidisziplinär, und das liebe ich. Ich arbeite mit Forschern zusammen, wie dem Team von Forschungslabor von Microsoft UK in Cambridge, Ingenieure und Politiker. Es ist entscheidend, dass wir unterschiedliche Perspektiven auf unsere Arbeit anwenden, damit wir in der Lage sind, auf verantwortungsvolle Weise voranzukommen.
Durch die Zusammenarbeit mit einer Vielzahl von Mitarbeitern bei Microsoft nutzen wir die volle Stärke unseres verantwortungsbewussten KI-Ökosystems bei der Entwicklung dieser Produkte. Es war eine Freude, unsere funktionsübergreifenden Teams an einen Punkt zu bringen, an dem wir die Sprache des anderen wirklich verstehen. Es hat einige Zeit gedauert, um dorthin zu gelangen, aber jetzt können wir danach streben, unsere gemeinsamen Ziele gemeinsam voranzutreiben.
Aber es können nicht nur die Mitarbeiter von Microsoft sein, die alle Entscheidungen beim Aufbau dieser Technologie treffen. Wir wollen externe Perspektiven darüber hören, was wir tun und wie wir die Dinge anders machen könnten. Ob durch Nutzerforschung oder kontinuierliche Dialoge mit zivilgesellschaftlichen Gruppen, es ist wichtig, dass wir die alltäglichen Erfahrungen verschiedener Menschen in unsere Arbeit einbringen. Wir müssen uns immer dafür einsetzen, denn wir können keine Technologie entwickeln, die der Welt dient, wenn wir nicht einen offenen Dialog mit den Menschen führen, die sie verwenden, und die Auswirkungen auf ihr Leben spüren.“
6. KI ist eine Technologie, die von Menschen für Menschen entwickelt wurde
„Unsere Mission bei Microsoft ist es, jeden Menschen und jede Organisation auf dem Planeten zu befähigen, mehr zu erreichen. Das heißt, wir stellen sicher, dass wir Technologie von Menschen für Menschen bauen. Wir sollten diese Technologie wirklich als Werkzeug zur Verstärkung des menschlichen Potenzials betrachten, nicht als Ersatz.
Auf persönlicher Ebene hilft mir KI, mit riesigen Mengen an Informationen umzugehen. Eine meiner Aufgaben besteht darin, alle regulatorischen KI-Entwicklungen zu verfolgen und Microsoft bei der Entwicklung von Positionen zu unterstützen. In der Lage zu sein, Technologie zu verwenden, um mir zu helfen, eine große Anzahl von Richtliniendokumenten schnell zusammenzufassen, ermöglicht es mir, Folgefragen an die richtigen Personen zu stellen.“
7. Wir befinden uns derzeit an den Grenzen – aber verantwortungsbewusste KI ist eine ewige Aufgabe
„Eines der aufregenden Dinge an dieser Spitzentechnologie ist, dass wir wirklich an der Grenze sind. Natürlich gibt es eine Reihe von Themen in der Entwicklung, mit denen wir uns zum ersten Mal beschäftigen, aber wir bauen auf sechs Jahren verantwortungsvoller KI-Arbeit auf.
Es gibt immer noch viele Forschungsfragen, bei denen wir die richtigen Fragen kennen, aber wir haben nicht unbedingt in allen Fällen die richtigen Antworten. Wir müssen ständig um diese Ecken schauen, die schwierigen Fragen stellen, und im Laufe der Zeit werden wir in der Lage sein, Muster und Antworten aufzubauen.
Was unser verantwortungsbewusstes KI-Ökosystem bei Microsoft so stark macht, ist, dass wir das Beste aus Forschung, Politik und Technik kombinieren. Es ist dieser dreigleisige Ansatz, der uns hilft, um die Ecke zu schauen und zu antizipieren, was als nächstes kommt. Es ist eine aufregende Zeit in der Technologie und ich bin sehr stolz auf die Arbeit, die mein Team leistet, um diese nächste Generation von KI-Tools und -Diensten auf verantwortungsvolle Weise der Welt zur Verfügung zu stellen.“
Ethische KI-Integration: 3 Tipps für den Einstieg
Sie haben die Technologie gesehen und möchten sie gerne ausprobieren – aber wie stellen Sie sicher, dass verantwortungsbewusste KI Teil Ihrer Strategie ist? Hier sind Nataschas Top-3-Tipps:
- Denken Sie gründlich über Ihren Anwendungsfall nach. Fragen Sie sich, was sind die Vorteile, die Sie sich sichern möchten? Welche potenziellen Schäden versuchen Sie zu vermeiden? Ein Folgenabschätzung kann ein sehr hilfreicher Schritt bei der Entwicklung Ihres frühen Produktdesigns sein.
- Stellen Sie ein vielfältiges Team zusammen, um Ihr Produkt zu testen vor der Veröffentlichung und fortlaufend. Techniken wie Rot-Teaming kann Ihnen helfen, die Grenzen Ihrer Systeme zu erweitern und zu sehen, wie effektiv Ihre Schutzmaßnahmen sind.
- Sei engagiert sich für kontinuierliches Lernen und Verbessern. Eine inkrementelle Release-Strategie hilft Ihnen, schnell zu lernen und sich anzupassen. Stellen Sie sicher, dass Sie über starke Feedback-Kanäle und Ressourcen für kontinuierliche Verbesserungen verfügen. Nutzen Sie Ressourcen, die nach Möglichkeit Best Practices widerspiegeln.
Finde mehr heraus: Auf Microsoft gibt es eine Vielzahl von Ressourcen, einschließlich Tools, Leitfäden und Bewertungsvorlagen Verantwortlicher KI-Prinzip-Hub um Ihnen bei der ethischen Navigation durch die KI-Integration zu helfen.
