Das BSI hat neue Leitlinien veröffentlicht, um sicherzustellen, dass die Gesichtserkennungstechnologie (FRT) als positive Kraft in der Gesellschaft wirkt. Ziel ist es, Organisationen dabei zu helfen, die ethischen Herausforderungen zu meistern, die mit der Nutzung der Technologie verbunden sind, und dadurch Vertrauen in ihre Nutzung aufzubauen.
Der Einsatz von Gesichtserkennungstools mit künstlicher Intelligenz (KI) wird immer häufiger eingesetzt, unter anderem zu Sicherheitszwecken wie bei der Krönung von König Charles oder bei großen Sportveranstaltungen wie Fußballspielen und zur Eindämmung von Ladendiebstahl. FRT bildet die physischen Merkmale einer Person in einem Bild ab, um eine Gesichtsvorlage zu erstellen, die mit anderen in einer Datenbank gespeicherten Bildern verglichen werden kann, um entweder ein hohes Maß an Ähnlichkeit zu überprüfen oder die Anwesenheit einer Person an einem bestimmten Ort zu einem bestimmten Zeitpunkt zu identifizieren.
Jüngste Untersuchungen des BSI haben gezeigt, dass 40 % der Menschen weltweit damit rechnen, bis zum Jahr 2030 biometrische Identifikationssysteme auf Flughäfen zu verwenden. Die zunehmende Verbreitung hat zu Bedenken hinsichtlich einer sicheren und ethischen Nutzung geführt, einschließlich Fehlerraten im Zusammenhang mit Rassen- oder Geschlechtsunterschieden sowie öffentlichkeitswirksamer rechtlicher Bedenken Fälle, darunter einer, bei dem es um von Uber verwendete Software ging. Bei einer Prüfung im Jahr 2022 wurde der Einsatz der Gesichtserkennung durch die Polizei bewertet und festgestellt, dass der Einsatz regelmäßig nicht den ethischen und rechtlichen Mindeststandards entsprach.
Der neue Standard wurde von BSI in seiner Rolle als britisches nationales Normungsgremium entwickelt, um Bedenken auszuräumen, indem Organisationen dabei unterstützt werden, sich mit den Tools vertraut zu machen und öffentliches Vertrauen aufzubauen. Dies folgt auf die BSI-Umfrage „Trust in AI“, aus der hervorgeht, dass 77 % der Menschen glauben, dass Vertrauen in KI der Schlüssel für ihren Einsatz in der Überwachung ist.
Der Verhaltenskodex wurde sowohl für öffentliche als auch für private Organisationen entwickelt, die Videoüberwachungssysteme (VSS) und biometrische Gesichtstechnologien nutzen und/oder überwachen. Er gilt für die gesamte Lieferkette, angefangen bei einer Bewertung zur Feststellung der Notwendigkeit des Einsatzes von FRT bis hin zur Beschaffung , Installation und sachgerechte Nutzung der Technik. Gesichtserkennungstechnologie – Ethische Nutzung und Einsatz in videoüberwachungsbasierten Systemen – Der Verhaltenskodex (BS 9347:2024) legt sechs übergeordnete Grundprinzipien der „Vertrauenswürdigkeit“ fest. Diese werden durch eine Zusammenfassung der Richtlinien untermauert, die von allen Beteiligten in der Lieferkette erforderlich und einzuhalten sind. Der Leitfaden deckt seine Anwendbarkeit in den Bereichen Governance und Rechenschaftspflicht, menschliche Handlungsfähigkeit und Aufsicht, Datenschutz und Daten-Governance, technische Robustheit und Sicherheit, Transparenz und Erklärbarkeit, Vielfalt, Nichtdiskriminierung und Fairness ab.
Da die Branche bis 2028 weltweit voraussichtlich einen Wert von 13,4 Milliarden US-Dollar haben wird, betont der Standard, wie wichtig es ist, die Ethik der KI und ihrer Anwendung in der FRT regelmäßig zu überprüfen. Es bettet bewährte Verfahren ein und gibt Hinweise zu den geeigneten Leitplanken für eine sichere und unvoreingenommene Nutzung von FRT durch die Definition von zwei Szenarien: Identifizierung und Verifizierung. Für Ersteres, beispielsweise die Identifizierung von Personen in Menschenmengen bei Veranstaltungen, verlangt der Standard, dass FRT in Verbindung mit menschlichem Eingreifen oder Human-in-the-Loop-Maßnahmen eingesetzt wird, um eine genaue Identifizierung sicherzustellen, bevor Maßnahmen ergriffen werden.
In Verifizierungsszenarien, in denen die Technologie autonom arbeiten kann, wie etwa bei der Zugangskontrolle zu Gebäuden, der Authentifizierung einer Zahlungstransaktion oder dem Öffnen eines Telefons, setzt der Standard Schutzmaßnahmen für das Lernen der Technologie, indem er sicherstellt, dass Trainingsdaten Sätze aus verschiedenen demografischen Pools und über eine Vielzahl hinweg umfassen von Beleuchtungsstärken und Kamerawinkeln, um Ungenauigkeiten zu vermeiden und das Risiko von Verzerrungen durch Fehlalarme zu verringern.
Scott Steedman, Generaldirektor für Standards bei BSI, sagte: „KI-gestützte Gesichtserkennungstools haben das Potenzial, durch ihre Fähigkeit, potenzielle Sicherheitsbedrohungen zu erkennen und zu überwachen, eine treibende Kraft für das Gute zu sein und der Gesellschaft zu nützen.“
„Dieser Verhaltenskodex soll Organisationen dabei helfen, die ethischen Herausforderungen zu meistern, die mit der Verwendung von FRT-Systemen verbunden sind, und dadurch Vertrauen in deren Verwendung aufzubauen.“ Ziel ist es, bewährte Verfahren zu verankern und Leitlinien für die geeigneten Leitplanken zu geben, die Organisationen einführen können, um Bürgerrechte zu schützen und Systemvoreingenommenheit und Diskriminierung zu beseitigen.“
Dave Wilkinson, Direktor für technische Dienste der British Security Industry Association, sagte: „Der Einsatz von FRT ist nicht ohne eigene Herausforderungen, sei es aufgrund der Genauigkeit der Technologie oder wie und wo sie eingesetzt wird.“ Datenschutzgruppen, Branchenvertreter und andere interessierte Parteien haben viele relevante Fragen zum angemessenen und verhältnismäßigen Einsatz dieser Technologie gestellt. Dieser Verhaltenskodex zielt darauf ab, Vertrauenswürdigkeit bei der Verwendung von FRT zu schaffen, indem er Schlüsselprinzipien festlegt, die den gesamten Prozess abdecken, von der Beurteilung der Notwendigkeit seiner Verwendung bis hin zur Sicherstellung, dass sein fortgesetzter Betrieb zweckmäßig und gerechtfertigt bleibt.
„Ausgerichtet auf das Verständnis der sich entwickelnden Regulierung sowohl hier im Vereinigten Königreich als auch in der breiteren internationalen Regulierungslandschaft, zielt der Verhaltenskodex darauf ab, Vertrauen bei denen aufzubauen, die sie entwickeln, nutzen und ihrer Nutzung unterliegen.“
