die Olympischen Spiele, Trojanisches Pferd der algorithmischen Videoüberwachung?

Öffnung von Geschäften an Sonntagen, Einrichtung eines Gesundheitszentrums in Seine-Saint-Denis, behördliche Untersuchung zukünftiger akkreditierter … Es ist ein umfassendes Gesetz, das die Nationalversammlung am Dienstag, den 28. März, verabschieden mussin einer feierlichen Abstimmung, um sich auf die Olympischen Spiele 2024 vorzubereiten. Aber Artikele 7 dieses Gesetzes ist besonders umstritten: Es sieht dies auf experimenteller Basis voral, der Einsatz von algorithmischer Videoüberwachung (VSA) zur Sicherung dieser Olympischen Spiele ist zulässig. Vereinigungen zur Verteidigung der Menschenrechte‘Hwenn sie mit dem Finger auf gefährliche Technologie zeigen.

In der allgemeinen Prüfungsphase wurde dieser Artikel des Olympiagesetzes mit 59 verabschiedet Ja-Stimmen (Präsidentenmehrheit; Les Républicains; Nationalversammlung) gegen 14 dagegen (Neue Ökologische und Soziale Volksunion). Es sieht versuchsweise vor, dass „Großveranstaltungen des Sports, der Freizeit oder der Kultur“ gesichert werden können durch sichergestellt werden D’Algorithmen.

Eine Technologie in Frage

„Algorithmische Videoüberwachung ist eine neue Technologie, die auf der Verwendung von Computersoftware basiert, die in der Lage ist, von Überwachungskameras aufgenommene Bilder in Echtzeit zu analysieren“, erklärt Arnaud Touati, ein auf digitales Recht spezialisierter Anwalt. „Die in der Software verwendeten Algorithmen basieren insbesondere auf der Technologie des maschinellen Lernens, was VSA-Systeme ermöglicht, im Laufe der Zeit, sich weiter zu verbessern und sich an neue Situationen anzupassen.”

Befürworter dieser Technologie rühmen sich der Fähigkeit, vorauszusehen Massenbewegungen oder die Detektion von zurückgelassenem Gepäck oder geworfenen Projektilen. Im Vergleich zur herkömmlichen Videoüberwachung ist alles automatisiert mit Algorithmen, die für die Analyse verantwortlich sind – was es laut den Verteidigern dieser Technologie ermöglicht, menschliche Fehler oder Unaufmerksamkeit zu begrenzen.

„Da Frankreich sich weltweit als Verfechter der Menschenrechte präsentiert, wird seine Entscheidung, während der Olympischen Spiele eine durch künstliche Intelligenz unterstützte Massenüberwachung zuzulassen, zu einer Generaloffensive gegen das Recht auf Privatsphäre, das Recht auf Protest und die Rechte auf Freiheit führen Versammlung und Ausdruck”, kritisierte Amnesty International in einer Pressemitteilung Nach die Annahme des betreffenden Artikels.

Frankreich, zukünftiger Bote der Videoüberwachung in Europa ?

Katia Roux, Expertin für Technologie und Menschenrechte bei der NGO, präzise die durch Technologie kristallisierten Ängste : „Nach internationalem Recht müssen Gesetze streng den Kriterien der Notwendigkeit und Verhältnismäßigkeit genügen., das hat der Gesetzgeber nicht nachgewiesen“, betont sie. „Wir sprechen hier von einer Bewertungstechnologie, die Verhaltensweisen bewerten und als gefährdet einstufen muss, um anschließend Maßnahmen zu ergreifen.“

„Diese Technologie ist heute nicht legal. In Frankreich gab es Experimente, aber nie die Rechtsgrundlage, die dieses Gesetz schaffen soll“, erinnert sie sich. “Auf europäischer Ebene auch nicht. Dies ist sogar Teil der laufenden Diskussionen im Europäischen Parlament über Technologien und die Regulierung von Systemen der künstlichen Intelligenz. Die Gesetzgebung könnte daher auch gegen die in Vorbereitung befindliche europäische Verordnung verstoßen.”

„Durch die Annahme dieses Gesetzes würde sich Frankreich als Vorkämpfer der Videoüberwachung innerhalb der EU ausgeben und einen äußerst gefährlichen Präzedenzfall schaffen. Es würde ein äußerst besorgniserregendes Signal an Staaten senden, die in Versuchung geraten könntenS diese Technologie gegen die eigene Bevölkerung einzusetzen”, geht weitersie.

Diskriminierende Vorurteile ?

L’une Befürchtung ist, dass der Algorithmus scheinbar kalt istD und unfehlbar, verbirgt nicht wirklich diskriminierende Vorurteile : „Diese Algorithmen werden durch eine Reihe von Daten trainiert, die von Menschen bestimmt und entworfen wurden. Sie werden daher in der Lage sein, sich zu integrieren Teinfach die diskriminierenden Vorurteile der Menschen, die sie entworfen und erdacht haben”, bemerkt Katia Roux.

„Der VSA wurde bereits für rassistische Zwecke missbraucht, vor allem von China, unter der ausschließlichen Aufsicht der Uiguren, einer im Land lebenden muslimischen Minderheit”, erinnert sich der Rechtsanwalt Arnaud Touati. „Aufgrund der Unterrepräsentation ethnischer Minderheiten in den Daten, die den Algorithmen für ihr Lernen bereitgestellt werden, gibt es erhebliche diskriminierende und rassistische Vorurteile. Laut einer MIT-Studie beträgt der Gesichtserkennungsfehler sicherlich 1 % für weiße Männer, aber meistens sind es 34 % für schwarze Frauen.”

Arnaud Touati hingegen will das Glas halbvoll sehen : “LNutzung des VSA bei VeranstaltungenEs istEreignisse dieser Größenordnung könnten durch Identifizierung auch Licht auf die diskriminierenden, frauenfeindlichen und rassistischen Vorurteile des Algorithmus werfen, zu viele Vorkommnisse um fair zu sein, Menschen aus Minderheiten als potenzielle Verdächtige”, erklärtEr.

Montagé durch die linke Opposition an die Nationalversammlung, um sich über die Situationen zu beruhigen, die entdeckt würdens, der Innenminister, GEs istrald darmanin, witzelte : “Nicht der [personnes portant des] Hoodies.” Von der Seite von Französische Regierung, wird geschätzt dass die Grenzen gefragt von das Gesetz – fehlende Gesichtserkennung, Datenschutz – wird ausreichen verhindern Allee ableitene.

„Wir haben Vorkehrungen getroffene-verrückt, so dass Ausschreibungen nur Unternehmen vorbehalten sind, die eine bestimmte Anzahl von Regeln einhalten, einschließlich des Hostings von Daten auf nationalem Territorium, Respekt für die CNIL undu DSGVO [Règlement général sur la protection des données, NDLR]“, verteidigt der moderne Abgeordnete Philippe Latombe, der gemeinsam mit der National Rally einen Änderungsantrag zur Ausschreibung zur Priorisierung europäischer Unternehmen unterzeichnet hat.S. „Wir wollen natürlich nicht, dass es sich um ein chinesisches Unternehmen handelt, das Daten in China verarbeitet und die Daten für andere Zwecke verwendet.“

„Die Garantien der Regierung es ist dürften uns nicht beruhigen. In Wirklichkeit, gibt es nicht wirklich mögliche Änderung, et diese Technologie Ost, und soich, problematisch und menschenrechtsgefährdend“, meint jedoch Katia Roux. „Das wird so bleiben, solange es keine ernsthafte Evaluation gibtsolange es keinen Nachweis für die Notwendigkeit und Verhältnismäßigkeit seines Einsatzes gegeben hat und solange es keine wirkliche Debatte mit den verschiedenen Akteuren der Zivilgesellschaft zu dieser Frage gegeben hat.

Sport, ewiges Testgelände

Wenn die Olympischen Spiele eindeutig das Ereignis sindEs istLetztendlich könnte der Versuch bereits mit der Verkündung des Gesetzes beginnen und vier Monate nach Ende der Paralympischen Spiele, am 31. Dezember 2024, enden. Es könnte sich also um eine Vielzahl von Veranstaltungen handeln.Es istmente, beginnend mit der nächsten Rugby-Weltmeisterschaft, im September-Oktober.

LGegner des VSA Furcht um seine Verwendung zu sehen, zunächst außergewöhnlich, schließlich verallgemeinert. Sportveranstaltungen dienen oft als Testgelände für Polizei, Sicherheit und neue Technologien. So, die Olympischen Spiele in London hatten zu generalis beigetragenIst Überwachung in der britischen Hauptstadt.

„Wir haben Angst, das zu verallgemeinern wird verlängern über diese außergewöhnliche Zeit hinaus”, erklärt Katia Roux, die sich daran erinnert, dass nach der Fußball-Weltmeisterschaft 2018 in Russland die Spracherkennungstechnologien, die hattenInnicht erlaubtes wurden verwendet, um die Opposition zu unterdrücken.

Schließlich befürchtet Amnesty International, dass sich die Videoüberwachung langfristig hin zu einer biometrischen oder Sprachüberwachung entwickeln wird. : „Die Gesichtserkennung ist nur ein Feature, das aktiviert werden muss“, warnt Katia Roux.

Das Olympiagesetz hat seinen Gesetzgebungsweg noch nicht abgeschlossen. Neben der feierlichen Abstimmung am Dienstag in der Nationalversammlung muss der Text noch pendeln mit der Senat, der ihm zuvor zugestimmt hatteuvEs ist, aber in anderen Begriffen. Jbis sich beide Kammern einigen.

Peter O’Brien von Tech 24 hat zu diesem Artikel beigetragen.