Letzten Monat hat die Stadt San Francisco beschlossen, die Verwendung verbieten der Gesichtserkennungstechnologie in seinen verschiedenen Regierungsbehörden. Obwohl ein vollständiges Verbot auf Dauer wahrscheinlich zu weit geht, spiegelt es eine echte Spannung wider, die der Einsatz der Technologie durch die Polizei erzeugt. Städte in den Vereinigten Staaten werden vor einem ähnlichen Dilemma stehen, wenn sie versuchen, das Versprechen der Technologie, die öffentlichen Dienste zu verbessern, mit der immensen Macht der Regierung – und ihrer Fähigkeit, Schaden anzurichten – in Einklang zu bringen. Bei der Formulierung einer kohärenten Politik zur Regelung der Gesichtserkennung sollten politische Entscheidungsträger das Wie, Wann und Warum eines so leistungsstarken Instruments berücksichtigen: angemessene Vertrauensschwellen für Fotos verwenden, Gesichtserkennung nur im Nachhinein statt in Echtzeit verwenden und einschränken seine Verwendung zu den schwersten Verbrechen. Schließlich müssen Regierungen den Schutz von Daten in Betracht ziehen, um Verletzungen sensibler personenbezogener Daten zu vermeiden.
Grundsätzlich funktioniert die Gesichtserkennungstechnologie, indem sie die Geometrie eines Gesichts scannt, um Schlüsselmerkmale (wie Nasengröße, Augenform, Kinnvorsprung usw.) und die Abstände zwischen ihnen zu erkennen. Auf diese Weise kann der Computer eine virtuelle Karte eines Gesichts erstellen, die er dann mit anderen gescannten Gesichtern in seiner Datenbank mit einer entsprechenden Vertrauensschwelle abgleichen kann. Derzeit wird die Gesichtserkennung am häufigsten in Anwendungen der Verbrauchertechnologie verwendet, z. B. zum Entsperren von Smartphones oder zum Kategorisieren Ihrer Facebook- und Google-Fotos.
Während diese Anwendungen den Verbrauchern Komfort bieten, wirft die Verwendung derselben Technologie durch die Regierung einige schwierige Fragen auf – insbesondere im Kontext der Strafjustiz. Im Gegensatz zu privaten Einrichtungen unterliegen Regierungsbehörden keinen Wettbewerb , und ihre Fehler haben in der Regel weitreichende Konsequenzen. Es ist eine Sache für die Gesichtserkennung, einen Freund auf Facebook falsch zu identifizieren; es ist etwas ganz anderes, einen Verdächtigen falsch zu identifizieren. Darüber hinaus ist die Technologie noch in der Reifephase und die Umsetzungsdetails können knifflig sein. Daher ist es sinnvoll, vor der Implementierung dieser Technologien ein hohes Maß an Genauigkeit und einige vernünftige Sicherheitsvorkehrungen zu fordern.
Ein Problem bei der Verwendung der Gesichtserkennung durch die Regierung besteht darin, dass die Technologie wie bei anderen algorithmischen Systemen nur so gut ist wie die Daten, mit denen sie trainiert wird. Die Rekognition-Software von Amazon, die die Strafverfolgungsbehörden in Oregon und Orlando bereits verwenden, hat unter Beschuss geraten für die Fehlidentifizierung von Farbigen mit höheren Raten als für Weiße. Amazon hat dem entgegengewirkt, dass sich diese Unterschiede bei der Verwendung seines empfohlen 99% Vertrauensschwellen, aber Kritiker weisen darauf hin dass Polizeibehörden derzeit nicht verpflichtet sind, diese hohen Standards zu verwenden (tatsächlich ist bekannt, dass Strafverfolgungsbehörden Bilder von Prominenten und forensische Skizzen in Gesichtserkennungssoftware einspeisen um zu versuchen, Streichhölzer zu bekommen ).
hat der mars ein ringsystem
Wir wissen, dass rassische Minderheiten bereits überproportional in das Strafjustizsystem involviert sind: A lernen Im Auftrag des Bezirksstaatsanwalts von San Francisco stellte sich heraus, dass Schwarze zwischen 2007 und 2014 zwar 6 % der Bevölkerung der Stadt ausmachten, aber 41 % der Festnahmen ausmachten. Ein übermäßiges Vertrauen in fehlerhafte Technologien – oder eine schlechte Implementierung dieser Technologie – riskiert nicht nur die Zunahme falscher Verurteilungen, sondern auch eine weitere Verschärfung der Rassenunterschiede im System.
Weitere Besorgnis erregend für die Bürger von San Francisco ist die Fähigkeit der Polizei, Gesichtserkennungstechnologie im Rahmen des breiteren Spektrums des Missbrauchs der Staatsmacht zu missbrauchen. Selbst wenn die Technologie Gesichter genau identifizieren kann, befürchten Befürworter, dass ein Überwachungsstaat geschaffen werden könnte, der die Zahl der Festnahmen wegen Kleinkriminalität erhöht, ohne die öffentliche Sicherheit zu verbessern. Die chinesische Regierung ist schon mit Gesichtserkennung Jaywalker zu verhaften und muslimische Minderheiten verfolgen . Bei unsachgemäßem Einsatz kann die Gesichtserkennungstechnologie einer freien, demokratischen Gesellschaft schaden – und eine abschreckende Wirkung haben, die sich negativ auf unser Recht auf Versammlungs-, Protest-, Abstimmungs- und Bewegungsfreiheit in öffentlichen Bereichen auswirkt.
Auf der anderen Seite sollten wir wollen, dass unsere Regierungsbehörden innovativ sind und die neuesten Instrumente einsetzen, die es ihnen ermöglichen, der Öffentlichkeit am besten zu dienen. Die Gesichtserkennungstechnologie hat echtes Potenzial, Strafverfolgungsbehörden zu helfen, Kriminelle zu fassen und die öffentliche Sicherheit zu verbessern. Zum Beispiel hat die Technologie bereits half bei der Identifizierung Jarrod Ramos, ein Verdächtiger, dem derzeit fünf Anklagen wegen Mordes ersten Grades drohen, als er sich weigerte, sich auszuweisen, nachdem die Polizei ihn festgenommen hatte. Die meisten Bürger würden sich wahrscheinlich damit wohl fühlen, wenn die Gesichtserkennungstechnologie verwendet wird. Und außerhalb der traditionellen Strafverfolgungskontexte kann die Gesichtserkennung auch verwendet werden, um Regierungsmitarbeiter in Hochsicherheitseinrichtungen zu autorisieren. Bekämpfung des Kinderhandels , und finden vermisste Personen .
Während also sicherlich Vorsicht geboten ist, hält uns ein völliges Verbot – ohne jegliche Vorkehrung, die eine Überprüfung der Richtlinie erforderlich macht – unnötigerweise davon ab, hilfreiche Tools zu verwenden, die die Strafverfolgung in schwerwiegenden Fällen unterstützen könnten, wenn herkömmliche Ermittlungsmethoden versagen.
Der Einsatz dieser Technologie erfordert jedoch echte Sicherheitsvorkehrungen; ein vorübergehendes Moratorium für seine Verwendung während der Entwicklung solcher Schutzmaßnahmen ist nicht ausgeschlossen. Wie könnte eine angemessene Aufsicht über den Einsatz der Gesichtserkennungstechnologie durch die Strafverfolgungsbehörden aussehen? Matthew Feeney vom Cato Institute legt einige nützliche Vorschläge, darunter ein Verbot der Echtzeitfähigkeit, das die Gesichtserkennung auf nachträgliche Ermittlungen beschränken würde, was unter anderem verhindern würde, dass polizeiliche Körperkameras zu uneingeschränkten Überwachungsgeräten werden.
Die Sicherstellung, dass die Gesichtserkennung erst im Nachhinein verwendet wird, würde auch eine Überprüfung durch Dritte ermöglichen. Der Gesetzgeber könnte beispielsweise verlangen, dass ein Richter oder ein Amtsrichter die vorgeschlagene Verwendung der Gesichtserkennung in jedem Fall überprüft, ähnlich wie beim Genehmigungsverfahren für Durchsuchungsbefehle. Darüber hinaus, um die Verwendung der Gesichtserkennung bei geringfügigen Vergehen zu verhindern, wie z Ladendiebstahl , könnte der Gesetzgeber feststellen, welche Straftaten eine Schwere erreichen, die das Eindringen in die Privatsphäre durch die Technologie rechtfertigen würde. Starke Beschränkungen der Personen, die in Gesichtserkennungsdatensätzen enthalten sind, können auch verhindern, dass Personen mit Parkverstößen in eine polizeiliche Schleppnetz geraten. Idealerweise sollten nur Personen mit aktivem Haftbefehl in den Datensatz aufgenommen werden.
wie sieht der mond gestern aus
Mit der Sammlung biometrischer Informationen, wie sie in der Gesichtserkennungstechnologie verwendet werden, kommt die damit verbundene Sorge, wie diese Informationen geschützt und gespeichert werden. Erst letzte Woche wurde die Nachricht von a Datenleck eines Auftragnehmers von Customs and Border Patrol, der Tausende von Fotos von internationalen Reisenden enthüllte, die zu Gesichtserkennungszwecken gesammelt worden waren. Das Risiko, dass personenbezogene Daten in falsche Hände geraten, ist sehr groß. Um dieses Risiko zu mindern, sollten Regierungsbehörden (und ihre Auftragnehmer) verpflichtet werden, angemessene Hygienestandards für die Cybersicherheit einzuhalten. Auch Beschränkungen der Speicherdauer biometrischer Informationen nach ihrer Erfassung können den Schaden einer Datenschutzverletzung verringern.
Wenn Städte schließlich ihre eigene Fähigkeit in Frage stellen, auf die technische Leistung dieser Tools zuzugreifen, sollten sie erwägen, eine externe Prüfung über den ursprünglichen Beschaffungsvertrag anzufordern. Eine wichtige Überprüfung gegen Missbrauch durch die Regierung oder versehentliche algorithmische Voreingenommenheit ist die Fähigkeit von Organisationen der Zivilgesellschaft, diese Systeme unabhängig zu testen, zu überprüfen, ob die Technologie genau funktioniert und sicherzustellen, dass keine Minderheiten ungerechtfertigt ins Visier genommen werden.
Da Städte wie Oakland und Somerville sowie Bundesstaaten wie Massachusetts ähnliche Gesetze erwägen, stellt sich auch die Frage, ob diese Richtlinien am besten auf Stadt- oder Bundesstaatsebene eingeführt werden. Dies ist nicht das erste Mal, dass Städte versuchen, bei Justizreformen eine Vorreiterrolle einzunehmen – zum Beispiel kürzlich Atlanta verbotene Barkautionen (obwohl Georgiens Gesetzgeber versucht haben, dieser Politik in dieser Legislaturperiode zuvorzukommen). Lokale Beschränkungen der Polizeitechnologie sind jedoch komplizierter, da Fälle manchmal mehrere Gerichtsbarkeiten berühren können. Im Idealfall wäre der Schutz der Privatsphäre der Bürger in einem bestimmten Bundesstaat einheitlich, sodass staatliche Soldaten und lokale Strafverfolgungsbehörden denselben Standards unterliegen.
San Francisco ist zwar die erste Stadt, die die staatliche Nutzung der Gesichtserkennung verbietet, aber es wird wahrscheinlich nicht die letzte sein. Städte und Bundesstaaten haben das Recht, auf den Pause-Knopf zu drücken, wenn sie letztendlich entscheiden, dass die Technologie nicht für den öffentlichen Einsatz bereit ist. Aber sie sollten jede Verzögerung auch mit einem konkreten Entwicklungsplan verbinden.
Ein Moratorium kann ein nützliches Instrument sein, um Raum zu schaffen, um die Arten von Beschränkungen und Schutzmaßnahmen, die wir einführen möchten, sorgfältig zu prüfen. Aber das ultimative Ziel eines Moratoriums sollte der richtige Einsatz dieser Werkzeuge sein und nicht eine reflexartige Reaktion auf eine neue Technologie, die beängstigend aussieht, ermöglichen. Die öffentliche Besorgnis über diese Technologie ist verständlich, aber angesichts solcher Befürchtungen wird sich ein ausgewogener Ansatz in Zukunft wahrscheinlich auszahlen.