Die Verwendung datengestützter Risikobewertungen bei der strafrechtlichen Verurteilung bietet erhebliche potenzielle Vorteile. Zum Beispiel wurden Risikobewertungen zu Recht als ein Mechanismus befürwortet, der es Gerichten ermöglicht, Haftstrafen für Straftäter, bei denen es sehr unwahrscheinlich ist, dass sie wieder straffällig werden, zu reduzieren oder aufzuheben. Mehrere Bundesstaaten haben vor kurzem Gesetze erlassen, die den Einsatz von Instrumenten zur Risikobewertung vorschreiben. Und im Jahr 2017 die Amerikanisches Rechtsinstitut , eine hoch angesehene Organisation, die seit vielen Jahrzehnten daran arbeitet, das Recht zu klären, zu modernisieren und anderweitig zu verbessern, genehmigt ein vorgeschlagener endgültiger Entwurf des Musterstrafgesetzbuches: Verurteilung. Das Dokument würdigt insbesondere den Wert einer beweisbasierten Urteilsverkündung mit Hilfe von versicherungsmathematischen Instrumenten, die die relativen Risiken abschätzen, die einzelne Straftäter durch ihr zukünftiges kriminelles Verhalten für die öffentliche Sicherheit darstellen.
Neben den Vorteilen wirft die zunehmende Verwendung algorithmenbasierter Risikobewertungstools jedoch wichtige Bedenken hinsichtlich eines ordnungsgemäßen Verfahrens auf. Ein ordnungsgemäßes Verfahren ist ein zentrales verfassungsmäßiges Recht, das sowohl durch den Fünften als auch durch den Vierzehnten Verfassungszusatz gewährt wird, die beide Menschen davor schützen, dass Leben, Freiheit oder Eigentum ohne ein ordnungsgemäßes Gerichtsverfahren vorenthalten werden. Eine wichtige Unterkategorie des ordnungsgemäßen Verfahrens ist das verfahrensrechtliche Verfahren, das darauf abzielt, Fairness in Gerichtsverfahren zu gewährleisten, die Leben, Freiheit oder Eigentum gefährden.
Wenn in Strafverfahren algorithmenbasierte Risikobewertungsinstrumente verwendet werden, können sich im Hinblick auf das Recht der Täter, die Richtigkeit und Relevanz der bei der Verurteilung verwendeten Informationen anzufechten, Verfahrensfragen ergeben. Wir heben zwei dieser Herausforderungen hervor. Der erste bezieht sich auf das Recht eines Täters auf Informationen über den zur Berechnung der Risikobewertungen verwendeten Algorithmus, und der zweite bezieht sich auf das Recht des Täters, diese Bewertungen zu kennen.
Im Mai 2013 bekannte sich Eric Loomis vor dem Bezirksgericht für La Crosse County, Wisconsin, schuldig, versucht zu haben, vor einem Verkehrsbeamten zu fliehen und ohne Zustimmung des Besitzers ein Kraftfahrzeug zu führen. Im Vorfeld von Loomis‘ Urteilsverkündung im August 2013 wurden Daten über ihn in ein Risikobewertungstool namens COMPAS (Correctional Offender Management Profiling for Alternative Sanction) eingegeben. Der COMPAS-Algorithmus, der zur Erstellung von Risikobewertungen verwendet wird, ist zwar proprietär, die Ausgabe jedoch nicht. Der COMPAS-Bericht von Loomis wies auf ein hohes Rückfallrisiko hin.
Haben sie die Zeit geändert?
In der Anhörung im August 2013 wurde Loomis zu einer mehrjährigen Haftstrafe verurteilt. Der Richter bezog sich in seiner Entscheidung auf COMPAS und sagte:
Durch die COMPAS-Bewertung werden Sie als Person mit hohem Risiko für die Gemeinschaft identifiziert. In Bezug auf die Abwägung der verschiedenen Faktoren schließe ich eine Bewährung aufgrund der Schwere der Straftat aus und weil Ihre Vorgeschichte, Ihre Vorgeschichte zur Aufsicht und die verwendeten Instrumente zur Risikobewertung darauf hindeuten, dass Sie ein extrem hohes Risiko haben, wieder beleidigen.
Nachdem Loomis beim Bezirksgericht erfolglos einen Rechtsbehelf nach der Verurteilung beantragt hatte, legte er beim Obersten Gerichtshof von Wisconsin Berufung ein und argumentierte, dass das Vertrauen auf COMPAS eine Verletzung seiner Rechte auf ein ordnungsgemäßes Verfahren darstellt, da der geschützte Charakter von COMPAS einen Angeklagten daran hindert, die wissenschaftliche Gültigkeit der Bewertung anzufechten .
wer gelang edward vi
Im Jahr 2016 entschied der Oberste Gerichtshof von Wisconsin gegen Loomis, finden dass bei sachgemäßer Verwendung unter Beachtung der Einschränkungen und Vorsichtsmaßnahmen. . . Die Berücksichtigung einer COMPAS-Risikobewertung bei der Verurteilung verletzt nicht das Recht des Angeklagten auf ein ordnungsgemäßes Verfahren. Und, schrieb das Gericht, obwohl der Richter bei der Urteilsverkündung die Risikobewertung von COMPAS erwähnt habe, sei es nicht ausschlaggebend, ob Loomis inhaftiert werden sollte, die Schwere der Strafe oder ob er sicher und effektiv in der Gemeinde beaufsichtigt werden könne . Loomis legte daraufhin Berufung beim Obersten Gerichtshof der USA ein, der im Juni 2017 eine Anhörung seines Falles ablehnte.
Wenn ein proprietärer Algorithmus verwendet wird, um eine Risikobewertung zu erstellen, sollte sich die Frage des ordnungsgemäßen Verfahrens nicht darum drehen, ob die Risikobewertung – um den Begriff im Urteil des Obersten Gerichtshofs von Wisconsin zu verwenden – entscheidend war, sondern ob und wie sie verwendet wurde. Für Loomis wurde die COMPAS-Ausgabe angeblich nur verwendet, um die Bewertung der anderen berücksichtigten Faktoren zu verstärken. Der Oberste Gerichtshof von Wisconsin erklärte, dass das Urteilsgericht ohne diese Strafe genau dieselbe Strafe verhängt hätte. Dementsprechend stellen wir fest, dass die Prüfung von COMPAS durch das Bezirksgericht in diesem Fall nicht die Rechte von Loomis auf ein ordnungsgemäßes Verfahren verletzt hat.
Diese Logik führt zu einem beunruhigenden Paradoxon. Wenn einerseits der Einsatz eines proprietären Risikobewertungstools bei der Verurteilung nur dann sinnvoll ist, wenn ohne dieses die gleiche Urteilsentscheidung ergangen wäre, deutet dies darauf hin, dass die Risikobewertung bei Bewährungs- oder Urteilsentscheidungen absolut keine Rolle spielt. Wenn das der Fall ist, warum dann überhaupt verwenden? Wenn es andererseits potenzielle Auswirkungen haben könnte – trotz der gegenteiligen Behauptung des Gerichts in Wisconsin –, kann die Frage des ordnungsgemäßen Verfahrens nicht beiseite geschoben werden.
Ein weiteres wichtiges Thema eines ordnungsgemäßen Verfahrens betrifft die Informationen, die Straftäter über ihre Risikobewertung erhalten oder nicht. In einem kürzlich Fall in Kansas plädierte John Walls für keine Anklage gegen eine Anklage wegen krimineller Drohung. Anschließend wurde er mit dem Risikobewertungstool LSI-R (Level of Service Inventory-Revised) bewertet. Als er darum bat, die Ergebnisse zu sehen, erhielt er nur Zugang zu einem Deckblatt, das seine Gesamtpunktzahl zusammenfasste; seine Bitte, die spezifischen Fragen und Antworten sowie die mit diesen Fragen verbundenen Punktzahlen zu sehen, wurde abgelehnt.
Nachdem er von einem Bezirksgericht zu einer streng überwachten Form der Bewährung verurteilt worden war, die im Allgemeinen für Täter mit mittlerem oder höherem Risiko verwendet wird, focht er seine Strafe vor dem Berufungsgericht von Kansas an und argumentierte, dass die Weigerung, die Einzelheiten seines LSI-R Beurteilung sein Recht auf ein ordentliches Verfahren verletzt. Das Berufungsgericht entschied zugunsten von Walls und stellte fest, dass die Verweigerung des Zugangs zu seiner vollständigen LSI-R-Bewertung Walls es ihm unmöglich machte, die Richtigkeit der Informationen anzufechten, die bei der Festlegung der Bedingungen seiner Bewährungsfrist verwendet wurden. Das ursprüngliche Urteil wurde aufgehoben und der Fall zur Neuverurteilung in Untersuchungshaft genommen.
Das US-Justizministerium hat anerkannt dass die Verwendung von versicherungsmathematischen Risikobewertungen durch ein Urteilsgericht neue verfassungsrechtliche Fragen aufwirft. Und die Fragen sind nicht nur verfassungsrechtlicher Natur – es gibt auch wesentliche politische und technologische Fragen. Wie die beiden obigen Beispiele veranschaulichen, kann es sowohl in Bezug auf die Berechnung der Risikobewertungen als auch darauf, ob ein Täter darauf zugreifen kann, zu Intransparenz kommen. Ein zusätzlicher erschwerender Faktor sind die Rechte an Geschäftsgeheimnissen, auf die sich Unternehmen, die proprietäre Risikobewertungstools herstellen, berufen, wenn sie argumentieren, dass die Details ihrer Algorithmen nicht preisgegeben werden dürfen.
wann passiert die sonnenfinsternis
Fragen, die sich in den kommenden Jahren immer häufiger stellen werden, sind: Auf welchen Detaillierungsgrad eines Risikobewertungsalgorithmus und dessen Ergebnisse hat ein Täter Zugriff? Sind neue Gesetze erforderlich, um diesen Zugang zu erleichtern? Wie sollten die Geschäftsgeheimnisse von Unternehmen, die Instrumente zur Risikobewertung herstellen, behandelt werden? Und wie wird die Dynamik von KI-Algorithmen diese Fragen in Zukunft noch verkomplizieren, wenn auf künstlicher Intelligenz basierende Risikobewertungen üblich werden?
Wie bei so vielen Fragen an der Schnittstelle von Recht, Politik und Technologie gibt es keine einfachen Antworten. Eine grundlegende Annahme des Dialogs muss jedoch sein, dass das Recht auf ein ordnungsgemäßes Verfahren kein Kollateralschaden für die Einführung immer ausgefeilterer algorithmischer Risikobewertungstechnologien sein kann.