Nach a Durchführungsverordnung vom Februar 2019 , hat das US Office of Management and Budget (OMB) seine abschließende Anleitung zur Regulierung der Künstlichen Intelligenz (AI) am 17. November 2020. Dieses Dokument stellt die Strategie der US-Regierung zur KI-Aufsicht dar und verdient als solche eine sorgfältige Prüfung. Die Leitlinien des Weißen Hauses sind begründet und spiegeln ein differenziertes Verständnis von KI wider; Allerdings gibt es auch echte Bedenken hinsichtlich der langfristigen Auswirkungen auf die Regulierung von KI.
Zu Beginn gibt es viele positive Aspekte der KI-Regulierungsleitlinien des Weißen Hauses. Ihr Umfang ist angemessen, da sich die Regulierung der KI im Privatsektor grundlegend von der Einführung von KI-Systemen durch die Regierung unterscheidet, sodass letztere für ein separates Dokument reserviert werden. Es argumentiert auch angemessen für einen Ansatz für KI, bei dem die Regulierung spezifisch für den Sektor und die Art der KI-Anwendung ist, anstatt weitreichende Richtlinien, die für das breite Spektrum der KI-Nutzung keinen Sinn machen. Das OMB-Dokument verfolgt einen risikobasierten Ansatz und schlägt die Priorisierung eines stärkeren Schutzes für KI-Systeme vor, die das Potenzial für höhere Risiken aufzeigen. Das Dokument fordert auch Bundesbehörden auf, mit Normungsgremien zusammenzuarbeiten und sie insbesondere aufzufordern, sich an die Vorgaben des National Institute of Standards and Technology zu halten Bundes-Engagement-Plan zur Entwicklung technischer KI-Standards .
Andere Aspekte der Leitlinien sind weniger positiv. Der Ton des Dokuments ist sehr eindringlich auf das Versprechen der KI-Entwicklung und -Innovation, insbesondere für das Wirtschaftswachstum. Das ist verständlich, denn die digitale Wirtschaft rechnet für über 9% des BIP und wuchs vor der COVID-19-Pandemie um 6,8 % pro Jahr. KI ist ein großer Teil dieses Sektors und expandiert auch in viele andere Sektoren. Obwohl der wirtschaftliche Wert von KI wichtig ist, konzentrieren sich die Leitlinien zu sehr darauf, dass die Regulierung ihre Innovation und Einführung nicht behindern sollte. Das Dokument stellt eine Reihe von nicht-regulatorischen Ansätzen für KI fest und enthält einen Abschnitt zum Abbau von Hindernissen für den Einsatz und die Nutzung von KI, wird jedoch nicht durch eine breite Kontextualisierung der KI-Schäden ausgeglichen.
In den OMB-Leitlinien wird deutlich darauf hingewiesen, dass viele KI-Anwendungen nicht unbedingt neue Probleme aufwerfen. Diese Behauptung ist teilweise richtig, da sich die Regierung nicht um viele KI-Anwendungen kümmern muss. Aber auch das Gegenteil ist der Fall: Viele KI-Anwendungen des privaten Sektors werfen durchaus neue Probleme auf. KI-Systeme können Diskriminierung systematisieren und Macht von Verbrauchern und Mitarbeitern an vorderster Front umverteilen. KI-Systeme können auch eine groß angelegte Unternehmensüberwachung ermöglichen. Sie können all dies tun, während sie Prozesse für Einzelpersonen schwerer verständlich machen und möglicherweise ihren Rechtsweg für Schäden untergraben.
was ist gerade am himmel
Diese Fragen werden im Dokument des Weißen Hauses nicht vollständig ignoriert. Es listet zehn Prinzipien für die Verwaltung von KI-Anwendungen auf, die mit den Empfehlungen führender ethischer KI-Experten übereinstimmen. Diese Liste umfasst: Öffentliches Vertrauen in KI, Öffentlichkeitsbeteiligung, Risikobewertung und -management, Fairness und Nichtdiskriminierung sowie Offenlegung und Transparenz. Das Problem ist, dass diese Kriterien als Checkliste angelegt sind, die abgearbeitet werden muss, bevor Agenturen neue Regeln für KI umsetzen können. Direkt vor der Liste der Grundsätze heißt es in den Leitlinien, dass Agenturen nur eine Neuregelung berücksichtigen sollten … angesichts des vorstehenden Abschnitts … dass eine Bundesregelung erforderlich ist. In Verbindung mit dem breiteren antiregulatorischen Rahmen des Dokuments deutet dies auf die Absicht hin, regulatorischen Maßnahmen zuvorzukommen.
Vorkaufsrecht ist problematisch, weil wir bereits wissen, dass es Bereiche gibt, die eine strengere Durchsetzung und Regulierung erfordern. Die Food and Drug Administration ist überlegen, wie sie ihre Regeln anpassen können um die Sicherheit von KI-gestützten Medizinprodukten zu gewährleisten und gleichzeitig deren Aktualisierung mit neuen Daten zu ermöglichen. Das Arbeitsministerium und die Equal Employment Opportunity Commission werden untersuchen müssen, wie sich algorithmische Tools auf die Arbeitnehmervergütung, die Arbeitssicherheit und die Einstellungsverfahren auswirken . Gesundheits- und Sozialdienste müssen lernen, durchzusetzen gesetzlicher Nichtdiskriminierungsschutz über algorithmisch zugewiesene Gesundheitsdienste. Ebenso das Verkehrsministerium braucht neue Regeln zur Gewährleistung der Sicherheit autonomer Fahrzeuge.
In Ermangelung aktualisierter Vorschriften und Durchsetzungsverfahren macht es der Status quo leicht, das Gesetz durch den Einsatz von Algorithmen zu umgehen. Algorithmen überwachen erfordert neue Ideen , technisches Know-how und zusätzliche Kapazitäten, und das Weiße Haus und das OMB sollten die Behörden ermutigen, die neuen Risiken der KI anzugehen. Leider ignorierte die Wohnungs- und Stadtentwicklung in einer endgültigen Regelung bezüglich unterschiedlicher Wirkungsstandards die neuen Herausforderungen der KI, macht es unmöglich für Kläger, um zu beweisen, dass sie durch Algorithmen diskriminiert wurden.
Maria, Königin der Schotten, enthauptet
Über den direkten Einfluss auf die Regulierung der Behörden hinaus können diese Leitlinien auch die zukünftige Rolle der OMB, insbesondere ihrer Abteilung für regulatorische Überprüfung, des Office of Information and Regulatory Affairs (OIRA), beeinflussen. Zeitweise in seiner vierzigjährigen Geschichte, OIRA hat gespielt eine aktive regulatorische Gatekeeper-Rolle. Diese Rolle konzentriert sich insbesondere auf „erhebliche Maßnahmen der Regulierungsbehörden“, darunter Vorschriften, deren wirtschaftliche Auswirkungen auf über 100 Millionen US-Dollar geschätzt werden, oder alternativ Vorschriften, die neue rechtliche oder politische Fragen aufwerfen . Während einige KI-Vorschriften wahrscheinlich die Kriterien für die wirtschaftlichen Auswirkungen erfüllen werden, werden viele weitere sicherlich neue rechtliche und politische Fragen aufwerfen. Die relativ kleinen OIRA-Mitarbeiter, die in Gruppen unterschiedlicher Bundesbehörden aufgeteilt sind, verfügen möglicherweise nicht über die erforderliche KI-Expertise, um diese aufkommenden neuen Vorschriften wirksam zu berücksichtigen. Es ist ungewiss, wie sich dieses Problem genau entwickeln wird, aber es ist möglich, dass die Leitlinien des Weißen Hauses, wie sie von OIRA interpretiert werden, neue Compliance-Belastungen schaffen.
Es kann nicht lange dauern, um herauszufinden, welche Auswirkungen diese Leitlinien haben werden. Der vielleicht wertvollste Beitrag dieser Leitlinien besteht darin, dass Bundesbehörden aufgefordert werden, innerhalb von sechs Monaten (bis 17. Mai 2021) Compliance-Pläne vorzulegen. Angesichts des Zustroms neuer Ernennungen aus der Biden-Administration ist es möglich, dass dieses Dokument neue Ideen und ein beispielloses Maß an Maßnahmen zum Aufbau vernünftiger und wirksamer KI-Regulierungen vorantreibt. Hoffentlich wird OIRA hauptsächlich daran arbeiten, den Wissensaustausch und die Zusammenarbeit zwischen Behörden, wie Cass Sunstein argumentiert hat .
Dies kann der Fall sein. Dennoch gibt es Anlass zur Besorgnis bei der Gestaltung dieses Dokuments, und seine Wirkung wird maßgeblich davon abhängen, wie es von künftigen Agenturmitarbeitern interpretiert und angegangen wird. Es ist schwer vorstellbar, dass die Änderung dieser Leitlinien angesichts all seiner anderen dringenden Probleme eine führende Priorität des Weißen Hauses von Biden sein wird. Es besteht jedoch die reale Gefahr, dass dieses Dokument zu einer Kraft wird, um den Status quo beizubehalten, anstatt ernsthafte KI-Schäden anzugehen.