Risikowahrnehmung, Deliktshaftung und neue Technologien

Künstliche Intelligenz, das Internet der Dinge und Robotertechnologien sind vielversprechend, um unser Leben durch sicherere Produkte und neue medizinische Technologien zu verbessern. Fahrerlose Autos reduzieren Unfälle, die durch menschliche Fehler verursacht werden. Robotergestützte Operationen erfordern minimale Einschnitte und ermöglichen eine schnellere Genesung. Intelligente Produkte, die mit dem Internet verbunden sind, ermöglichen es Herstellern, den Benutzern Sicherheitsrisiken mitzuteilen und die Probleme möglicherweise in Echtzeit zu beheben. Gleichzeitig können diese neuartigen Technologien auch neue Schadensrisiken mit sich bringen: Konnektivität kann die Systeme anfällig für Cyberangriffe machen, die selbstlernende und undurchsichtige Natur von maschinellen Lernalgorithmen kann es schwierig machen, Probleme vorherzusagen oder zu diagnostizieren, und die Komplexität von Systemintegration und Wertschöpfungskette könnten die Funktionsfähigkeit eines Produkts abhängiger von der anderer machen. In diesem Zusammenhang beschäftigt sich der Gesetzgeber in verschiedenen Ländern mit der Frage, ob und inwieweit der aktuelle Rechtsrahmen zu Sicherheit und Haftung Verbraucher ausreichend schützen kann.



Im Februar 2020 hat die Europäische Kommission ihre Bericht über die Sicherheits- und Haftungsauswirkungen von Künstlicher Intelligenz, dem Internet der Dinge und Robotik, die eine umfassende Diskussion dieser Fragen bietet. Die übergreifende Botschaft des Berichts lautet, dass die bestehenden Sicherheits- und Haftungsrahmen viele Aspekte dieser neuen Technologien bewältigen können, aber es gibt wichtige Lücken, die politische Entscheidungsträger schließen müssen, um den Verbraucherschutz zu gewährleisten und technologische Innovationen zu fördern.

In diesem Artikel diskutieren wir mehrere Lehren, die auf unserer eigenen und der Forschung anderer zu den Beziehungen zwischen Risikowahrnehmung, Deliktshaftung und Innovation basieren. Ohne Anspruch auf Vollständigkeit tauchen wir tief in zwei historische Situationen ein, die Computertomographie (CT)-Scanner und medizinische Implantate beinhalten. Diese Einstellungen erfassen einige der Schlüsselmerkmale vieler neuartiger Technologien während ihrer frühen Entwicklungs- und Kommerzialisierungsphasen. Erstens können viele Risikofaktoren – im Zusammenhang mit der Art und Weise, wie Menschen mit Maschinen interagieren, der Art und Weise, wie verschiedene Komponenten und verschiedene Produkte miteinander interagieren, und der Art und Weise, wie Verbraucher geschädigt werden – im Voraus schwer vorherzusagen sein. Zweitens ist eine Vielzahl von Akteuren an der Liefer- und Vertriebskette beteiligt, von denen viele Allzweck-Inputs und -Dienste bereitstellen (z. B. Daten-, Sensor- und Konnektivitätsanbieter). Drittens sind viele Endprodukthersteller kleine Innovatoren, die möglicherweise nicht in der Lage sind, die Haftungskosten für unerwartete (und nicht versicherte) Schäden zu tragen.





Eine grundlegende Herausforderung für viele neuartige Technologien besteht darin, dass viele Risiken schwer vorhersehbar sind. Daher ist es für politische Entscheidungsträger wichtig, die Anreize verschiedener Arten von Akteuren, einschließlich Medien, Experten und Unternehmen, aufrechtzuerhalten und zu nutzen, um neue Informationen über Risiken zu produzieren und zu verbreiten. Die Innovationsreaktionen der Hersteller von CT-Scannern auf die umfassende Berichterstattung über medizinische Strahlenrisiken zeigen, dass die Marktkräfte Unternehmen tendenziell dazu anregen, die Sicherheit zu erhöhen, wenn den Verbrauchern die Sicherheitsrisiken klar sind.

Es müssen Systeme und Verfahren vorhanden sein, um neue Risiken zu überwachen, zu melden, zu dokumentieren und zu bewerten, die von den Herstellern und den Aufsichtsbehörden in ihrer anfänglichen Risikobewertung nicht vorhergesehen wurden. Bei Künstlicher Intelligenz und Robotertechnologien sind dies beispielsweise die Sicherheitsauswirkungen neuer Nutzungs- oder Missbrauchsmethoden durch Menschen, neuer Interaktionen von Maschinen untereinander sowie neuer Funktionalitäten oder Verhaltensweisen autonomer Produkte und selbstlernender Algorithmen. Bestehende Überwachungs- und Meldesysteme nach dem Inverkehrbringen für viele traditionellere Technologien wie Medizinprodukte, Medikamente, Eisenbahn- und Flugverkehr bieten nützliche Beispiele. Hersteller und Betreiber sind verpflichtet, Produktausfälle, nachteilige Auswirkungen und Unfälle an eine zentrale Hinterlegungsstelle bei der zuständigen Stelle zu melden.



Medien spielen eine entscheidende Rolle bei der Verbreitung von Informationen über Gesundheitsgefahren an die breite Öffentlichkeit und beeinflussen dadurch das Sicherheitsbedürfnis. Zum Beispiel begann die Aufmerksamkeit des Kongresses und der Öffentlichkeit für das medizinische Strahlenrisiko, die wir in unserer Studie untersuchen, mit einer Reihe wirksamer investigativer Berichterstattungen von Die New York Times . Pro- oder Anti-Corporate-Voreingenommenheit und die Tendenz zur Sensation haben alle wahrscheinlich wichtige Auswirkungen auf die Risikowahrnehmung der Verbraucher. Die wirtschaftswissenschaftliche Literatur zu Medienverzerrungen legt nahe, dass Wettbewerbspolitik und -vorschriften zur Förderung der Medienvielfalt und -unabhängigkeit wichtig sind, um viele dieser Verzerrungen zu reduzieren und die Genauigkeit und Objektivität der Berichterstattung aufrechtzuerhalten.14Darüber hinaus können Social-Media-Algorithmen, die Echokammern aufrechterhalten, auch zu extremeren Risikowahrnehmungen führen. Transparente Algorithmen und Plattformdesigns, die die Interaktion zwischen verschiedenen Benutzern fördern, können in dieser Hinsicht von Vorteil sein.fünfzehn

Regulierungsbehörden können die Festlegung von Industriestandards ergänzen, indem sie klare Leitlinien bereitstellen, Technologienutzer besser informieren und eine klare Androhung eines formellen Eingreifens demonstrieren, wenn die Branche nicht genug tut. Im Fall von CT-Scannern hat die FDA, obwohl die FDA beschlossen hat, der Industrie die Initiative zur Überarbeitung der Sicherheitsstandards zu überlassen, auch i) eine klare Reihe von Verbesserungsvorschlägen an den Branchenverband der Gerätehersteller und ii) Empfehlungen an medizinische Berufsverbände vorgelegt die bildgebende Einrichtungen, Radiologen und radiologische Technologen regeln, wie sie zusätzliche Fälle übermäßiger Strahlenexposition am besten verhindern können. Letzteres informierte die Anwender von Technologien (die Mediziner) besser über das Strahlenrisiko und ihre eigenen Verbindlichkeiten, was den Herstellern weitere Anreize gab, die Sicherheit durch Erhöhung der Sicherheitsnachfrage zu erhöhen.

Politische Entscheidungsträger sollten auch überlegen, wie sie die Erkenntnisse aus der Verwendung und Unfällen von bereits auf dem Markt befindlichen Produkten am besten nutzen können, um die Risiken zukünftiger Technologien zu bewerten Vor sie dürfen den Markt betreten. Dies kann erreicht werden, indem die zuständigen Behörden oder Standardisierungsorganisationen beauftragt werden, diese Erkenntnisse auf eine Weise zu kodifizieren, die auf ähnliche und verwandte Technologien verallgemeinert werden kann. Wie oben erörtert, erscheint es effektiv, wenn solche Erkenntnisse klar kodifiziert und dem Markt, einschließlich der Verbraucher, der Betreiber dieser Technologien (wie Ärzte und andere Gesundheitsdienstleister für Medizinprodukte), den Gerichten und den Medien vermittelt werden können. Wenn diese Parteien besser informiert sind, können die Anreize für Unternehmen erhöht werden, die Marktnachfrage nach Sicherheit zu nutzen.



Neben der Erstellung und Verbreitung von Risikoinformationen haben Sicherheitsvorschriften und Deliktshaftungssysteme auch die Aufgabe, Anreize für Sicherheit zu schaffen, wenn die Marktkräfte nicht ausreichen. Die Literatur hat gezeigt, dass Deliktsreformen und andere Veränderungen in den Haftungssystemen Auswirkungen haben, die über ihre kurzfristigen Auswirkungen auf die Verbrauchersicherheit hinausgehen, indem sie die Verfügbarkeit und Rentabilität bereits auf dem Markt befindlicher Produkte beeinträchtigen. Sie haben auch langfristige Auswirkungen auf das Tempo und die Richtung des technologischen Wandels. Die Anerkennung dieser dynamischen Effekte ist entscheidend für die Bewertung von Kosten und Nutzen politischer Reformen. Während unsere und die Forschung anderer darauf hindeutet, dass das derzeitige System der unerlaubten Haftung im Allgemeinen das politische Ziel zu erreichen scheint, Anreize für Unternehmen zu schaffen, um die Sicherheit zu erhöhen, müssen politische Entscheidungsträger auf Bedingungen achten, unter denen die abschreckende Wirkung auf Innovationen potenziell die sozialen Gewinne aus größerer Sicherheit überwiegt. und die bestehenden rechtlichen Rahmenbedingungen durch gezielte Maßnahmen anpassen.

Die Materialknappheit, die die Medizinimplantatindustrie in den 1990er Jahren erlebte, deutet darauf hin, dass große und tief greifende Anbieter von Allzweck-Vormaterialien ihr Angebot möglicherweise auf Anwendungen beschränken, bei denen das Haftungsrisiko und die Unsicherheit am höchsten sind. Kleinere Lieferanten können zwar einspringen, die Kosten können jedoch höher sein (aufgrund des fehlenden Umfangs oder Umfangs) und die Qualitätskontrolle kann inkonsistent sein. Im Fall von künstlicher Intelligenz, dem Internet der Dinge und Robotertechnologien dürften viele Daten- und Softwareanbieter angesichts der Bedeutung von Größen- und Verbundvorteilen Allzweck-Input- und Technologieanbieter sein. Wenn sie aufgrund ihrer Bedenken hinsichtlich des Haftungsrisikos zögern, riskante, aber wirtschaftlich und sozial kritische Anwendungen zu beliefern, könnten Maßnahmen zur Verringerung dieser Unsicherheit entscheidend sein, um die Entwicklung neuer Technologien zu unterstützen.

Im Falle der oben diskutierten medizinischen Implantate hat der US-Kongress im August 1998 den Biomaterial Access Assurance Act (BAAA) verabschiedet, um den Lieferanreiz der Rohstoffproduzenten wiederherzustellen. Das Gesetz sieht eine Haftungsfreistellung für Lieferanten von Bulkkomponenten und Rohstoffen vor für dauerhafte Implantate, solange sie nicht an der Konstruktion, Prüfung und Herstellung der Implantate beteiligt sind und die Vorleistungen selbst nicht gefährlich oder mangelhaft sind. Es ist wichtig zu beachten, dass die BAAA auf denselben Prinzipien basiert, die dem Schutz nach Common Law für Komponenten- und Materiallieferanten zugrunde liegen. Während diese Common-Law-Bestimmungen während unseres gesamten Stichprobenzeitraums in Kraft waren, kann eine Richtlinie auf Bundesebene die Unsicherheit und die Kosten im Zusammenhang mit dem Gerichtsverfahren effektiv reduzieren – zum Beispiel können sich Kläger von Materiallieferanten auf das Gesetz berufen, um eine vorzeitige Entlassung aus dem Gerichtsverfahren zu beantragen Gericht – sowie die Komplikationen, die sich aus unterschiedlichen staatlichen Gesetzen ergeben können.16Unsere Analyse zeigt, dass sich die Innovation im Bereich medizinischer Implantate einige Jahre nach Inkrafttreten des BAAA erholt hat. Dies steht im Einklang mit der Idee, dass gezielte Maßnahmen auf Bundesebene, die Unsicherheit und Prozesskosten reduzieren, dazu beitragen, Angebotsanreize wiederherzustellen, die wiederum nachgelagerte Innovationen wiederherstellen.



Solche Haftungsfreistellungen sollten nur gezielt eingesetzt werden, da die Kehrseite darin besteht, dass den Anbietern die Anreize fehlen, ihre Lieferpolitik – etwa durch Erhöhung der Inputkosten oder durch verschärfte Kundenprüfungen – anzupassen, um die Zahl schädlicher Produkte im Markt zu reduzieren Markt. Wie im vorherigen Abschnitt erörtert, wäre es vorzuziehen, Lieferanten für den Ausfall der Haftungskosten, die nicht von insolventen Herstellern gedeckt werden, haftbar zu machen, wenn die Lieferanten diese Kosten effektiv an die Hersteller weitergeben oder unsichere aussortieren können, ohne dass ihnen zu hohe Verluste entstehen Produzenten, die riskant aussehen mögen, aber eigentlich nicht problematisch sind.

Während sich unsere Studie auf die Abwägung der Haftung von Lieferanten für unsichere Produkte konzentriert, ist die Frage, ob Nicht-Produzenten bei Insolvenz von Produzenten haftbar gemacht werden sollen, recht allgemein und gilt auch für andere kritische Akteure in der Wertschöpfungskette. Große Plattformen, Systemintegratoren und Konnektivitätsanbieter bieten beispielsweise auch kritische und potenziell generische Eingaben und Dienste, die die Interaktion zwischen Herstellern dieser neuen Technologien und Verbrauchern erleichtern.17Während die Wertschöpfungskette und die Systemintegration dieser aufkommenden Technologien neue Szenarien aufwerfen können, sollten ähnliche Leitprinzipien und die damit verbundenen Kompromisse, wie oben erörtert, ebenfalls gelten.

Bei neuartigen Technologien wie künstlicher Intelligenz, dem Internet der Dinge und Robotertechnologien sind viele der zugrunde liegenden Gefahren im Voraus nur schwer vorherzusagen, werden aber mit zunehmender Nutzung klarer. Die in diesem Artikel untersuchte Forschung zeigt, dass die Marktnachfrage nach Sicherheit die Entwicklung risikomindernder Technologien vorantreiben kann, wenn den Benutzern Risiken klar sind. Zu den öffentlichen Maßnahmen, die diese Marktkräfte ergänzen können, gehören Systeme und Infrastrukturen, die vor und nach dem Markteintritt Daten zu Gesundheits- und Sicherheitsrisiken sammeln und validieren, Risikoinformationen an die breite Öffentlichkeit weitergeben und den Datenzugang für Regierungsbehörden, Forschungseinrichtungen und Unternehmen fördern . Die wichtige Rolle von Allzweck-Input- und Serviceprovidern, Plattformen, Systemintegratoren für diese Produkte wirft auch die Frage auf, ob diese Akteure für unsichere Produkte haftbar gemacht werden sollten, die nicht von ihnen hergestellt werden. Unsere Forschung hat dokumentiert, wie Haftungsunsicherheiten unter Umständen dazu führen können, riskante, aber wirtschaftlich und sozialkritische Produkte zu liefern oder zu integrieren. Dies deutet darauf hin, dass Maßnahmen, die darauf abzielen, diese Unsicherheit zu mindern, für die Erhaltung von Innovationsanreizen von entscheidender Bedeutung sein könnten.