Wenn in Zukunft selbstfahrende, sogenannte autonome Fahrzeuge, am Straßenverkehr teilnehmen werden, ermöglicht das die Künstliche Intelligenz (KI), die das Auto lenkt. Damit stellt sich unweigerlich die Frage: Wer kommt dafür auf, wenn die KI eines selbstfahrenden Autos eine Entscheidung fällt, die zu einem Unfall führt? Vor diesem Hintergrund will die EU-Kommission nun die europäischen Haftungsvorschriften für fehlerhafte Produkte nach fast 40 Jahren modernisieren und dabei auch die Haftungsregeln für Künstliche Intelligenz (KI) in der EU angleichen.
Dazu hat die Kommission zwei Gesetzgebungsvorschläge vorgelegt: für eine überarbeitete Produkthaftungsrichtlinie und für eine Richtlinie über KI-Haftung. Die neuen Vorschriften sollen zum einen Unternehmen Rechtssicherheit verschaffen, damit sie in innovative Produkte investieren können. Zum anderen geht es darum, dass Opfer angemessen entschädigt werden, wenn ihnen durch KI Schäden entstanden sind.
KI hat unterdessen bereits in zahlreiche Lebensbereiche Einzug gehalten, sei es bei Suchmaschinen im Internet, bei der Gesichtserkennung des Smartphones, in der Medizin oder bei Bewerbungen. Beim autonomen Fahren ersetzen etwa Radar-, Laser- oder Ultraschall-Sensoren, in Kombination mit Videokameras am Fahrzeug, die Augen und Ohren des Fahrers. Die dabei anfallende große Datenmenge wird von einer KI-Software „fusioniert“: Das heißt, die KI verknüpft und kombiniert die Daten so miteinander, dass daraus Fahrentscheidungen abgeleitet werden können.
Hierfür wird die KI im Wege des maschinellen Lernens mit ausgewählten Datensätzen trainiert. Dadurch wird die Künstliche Intelligenz erst in die Lage versetzt, komplexe Informationen so zu analysieren, dass etwa Straßenschilder „gelesen“ und andere Verkehrsteilnehmer oder -situationen erkannt werden können. Die daraufhin getroffenen Entscheidungen der KI werden dann unter anderem an Lenkung, Bremsen und Motorsteuerung weitergeleitet und von diesen Bauteilen entsprechend umgesetzt. So zumindest die Theorie. In der Praxis des Verkehrsalltags ist es noch nicht ganz so weit.
Da aber der Einzug von autonomen Fahrzeugen und damit von KI auch in weiteren Anwendungen absehbar ist, sah sich die EU-Kommission veranlasst, die europäischen Haftungsvorschriften für fehlerhafte Produkte im Sinne von mehr Rechtssicherheit zu modernisieren. Mit dem Vorschlag zur zivilrechtlichen Haftung von KI sollen den Kunden Instrumente für Abhilfe bei durch KI verursachten Schäden an die Hand gegeben werden, damit sie über das gleiche Schutzniveau wie bei herkömmlichen Technologien verfügen, erklärte die für Werte und Transparenz zuständige Kommissionsvizepräsidentin Věra Jourová. Es gelte stets, die Verbrauchersicherheit zu gewährleisten, fügte EU-Justizkommissar Didier Reynders hinzu. Angemessene Schutzstandards für die Bürgerinnen und Bürger der EU seien die Grundlage für das Vertrauen der Verbraucher und damit für erfolgreiche Innovationen, betonte er.
Was beinhalten die neuen Gesetzgebungsvorschläge der Brüsseler Behörde nun konkret zur Haftungsfrage bei selbstfahrenden Autos? Wichtig in dem Zusammenhang ist, dass die EU-Kommission eine Umkehr der Beweislast im Einzelfall anstrebt. Bislang muss im Rahmen der Produkthaftung der Hersteller für alle Schäden aufkommen, die durch ein fehlerhaftes Produkt entstehen. Nur muss der Geschädigte auch nachweisen, dass der Schaden durch das betreffende Produkt verursacht wurde. Das kann etwa bei einem KI-gesteuerten selbstfahrenden Auto schwierig sein. Deshalb will die Brüsseler Kommission künftig in klar definierten Einzelfällen eine Beweislastumkehr einführen – sprich: Der Anbieter eines Produkts hat im Schadensfall nachzuweisen, dass seine KI fehlerfrei funktionierte, um sich von der Haftung zu befreien.
Mit der sogenannten „Kausalitätsvermutung“ sollen die Schwierigkeiten der Opfer von KI behoben werden, detailliert erklären zu müssen, wie der Schaden durch ein bestimmtes Verschulden oder eine bestimmte Unterlassung verursacht wurde: Denn dies könne bei dem Versuch, komplexe KI-Systeme zu verstehen und sich darin zurechtzufinden, besonders schwierig sein, argumentiert die Kommission. Die Kausalitätsvermutung beinhaltet, dass bei bestimmten Verschulden „nach vernünftigem Ermessen von einem ursächlichen Zusammenhang mit der KI-Leistung ausgegangen werden kann“.
Zudem sollen die Opfer von KI künftig mehr Instrumente an die Hand bekommen, um rechtliche Entschädigung zu verlangen, indem sie in Fällen, in denen Hochrisiko-KI-Systeme betroffen sind, ein Recht auf Zugang zu Beweismitteln erhalten, die sich im Besitz von Unternehmen und Anbietern befinden. Dies bedeutet, dass Geschädigte in Zukunft das Recht erhalten sollen, von den Anbietern etwa Schulungs- oder Testdatensätze, Daten aus der technischen Dokumentation und Protokollen oder Informationen über Qualitätsmanagementsysteme verlangen zu können. Im Zweifel können sie das einklagen. Allerdings soll dann ein Gericht kontrollieren, dass nur tatsächlich erforderliche Daten offengelegt werden, um Geschäftsgeheimnisse zu schützen. Wenn ein Anbieter einer solchen Aufforderung nicht Folge leistet, dreht sich die Beweislast um und er muss nachweisen, dass seine KI nicht den Schaden herbeigeführt hat.
Mit den neuen Vorschriften soll ein ausgewogenes Verhältnis zwischen dem Schutz der Verbraucher und der Förderung von Innovationen hergestellt werden, wie die EU-Kommission betont. Zugleich will sie zusätzliche Hindernisse für Opfer beim Zugang zu Schadensersatz beseitigen und Garantien für den KI-Sektor festlegen, indem etwa das Recht eingeführt wird, einen Haftungsanspruch auf der Grundlage einer Kausalitätsvermutung anzufechten.
Damit KI-Technologien in der EU florieren, müssten die Menschen digitalen Innovationen vertrauen, erklärte Kommissionsvizepräsidentin Věra Jourová zur Modernisierung der Haftungsvorschriften. Mit dem Vorschlag zur zivilrechtlichen Haftung von KI sollen die Kunden demnach Instrumente zur Durchsetzung eigener Rechte bei durch KI verursachten Schäden an die Hand bekommen, damit sie über das gleiche Schutzniveau wie bei herkömmlichen Technologien verfügen, so die EU-Kommission. Das würde dann auch für selbstfahrende, KI-gesteuerte Fahrzeuge gelten. (aum)
Mehr zum Thema: künstliche Intelligenz , Haftungsregeln , EU Kommission , Anpassung
Teile diesen Artikel: