KI und autonome Systeme:

HFC liefert umfangreichen Abschlussbericht an die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin

Nach über 2 Jahren Forschungsarbeit übergab die HFC Human-Factors-Consult zusammen mit den Partnern IKEM (Berlin) und TÜV Nord (Düsseldorf) den Abschlussbericht zu dem Forschungsvorhaben „Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme“. Der Bericht kann über den Link www.baua.de/DE/Angebote/Publikationen/Berichte/F2432.html heruntergeladen werden.

Zentrale Fragestellung des Forschungsvorhabens war, ob und inwieweit der Einsatz von KI-Algorithmen (KI – Künstliche Intelligenz) in physischen Systemen der Industrie, Änderungen am bestehenden Rechtsrahmen wie beispielsweise Produktsicherheits- und Betriebssicherheitsrecht erforderlich machen. Als Bewertungsgrundlage wurde ein als Taxonomie ausgearbeitetes Kategoriensystem entwickelt, das Faktoren der Sicherheit in software-physischen (KI-)Systemen unter besonderer Berücksichtigung neuerer technischer Entwicklungen übersichtlich darstellt. Wesentliche Grundlage dieser Taxonomie waren umfangreiche Expertenbefragungen und ergänzende Inhalte aus der Literatur. Die Abbildung zeigt die 7 Dimensionen der Taxonomie und jeweiligen Unterkategorien.

Neben der Entwicklung der auf die Belange rechtlicher Bewertungen zugeschnittenen Taxonomie wurden im Zuge der Projektarbeit kritische Begrifflichkeiten wie „Intelligenz“, „autonom“, „selbst“, u.a. identifiziert und wissenschaftlich durchleuchtet. Eine Reihe dabei neu entwickelte Definitionen sind in einem Glossar zusammengefasst.

Auf Basis des entwickelten Kategoriensystems wurden vom Partner IKEM umfangreiche rechtliche Überlegungen beim Einsatz von KI in der Produktentwicklung bzw. generell im industriellen Umfeld angestellt und daraus abgeleitet Vorschläge zur Weiterentwicklung des Produktsicherheitsrechts ausgearbeitet. In dem Vorschlag „Anpassung des Produktbegriffs“ wird der bestehende Rechtsbegriff ‘Produkt‘ dahingehend ergänzt, dass eine Veränderung des Produkts im Rahmen einer „bestimmungsgemäßen“ Veränderbarkeit nicht zur Herstellung eines neuen Produkts führt. Im Zuge der Ausarbeitung alternativer Rechtsvorschriften wird der Begriff „wandelbar“ als eine Kombination mehrerer Dimensionen der entwickelten Taxonomie und eine „wandelbares Produkt“ definiert.

Als Rechtsfolge eines „wandelbaren Produkts“ wird ein angepasstes „Produktbegleitungskonzept“ erarbeitet. Den Hersteller sollten nach diesem Ansatz Pflichten zur Gewährleistung der Sicherheit über den gesamten bestimmungsgemäßen Produktlebenszyklus treffen.

Weitere Neuigkeiten