TÜV-Verband bringt sich bei der Künstlichen Intelligenz ins Spiel

Alle Hochrisiko-Systeme der künstlichen Intelligenz (KI) sollten vor dem Marktstart von einer unabhängigen Stelle überprüft werden. Nur so könne gewährleistet werden, dass die Anwendungen den Sicherheitsanforderungen entsprechen, erklärte jetzt Joachim Bühler, Geschäftsführer des TÜV-Verbands in seiner Reaktion auf die gemeinsame Position der Fraktionen des Europäischen Parlaments zur Gestaltung des AI Acts der EU.

Der TÜV-Verband fordert klare Rechtsgrundlagen, um die Menschen vor den negativen Folgen der Technologie zu schützen und gleichzeitig den Einsatz von KI in der Wirtschaft zu fördern. Europa könne mit einem ambitionierten Rechtsrahmen für KI seine Rolle als führender Wirtschaftsstandort ausbauen, meint Bühler. „Der Entwurf des AI Act sieht zwar vor, dass KI-Anwendungen bestimmte Anforderungen wie beispielsweise mehr Transparenz von Algorithmen erfüllen müssen. Es muss aber sichergestellt werden, dass die Vorgaben auch eingehalten werden. Eine unabhängige Überprüfung ist nur für einen kleinen Teil der KI-Systeme mit hohem Risiko vorgesehen.“

Die meisten kritischen KI-Anwendungen wie zum Beispiel Gesichtserkennung, Recruiting-Software oder Kreditwürdigkeitsprüfungen dürfen – so der TÜV-Verband-Geschäftsführer – mit einer reinen Herstellerselbsterklärung auf den Markt gebracht werden dürfen. Darüber hinaus soll die Einstufung als Hochrisiko-Anwendung teilweise über eine Selbsteinschätzung der Anbieter erfolgen – Fehleinschätzungen seien vorprogrammiert. „Hier besteht weiterer Handlungsbedarf, um Eingriffe in die Privatsphäre oder automatisierte Diskriminierung zu verhindern“, meint Bühler. (aum)