Ein Audi unter einer Illustration künstlicher Intelligenz.

Der Einsatz künstlicher Intelligenz in Fahrzeugen scheitert zum Teil an ethischen Bedenken und fehlenden Regelungen. Bild: Shutterstock/Irina Cher, Shutterstock/Annakek, Shutterstock/Ociacia

| von Christoph Hammerschmidt

Künstliche Intelligenz gilt als eine Art Allheilmittel zur Lösung so ziemlich aller Probleme, die sich per Computer bewältigen lassen: KI soll Banken bei der Bewertung der Solvenz potenzieller Kreditnehmer ebenso unterstützen wie sie die Entwicklung der Kriminalität in großstädtischen Hotspots vorhersagen soll. Geht es nach den Zukunftsforschern, wird KI die Diagnose komplexer Krankheiten erleichtern, sie wird eigenständig Kunstwerke in Malerei und Musik schaffen, Fertigungsstraßen optimieren und Autos das selbsttätige Fahren beibringen.

Doch genauso wie sie als Heilsbringer verehrt wird, wird KI auch gefürchtet. Sie ist eine Blackbox – nützlich zwar, aber auch maximal intransparent, denn Entscheidungen eines KI-Algorithmus sind oft nicht nachvollziehbar. Auch wenn sie objektiv richtig sein mögen – es verursacht Unbehagen, wenn hinterher keiner weiß, auf welchem Weg die allmächtige Maschine ihr Urteil fällt.

KI könnte alle Lebensbereiche verändern

Die Janusköpfigkeit von KI bringt etwa Bosch-Chef Volkmar Denner auf den Punkt, wenn er verkündet, dass er seinem Unternehmen Leitlinien zur Gestaltung und Nutzung der KI verordnet habe – Leitlinien, die tief in den Bereich der Ethik hineingehen. „KI wird alle Lebensbereiche verändern. Eine breite gesellschaftliche Diskussion ist deshalb notwendig“, sagt der Boss des größten deutschen Zulieferers.

Gleichzeitig aber weist Denner der KI für die eigene Strategie eine zentrale Rolle zu: Ab 2025 sollen alle Produkte der Stuttgarter entweder selbst mittels KI-gestützter Verfahren arbeiten oder sie sollen wenigstens mithilfe entsprechender Techniken hergestellt werden. Mit dieser Haltung ist Bosch keineswegs allein. Das Nachdenken darüber, wie man die Technik nutzen und zugleich zügeln kann, hat in der gesamten technischen Elite eingesetzt.

Ethische Grundsätze künstlicher Intelligenz

So hat der Verband der Elektrotechnik, Elektronik und Informationstechnik (VDE) gemeinsam mit der Bertelsmann-Stiftung kürzlich eine Studie zur Ethik der KI veröffentlicht. Die Untersuchung legt ihren Fokus auf die Umsetzung ethischer Prinzipien in der industriellen Praxis. Dazu, so die Verfasser, sei es vor allem notwendig, unscharfe Begriffe wie Transparenz oder Gerechtigkeit mit Inhalt zu füllen.

Zu diesem Zweck sollte ein „WKIO-Modell“ (Werte, Kriterien, Indikatoren, messbare Observable) mit einem Ethik-Rating und einer Risikoklassifizierung als Tool für die Bewertung von KI eingesetzt werden. Dieses Modell soll anwendungsneutral sein und sich auch auf KI in Autos anwenden lassen. „Auch die verschiedenen SAE-Levels für die Fahrzeugautonomie ließen sich damit abbilden“, versichert ein VDE-Sprecher. Denkbar sei die Einführung von KI-Labels, deren Einhaltung in Ausschreibungen und Auftragsbeschreibungen einfließen könnte.

Der TÜV sieht sich als Prüfinstanz

Geht es um die Bewertung technischer Risiken, ist in Deutschland eine Instanz nicht weit, die jedem Kind vertraut ist: der TÜV. Im Januar veröffentlichte der Verband der Technischen Überwachungsvereine (VdTÜV) ein Positionspapier mit einer Reihe von Postulaten, die auf eine Stärkung des Vertrauens in künstliche Intelligenz abzielen.

In einigen Punkten decken sich die Vorschläge des TÜV mit jenen des VDE. Dazu gehört etwa die Entwicklung eines Stufenmodells analog zu den in der SAE-Norm festgelegten Stufen beim automatisierten Fahren und die Entwicklung von Prüfszenarien, Methoden und Standards, um die Sicherheit der verwendeten KI-Systeme über den gesamten Produktlebenszyklus sicherzustellen.

Über der gesamten Studie schwebt die Institutionalisierung von Prüf- und Zertifizierungsverfahren durch unabhängige Instanzen. Und der TÜV – so der unausgesprochene Tenor des Papiers – sieht sich natürlich in dieser Rolle. Dass die Prüforganisation in diesem lukrativen Zukunftsgeschäft mitmischen möchte, überrascht nicht.

Privatwirtschaftliche Interessen des TÜV

Denn der TÜV, das ist weit mehr als jenes Werkstattnetz, das alle zwei Jahre den technischen Zustand aller Autos kontrolliert und entscheidet, ob ein Fahrzeug weiterhin am Straßenverkehr teilnehmen darf oder nicht. Der TÜV ist heute zu einem unübersichtlichen Konglomerat aus Prüf- und Zertifizierungsorganisationen herangewachsen, das zu großen Teilen privatwirtschaftliche Interessen verfolgt.

So macht die schiere Omnipräsenz des TÜV Interessenkonflikte wahrscheinlich. Eine Institution, die einerseits einvernehmlich in einem Gremium gemeinsam mit seinen späteren Kunden Richtlinien für die technische Sicherheit – auch für die KI – festlegen will, kann schwerlich an einer anderen Stelle der Wertschöpfungskette eine objektive, unvorbelastete Prüfung vornehmen und gegebenenfalls ihr Plazet verweigern, sagt Axel Friedrich, Verkehrsexperte der Deutschen Umwelthilfe.

Unheilvoller Einfluss auf das Prüfwesen

„So etwas ist eigentlich Aufgabe einer Behörde, denn es ist etwas, das uns alle betrifft“, sagt der langjährige Mitarbeiter des Umweltbundesamtes, der die Materie von innen kennt. Auch die Öffnung des Prüf- und Zertifizierungsmarktes für konkurrierende Prüfer und die Kommerzialisierung von eigentlich hoheitlichen Überwachungsfunktionen habe einen unheilvollen Einfluss auf die Qualität des Prüfwesens ausgeübt.

Denn jetzt herrscht im Markt für Prüfdienstleistungen Wettbewerb – und die Industriekunden können sich aussuchen, von wem sie sich ihr Testat geben lassen. „Wir haben in Deutschland eine Konkurrenzsituation zwischen 13 technischen Diensten, die Autos für die Zulassung prüfen“, konstatiert Friedrich. „Eine solche Konkurrenzsituation führt in der Regel eher zu weniger Qualität, statt die Qualität zu verbessern.“

Prüfungen garantieren keine Sicherheit

Dass diese Warnung kein leeres, womöglich ideologiegetriebenes Gerede ist, zeigte sich im Januar 2019, als im brasilianischen Brumadinho der Damm eines Rückhaltebeckens in einem Eisenerztagebau brach und eine Schlammlawine mehr als 250 Menschen in den Tod riss. Der Damm war wenige Monate zuvor vom TÜV Süd geprüft und für sicher befunden worden. Beobachter sprachen von engen personellen Verflechtungen zwischen dem Betreiber der Mine und dem TÜV.

In der Folge erhob die zuständige Staatsanwaltschaft Anklage unter anderem gegen fünf TÜV-Mitarbeiter. Der Vorwurf: Um die Geschäftsbeziehungen zum Auftraggeber nicht zu gefährden, hätten die Prüfer ein „falsches Bild der Sicherheit“ aufrechterhalten, zitierte das Magazin Der Spiegel aus der Anklageschrift.

Die Prüfung von Anlagen, die per künstlicher Intelligenz gesteuert werden, dürfte kaum weniger Brisanz enthalten als die Prüfung von Staudämmen – vor allem dann nicht, wenn sie sich auf die Verkehrssicherheit auswirkt. Aus der hochgradigen technischen Komplexität von KI, gepaart mit einem hohen Risiko für die Allgemeinheit, ergibt sich eine explosive Mischung.

Welche Behörde könnte KI überprüfen?

Dazu kommt auch hier eine große Nähe zwischen Auftraggebern und Prüfern im Wechselspiel eines dynamischen Geschäftslebens. Daher soll, ja muss sichergestellt sein, dass die prüfende Instanz wirklich nur der Allgemeinheit verpflichtet ist – und nicht etwa einem zahlenden Kunden gegenüber. Aber wer käme sonst in Frage? Eine Behörde? Ja, aber keine, die gegenüber einem vorgesetzten Ministerium weisungsgebunden ist. „Es müsste schon eine Behörde mit einer besonders unabhängigen Stellung in Staat und Gesellschaft sein“, sagt TÜV-Kritiker Axel Friedrich.

Eine Behörde, die auch von einem Fachministerium nicht zurückgepfiffen werden kann, wenn es einmal hart auf hart geht. „Etwa so, wie der Bundesrechnungshof“, schlägt Friedrich vor. So weit muss man vielleicht nicht unbedingt gehen. Durch Schaden klug geworden, überlegt man jetzt in Brasilien, ob in Zukunft nicht der Staat die Prüfer beauftragen und überwachen soll, anstatt solche Aufträge von dem zu prüfenden Unternehmen selbst vergeben zu lassen.

Wie ist der TÜV organisiert?

Der Technische Überwachungsverein (TÜV) ist über die Jahrzehnte zu einer vielarmigen Prüf- und Zertifizierungsbehörde angewachsen. Die Organisation mit Wurzeln bereits im 19. Jahrhundert setzt sich heute aus verschiedenen Holdings und Landesgesellschaften zusammen, von denen manche im Dachverband VdTÜV zusammengefasst sind, andere nicht. Die einzelnen TÜV-Gesellschaften sind privatwirtschaftlich organisiert, firmieren teilweise sogar als Aktiengesellschaften, die aber nicht börsennotiert sind, um sich gegen unerwünschte Übernahmen zu schützen, wie es heißt.

 

Allein die drei größten TÜV-Gesellschaften (Nord, Süd und Rheinland) beschäftigen zusammen mehr als 55 000 Mitarbeiter. 2018 erzielten sie einen Umsatz von gut 5,6 Milliarden Euro. Sie entfalten ihre Tätigkeit nicht nur in Deutschland und Europa, sondern weltweit. Auch thematisch mischt der TÜV im Grunde überall mit, wo es um die Begutachtung, Bewertung und Zertifizierung von Sicherheit geht. Das Geschäft mit den allseits bekannten Prüfplaketten macht nur einen kleinen Teil der Aktivitäten aus. Der weitaus größere Rest entfällt auf die Begutachtung von Produkten und Systemen. Sogar in Geschäftsfeldern wie digitale Transformation oder Cybersecurity führt kaum ein Weg an den TÜVs vorbei.