30-31_Grenzen KI_IMP
| von Claas Berlin

Der aktuelle Hype um künstliche Intelligenz vermittelt den Eindruck, als habe man es mit einem Allheilmittel zu tun, mindestens aber mit einer Art „Schweizer Taschenmesser“ der Informatik. Doch hat KI tatsächlich das Potenzial, „die Menschheit gesünder, wohlhabender und glücklicher“ zu machen, wie der australische Wissenschaftler Toby Walsh in einem Interview sagte? Oder traut man ihr vielleicht doch zu viel zu? Haben Kritiker wie der verstorbene Physiker Stephen Hawking oder der Tesla-Wunderknabe Elon Musk recht, wenn sie mit düsteren Szenarien vor dem Einsatz von KI warnen?

Nicht nur Science­fiction-Fans und Labor-Nerds versprechen sich viel von KI. Praktisch alle Fahrzeughersteller und Zulieferer sowie zahllose Forschungseinrichtungen arbeiten aktuell an KI-Projekten. Denn die Technik ermöglicht es, die Grenzen der herkömmlichen Programmierung zu überwinden. Bei klassischen Formen des Programmierens muss der Algorithmus alle denkbaren Eventualitäten der jeweiligen Anwendung abdecken. Bei KI hingegen lernt die Maschine hinzu – KI-Systeme selbstfahrender Autos sollen Verkehrssituationen korrekt interpretieren, damit die Fahrzeuge selbsttätig geeignete Maßnahmen ergreifen können. Aus diesem Grund ist KI für das automatisierte Fahren von zentraler Bedeutung.

In Serienfahrzeuge konnte künstliche Intelligenz bislang noch kaum vordringen. Eine frühe Ausnahme stellt das Infotainmentsystem MBUX in Daimlers A-Klasse dar. Es merkt sich die Vorlieben des Benutzers in Bezug auf Mediennutzung, Fahrstrecken und Komfortfunktionen und hält dann die entsprechende Unterstützung bereit. Das System „lernt“ während seiner Dienstzeit mit und pflegt neue Erkenntnisse in sein Angebotsspektrum ein. Auch in einigen Assistenzsystemen der Stuttgarter Marke findet sich KI. „Bei den Serienfahrzeugen haben wir Systeme, die auf Basis neuronaler Netze die Bilder der Stereokameras auswerten, um beispielsweise Fußgänger zu erkennen“, sagt Daimlers KI-Experte Steven Peters. Für die Zukunft ist noch mehr zu erwarten. „Generell sehen wir bei Daimler KI als zentrales Werkzeug an – egal ob es um neue Produktfeatures oder bessere Prozesse geht“, so Peters.

Die Einsatzbandbreite reicht von Entwicklung und Produktion bis hin zu Controlling und HR. Auch für Dienstleistungen sei KI ein bedeutsamer Faktor, etwa bei der Allokation von Fahrzeugen im Rahmen von Sharing-Modellen. Besonders wichtig sind KI-Mechanismen für die Entwicklung des autonomen Fahrens. „Wenn wir über vollautomatisiertes Fahren reden – und auch schon auf den Zwischenstufen dahin – wird KI immer wichtiger. Autonomes Fahren kann nur mit künstlicher Intelligenz gelingen“, zeigt sich Steven Peters überzeugt.

Auch für viele Zulieferer ist KI ein erstrangiges Thema. Im Center for Artificial Intelligence von Bosch etwa tüfteln mehr als 150 Experten an KI-Lösungen. Anwendungen sind beispielsweise die vorausschauende Diagnose und Wartung von Batterien für Elektroautos ebenso wie natürlich die Automatisierung des Fahrens, wie ein Bosch-Sprecher erläutert. Trotz aller hochfliegenden Pläne: Den KI-Entwicklern wird wohl noch einiges Hirnschmalz abverlangt. Denn die Grenzen der maschinellen Intelligenz können auch schon mal überraschend eng gesteckt sein, wie bei wissenschaftlichen KI-Tagungen immer wieder sichtbar wird. Etwa wenn es, ganz banal, um das Erkennen von Verkehrszeichen geht

. Versuche mehrerer US-Universitäten zeigten, dass schon geringfügige, von Menschen als unwesentlich ausgeblendete Manipulationen an Verkehrszeichen ausreichten, damit die angeblich doch so intelligenten Maschinen die Schilder auf groteske Weise fehlinterpretierten. In der Industrie streitet niemand ab, dass vor der kommerziellen Nutzung von KI im Auto noch große Herausforderungen zu lösen sind. Auf der praktischen Ebene ist das die Bereitstellung der entsprechenden Rechenleistung in Systemen, die kompakt genug für die Integration in Serienfahrzeuge sind. Auch die Verteilung der Rechenaufgaben zwischen den Fahrzeugsystemen und der Backend-Infrastruktur muss noch gelöst werden, erläutert Demetrio Aiello, Leiter des Bereichs AI und Robotics bei Continental.

Die härteste Nuss, die es zu knacken gilt, liegt allerdings woanders. Heute lässt sich kaum zurückverfolgen, wie eine KI ihre Entscheidungen trifft. Die Undurchsichtigkeit ihrer Entscheidungsfindung macht sie unberechenbar. „Die Frage, wie ein formaler Nachweis zu führen ist, dass sich ein KI-System in allen denkbaren Situationen korrekt und sicher verhalten wird, kann in vielen Fällen noch nicht zufriedenstellend beantwortet werden. Insbesondere wenn komplexe neuronale Netze zum Einsatz kommen, kann ein Korrektheits- beziehungsweise Sicherheitsnachweis schwer, zuweilen sogar unmöglich sein“, sagt ein Bosch-Sprecher. „Die Erklärbarkeit der Entscheidungen ist eine Herausforderung“, bestätigt auch Continental-Mann Aiello.

Das formulieren unabhängige Forscher noch deutlicher und gehen weiter ins Grundsätzliche: „Diese Dinge zeigen uns, dass wir noch gar nicht vollständig verstehen, was in neuronalen Netzen vorgeht“, kommentiert Vincent Aravantinos, Kompetenzfeldleiter für autonome Systeme beim Forschungsinstitut Fortiss. „In der gesamten Kette der Sensorik vom Signal bis zu seiner Interpretation kann es Unsicherheiten geben, die man nicht im Griff hat und die zu fehlerhaften Entscheidungen der KI führen können.“

Ein Brennpunkt der Diskussion liegt in der Frage, wie – und ob überhaupt – KI-Systeme unverzichtbare Anforderungen der funktionalen Sicherheit erfüllen können, wie etwa den Standard ISO 26 262. „Die Vielfalt möglicher Fehlerszenarien beim autonomen Fahren ist einfach zu groß“, konstatiert Vincent Aravantinos. „Sie sprengt den Rahmen dieses Standards. Um zu beweisen, dass die KI das tut, was sie tun soll, müssen wir vielleicht neue Standards entwickeln.“

Bilder: Bosch, Flaticon

Der Eintrag "freemium_overlay_form_cit" existiert leider nicht.