Herr Dengel, Sie sind seit 1993 Professor am Fachbereich Informatik der Universität Kaiserslautern und Mitglied des Leitungspräsidiums am DFKI. Damit liegt Ihr wissenschaftlicher Schwerpunkt vor allem im Bereich Künstlicher Intelligenz (KI). Wie ist der Stand der KI-Forschung in Deutschland? Sind wir international so weit abgeschlagen wie einige Kritiker dies behaupten?
Andreas Dengel: Ich sehe hier weniger ein Problem in nicht vorhandener Technologie oder Expertise, sondern in der Art und Weise, wie mit diesem Wissen umgegangen wird. Wir Deutschen neigen dazu, etwas bescheiden zu agieren beziehungsweise überkritisch zu reagieren, insbesondere, wenn es um neue Technologien geht. Das führt nicht selten dazu, dass wir von anderen Nationen auf Grundlage unseres eigenen Wissensstandes überholt werden. Wir sind allerdings in Europa die Nummer eins und arbeiten auch international – hier müssen wir also mutiger und selbstbewusster werden, diese Ergebnisse und Fortschritte stärker zu präsentieren und damit nicht hinter dem Berg zu halten.
Stellt man Vergleiche mit zum Beispiel den USA oder China an, muss man differenzieren. US-amerikanische Konzerne bestimmen den Markt vor allem im Consumer-Segment. Ähnlich stellen sich die schnell wachsenden Konzerne in China auf, während diese zudem die Möglichkeit haben, mit sehr sensiblen Daten arbeiten zu können. In Deutschland wiederum ist uns ein solch zuletzt genanntes Vorgehen rechtlich nicht gestattet. Zudem wird unsere wirtschaftliche Gesamtleistung vor allem durch mittelständische Unternehmen geprägt, die bisher nur in Ansätzen mit gezielten Maßnahmen an die KI herangeführt werden konnten. Zusammenfassend kann man also sagen, dass es Deutschland deutlich schwer fällt, mit den Big Playern mitzuhalten, im europäischen Vergleich allerdings exzellent aufgestellt ist.
Wo besteht denn Nachholbedarf?
Dengel: Nachholbedarf besteht in der Vermarktung der eigenen Kompetenzen. Über bereits etablierte Netzwerke, wie es das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) beispielsweise mit der Industrie hat, müssen mittelständische Unternehmen stärker adressiert werden.
Das bietet wiederum die Chance, im internationalen Wettbewerb eine bessere Position einzunehmen, indem die Spezialanforderungen unserer heimischen Mittelständler bedient werden. Um diese Nachfragen zu decken, muss allerdings auch erstmal ein Bedarf bei den Kunden vorhanden sein und dazu gehört ganz wesentlich, KI und ihre Mehrwertdimensionen zu verstehen. Sicherlich könnte man hier noch aktiver werben sowie die Vorteile und Potenziale von KI aufzeigen. Veränderung braucht neben Zeit auch immer ein gewisses Maß an Akzeptanz und Verständnis. Die Message ist also: KI kann nicht nur von großen Organisationen genutzt werden, sondern bietet auch attraktive Nutzenoptionen für KMUs – und das muss aktiv vermittelt werden.
Es gibt die These, dass KI „Made in Germany“ zum Standortvorteil werden könnte, weil hier ethische und datenschutzrechtliche Richtlinien eher berücksichtigt werden als in Ländern wie China. Sehen Sie das ähnlich?
Dengel: Ich kann mir vorstellen, dass aktuell in Deutschland noch eine besondere Sensibilisierung für diese Thematik vorherrscht, aufgrund der im letzten Jahr eingeführten DSGVO. Zusätzlich zeichnet sich Deutschlands Kultur auch durch eine starke Unsicherheitsvermeidung aus, was sicherlich ein Katalysator für eine vertiefende Betrachtung solcher Themen ist. Langfristig ist es also durchaus vorstellbar, dass daraus ein Standortvorteil erwachsen kann. Die DSGVO regelt jetzt schon, dass vor dem Einsatz von KI eine Datenschutzfolgenabschätzung (DSFA) durchgeführt werden muss. Ethische und datenschutzrechtliche Prinzipien müssen überprüfbar sein und werfen dabei interessante Fragen beispielsweise bezüglich der Intervenierbarkeit auf. Das führt wiederum zu Fragestellungen juristischer Natur. Man denke einmal an autonomes Fahren und die Verantwortlichkeiten bei einem Unfall: Die Frage, die sich in diesem Bereich stellt, ist die nach dem Rechtssubjekt. Fakt ist: Es muss das Ziel sein, KI voranzutreiben und dabei gesellschaftliche und ethische Belange im Blick zu halten.
In Ihrem Vortrag auf der AI4U 2019 geht es auch um die Frage, inwiefern Entscheidungen von neuronalen Netzen nachvollziehbar sein sollten. Können Sie einen Bereich schildern, wo dieses Phänomen der Blackbox besonders kritisch ist?
Dengel: Die kognitive Fähigkeit von KI liegt, auch bedingt durch leistungsstarke Hardware, in einigen Bereichen weit über der des Menschen. Daher übertragen wir immer mehr Aufgaben an Systeme mit KI. Die Nachvollziehbarkeit von Entscheidungen, die diese treffen, ist aber essentiell. Nehmen Sie ein selbstfahrendes Auto, das sich in einer kritischen Situation entscheidet, einen Kinderwagen umzufahren, statt ein parkendes Auto zu rammen. Viele KI-Systeme sind heute Blackboxes, in die wir nicht hineinschauen können, da sie nicht mehr programmiert werden, sondern mit Beispieldaten auf ein Verhalten trainiert sind. Wir wissen also nicht, ob das Fahrzeug so reagiert hat, weil es den materiellen Schaden geringer eingeschätzt hat und das Kind im Kinderwagen nicht gesehen hat. Die Erklärbarkeit solcher Entscheidungen ist heute ein wichtiger Forschungsfokus. Ähnlich kritische Entscheidungen findet man auch in anderen Zusammenhängen wie beispielsweise bei medizinischen Robotersystemen oder im Bereich von Finanztransaktionen.
Welche Ansätze gibt es, die Entscheidungen von KI transparenter zu machen?
Dengel: Wir beschäftigen uns in meiner Arbeitsgruppe am DFKI seit einigen Jahren mit den Themen Interpretierbarkeit und Erklärbarkeit tiefer neuronaler Netze. Verfahren, die für einen breiten Einsatz von KI nicht mehr wegzudenken sind. Unsere Ergebnisse sind vielversprechend und versetzen KI-Systeme in die Lage, ihre Entscheidungen in natürlicher Sprache zu erklären. Dies ist ein wichtiger Schritt in Richtung transparente KI. Andere aktuelle Ansätze, allerdings im US-amerikanischen Bereich werden zum Beispiel von der DARPA (Defense Advanced Research Projects Agency) erarbeitet, die versuchen, die Blackbox KI zu öffnen und verständlicher zu machen. In der Bilderkennung kann man mit visuellen Erklärungen arbeiten und aus einem Convolutional Neural Network (CNN) zur Nachvollziehbarkeit lesbare Beschreibungen ableiten, die die Klassifizierung des Netzwerkes offenlegen. Auch IBM hat im letzten Jahr eine Software vorgestellt, die die gängigen KI-Frameworks wie zum Beispiel Tensorflow, AWS und Azure unterstützt und Entscheidungsgrundlagen transparenter machen soll. Harvard beschäftigt sich ebenfalls in einem Projekt (LSTMViS) mit der Verbesserung der Erklärbarkeit neuronaler Sequenzmodelle. Gemeinsam haben all diese Ansätze, dass sie bisher nur in Maßen die gewünschte Nachvollziehbarkeit liefern. Insgesamt ist es offensichtlich, dass im deutschen beziehungsweise europäischen Bereich mit Blick auf die EU-DSGVO weiterer Forschungsbedarf besteht. Zudem wäre eine Art KI-Aufsichtsbehörde wünschenswert, die eine Überwachungs- und Regulationsfunktion einnimmt.
Aus Ihrer Sicht als Wissenschaftler: Welche Bereiche unseres normalen Alltags werden am schnellsten von Künstlicher Intelligenz weitgehend bestimmt werden?
Dengel: Die Entwicklung der KI ist kein revolutionärer, sondern eher ein evolutionärer Prozess, der sich massiv auf unser Selbstverständnis und das Verhältnis von Menschen zu Maschinen auswirkt. Es ist bereits heute so, dass einige Bereiche unseres Alltags durch KI unterstützt werden und wir es oftmals gar nicht mehr wahrnehmen, da wir uns schon so sehr an diese Assistenz gewöhnt haben. Navigationssysteme im Auto, digitale Sprachassistenten wie Siri oder Alexa oder die Erkennung von Gesichtern durch unsere Smartphones sind einige Beispiele dafür. KI ist primär dort sehr gut einsetzbar, wo viele Beispieldaten vorhanden sind. In Bereichen, wie in der Landwirtschaft, der Fertigung, im Gesundheitsbereich, der Logistik, aber auch im Rahmen der täglichen Büroarbeit oder in der Freizeit gibt es vielfältige Potenziale, KI-Systeme zu entwickeln, die unsere Fertigkeiten und Fähigkeiten ergänzen oder unsere Entscheidungen unterstützen. Auf lange Sicht werden Menschen und KI daher immer enger zusammenarbeiten.
Das Interview führte Helmut van Rinsum, Journalist, Autor und Betreiber des Blogs „Künstliche Intelligenz im Marketing“. http://ki-marketing.com
