Nach der Digitalisierung folgt nun schon fast zwangsläufig die Algorithmisierung der Gesellschaft. Die damit einhergehenden Diskussionen zur Macht der Algorithmen sind dabei so alt wie der Computer selbst: Sei es die Rasterfandung in den 70igern, Kreditscoring in den 90igern oder die algorithmisch erzeugten Filterblasen in sozialen Netzwerken. Wann immer Algorithmen Entscheidungen auf Basis von Daten und Berechnungen treffen, stellt sich zwangsläufig die Frage nach Grundlage, Rechtmäßigkeit, Ethik und Moral – von Mensch und Maschine.
Die Diskussionen um Chancen und Risiken der Künstlichen Intelligenz, Autonomen Fahrzeuge und intelligenten (Killer-)Roboter tragen diese Ethikdiskussion aktuell sehr prominent in die Mitte unserer Gesellschaft. KI-Verfahren unterscheiden sich dabei nicht grundsätzlich von anderen Algorithmen: Sie sind weder gut noch böse; erst die Daten erwecken ihren wahren Charakter. Denn wie bei allen Algorithmen gilt auch hier: Garbage in – Garbage out!
Ein sehr schönes Beispiel ist der Microsoft-Chatbot „Tay“, der am 23. März 2016 nach nur 16 Stunden Betrieb wieder vom Netz genommen werden musste, weil er sich durch die Interaktionen auf Twitter in ein sexistisches und rassistisches Twitter-Monstrum verwandelt hat. Eine Reihe von Trollen hatte Tay gezielt mit entsprechenden Tweets gefüttert und Tay hat aus diesen Interaktionen dann seine eigenen, sehr fragwürdigen Aussagen generiert.
In der KI sprechen wir hier vom Bias. Ich bezeichne diesen gerne als Vorurteil oder Präferenz. Wenn wir uns die an Tay gerichteten Tweets anschauen, so ist die Präferenz sehr leicht zu erkennen. Schwieriger wird es mit Präferenzen, die unerkannt in Daten liegen. Füttere ich mein HR-System – ohne jede Absicht – mit Kandidatenprofilen, bei denen am Ende nur Männer eingestellt wurden, so haben es Frauen später schwer, durch die automatisierte Vorauswahl zu gelangen. Manipuliere ich bewusst und unentdeckt diese Daten, so kann ich ein solches System angreifen und Entscheidungen in meine Richtung beeinflussen. Zum Beispiel nur noch Frauen einstellen lassen. In der Kombination von Algorithmen und Daten liegt daher die eigentliche Gefahr.
Die drei Robotergesetze wurden von Isaac Asimov schon 1942 in seiner Kurzgeschichte „Runaround“ erstmals beschrieben. Im Jahr 2019 haben fast alle Unternehmen, viele Staaten und jede Forschungseinrichtung inzwischen ihre eigenen Ethik-Richtlinien zum Umgang mit KI. Ausgangspunkt war eine Konferenz in Asimolar im Jahr 2017, wo 1300 KI-Forscher sich auf 23 Prinzipien zum Umgang mi KI einigten. Ich persönlich finde dies absolut notwendig und habe daher selbst unterzeichnet. Ich nehme das Engagement der Politiker, Unternehmer, Forscher und Entwickler auch sehr ernst und halte dies nicht für Marketing. Kleine Randbemerkung: Entgegen der öffentlichen Wahrnehmung em-
pfinde ich die ethischen Standards in unserem Berufsstand der Nerds immer schon als außerordentlich hoch.
Sehr überrascht haben mich in diesem Zusammenhang die sehr offensiven Forderungen nach staatlicher Regulierung aus dem Silikon Valley, beispielsweise von Microsoft und Elon Musk. Dies zeigt uns, die ethischen Fragestellungen sind wichtig. Die Diskussionen darum sind wertvoll. Wir Techniker und Mathematiker sind nicht in der Lage, alle diese Fragen allein zu beantworten. Zumal auch damit direkt verbundene rechtliche Fragestellungen – wie haftet ein Algorithmus für Fehler, wie sanktioniert man sein Fehlverhalten – noch völlig ungeklärt sind.
Wir brauchen daher eine breite und sachliche gesellschaftliche Diskussion, die aktuell schon voll im Gange ist. Wir alle müssen hier Position beziehen und ganz am Ende eine sinnvolle gesetzliche Regulierung erwirken. Denn Algorithmen brauchen ein Gewissen. Menschen sollten immer eines haben.
