Geschätztes Risiko, geschätztes Publikum

Wenn Thorsten Schmidt von der Universität Freiburg nach Beispielen sucht für das Potential Künstlicher Intelligenz, muss der Mathematiker nicht lange nachdenken: Mit einer konkurrenzlosen Trefferquote sagen programmierte Elektronengehirne die räumliche Faltung von Proteinen vorher – allein aufgrund der Aminosäuren, aus denen die Proteine zusammengesetzt sind. Es ist noch gar nicht so lange her, da haben noch antiquierte Menschen (im Rahmen der bürgerwissenschaftlichen Initiative science@home) sich spielerisch dieser intrikaten und forscherzeitfressenden Aufgabe angenommen. Inzwischen müssen selbst die Topscorer aus Fleisch und Blut vor der codierten Intelligenz die Kreativwaffen strecken.

Die Suche nach Risiken, die mit dem Einsatz von KI verbunden sind, fällt Schmidt deutlich schwerer. Deepwater Horizon oder Tschernobyl bringt kaum jemand auf Anhieb in einen algorithmischen Ursache-Wirkungs-Zusammenhang. Dazu müsste man an- und voraussetzen, dass die Risiken von offshore Ölbohrungen und von Atomkraft unterschätzt wurden – nicht politisch, sondern statistisch. Dann, und nur dann wären die genannten Umweltkatastrophen (besser: Katastrophen für die Umwelt) Kausalfolge von statistischen Fehlern, die freilich endemisch sind in einer KI, deren Schlussfolgerungen im wesentlichen statistischer Natur sind, weil ihr ‚Wissen‘ letztlich auf der generischen Akkumulation bedingter Wahrscheinlichkeiten gründet.

Somit sind die Schwierigkeiten mit Risiken der KI letzten Endes Schwierigkeiten im Umgang mit Risiken überhaupt und betreffen – vorerst – die KI nur am Rande. Denn die Schwierigkeiten beruhen weniger auf der exakten Wahrscheinlichkeit des Eintreffens eines bestimmten Unglücks als vielmehr auf dessen Einschätzung resp. Schadensbewertung. Letztere hängt, und das ist sozialdemokratisch besonders kritisch, in stratifizierten, also ungleichen Gesellschaften davon ab, wen ein Unglück trifft. Etwas zugespitzt gesagt, ist in der prävalenten transatlantischen Wertegemeinschaft ein Tsunami, der thailändische Fischerdörfchen auslöscht, weniger schlimm als ein Flugzeug, das in den Wolkenkratzer einer Metropole stürzt. Und das schon allein deshalb, weil die Gefahr eines terroristischen Anschlags aus diversen Gründen, die nicht zuletzt auf wiederholte prominente Verurteilungen zurückgehen, für uns greifbarer ist.

Der Grundidee folgend, dass eine Technik wünschenswerter ist, die wir regeln und steuern können, obwohl sie weniger Chancen (i.d.R. Wirtschaftswachstumspotentiale) bereithält als eine Technik, deren angerichtete Schäden im ungünstigsten Fall irreversibel sind, vertritt Schmidt den fünfstufigen Aufbau eines Regulationsrahmens für disruptive Techniken. Auf der ersten Stufe sollen demnach Experten das Risiko einer Technik evaluieren und auf der zweiten Stufe entsprechend dieser Evaluierung Einlagen in Höhe des im maximalen Verlustszenario bezifferten Schädigungspotentials bei Kontrollbehörden hinterlegt werden, um die Summe im Schadensfall zur Behebung der Schäden zu verwenden. Ab Inbetriebnahme der Technik unterliegt die Technik einem Monitoring, das es infolge einer Re-Evaluierung durch die Experten den Behörden erlaubt, nach Ablauf einer zuvor festgelegten Frist den Technikbetreibern ihre Einlagen zurückzuerstatten.

Gegen dieses Modell der Rückversicherung ließe sich bei all seinen Vorzügen und Verdiensten vieles einwenden, was mit der monetären Bewertung von Schadensfällen zu tun hat oder auch mit der erforderlichen Eigenkapitalquote potentieller Marktteilnehmer auf einem hochkompetitiven Innovationsmarkt. Der schwerwiegendste Einwand dürfte jedoch in den Unwägbarkeiten liegen bei der Identifikation einer Technik als riskanter Technik. Denn das größte Risiko mit den potentiell verheerendsten Folgen sind immer die schwarzen Schwäne, die keiner auf dem Schirm hat, bis einer auftaucht. Und dann ist es in der Regel zu spät. Vor diesem Hintergrund sollte man stets bedenken, dass die Risiken der Kernkraft in den 50er-Jahren deutlich geringer eingestuft wurden als heutzutage, nach Three Mile Island, Tschernobyl und Fukushima.