Interview: Digital-Kontrollverlust… Christoph Marischka im Gespräch

Digitalisierung
Sirenentöne oder Schlachtruf der “kannibalistischen Weltordnung”

Christoph Marischka ist Verfasser des Buches “Cyber Valley – Unfall des Wissens” und einer der Referenten beim diesjährigen Kongress der Neuen Gesellschaft für Psychologie am 6. und 7. März 2020 in Berlin.(*)

Wer treibt Digitalisierung und Künstliche Intelligenz voran?

Von selbstfahrenden Autos bis zu Personalauswahl per Gehirnscan, von möglicher Urteilsfindung bei Gericht durch Algorithmen bis zu neuen diagnostischen Möglichkeiten in der Medizin – Digitalisierung und Künstlicher Intelligenz begegnet man in den Medien fast täglich – mal als Riesenchance, mal als Horrorvision von einer Welt, in der Roboter die Herrschaft übernehmen werden. Aber welches sind wirklich die treibenden Kräfte, die der Öffentlichkeit beides als alternativlose Entwicklungen verkaufen wollen, bei denen Deutschland zusammen mit EU-Partner Frankreich unbedingt Gas geben müsse, um nicht den Anschluss an China und die USA zu verlieren? Darüber sprach der Schattenblick mit Christoph Marischka von der Informationsstelle Militarisierung (IMI).

Schattenblick (SB): Wenn Begriffe wie Digitalisierung und Künstliche Intelligenz (KI) täglich im Kontext mit absehbaren “disruptiven” – übersetzbar durch “zerstörerischen” – Innovationen genannt werden, stellt sich die Frage: Wer steckt dahinter? Ist es die Bundesregierung, die eine KI-Strategie beschlossen hat und diesen Beschluss anscheinend entschiedener umsetzt als die Klimaziele und manches andere?

Christoph Marischka (CM): Hochtechnologien wie diese, von denen sowohl ökonomische als auch militärische Quantensprünge erwartet werden – die von Ihnen erwähnten disruptiven Innovationen – spielen für die Politik eine große Rolle. Diese Innovationen vereinen die ökonomische Perspektive des Wettbewerbsstaates mit der geopolitischen Perspektive der Vorherrschaft und suggerieren die existenzielle Notwendigkeit eines Kampfes um Technologieführerschaft. Aber die treibenden Kräfte sitzen nicht in der Regierung.

SB: Wer treibt Digitalisierung und KI dann voran?

CM: Es fällt auf, dass die KI-Strategie der Regierung stark dem ähnelt, was Beratungsunternehmen wie Roland Berger an dringend erforderlichen Entwicklungsschritten bereits 2016 angeregt haben: zentrale Startup-Campi zu errichten, junge Wissenschaftler zum Gründen zu bewegen und unproduktives Kapital als Risikokapital zu mobilisieren. Roland Bergers Papiere und die anderer Berater fließen regelmäßig – manchmal wörtlich, manchmal umschrieben – in Dokumente und Entscheidungen der Bundesregierung ein.

SB: Das klingt, als setzten Beratungsgesellschaften die Demokratie außer Kraft.

CM: Und genau das geschieht auf einigen Gebieten. Ihre Rolle ist mit dem heutzutage für viele Entscheidungen erforderlichen Expertenwissen gestiegen. Es ist kein Zufall, dass im Koalitionsvertrag von 2018 über 70 Mal das Wort Digitalisierung und 7 Mal der Begriff Künstliche Intelligenz vorkommt. Die besondere Rolle von Beratungsgesellschaften ist in diesem Vertrag nicht zu übersehen. Sie kommen als scheinbar neutrale Experten daher. Die aufgrund ihrer Empfehlungen beschlossenen Maßnahmen sind nachweislich jedoch sehr direkte Umsetzungen von Forderungen sowohl der Industrie als auch der mit ihr verbundenen wissenschaftlichen Institute. Gleiche oder ähnliche Empfehlungen wie Roland Berger gaben auch Price Waterhouse Cooper und Capgemeni ab, die alle sehr nah an Ministerien dran sind und immer wieder von der Bundesregierung beauftragt werden. Diese Gesellschaften haben den Staat mehr oder weniger stark durchdrungen. Das ist eine andere Qualität als der Lobbyismus, den wir seit Jahrzehnten kennen. Hinzu kommt als treibende Kraft das Risikokapital.

SB: Welche Rolle spielt das Risikokapital?

CM: Das ist auch ein Faktor, den es so früher nicht in vergleichbarem Umfang gab. Die niedrigen Zinsen machen das Kapital erfinderisch. Risikokapital ist auf der Suche nach zweistelliger Rendite; die neue Technologie bietet sich an. Deshalb versuchen Kapitalgesellschaften, dieses Feld zu besetzen und dazu die Politik Huckepack zu nehmen, sie ebenfalls zu Investitionen zu bewegen. Allein dadurch kommt bereits Rendite zustande, bevor noch ein wirkliches Produkt erzeugt worden ist. Es wird nach dem Vorbild der USA, wo Wissenschaftler schon länger gleichzeitig Forscher und Unternehmer sind, mehr und mehr in Startups investiert. Ganz logisch verändert es die Herangehensweise, wenn man neben dem Interesse an wissenschaftlichen Ergebnissen auch massiv den unternehmerischen Erfolg sucht. In Deutschland ist gerade eine ganze Reihe von Forschungsparks entstanden bzw. im Entstehen begriffen, so z.B. in Berlin und Tübingen. In diesen Einrichtungen verschwimmen die Grenzen zwischen Wirtschaft und Wissenschaft. Und die Politik übernimmt m.E. sehr unreflektiert – übrigens bei wenig Kontroverse zwischen Parteien und von ihnen repräsentierten Weltanschauungen – den Diskurs, der ihnen da vorgegeben wurde.

SB: Ist das Militär, also die Bundeswehr, keine treibende Kraft der Digitalisierung und Künstlichen Intelligenz?

CM: Militär ist immer an der Technik interessiert, die im weitesten Sinn militärisch genutzt werden kann. Und Teile des Militärs würden auch lieber heute als morgen eine Aufrüstungsspirale in Gang setzen, die an Vorgehensweisen in der Kriegswirtschaft erinnert. Thesenpapiere des Drei-Sterne-Generals Leidenberger aus den Jahren 2017 und 2018 zielten darauf, nach dem Vorbild des Spiralmodells aus der Softwareentwicklung Strukturen zu schaffen, die einem militärisch-ökonomischen Primat unterliegen und damit die Politik weiter entmachten.
In der Bundeswehr besteht Interesse an der KI u.a. im Bereich Krisenvorerkennung. Es geht dabei um militärnachrichtendienstliche Erkenntnisse in verschiedenen Regionen der Welt, um digitale Nachrichtenauswertung geheimdienstlicher Quellen und sozialer Medien. Das Militär interessiert sich auch für die Einstellung der Bevölkerung oder einzelner Bevölkerungsgruppen in relevanten Regionen oder für opposing militant forces. Gesucht wird nach Erkenntnissen darüber, wo vielleicht eine Guerilla-Bewegung entsteht, wo und wie man hearts und minds gewinnen kann.

SB: Worin sehen Sie die Gründe für die Zurückhaltung der Bundeswehr gegenüber der totalen Digitalisierung in den Streitkräften? Liegt diese nur daran, dass das Militär keinen Profit mit der Technologie machen kann?

CM: Die Bundeswehr unterscheidet sich in mancher Hinsicht deutlich von der Politik und den anderen genannten Akteuren: sie sieht in Digitalisierung noch nicht das Allheilmittel. Der Grund: Digitalisierung heißt Vernetzt-Sein. Einerseits will man durchaus, dass Soldaten überall vernetzt sind und militärische Entscheidungen auch mit Hilfe von KI getroffen werden können, aber andererseits macht Vernetzung angreifbar. Wenn ein Hightech-Panzer nicht mehr funktioniert, braucht es einen reboot (Neustart); Elektronik lässt sich nicht so einfach reparieren wie Mechanik. Das sind Gefahren, die das Militär besser erkennt als die Politik und skeptischer beurteilt als die Rüstungsindustrie. Die Bundeswehr bedenkt Risiken für die Soldaten, die Verwundbarkeit von Technik und Menschen und beobachtet sehr aufmerksam, was in vielen anderen Bereichen durch Digitalisierung und KI alles schief geht. Denken Sie an die vielen Hackerangriffe auf sensible Daten in Politik und Wirtschaft, an die abgestürzten Boeing 737max oder an Unfälle bei Tests mit selbstfahrenden Autos.

SB: Bei der Rüstungsindustrie scheint es eine ähnliche Zurückhaltung nicht zu geben. Ihr Kollege Thomas Pflüger vom IMI hat auf einer Tagung im November davon gesprochen, dass die neuen europäischen Rüstungsbudgets auf Vorlagen der Rüstungslobby basieren würden. Beim Europäischen Verteidigungsfonds (EVF), für den 2021 bis 2027 13 Mrd. aus dem EU-Haushalt vorgesehen sind, sollen mindestens vier bis acht Prozent der Gelder in “disruptive Technologien” fließen.

CM: Richtig. Es ist m.E. symptomatisch, dass Thierry Breton als Kommissar für Binnenmarkt und Dienstleistungen mit der erweiterten Zuständigkeit für Verteidigung und Raumfahrt in der EU-Kommission diesen Fonds verwalten wird. Breton war zuvor Chef von Atos, einem der größten europäischen IT-Unternehmen mit engen Verbindungen zur Rüstungsindustrie. Atos ist in Deutschland für das Projekt HaFIS (Harmonisierung der automatischen Führungs- und Informationssysteme) zuständig. In der Praxis ist dies das Cloud Computing der Bundeswehr. Atos fusionierte unter anderem mit dem Hardware-Hersteller Bull, der in Frankreich das Battle Management System der französischen Streitkräfte zur Verfügung stellte, durch das die Luft- und Bodentruppen miteinander vernetzt werden. Da Thierry Breton in seiner Zeit als Atos-Chef Fusionen vor allem im Bereich Rüstung vorangetrieben hat, ist zu erwarten, dass noch mehr Fusionen stattfinden werden, um die deutsch-französische Rüstungsindustrie auszubauen.

SB: Welchen Platz nehmen wissenschaftliche Einrichtungen wie Universitäten, Institute und wissenschaftlich tätige Stiftungen in diesem Zusammenhang ein?

CM: Sie undifferenziert als neutrale Institutionen anzusehen, wäre naiv. Die Zusammenarbeit von Wissenschaft und Industrie ist weit fortgeschritten. Das im Koalitionsvertrag formulierte Ziel, 3,5 Prozent des Bruttoinlandsprodukts für Forschung auszugeben, hatte kurz vor der Einigung über den Vertrag die Max-Planck-Gesellschaft zusammen mit ihren Industriepartnern im kleinen Kreis gefordert. Auch die im Vertrag erwähnte Schaffung einer Agentur für disruptive Innovation, Cyber- und Informationstechnologie nach Vorbild der DARPA – bekannt für ihre absurden und riskanten Forschungsprojekte in den USA – stammt aus diesen Zirkeln.

SB: Erhält das IMI viele Hinweise von Whistleblowern auf bedenkliche Prozesse in Wissenschaft und Wirtschaft?

CM: Das Geheime ist nicht unser Schwerpunkt. Die meisten Informationen gewinnen wir aus mit mehr oder weniger Rechercheaufwand zugänglichen Dokumenten. Wir stehen außerdem in Kontakt mit der Zivilklauselbewegung, mit Studierenden und Forschenden, bei denen sich immer mal wieder ein Unwohlsein bei diesem oder jenem Projekt einstellt.

SB: In manchen Veröffentlichungen von KI-Kritikern wird der Technologie die Schuld an gesellschaftlichen Folgen – sei es dem prognostizierten Verlust zahlreicher Arbeitsplätze, sei es einer stark veränderten Kriegführung oder der Zerstörung der Privatsphäre gegeben. Wie schätzen Sie das ein?

CM: Dass es ferngesteuerte Bürgerkriege in weiten Teilen der Welt gibt, von Mauretanien über Mali, Libyen, Tschad, die arabische Halbinsel bis Afghanistan, wo Drohneneinsätze zur Normalität geworden sind, liegt nicht an der KI. KI wird entwickelt und genutzt; mit welchen Zielen, hängt von gesellschaftlichen Verhältnissen und den damit in Zusammenhang stehenden politischen Interessen ab.

SB: Schätzen Sie den Grad der Gefährdung durch KI auf diesem Gebiet so hoch ein, dass Sie sich ein Verbot wünschen würden?

CM: Das ist nicht realistisch und wäre auch nicht der richtige Weg. Die Geschwindigkeit, mit der auf diesem Sektor geforscht, entwickelt und implementiert wird, macht mir aber schon Angst. Eine seriöse Folgenabschätzung erfolgt nicht, ist aber aus meiner Sicht unverzichtbar. Die menschliche Souveränität gerät unter die Räder, fürchte ich, weil wir manche Systeme nicht mehr durchschauen und nach dem Wunsch der privaten Hersteller auch gar nicht durchschauen sollen.

Quelle: Schattenblick, 12. Februar 2020

http://www.schattenblick.de/infopool/sozial/report/sori0046.html