Das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung begleitet und kommentiert seit nun vierzig Jahren ein Fülle an Themen. Im Interview sprechen wir mit Hans-Jörg Kreowski und Rainer Rehak über Aktivismus, langlebige Mythen der Informatik und durch Technik ausgelöste gesellschaftliche Umwälzungsprozesse.
Es gibt ihn seit Juni 1984, den Verein Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung, kurz FIfF. Seit 40 Jahren haben die Mitglieder den Anspruch, über die tiefgreifende Verflechtung von Informatik und Militär aufzuklären und sich für eine Abrüstung der Informatik in militärischen Anwendungen zu engagieren.
Sie setzen aufkeimenden Technik-Mythen mit fachlich fundierten Beiträgen etwas entgegen. Sie warnen vor überbordender Überwachung, werfen einen kritischen Blick auf die Tech-Konzerne und deren Geschäftsmodelle und bewerten Alternativen. Sie helfen auch ganz praktisch, beispielsweise zur Umgehung von Zensurmaßnahmen.
Anlässlich des vierzigjährigen Bestehens des FIfF haben wir mit Hans-Jörg Kreowski und Rainer Rehak darüber gesprochen, welche Rolle die Informatik im Bereich des Militärs damals und heute spielt. Welche Themen werden aktuell diskutiert?
Hans-Jörg Kreowski ist Professor (i.R.) für Theoretische Informatik an der Universität Bremen. Er ist Mitglied im Vorstand des FIfF und Mitherausgeber der Zeitschrift Wissenschaft und Frieden. Von 2019 bis 2022 war er außerdem Mitherausgeber des Grundrechte-Reports. Inhaltlich beschäftigt er sich in Wort und Schrift vor allem mit der Verflechtung von Informatik und Rüstung sowie mit der Entlarvung der Technikmythen rund um Digitalisierung und Künstliche Intelligenz.
Rainer Rehak ist wissenschaftlicher Mitarbeiter in der Gruppe „Digitalisierung, Nachhaltigkeit und Teilhabe“ am Weizenbaum-Institut für die vernetzte Gesellschaft. Er promoviert an der TU Berlin zu systemischer IT-Sicherheit und gesellschaftlichem Datenschutz. Er studierte Informatik und Philosophie in Berlin und Hong Kong und beschäftigt sich seit über fünfzehn Jahren mit den Implikationen der Computerisierung der Gesellschaft. Er ist Ko-Vorsitz des FIfF und Mitinitiator der „Bits & Bäume“-Konferenz für Digitalisierung und Nachhaltigkeit.
Das FIfF in mehr als drei Sätzen
Constanze Kurz: Was ist das FIfF in drei Sätzen beschrieben für die Menschen, die noch nie etwas von der Organisation gehört haben?
Hans-Jörg Kreowski: Technische Entwicklungen sind nicht automatisch zum Wohle der Menschheit – vielfach natürlich auch, aber nicht nur. Die technische Basis für den gigantischen gesellschaftlichen Umwälzungsprozess, in dem wir uns befinden, ist die Informations- und Kommunikationstechnik. Das FIfF versucht, den Vermittlungsprozess zwischen einer fachlich-technischen Seite und der Gesellschaft herzustellen und Fehlentwicklungen zu zeigen.
Constanze Kurz: Ist das FIfF also vor allem ein Vermittler und Kommentator?
Rainer Rehak: Ich würde es noch erweitern. Die Art, wie wir kommentieren, kann in Form von Vorträgen, Büchern bis hin zu EU-Konsultationen oder Sachverständigen-Auskünften in Parlamenten sein. Demnach sind wir beim FIfF nicht nur Kommentator:innen vom Seitenrand, sondern auch Teil der Entscheidungsfindung und der demokratischen Meinungsbildung.
Die zweite Seite unserer Aufgabe, wie es Hans-Jörg gesagt hat, besteht darin, über Fehlentwicklungen und Technikmythen aufzuklären. Dazu zählt, dass wir in beide Richtungen kommunizieren. Manchmal kann es sein, dass Kolleg:innen innerhalb der Informatik gar nicht mitbekommen, wenn ihre Technik für kritische Dinge eingesetzt wird.
Constanze Kurz: Was macht das FIfF besonders?
Rainer Rehak: Eine Stärke des FIfF ist, dass es Menschen mit Expertise verbindet, die sich für Gesellschaft und Technik interessieren.
Constanze Kurz: Das FIfF trägt auch den Begriff Frieden im Namen. Was hat Frieden damit zu tun, sich im FIfF zu engagieren?
Hans-Jörg Kreowski: Ich bin seit über fünfzig Jahren in einem sehr theoretisch-mathematischen Kontext wissenschaftlich tätig. Ich hatte aber von Anfang an den Anspruch, die gesellschaftlichen Auswirkungen von Wissenschaft mit im Blick zu haben. Konkret bedeutete das für mich, die unheilvolle Verflechtung von Informatik und Militär zu verstehen und einzuordnen.
Das Militär hat die Entwicklung von Softwaretechnik und Programmiersprachen sehr stark geprägt. Wir sehen bis heute einen enormen Einfluss des Militärs, etwa wenn es um Künstliche Intelligenz geht. In den 1990er Jahren hat sich die Informatik teilweise zivil emanzipiert.
hekta: Welche Mythen half das FIfF aufzudecken?
Hans-Jörg Kreowski: Ein großer Mythos um die Informationstechnik herum ist der Glaube, dass man damit nahezu alles machen kann und Probleme beliebig und eigentlich völlig grenzenlos lösen könnte. Von der fachlichen Seite her sind die Möglichkeiten der Informationstechnik aber erstaunlich eingeschränkt. Viele Dinge, die man zum Beispiel mit Datenverarbeitung machen und die man programmieren könnte, brauchen viel zu viel Zeit, als dass man auf die Ergebnisse warten kann. Das ist schon eine einfache technische Grenze, die sich bis heute überhaupt nicht verschieben lässt.
Oder nehmen wir den Mythos, dass Intelligenz so programmiert werden könne, dass Maschinen besser denken als Menschen. Bei allem, was ich über die Informatik weiß, gibt es kein Programm, das in der Lage wäre, selbständig zu denken. Dahinter stecken immer noch die Programme, die von Beginn an in der Informationstechnik geschrieben wurden.
Constanze Kurz: In der Zeitschrift des FIfF geht es in der letzten Ausgabe auch um die kritische Einordnung des aktuellen KI-Hypes. Welche Mythen sind denn wirklich gefährlich?
Rainer Rehak: Es ist ein Mythos, dass Maschinen neutrale und objektive Ergebnisse liefern könnten. Daten oder ihre Verarbeitung sind selber nicht objektiv. Es ist daher nicht vertretbar, KI-Systeme bei bestimmten Entscheidungsfindungen mit einzubeziehen. Damit meine ich solche Entscheidungen, die sich explizit auf die Lebensumstände von Menschen auswirken.
Nehmen wir einmal an, das KI-System entscheidet darüber, wer berechtigt ist, Sozialleistungen zu beziehen, welche Medikamente ein Mensch braucht oder auch welches militärisches Ziel angegriffen werden soll. Es gab in den Neunzigern auch mal Expertensysteme zur Beratung für medizinische Behandlungen. Allerdings gab es auch Probleme mit diesen Expertensystemen.
Das liegt daran, dass die Systeme immer kontextabhängige Antworten geben. Menschen und die ganze Welt sind aber viel zu komplex, als dass uns ein System etwas über sie erzählen könnte. Hingegen kann ich gut ein System einsetzen, was einigermaßen verlässlich meine Pflanzen gießt oder neue Musik vorschlägt, und wenn es mal nicht klappt, ist das auch nur mäßig schlimm.
Informatiker warnten vor programmiertem Atomkrieg
Constanze Kurz: Wenn man auf die 40 Jahre FIfF blickt, dann ist vielleicht das Thema KI immer wieder präsent, aber nicht das Überthema, sondern nur eines von vielen. Was waren die Impulse in Bezug auf Friedensfragen, um das FIfF zu gründen?
Hans-Jörg Kreowski: Da gehen wir jetzt deutlich über 40 Jahre in die Zeit zurück, wo noch über den NATO-Doppelbeschluss und die Aufstellung von rund 200 Atomsprengköpfen sowie mehreren hundert Marschflugkörpern verhandelt wurde. Sie waren als eine Abschreckung gegen die sowjetischen SS-20-Raketen gedacht. Wären sie zum Einsatz gekommen, wäre von Mitteleuropa und Deutschland nichts mehr übrig. Das war der Ausgangspunkt für eine riesige Friedensbewegung mit hunderttausenden Teilnehmenden. Das FIfF bildete sich eben aus dieser Friedensbewegung genauso wie etliche andere Friedensinitiativen.
hekta: Und wer hat sich am Anfang besonders engagiert? Was waren das für Menschen?
Hans-Jörg Kreowski: Die Friedensinitiativen aus den Universitäten waren ganz überwiegend Studierende, wissenschaftliche Mitarbeiter:innen, Professor:innen. Für die Gründung des FIfF waren natürlich die rund ein Dutzend Fachbereiche für Informatik entscheidend. Es gab aber auch Gewerkschaftsgruppen, die an der Gründungsversammlung teilgenommen haben.
hekta: Wie haben sich die Fachleute aus der Informatik damals für ein gemeinsames Friedensziel eingebracht?
Hans-Jörg Kreowski: Ein Thema waren die unzuverlässig programmierten Frühwarnsysteme. Das Risiko dieser Systeme bestand darin, dass sie fälschlicherweise Bedrohungen meldeten und damit leicht zu falschen Entscheidungen hätten führen können. Deshalb starteten die verschiedenen Initiativen auch eine gemeinsame Kampagne unter dem Motto „Informatiker warnen vor dem programmierten Atomkrieg“. Das war der Anfang.
hekta: Womit beschäftigt sich das FIfF aktuell und warum?
Rainer Rehak: An vielen Stellen fokussiert man sich auf Technik, um bestimmte gesellschaftliche Missstände anzugehen. Man beschäftigt sich sehr viel mit Technik und fragt sich, welches die beste von allen ist und ob man sie kauft oder nicht. Leider wird dadurch weniger darüber geredet, wie man es vielleicht ohne Technik anders verbessern könnte. Es tritt komplett in Hintergrund, wofür diese Technik eigentlich sehr gut wäre und was ein sinnvoller und bedürfnisorientierter, auch kontrollierbarer Einsatz wäre. Das ist ein Thema, das sich auch beim FIfF die letzten Jahrzehnte durchzieht.
Umweltschädigung überwachen
Constanze Kurz: Was brennt denn thematisch gerade unter den Nägeln? Und was könnte ein noch stärkeres Thema in Zukunft sein?
Hans-Jörg Kreowski: Rainer hat noch nicht über Nachhaltigkeit und „Bits & Bäume“ gesprochen. Die Klimakatastrophe ist absehbar ist, sie wird nicht vermieden werden, sondern nur gedämpft. Daher ist die Mitarbeit des FIfF in der Initiative „Bits & Bäume“ eine ganz wichtige Sache. In diese Richtung wird das FIfF ganz viel in Zukunft machen müssen.
Insbesondere denke ich auch, dass man Informationstechnik ohne Weiteres nutzen können müsste zur Überwachung, Kontrolle und Planung von Maßnahmen, die den Klimawandel dämpfen. Wettervorhersage funktioniert schon erstaunlich gut. Warum soll Umweltschädigung nicht genauso gut überwacht werden können? Die Militärs glauben ja auch, dass sie die ganze Welt bis zum kleinsten Panzer, der irgendwo umherfährt, beobachten können. Also wir müssten eigentlich dieselbe Technik nutzen können, um etwas für die Umwelt zu tun.
Was auf jeden Fall bleibt als Thema: Rüstung und Informatik. Wir haben ja seit fast zehn Jahren die Cyberpeace-Kampagne. Sie muss wahrscheinlich ein bisschen modernisiert und aufgefrischt werden, aber das ist ein Thema, von dem wir nicht loskommen.
Rainer Rehak: Ich würde gern noch einiges anfügen. Ganz konkrete Themen sind auch der digitale Produktpass oder das Lieferkettengesetz: Wo kommt eigentlich die Technik her? Wer schraubt die zusammen, wo kommen die Materialien her? Von Kinderarbeit bis zu neuen Arbeitsnormen, das findet aktuell auf EU-Ebene statt, auch das Recht auf Reparatur, der Akkuaustausch und gleiche Anschlüsse für Ladegeräte.
In der Diskussion um Nachhaltigkeit beschäftigen uns auch die Zertifikate Blauer Engel für Software und Blauer Engel für Hardware. Man muss natürlich diskutieren, wie gut oder schlecht solche Siegel sind. Der nächste Schritt ist dann, dafür zu sorgen, dass es diese Standards auch für öffentliche Stellen geben sollte. Da gibt es ganz konkrete Vorhaben, wo wir uns einklinken.
Gerade gab es eine Diskussion auf EU-Ebene über automatisierte Gesichtserkennung auf öffentlichen Plätzen. Auch soll es bald für die Datenschutzgrundverordnung vielleicht ein Update geben. Diese Diskussionen sind sehr wichtig, wenn es darum geht, was wir gelernt haben aus den letzten sechs bis acht Jahren Datenschutzgrundverordnung. Was hat funktioniert, was nicht?
Und natürlich beschäftigt uns auch der große Themenbereich IT-Sicherheit, vom staatlichen Hacking und den Entwicklungen beim BSI, über die Implikationen zur Cyber-Sicherheitsstrategie. Dass in der Cyber-Sicherheitsstrategie keine Sicherheit steckt, konnten wir zeigen. Aber auch auf EU-Ebene stand die Entwicklung zu Mindeststandards für IT-Sicherheit an. Wir äußern wir uns sowohl mit Debattenbeiträgen als auch in Anhörungen.
Meist ehrenamtliche Arbeit
hekta: Das hört sich nach einer Menge Arbeit und nach vielen Themen an. Dazu braucht es viele Mitglieder. Auf der Webseite habe ich die Zahl 700 gelesen, stimmt das?
Rainer Rehak: Es sind jetzt knapp 700 Mitglieder, Tendenz steigend. Man muss dazu sagen: Natürlich sind nicht alle Mitglieder aktiv, aber wir haben mittlerweile sechs Regionalgruppen, in denen auch Projekte gemacht werden: Konsultationen, Demos oder Vorträge. Teilweise sind es aber auch Cryptopartys, wo man sich einfach trifft und über die Sicherheit von Geräten spricht.
Die Arbeit liegt nicht auf 700 Schultern, aber doch auf einigen Schultern verteilt. Wer Interesse an unseren Themen findet, kann gern Mitglied werden oder einfach nur mitarbeiten, auch als Nichtmitglied. Das Schöne ist, dass wir durch die steigenden Mitgliederzahlen und auch durch Projektarbeiten mittlerweile drei Angestellte haben. Das heißt, wir sind gerade in dem Prozess der Professionalisierung, um unsere Themen noch besser voranzutreiben.
Constanze Kurz: Wir haben das noch nicht erwähnt: Die Vereinsmitgliedschaft und die Engagierten betreiben eine Form von Aktivismus, das ist zumeist ehrenamtliche Arbeit. Wie viele Leute machten denn am Anfang mit? Wie war die Entwicklung, bis ihr jetzt zu diesen 700 Leuten gekommen seid?
Hans-Jörg Kreowski: Angefangen hat die ganze Sache mit gut 200 Gründungsmitgliedern. Wir sind bis fast 1.000 hochgekommen. Dann ging es aber in den 2000er Jahren langsam wieder runter.
Milliarden für „unbemenschte Waffen“
Constanze Kurz: Ich würde gern konkret zum Militär und zu Rüstungsfragen kommen: Definitiv war der NATO-Doppelbeschluss einer der Gründungsimpulse, und ihr steht auch auf den Schultern der Friedensbewegung. Wie hat sich die Sicht auf die Zusammenarbeit von Informatiker:innen mit Militärs gewandelt? Wohin werden die großen Summen verteilt, über die wir nicht mehr reden? Wo würdet ihr euch heute verorten?
Hans-Jörg Kreowski: Die Verstrickung von Informatik und Militär ist ein Hauptthema, weil das Militär ein Haupttreiber für die Informatik-Entwicklung war. Tatsächlich sind nun weitere treibende Kräfte dazugekommen. Das Militär ist weiterhin ganz nachdrücklich insbesondere mit Geld und Wünschen und Anforderungen an die Informatik herangetreten.
Die ganze Welt rüstet für den Cyberkrieg auf und das heißt ja programmieren, programmieren, programmieren, etwa um beliebige technische Systeme zu infiltrieren, zu übernehmen und umzufunktionieren. Die NATO macht riesige Übungen jedes Jahr mit hunderten Teilnehmer:innen dazu. Da passiert unglaublich viel, von dem wir im Detail gar nicht viel wissen, sondern in der Zeitung nur über die militärischen Übungen lesen.
Dann kommt der große Bereich der unbemenschten Waffen dazu. Sie werden seit den 1980er Jahren entwickelt. Waffensysteme sind natürlich oft unbemenscht. Aber hier geht es um Systeme, die wie Panzer, Boote oder Flugzeuge normalerweise Besatzungen haben. Die Besatzung wird mehr und mehr rausgenommen. Dafür werden Milliarden pro Jahr ausgegeben.
Bei den USA weiß man das, sie haben das mal quantifiziert: jedes Jahr drei Milliarden US-Dollar. Wir in Europa werden wahrscheinlich noch mehr ausgeben und andere geben mindestens genauso viel aus. Das wurde in der Zwischenzeit unglaublich weit vorangetrieben, so dass die Systeme teils im Einsatz sind. Trotzdem wird das natürlich auch noch weiterentwickelt.
Der nächste Schritt aber, der sich jetzt unmittelbar abzeichnet, ist zum Beispiel bei der Entwicklung des „Future Combat Air System“ von Frankreich, Deutschland und Spanien begonnen worden. Da soll bis 2040 ein neues Kampfflugzeug entwickelt werden, das dann in Drohnenschwärmen in der ganzen Welt Lufthoheit für Deutschland und Frankreich erzeugen soll. Das ist eine wahnwitzige Vorstellung, dass Deutschland und Frankreich die Lufthoheit haben sollen. Das kostet in der Entwicklung mindestens 100 Milliarden Euro, und die Anschaffung und der Betrieb nachher noch das Fünffache.
Das Geld ist im Moment gar nicht da. Insofern kann das auch noch scheitern. Aber was Informatik daran interessiert: Das ganze System soll von einer KI-Plattform aus geplant, gesteuert, organisiert werden. Das ist eine Art von KI-System, das es noch nicht gibt. Da wird wahrscheinlich unglaublich viel KI-Potenzial einfließen.
Es gibt auch beispielsweise Pläne vom Heeresamt der Bundeswehr, wie ein Krieg in einer Stadt aussieht, wie also Drohnen und Fahrzeuge autonom mit den Soldaten zusammen Krieg führen. Die Stadt ist dann aber so kaputt wie alle Städte, die in den Kriegen der letzten Jahrzehnte kaputt gemacht worden sind.
Das heißt: Der neue Krieg ist das alte Töten und Zerstören. Die eigentliche Aufgabe lautet: Damit muss Schluss sein.
Rainer Rehak: Es gibt militärisch natürlich viele Entwicklungen, die nicht so sichtbar in Waffenform stattfinden. Die Bundeswehr nennt es den Cyber- und Informationsraum, wo sie sich stärken wollen: von Informationen über bis hin zu „aktiven Wirkmitteln“. Gemeint ist damit das Hacking, also die Offensivkapazitäten auszubauen.
Aber auch in der Art der Aufklärung selber tut sich da gerade sehr viel. Das Ziel, so nennt es die Bundeswehr, ist das gläserne Gefechtsfeld, wo quasi aus diversen Datenquellen eine Art Echtzeitlagebild inklusive der digitalen Geräte entstehen soll.
Momentan wird wieder über solche Fragen diskutiert, die gesellschaftliche Weichen stellen könnten: Wofür werden die Milliarden verwendet und setzen wir sie für Friedens- oder für Kriegsforschung ein?
Ein Beispiel sind die Zivilklauseln. Davon gibt es in Deutschland rund 70. Allerdings gibt es in Hessen und in Bayern Bestrebungen, die Zivilklausel zu reduzieren oder teilweise sogar abzuschaffen. Dies sei im Sinne der Landesverteidigung und Sicherheitspolitik.
Die größten Erfolge stehen noch aus
hekta: Wie erreicht euch Feedback?
Rainer Rehak: Da wir ja beide in der Wissenschaft aktiv sind, haben wir auch mit politischen Akteuren zu tun. Man darf sich natürlich nicht der Illusion hingeben, dass fünf Leute ein Jahr lang an etwas arbeiten und dann ändert sich fundamental etwas an der Welt. Das sind alles sehr dicke Bretter, die wir bohren.
Wir bekommen aber immer wieder über individuelle Zuschriften oder nach Vorträgen mit, dass unsere Beiträge als Argumentationsgrundlage genutzt werden, beispielsweise in Ministerien oder von Leuten, die wissenschaftlich arbeiten.
Constanze Kurz: Was waren bisher die größten Erfolge des FIfF? Wo habt ihr am meisten Wirkung entfaltet?
Hans-Jörg Kreowski: Die kontinuierliche Arbeit ist besonders wichtig. Wir bringen regelmäßig Publikationen heraus. Tatsächlich glaube ich, dass die größten Erfolge noch ausstehen. Ich würde mir zum Beispiel wünschen, dass sich mal ein paar Mäzene finden, die drei, vier Stellen auf Dauer finanzieren und wir dem bisschen Geld nicht permanent nachrennen müssen.
Die Technikentwicklung ist so gigantisch viel größer als die Technikfolgenabschätzung. Da wünsche ich mir viel mehr Fairness und vielleicht Zusammenarbeit, so dass man viele Dinge gleich von Anfang an vermeidet. Aber das sind alles Zukunftswünsche. Das hält mich aber beim FIfF.
Constanze Kurz: Vielen Dank, dass ihr euch die Zeit für das Interview genommen habt!
Offenlegung: Zum Beirat des FIfF, der den Verein in wissenschaftlichen und satzungsmäßigen Angelegenheiten berät, gehört auch Constanze Kurz.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
Meist kommentiert