Wie KI unsere Medien manipuliert

Auch wenn wir es nicht merken: Künstliche Intelligenz (KI) ist überall, umgibt uns, dringt in unsere tiefste Privatsphäre ein und verändert sogar unsere Umwelt. Yvonne Hofstetter spricht im Telepolis Salon über ihr neues Buch: Der unsichtbare Krieg. Inhalt: Wie die künstliche Intelligenz schon heute zur Kriegsführung genutzt wird.

Yvonne Hofstetter: Der unsichtbare Krieg. Wie die Digitalisierung Sicherheit und Stabilität in der Welt bedroht. München: Droemer Knaur 2019.

Eine Rezension und ein Veranstaltungsbericht von Lennard Cramer

Es ist nebelig, als ich die Stufen zum ehemaligen Ausflugsdampfer “Alte Utting” hinaufsteige. Aus der Kombüse strömt warmer Dampf, und als ich die Eingangstür aufstoße, befinde ich mich plötzlich in den 1950er Jahren. Holzvertäfelte Wände, gedämmtes Licht und ein kleiner Raum mit gut dreißig Menschen im fortgeschrittenen Alter. Die Jugend interessiert das Thema wohl nicht.

Pro Minute gibt es 7.500 Angriffe auf die deutsche Telekommunikationsinfrastruktur. Was kaum einer weiß: Heutige Computerviren benutzen KI, um sich wie natürliche Viren an neue Abwehrmaßnahmen anzupassen. Ist das ein echter Krieg, der da fast unbemerkt über unser Land gezogen wird?

Frau Hofstetter sagt: Da müsse man erst einmal die Frage nach der Qualität des Angriffs stellen. Und die Charta der Vereinten Nationen kenne da nur eine Regel: Krieg ist erst Krieg, wenn ein physischer Angriff stattgefunden hat. Der Einsatz von Computerviren wie im Falle von Stuxnet (iranische Atomanlagen) gehöre daher nicht dazu. Der Abschuss einer US-amerikanischen Drohne über dem eigenen Hoheitsgebiet durch Iran dagegen schon. Nicht die Effekte, sondern die Mittel seien bei der Bewertung ausschlaggebend. Eine Stimme aus dem Publikum: Das stimmt so nicht. Auch Sabotage gehöre zur Kriegsführung. Tatsächlich behauptet das sogar das Pentagon.

Zweifel an Yvonne Hofstetter sind verständlich. Sie ist Teil des sogenannten transatlantischen Netzwerks. Beispielsweise ist sie seit 2019 Mitglied der Chatham House Kommission zu Demokratie und Technologie in Europa. Diese englische Denkfabrik besteht aus über zweitausend Einzelpersonen, fünfundsiebzig Großkonzernen und gut zweihundertfünfzig weiteren Unternehmen. Finanziert wird sie unter anderem durch die NATO, wenngleich das auf ihrer offiziellen Website nicht nachvollziehbar ist.

Außerdem ist sie als Quereinsteigerin von Anfang an in Informations- und Rüstungsunternehmen tätig gewesen und hat 2009 eine Firma zur intelligenten Auswertung von Big Data gegründet. Wer in solchen Netzwerken und Firmen ausgebildet wird, nimmt mit hoher Wahrscheinlichkeit auch deren Weltbild an. Und das merkt man bei dem Vortrag. Die Ideen und Vorstellungen von Frau Hofstetter sind allesamt Konsens in transatlantischen Denkfabriken.

Der Vortrag ist dabei inhaltlich nicht unbedingt neu, aber als kritischer Medienforscher wird man schon etwas stutzig, dass alle von ihr genannten Fallbeispiele das Ost-West-Feindbild-Schemata treffen. Kaum ein negativer Satz gegenüber unseren Verbündeten, wenn man einmal von ihrer Kritik an der Zusammenarbeit von Cisco Systems mit der NSA absieht.

Das soll nicht heißen, dass Yvonne Hofstetter uns bewusst manipulieren will. Sie weist auf Sicherheitslücken hin, gerade wenn sie von ihren Erfahrungen als Beraterin für Technologiekonzerne redet. Viel zu wenig würden diese berücksichtigt, wenn neue Systeme entwickelt würden. Allein die Funktionalität stehe im Vordergrund. Das schaffe große Gefahren. Natürlich vor allem von Seiten Chinas und Russlands.

Gerade das Social Scoring, welches in China schon experimentell in ganzen Städten angewendet wird, berge das Risiko einer “Verunmenschlichung der Gesellschaft”. Ab 2020 soll dieses übrigens flächendeckend angewendet werden.

Hofstetter erklärt, dass die komplexen dynamischen Systeme, in denen wir derzeit leben und die wir benutzen, zu chaotischen Zuständen neigen. Diese Systeme können nicht mehr geplant werden. Allein einzelne Einheiten seien steuerbar. Und wo Chaos entsteht, da ist der Ruf nach Ordnung nicht weit. Dabei scheint die Erfahrung zu lehren, dass Menschen sich in der Folge überfordert fühlen und sich daher in der Konsequenz oftmals unter den vermeintlichen Schutz autokratischer Systeme stellen, weil sie sich davon zumindest eine gewisse Stabilität erhoffen.

Und das Chaos wird schlimmer. Auf meine Nachfrage bestätigt Hofstetter, dass man heute weder sicher sein kann, dass ein Online-Text von einem echten Menschen geschrieben wurde (Deep Fakes), noch dass der Text speziell für bestimmte Nutzer falsch angezeigt wird. Also dass Informationen von einer eigentlich seriösen Website gezielt für bestimmte Nutzer verändert werden. Alle anderen sehen weiterhin den echten Text. George Orwell lässt grüßen.

Und was unternimmt die Bundesrepublik Deutschland, um ihre Bürger zu schützen?

“Es gibt einige Organisationen in Deutschland, die mit der Abwehr von Online-Angriffen betraut sind. Das BSI schützt die Einrichtungen des Bundes, das Parlament und die Regierung. Die Bundeswehr schützt ihre eigenen Einrichtungen. Der Verfassungsschutz klärt auf, wer unsere Netzwerke angreift, darf aber keine Gegenmaßnahmen ergreifen. Der Auslandsgeheimdienst BND soll zurückhacken dürfen.  Das Problem: Unternehmen, Krankenhäuser, der Einzelne sind mit der Gefahren der Vernetzung allein. Allerdings unternimmt man inzwischen intensive Forschung, um die Sicherheit zu erhöhen. Das Concordia-Projekt der EU erforscht die Möglichkeiten besserer Sicherheit der Nutzer.”

Und obwohl selbst der BND Daten von Bundesbürgern an die NSA weitergegeben hat, sieht Yvonne Hofstetter das eigentliche Problem in der freiwilligen Weitergabe von Daten an Tech-Konzerne in aller Welt. Diese leben vom Verkauf unserer Daten. Wenn andere Firmen diese Daten dann durch KI auswerten lassen, beeinflusse das auch in der westlichen Welt unsere Zukunft, ganz ohne chinesisches Social Scoring.

Um eigene europäische Netzwerke und Infrastrukturen aufzubauen, sei es eigentlich viel zu spät. Außerdem nutzen wir erfahrungsgemäß lieber große etablierte Systeme und interessieren uns nicht für Nationalismen, wenn wir uns im Netz bewegen. Threema hat gegen WhatsApp einfach keine flächendeckende Chance. Und das läge nur an unserem eigenen Verhalten.

Kann ich mich also überhaupt wirkungsvoll schützen? Yvonne Hofstetter sagt: nein. Zu komplex seien die Mechanismen und zu ungeschult die Nutzer. Tatsächlich entwickeln andere aber schon Lösungen und selbst im Internet findet man zahlreiche Anleitungen KI zu verwirren. Trotzdem, Nutzer können meist nur reagieren, im Schach hätte man damit schon automatisch verloren.

Alles was uns heute noch schützt, so sagt Frau Hofstetter, ist eine hauchdünne Schicht aus Recht und Grundrecht.

Literaturangaben

Yvonne Hofstetter: Der unsichtbare Krieg. Wie die Digitalisierung Sicherheit und Stabilität in der Welt bedroht. München: Droemer Knaur 2019.

Lennard Cramer: Interview mit Yvonne Hofstetter 2019.

Titelbild: C. Bertelsmann

Empfohlene Zitierweise

Lennard Cramer: Wie KI unsere Medien manipuliert. In: Michael Meyen (Hrsg.): Medienrealität 2019. https://medienblog.hypotheses.org/6716 (Datum des Zugriffs)

 

 

---

---