Wir erleben heute einen Hype um Künstliche Intelligenz. Oftmals ist jedoch nicht klar, was sich eigentlich dahinter verbirgt. Wie nehmt ihr den KI-Hype wahr?
Magdalena: Das Thema KI ist allgegenwärtig, ob in den Medien, also im Feuilleton, Online-Foren, Verlagsprogrammen etc., oder in der Politik – (bei der Kommunalen Arbeitsförderung, in der Enquete-Kommission und der Datenethikkommission. Man kann sich diesem Hype kaum entziehen und des Eindrucks kaum erwehren, etwas Neues sei am Horizont aufgeflackert. Dieses Neue wird durch selbstfahrende Autos verkörpert und durch häuserwandgroße „Okay, Google, mach mal!“-Werbeplakate illustriert, die uns suggerieren, selbstlernende Maschinen könnten uns rundum versorgen. Doch was sehen wir hier eigentlich? Wie neu ist das, was da gerade so grell leuchtet?

Krystian: Genau, es ist wichtig, diese Frage zu stellen, wenn ein Technik-Hype die Geschichte und den politischen Kontext unmerklich ausblendet. In Sachen KI ist es nicht unerheblich daran zu erinnern, dass das Militär, wie bei so vielen anderen Technologien auch, maßgeblich an der Entwicklung beteiligt gewesen ist. Schon ziemlich bald nach dem Zweiten Weltkrieg wurde KI das erste Mal hochgejazzt. 1958 etwa in Form des Perzeptrons, das, durch das Office of Naval Research finanziert, die New York Times dichten ließ, es sei „the embryo of an electronic computer that [the Navy] expects will be able to walk, talk, see, write, reproduce itself and be conscious of its existence.“ Das Lauffeuer verbreitete sich über die USA hinaus – selbst bis nach Chile – und ist in den letzten Jahren immer wieder neu entfacht worden: im Rahmen von Staats-, Forschungs- oder Wall-Street-Experimenten.

Was ist also neu an KI heute?
Krystian: An der Neuauflage des KI-Hypes ist vor allem eines bemerkenswert: Eine gewisse kritische Masse ist erreicht worden. Wie vor etwa fünf Jahren in Sachen Big Data, als ein gewisses Genug an Daten verzeichnet werden konnte, um eine weiterreichende Instrumentalisierung und Implementierung von datengetriebenen Technologien zu ermöglichen. Die IT-Riesen, die auf dem KI-Gebiet tonangebend sind, verfügen nun über Rechner, die leistungsstark genug sind, können sich außerdem Zugang zu ausreichend Daten verschaffen, um die neuronalen Netzwerke zu füttern, und außerdem haben sie die KI-Forschung in neue Höhen treiben können.

Was hat das alles mit uns zu tun, mit unserem Alltag?
Magdalena: KI kann heute potentiell universell wirksam werden, denn selbstlernende Algorithmen können nicht nur in der Industrie, im Militär, im Finanzwesen, im Verkehr, in der Online-Werbung etc. zum Einsatz kommen, sondern auch in Alltagsanwendungen. Die „Okay, Google, mach mal!“-Kampagne etwa richtet sich an Smartphone-Nutzer. Auch andere Marktgrößen wollen Schritt halten und bieten ihre intelligenten Assistenten feil: Siri, Cortana, Bixby, Alexa, etc. So hat KI eine Bedienoberfläche bekommen, die die Technologie eigentlich greifbar macht, da sie sich nun vordergründig in unserem Leben platziert. Doch da wir es längst gewohnt sind, uns quasi blind auf technologische Anwendungen zu verlassen, verschwindet KI als systemisches Feature unmerklich im Hintergrund, dessen Schalten und Walten daher kaum bemerkt wird. Insofern ist KI zugleich überall und nirgends, sprich: ambient, weil fast überall als solches nicht sichtbar, zumindest für viele nicht ohne Weiteres erkennbar.'

Krystian: Auch die inhärenten Logiken bleiben unsichtbar, insbesondere die Tatsache, dass KI auf der Basis von historischen Vorlagen trainiert wird, die sie unkritisch als objektive und neutrale Wahrheit verarbeitet. Angesichts dessen kommen wir nicht umhin zur Kenntnis zu nehmen, dass diese Technologie keine Zukunft katalysieren kann, welche die Irrungen der Vergangenheit (bekanntlich ein Tummelplatz für Diskriminierung, Rassismus und andere Verbrechen) nicht reproduzieren wird. Das Problem der Algorithmic Bias materialisiert sich beispielsweise im Falle von KI-optimierten Delivery-Diensten oder so genanntem Predictive Policing als rassistische Voreingenommenheit – Nachbarschaften mit einem hohen Anteil von people of color werden nicht bzw. nur nachrangig beliefert oder einer übermäßigen Polizeipräsenz ausgesetzt.

Symptomatisch dafür ist die heutzutage sich global verbreitende Renaissance der Autokraten: USA, Russland, Türkei, Österreich, Großbritannien, Polen, Ungarn, China, Indien, Philippinen – das sind nur einige der vielen Länder, in denen ein starker Führer an die Macht gewählt worden ist und in Aussicht stellt, die scheinbar außer Kontrolle geratene Welt, wieder unter Kontrolle bringen zu können – mehr oder weniger eigenhändig, im Alleingang, aus dem Bauch heraus. Die Autokraten-Renaissance vermittelt uns nicht zuletzt, dass die Welt, in der wir heute leben, ausschließlich vom Menschen gebaut worden sei. Entsprechend erscheint der Autokrat hier als ein Art Steuermann all der technologischen Systeme, die Menschen erschaffen haben – ein Egozentriker am Joystick einer programmierbaren Welt.

Wie genau greift Ambient Revolts diese Themen auf? Wie positioniert sich die Konferenz zwischen KI-Hype und gleichzeitiger Autokraten-Renaissance?

Krystian: Wir nehmen diese Gleichzeitigkeit als Symptom einer größeren Krise wahr, in deren Mittelpunkt die Frage nach Handlungsfähigkeit steht. Auf den ersten Blick erscheint die zunehmende Beliebtheit von Autokraten wie ein Gegenentwurf zur Verbreitung von Technologien, die augenscheinlich unabhängig von menschlicher Einflussnahme arbeiten, die, wie Shelleys Frankenstein, sich selbst verwalten. So scheint sich heute ein Endkampf zu ereignen: Maschine vs. Mensch als Handlungsmacht.

Auf den zweiten Blick entpuppt sich die inhärente Aussage des jeweiligen Angebots als dieselbe. Sowohl Autokrat als auch KI soufflieren: „Demos, lass gut sein, überlass das nur mir, ich mache das schon.“ Und so lässt sich die Aktivierungsphrase „Okay, Google [mach mal xyz]“ analog lesen zu „Okay, Trump [mach mal xyz].“ Sind das nicht alles offensichtliche Verlockungen dazu, unsere individuelle und kollektive Handlungsfähigkeit wegzudelegieren?

Was genau kann man sich eigentlich unter Ambient Revolts vorstellen? Mit Ambient Music hat das ja wohl nichts zu tun.

Magdalena: Da müssen wir kurz ausholen. Im Computerspiel gibt es Momente, in denen das Spiel sich selbst zu spielen scheint. Du hast dich entfernt, doch das Spiel läuft einfach weiter. Die Künstliche Intelligenz des Spiels ist mit sich selbst beschäftigt, nichts Weltbewegendes passiert in der Zwischenzeit. Was der Medientheoretiker Alexander Galloway „Ambience Acts“ nennt, sind heute in der wirklichen Welt „Ambient Revolts“ – nicht einfach nur Akte, sondern Umbrüche, die weltbewegende Dinge in Gang setzen, während „das Spiel sich selbst spielt“: landesweite Netzausfälle oder Hasswellen, Börsenzusammenbrüche oder Verkehrschaos.

Und du kannst dir niemals ganz sicher sein, ob es passiert ist, während du away from keyboard warst oder online; ob du den Funken ausgelöst hast oder nur ein Halbleiter des viralen Tsumanis gewesen bist. So befindest du dich in einem „Spiel“, dessen Regeln und Abläufe du nicht wirklich verstehst. Wenn überhaupt, dann wirst du einer Art „Ambient Agency“ gewahr – also einer Handlungsfähigkeit der techno-sozialen Umwelt –, die deine individuelle Handlungsfähigkeit tiefgreifend in Frage stellt. Mit diesem Gefühl der Ohnmacht bist du allerdings nicht allein. Es geht doch vielen so: Wir wissen nicht mehr so genau, was es eigentlich bedeutet, politisch wirksam zu handeln. Also beobachten wir das Durcheinander und versuchen daraus schlau zu werden.

Aber wie kommen wir von der Beobachtung zur Handlung?

Krystian: Wenn wir genauer beobachten, gelangen wir zu einem besseren Selbstverständnis: Wir haben schon lange eine gemeinsame Agency von Mensch und Technik. Wir haben schon immer als Menschen mit anderen Menschen und auch mit anderen Spezies und Organismen zusammengelebt und in Abhängigkeit voneinander gehandelt – nur dass dieses „Mit“ eben nicht schon lange bzw. schon immer Teil unserer gesellschaftlichen Selbstbilder gewesen ist. Heute, im Moment der Krise der Handlungsfähigkeit, könnte sich eine Möglichkeit eröffnen, dieses „Mit“ präsenter zu machen und zugleich zu politisieren, um die Ausgestaltung des „Mit“ zu einer kollaborativen Angelegenheit zu machen.

Das ist zumindest die Idee unserer Konferenz. Dabei ist der Ausgangspunkt nicht die Annahme, dass alle mit Agency zur Welt kommen – nein, wir können politische Handlungsfähigkeit als solche heute nicht für gegeben voraussetzen. Weder für uns im vermeintlich aufgeklärten Europa, noch für alle anderen, die in Regionen leben, die einst die vermeintlich rückständigen Projektionsflächen der Aufklärung waren. Stattdessen wollen wir dazu anregen, zu fragen, wie wir alle Träger von Agency werden können – frei von jedweder Diskriminierung. Also rücken wir Entstehungsprozesse politischer – also immer auch kollektiver – Handlungsfähigkeit unter den Bedingungen von Autokratie und omnipräsenter und gleichzeitig schwer fassbarer und verstehbarer KI ins Blickfeld.

Die Handlungsfähigkeit, um die es euch geht, scheint ziemlich allumfassend zu sein. Wie kann man denn konkret aktiv werden? Was kann man unternehmen?

Krystian: Klar, es geht nicht nur um eine Zeit-Diagnose, sondern auch darum, Grundlagen für das kollektive Handeln zu erarbeiten. „How can we rethink political agency in an AI-driven world?“ lautet die Leitfrage der Konferenz. Um dieser Frage nachzugehen, wollen wir versuchen mit Talks, Performances und Workshops die kleiner werdenden Räume für Handlungsfähigkeit zu vergrößern. Einerseits geht es dabei darum, KI zu entmystifizieren, andererseits darum, Zugänge zur Aneignung zu schaffen. Wo spielt KI heutzutage überall eine Rolle? Wie lassen sich die politischen und sozialen Konsequenzen ermessen?

Magdalena: Hier gibt es einige Überraschungen und vieles, was noch weitgehend unerkundetes Terrain ist. Etwa wenn wir fragen, was selbstlernende Systeme für die Gegenwart und Zukunft des menschlichen Lernens bedeuten. Oder wenn wir uns anschauen wollen, wie das KI-getriebene Zirkulieren von Waren – etwa wie es von Amazon perfektioniert worden ist – auf das Zirkulieren von Menschen übertragen werden soll, insbesondere auf das Zirkulieren von billiger und flexibler Arbeitskraft (in der Migrationsforschung gilt der so genannte „Sommer der Migration“ von 2015 als Schlüsselmoment dieser Verschiebung, die als Logistifizierung des Migrationsmanagements reflektiert wird). Oder wenn wir nach dem Entstehen von Gemeinschaften fragen und dabei nicht nur die KI-getriebene Echokammern des Rechtspopulismus ins Blickfeld rücken, sondern auch prototypische Störfälle in KI-getriebenen Systemen, wie etwa im Zuge der Regenschirm-Revolution des Jahres 2014 in Hongkong eher zufällig und gegen den ursprünglichen Sinn der Technologie für emanzipative Zwecke zum Tragen gekommen. All das soll unsere Graswurzel-Grundlagenforschung ermöglichen – nicht zuletzt im Hinblick auf handhabbare und zukunftsweisende Mikrostrategien.

Krystian: Wir wissen bereits einiges: So sind diverse Konsequenzen bekannt, wie etwa, dass in zusehends automatisierten Arbeitsprozessen Menschen durch intelligente Maschinen ersetzt bzw. Menschen zu vollstreckenden Maschinen degradiert werden; oder dass KI ohne Aufsicht und Kontrolle weitreichende Probleme verursachen kann – in Form von selbstlernenden Schadprogrammen wie Mirai oder Stuxnet oder in der Gestalt von Keep Calm and Rape A Lot-T-Shirts, die durch Algorithmen automatisch generiert und daraufhin auf Amazon angeboten worden sind. Doch wir sollten auch unser Nicht-Wissen zur Kenntnis nehmen. Das führt auch zur Anerkennung unserer Grenzen in puncto Handlungsmacht und der Notwendigkeit, Agency im Wechselspiel mit der gesamten Umwelt zu entwickeln. Nur so können wir eine aktuell relevante Idee von politischer Handlungsfähigkeit entwickeln.