Öffnungszeiten

Mi–Do 10–17
Fr 14–17
Sa 13–18h
So u. Feiertags 11–18h


Eintritt frei!

Ich sehe was, was du (noch) nicht siehst

24/05–04/08/2019

Künstler*innen

  • disnovation.org
  • Jonas Lund
  • OutOfTheBox
  • Sebastian Schmieg

Kuratiert von Jennifer Bork

Künstliche Intelligenz und maschinelles Lernen machen derzeit einen wichtigen Bestandteil der Digitalisierung aus. In diesem Zusammenhang ist eine Praxis besonders bemerkenswert: Der Versuch über Algorithmen genaue Vorhersagen über die Zukunft treffen zu können. Diese Algorithmen zielen auf die Bestimmung menschlichen Verhaltens ab und manipulieren die Abläufe von Entscheidungsprozessen.

Daraus ergeben sich diverse ethische Probleme. So kollidiert die Funktionsweise dieser maschinellen Prozesse mit unserem bisherigen Menschenbild und greift teilweise in die demokratische Staatsordnung ein. In der Schweiz wurde unter anderem die – in Deutschland entwickelte – „Predictive Policing-Software“ „Intimpartner“ in den Polizeialltag integriert. Laut Hersteller errechnet sie die Wahrscheinlichkeit eines Tötungsdeliktes zwischen (Ex)-Ehepartnern. Überschreitet der errechnete Gefährder-Score einen bestimmten Wert, kann der Betroffene mit einer erhöhten Aufmerksamkeit durch die Polizei rechnen, teilweise für die nächsten 10 Jahre. Die Verantwortung für menschliche Schicksale wird einem Algorithmus übertragen. Damit ändert sich unsere Wahrnehmung von gesellschaftlicher Realität ganz grundsätzlich, denn die Anwendung dieser Algorithmen steht einer Erfahrungswelt entgegen, die auf Kontingenz beruht. Kontingenz bedeutet auch Zufall und Abweichungen vom bestehenden System zuzulassen.

Genau an diesem Punkt greift auch die Kritik der Mathematikerin Cathy O’Neil an den prädiktiven Algorithmen und anderen auf Data Mining basierenden Anwendungen. Sie betitelt diese aufgrund ihrer zersetzenden Wirkung auf unsere Gesellschaft als „Weapons of Math Destruction“. Sie versprächen größere Objektivität, stellten aber letztendlich nur die Konformität mit dem bestehenden System sicher und seien nicht auf Einzelfallentscheidungen ausgerichtet, was zur Diskriminierung bereits Benachteiligter führen kann.

In der Kunst war die Idee der freien ungebundenen, individuellen Entfaltung ohne feststehenden Ausgang lange Zeit ein konstituierendes Prinzip. Die Anwendung prädiktiver Tools auf den künstlerischen Bereich ist daher besonders interessant. Sie stellt Fragen über den derzeitigen Zustand dieses Systems, das sich in einem Umbruch befindet: Was passiert, wenn die Tätigungsfelder von Künstler*innen und Programmierer*innen ineinander übergehen? Befinden wir uns auch in diesem Bereich in einer Schleife aus immer gleichen Mustern, deren Neu- und Wiederanordnung ebenso Maschinen vorhersagen und durchführen könnten?