Es gehört zu den liebgewonnenen Ritualen europäischer Selbstvergewisserung, komplexe Wirklichkeiten in Regelwerke zu überführen, deren Umfang bereits als Beweis ihrer Notwendigkeit gilt. Der sogenannte AI Act der Europäischen Union fügt sich in diese Tradition mit einer beinahe barocken Lust an der Normierung ein: ein Gesetzestext, der weniger eine Antwort auf konkrete Probleme darstellt als vielmehr ein philosophisches Statement darüber, dass Ordnung an sich schon ein Wert sei. Was hier reguliert werden soll, ist nicht bloß Technologie, sondern die Wirklichkeit selbst – genauer gesagt, deren zunehmend poröse Grenze zur Simulation. Dass dabei ausgerechnet Bilder ins Zentrum rücken, ist kein Zufall. Seit Roland Barthes die Fotografie als „Botschaft ohne Code“ bezeichnete, ist das Bild der letzte Zufluchtsort einer naiven Wahrheitssehnsucht geblieben. Der AI Act tritt nun an, auch diesen Zufluchtsort mit Formularen, Metadaten und Sanktionen auszustatten – ein Verwaltungsakt gegen die metaphysische Verunsicherung.
Zwei Wahrheiten und kein Ausweg
Die doppelte Kennzeichnungspflicht wirkt auf den ersten Blick wie ein genialer Schachzug: sichtbar für das Auge, unsichtbar für die Maschine, eine Dialektik der Transparenz, die gleichermaßen aufklärt und kontrolliert. Doch bei näherer Betrachtung entfaltet sich eine eigentümliche Komik. Das sichtbare Label soll dem Betrachter sagen: „Dies ist nicht echt“, während das unsichtbare Wasserzeichen der Maschine zuflüstert: „Aber bitte korrekt einordnen.“ Es ist, als hätte man sich entschieden, gleichzeitig mit Immanuel Kant und einem misstrauischen Versicherungsvertreter zu argumentieren.
Die Ironie liegt darin, dass diese doppelte Wahrheit weder Vertrauen schafft noch Misstrauen verhindert. Vielmehr etabliert sie eine neue Ästhetik des Verdachts: Jedes Bild wird potenziell zum Verdachtsfall, jedes Label zum Eingeständnis einer Schuld, die nicht näher benannt wird. Für die Kunst bedeutet dies eine paradoxe Situation: Sie darf frei sein, solange sie sich als frei kennzeichnet. Ein wenig erinnert das an Michel Foucaults Einsicht, dass Macht am effektivsten dort wirkt, wo sie als Freiheit erscheint.
Deepfakes und die Moral der Maschinen
Mit dem Verbot bestimmter Deepfake-Anwendungen betritt die Verordnung den moralischen Hochsitz und verkündet mit pathosgetränkter Entschlossenheit, dass Technik nicht zum Werkzeug der Erniedrigung werden dürfe. Ein Satz, so unbestreitbar richtig, dass er fast schon verdächtig wirkt. Denn während klare Grenzfälle – etwa sexualisierte Gewaltbilder – unzweifelhaft zu ächten sind, beginnt jenseits dieser Klarheit das eigentliche Problem: die unendliche Grauzone des „Noch-Erlaubten“.
Wenn Svenja Hahn erklärt, KI dürfe kein Instrument für Gewalt sein, klingt das wie ein moralischer Imperativ aus dem Lehrbuch. Wenn hingegen Axel Voss vor regulatorischer Überfrachtung warnt, schimmert bereits die pragmatische Ernüchterung durch. Zwischen beiden Positionen spannt sich ein Feld, in dem die Verordnung weniger entscheidet als vielmehr andeutet. Das Ergebnis ist kein klarer moralischer Kompass, sondern ein juristisches Vexierbild, das je nach Blickwinkel zwischen Schutz und Symbolpolitik changiert.
Transparenz als höfliche Fiktion
Die Transparenzpflichten wirken wie ein Versprechen, das man sich selbst gibt, um besser schlafen zu können. Die Offenlegung von Trainingsdaten, das Recht auf Opt-out, die maschinenlesbaren Signale – all das suggeriert eine Welt, in der Kontrolle möglich ist, sofern sie nur ausreichend formalisiert wird. Doch die Realität der Datenökonomie ist eine andere: fragmentiert, global, und von einer Dynamik geprägt, die sich kaum in Paragrafen bannen lässt.
Das Opt-out erscheint dabei wie ein besonders eleganter Kunstgriff. Es verleiht den Urhebern das Gefühl von Souveränität, während es gleichzeitig die strukturelle Asymmetrie unangetastet lässt. Es ist die digitale Variante eines „Bitte nicht stören“-Schilds an der Tür eines Hauses ohne Schloss. Man könnte auch sagen: ein Akt regulatorischer Höflichkeit in einer Umgebung, die auf systematische Ignoranz angelegt ist.
Die neue Klassengesellschaft der Bilder
Mit der Einführung von Bußgeldern und Dokumentationspflichten entsteht eine neue soziale Ordnung innerhalb der Kreativwirtschaft. Auf der einen Seite stehen jene, die sich Compliance leisten können – ausgestattet mit Rechtsabteilungen, Audit-Protokollen und einem beinahe religiösen Vertrauen in die heilende Kraft der Dokumentation. Auf der anderen Seite finden sich jene, die schlicht Bilder machen wollen und nun feststellen, dass Kreativität ein bürokratisches Nebenfach geworden ist.
Es ist eine stille Verschiebung, aber keine unbedeutende: Die Frage, wer Kunst produzieren darf, wird nicht mehr nur ästhetisch oder ökonomisch beantwortet, sondern zunehmend administrativ. Der Künstler als freier Geist weicht dem Künstler als Formularverwalter. Man könnte fast meinen, Franz Kafka habe heimlich am Entwurf mitgeschrieben.
Das Wasserzeichen als Symbol einer verlorenen Gewissheit
Am Ende steht das Wasserzeichen – jenes kleine, unscheinbare Element, das so viel mehr sein soll als nur ein technisches Detail. Es ist das Emblem eines Zeitalters, das der eigenen Wahrnehmung nicht mehr traut und deshalb versucht, Wahrheit zu externalisieren. Doch genau darin liegt die Tragik: Was als Schutz gedacht ist, wird leicht zum Stigma. Ein Bild mit Label ist nicht einfach ein Bild, sondern ein deklarierter Sonderfall, ein Objekt unter Vorbehalt.
Die eigentliche Frage, die der AI Act unbeantwortet lässt, lautet daher nicht, wie man Fälschungen erkennt, sondern warum man überhaupt noch glaubt, dass Erkennbarkeit genügt. Vertrauen lässt sich nicht verordnen, und Authentizität entzieht sich jeder Normierung. Vielleicht ist das größte Missverständnis dieser Verordnung die Annahme, dass technische Markierungen eine kulturelle Krise lösen könnten.
So bleibt am Ende ein Regelwerk, das mit großem Ernst versucht, die Welt zu ordnen, und dabei vor allem eines offenbart: die tiefe Verunsicherung einer Gesellschaft, die nicht mehr sicher ist, was sie sieht – und sich deshalb an das klammert, was sie messen kann. Ein wenig zynisch ließe sich sagen: Das Wasserzeichen schützt weniger die Wahrheit als den Glauben an ihre Existenz.
