Generative KI: Miese Täuschung und systematische Abzocke im Buchmarkt und in der Phantastik (1/2)

Timo Kümel, 21.01.2026

Wie wir KI-generierte Inhalte, Fakes und Betrug erkennen und uns davor schützen können. Und warum wir uns für das Thema sensibilisieren, dagegen aussprechen und für echte Kreativschaffende über alle Disziplinen und Genres hinweg stark machen sollten. Eine persönliche Meinung des Illustrators, Künstlers und Buchmenschen Timo Kümmel.

In Teil 1 geht es um von KI generierte Bilder, Teil 2 über Bücher folgt in einer Woche.

Die Kinderschuhe und erste Gehversuche generativer KI

Über die letzten dreieinhalb Jahre hat sich unsere Welt geradezu dramatisch verändert. Als 2022 zunehmend von KI generierte Bilder durchs Netz geisterten und entsprechende Software für alle verfügbar wurde, waren diese Fieberträume der Maschine als eben solche noch eindeutig zu erkennen. Doch zur Mitte desselben Jahres ging Midjourney online, und damit nichts anderes als ein Gamechanger. Das veränderte alles und markierte einen Leistungssprung, wie ihn wohl nur die Wenigsten für möglich gehalten hatten.

Auch hier waren je nach Motiv noch immer massive Mängel auszumachen. An Händen und Fingern tat sich die Software zum Beispiel extrem schwer. Aber insbesondere etwas unklare Darstellungen von Landschaften mit einem Phantastik-Setting brachten erstaunliche Ergebnisse zutage und faszinierten und begeisterten viele. Es liegt hier wohl in der phantastischen Natur der Sache, dass das auf genau diesem Spielfeld möglich war: fremden Welten. Eine gewisse Andersartigkeit, Ungewohntes, physikalisch oder organisch Unmögliches fiel hier nicht negativ auf, sondern schmeckte vielmehr nach Sense of Wonder und wirkte in sich stimmig.

Wir können mit Fug und Recht behaupten, dass gerade die Phantastik zum ersten Versuchskaninchen und Opfer der generativen KI wurde. So ist es auch nicht weiter verwunderlich, dass Midjourney als Ergebnis des Auftrags ein Selbstbildnis zu generieren, ein Bild ausspuckte, welches wie ein Gemälde des phantastischen Künstlers Michael Whelan wirkt .

Ein weiterer Fall, der für Aufsehen sorgte, wirkt wie aus einer STAR WARS-Szene mit Natalie Portmann als Königin Padmé Amidala in zeremoniellem Gewand und einem futuristischen Hofstaat mit einer kleinen Prise Barock. Die Inhalte mussten andersartig sein, um geglaubt zu werden und unser Auge zu narren, und so gewann dieses via Midjourney erstellte Bild bei einer Kunstausstellung in Colorado im Juni 2022 den ersten Preis. Die Jury hatte es einfach nicht als KI-Werk erkannt.

Es gibt also einen Bereich der diffusen Ungenauigkeit, der uns im Dunkeln tappen lässt. Es brauchte die Hände mit sieben Fingern, die eiernden Monde und miteinander verwachsene Augen und Nasen, oder architektonische Absurditäten, für die M. C. Escher wohl nur einen schalen Treppenwitz übriggehabt hätte, um die Herkunft eindeutig zu erkennen. Zumindest für die gängige Perspektive in normaler Größe. Visuell Kreativschaffende verbringen allerdings den Großteil ihrer Zeit mit der Nase dicht am Werk, sei das nun vor der Leinwand und dicht übers Papier gebeugt oder bei einem Zoom von 2 - 400% am Computer, wenn man digital arbeitet. Mit einem solch professionellen Blick entdeckt man noch viel mehr Hinweise auf eine KI-Herkunft.

Während der Anfangszeit tauchten oft überall kleine schwarze Pixelkratzer auf, ganz so, als wären die Daten fehlerhaft oder beschädigt. In manchen Bildern konnte man sogar die verzerrten Signaturen der Künstler:innen erkennen, deren Werke für das Training der KI gestohlen worden waren. Grundsätzlich wirkte vieles im Detail geradezu wirr und eher nach unscharfem Pixelschrott, der nur in der beabsichtigten Darstellungsgröße Sinn ergab. 

Aber aus diesen Kinderschuhen mit Verarbeitungsmängeln wuchs die generative KI mit einer Geschwindigkeit heraus, die Lord Helmchen nur als lächerlich umschreiben könnte – und sein ungebremster Köpper in die Armaturen mag als brauchbares Bild dafür dienen, wie schmerzhaft und verletzend sich diese Entwicklung für die echten Kunstschaffenden angefühlt hat, deren Werke ohne Zustimmung oder Entschädigung verwendet und durch den digitalen Fleischwolf gedreht worden sind.

Der herangewachsene KI-Scherge unter Sherlocks Lupe

Stand heute sind KI-Bilder unglaublich  gereift durch die schier unermesslichen Datenmassen, die sich die nimmersatte Maschine einverleibt hat. Tatsächlich ist es mittlerweile eher so, dass wir die Bilder erkennen können, weil sie zu perfekt, zu glatt, zu charakterlos sind, und gerade bei der Darstellung von Menschen nahezu pervertiert „schön“. Teilweise werden uns Gesichter und Körper vorgesetzt, die irgendwo zwischen Disneyanimation und Plastikporno verortet werden können ... Wir haben hier Produkte einer seelenlosen Software. Aufgestylte Oberfläche, getrimmt für die niedersten Triebe und den schnellsten Effekt, aber nichts dahinter. Was die Modelle aus dem riesigen Fass voll Daten ausspucken, gleicht mehr Frankensteins Monster als einem genießbaren oder guten Wein, und immer wieder sind Fragmente bekannter Künstler:innen sichtbar.

Ähnlich verhält es sich mit feineren Details wie etwa Haaren. Gehen wir nah ran, offenbart sich, dass da ohne Sinn und Verstand etwas nachgeäfft wird. Da wachsen Haare auch gerne mal wieder in den Kopf rein, oder werden von einem Stück Kleidung unterbrochen, um nur wenige Millimeter später weiter zu verlaufen. Oder sie gehen in etwas über und verwachsen auf unmögliche Art und Weise mit anderen Elementen.

Selbst an ähnlichen einfacheren Motiven sind immer noch gravierende Mängel zu entdecken, wie etwa den Stängeln eines Blumenstraußes. Korrekt auf den ersten Blick, doch die Stängel wachsen ineinander, schließen nicht richtig ab oder werden falsch verdeckt.

Als ich just für eine Illustration nach Referenzmaterial suchte, fand ich im längst KI-verseuchten Internet unter den ersten Treffern Oktopusse, deren Arme als ineinander verwachsene, geschlossene Ringe an ihren Körpern hingen, also keine Arme, sondern Schlaufen waren.

Bei einem anderen konkreten Beispiel hatte ich das Cover eines Science-Fiction-Romans vor mir. Von einem „Künstler“, der gerade überall „seine“ KI-Bilder verkauft. Darauf zu sehen ist das Blatt einer Uhr mit römischen Ziffern – nicht nur als völliges Durcheinander ohne jeden Plan verteilt, sondern auch noch mit falschen Kombinationen wie etwa IIX. Ich fragte sicherheitshalber nach, ob das Absicht sei, es womöglich den Inhalt des Romans aufgreife. Dem war nicht so. Der „Künstler“ hatte also noch nicht mal die Zeit investiert (oder war vermutlich handwerklich gar nicht dazu in der Lage), die absurden Halluzinationen und Fehler der generativen KI zu beheben, die mit gestohlenen Daten Bildwerke auskotzt, die er als „seine Kunst“ ausgibt.

Ähnlich verhält es sich bei architektonischen Darstellungen. Da schließen Treppenstufen nicht richtig ab, Böden bleiben nicht auf einer Höhe, Fenster haben nach Lust und Laune mal mehr mal weniger Segmente, und Simse und Schmuckelemente passen nur auf den ersten Blick zusammen, sind im Detail aber oft wild zusammen gepuzzelt und nicht in sich stimmig, geschweige denn kunsthistorisch korrekt.

Ganz allgemein werden sehr oft Fehler bei der Zweipunktperspektive offenbar, denn die KI versteht nicht den korrekten Aufbau der Abbildungen. Sie hat keinerlei Empfinden für die Objekte und begreift nicht, was sie da eigentlich darstellt. Deswegen sieht man auch immer wieder Fehler in der Staffelung vom Vorder- zum Hintergrund. Da laufen Linien eines Objektes im Hintergrund nicht sinngerecht weiter, sondern verschmelzen mit dem Objekt davor oder mäandern daran herum.

Ein weiteres Indiz sind oft unnatürliche Strukturen, die nicht wirklich zum Dargestellten passen, nicht richtig an den Körpern entlang laufen, wie etwa Textilgewebe. Oder sie sind stark übertrieben, wirken wie tiefe Furchen, obwohl die Oberfläche doch eher samtig und glatt sein sollte.

Marc-Uwe Kling, der sich neben seiner Schreibe auch mit Witz und Charme für unsere digitale Souveränität einsetzt, sagte sinngemäß in der Sendung Bosetti Late Night vom 16.11.2025 mit dem Thema „Die Macht der KI“, dass wir gut daran täten, nicht mehr KI im Sinne von „Künstliche Intelligenz“ zu sagen und zu verstehen, sondern „Künstliche Imitation“ die Wahrheit viel eher treffen und beschreiben würde.

Lasst uns den Terminus etablieren und die Lage neu sortieren – vor allem auch für unser Selbstwertgefühl und zur Ermächtigung. Da mag zwar ein riesenhafter Golem auf uns zu stampfen, der viele in Angst und Schrecken versetzt, aber in seinem Oberstübchen herrscht gähnende Leere und er wird von Menschen mit äußerst fragwürdigen Absichten gelenkt. Wir sollten ihm nichts Sensibles und Zerbrechliches anvertrauen und ganz genau überlegen, welchen Schaden er verursachen könnte, wenn wir ihm die Tür öffnen und ihn durch unser Haus trampeln lassen ...

Einige plumpe Ungeheuer erkennt man zum Glück von Weitem. Kürzlich sah ich ein Cover für einen Horrorroman in Pulp-Look. Ein Mädchen steht vor dem Tor zu einem Friedhof. Eigentlich ein sehr symmetrischer Aufbau, aber auf der einen Seite fehlt der Zaun des Friedhofs. Und zwar vollständig. Da gibt es noch nicht mal den umlaufenden steinernen Bodensockel, den wir auf der anderen Seite sehen. Aber okay, das können wir noch hinnehmen. Der Verfall und so. Wenn auch seltsam. Als kreativer Mensch hätte man dennoch mindestens eine Andeutung gemacht und ihn nicht einfach komplett weggelassen, damit es nicht aussieht, als hätte man ihn vergessen oder keinen Bock auf die Arbeit gehabt. Doch siehe da, es gibt auch Grabsteine außerhalb der Mauer … und einer davon steht deutlich im Schatten des Torpfostens, sticht aber dennoch mit einer unmöglich starken Lichtlinie an der Seite hervor. Spätestens jetzt sollten wir skeptisch geworden sein und vermuten, dass uns da jemand ein billiges KI-Bild und Untote jenseits des Gottesackers unterjubeln möchte. Und genau das war der Fall. Zur Absicherung habe ich es durch eine KI-Erkennungssoftware laufen lassen und es wurde mit 99,9% als generiert abgestempelt.

Um die KI zu identifizieren, muss man sich nicht einmal die Mühe machen, Bilder derart zu analysieren oder sogar zu vergrößern und nach Unstimmigkeiten abzusuchen, wenn sie nicht gerade so offensichtlich wie bei dem Friedhofsbild oder anderem unausgereiftem Kram sind.

Ich möchte euch hier ein Tool an die Hand geben, mit dem sich zumindest KI-Bilder recht gut erkennen lassen, solange sie nicht zu intensiv nachbearbeitet wurden (was ja schon mal eine gewisse Eigenleistung wäre und keine komplette Täuschung).

Nutzt HIVE-Detection gerne und häufig. Lasst euch nicht länger hinters Licht führen – und wenn es euch entspricht und wichtig ist, weist auch öffentlich darauf hin und fordert Transparenz ein, wenn nirgendwo deutlich gemacht wird, für welche Nicht-Leistung ihr da euer Portemonnaie öffnen sollt oder sich wer mit fremden Federn schmückt.