AI-Romane fluten Amazon

Es ist passiert, was seit letztem Jahr von verschiedenen Institutionen und Autoren vorhergesagt wurde, aber die Verfechter von AI-Systemen und deren User immer wieder fleißig dementiert oder zumindest kleingeredet haben. Anfang dieser Woche (Montag, der 26.06.2023) wurde Amazon von einer Welle an AI-Romanen erfasst, die es bis in die Bestsellterlisten schaffte und damit den Großteil Menschenhand geschriebener Werke unsichtbar machte.

„Autoren und Kunden waren am Montagmorgen schockiert, als sie feststellten, dass von 100 Büchern auf Amazons Bestsellerliste „Teen & Young Adult Contemporary Romance eBooks“ nur 19 „legitime“ Bücher waren, die von echten menschlichen Autoren geschrieben wurden. AI produzierte die anderen 81 Bücher.“

https://www.extremetech.com/computing/amazon-is-full-of-ai-written-novels-that-dont-make-sense

Angefangen haben diese Vorfälle aber schon Monate vorher, wie man einem Artikel aus Future Zone Ende Februar 2023 entnehmen kann.

Inzwischen sollen sich in der Amazon Kindle-Bibliothek über 200 Werke mit ChatGPT als Autor oder Co-Autor befinden. Inzwischen gibt es sogar eine Unterkategorie, die nur Bücher geschrieben durch ChatGPT aufführt. Hier finden sich Kinderbücher, Gedichtbände und vieles mehr.“

https://www.futurezone.de/produkte/article432735/amazon-verkauft-buecher-von-ki-experten-sind-besorgt.html

Weiter heißt es:

„Nicht jeder zeigt sich von dieser Entwicklung begeistert. Hinzu kommt, dass nicht alle Amazon eBooks, die von der KI geschrieben sind, von den Autoren als solche markiert werden. Die Dunkelziffer der generierten Geschichten könnte also noch weitaus höher sein.

Dabei sind auch Plagiate bereits bestehender Werke nicht ausgeschlossen. Das zeigte unter anderem ein Experiment von CNET. KI-genierte Berichte wiesen einen hohen Anteil an bereits vorhandenen Content anderer Autoren auf. Die Authors Gild, eine Berufsorganisation für Schriftsteller, zeigt sich entsprechend besorgt. So erklärt die Geschäftsführerin Mary Rasenberger: „Das ist etwas, worüber wir uns wirklich Sorgen machen müssen, diese Bücher werden den Markt überschwemmen und viele Autoren werden arbeitslos sein.“

https://www.futurezone.de/produkte/article432735/amazon-verkauft-buecher-von-ki-experten-sind-besorgt.html

Tja, und genau dazu ist es jetzt nachweislich auf Amazon gekommen.

Konsequenzen: Ja oder Nein?

Autoren und Kunden gleichermaßen dürften sich nun fragen, ob es hieraus Konsequenzen geben wird. Jeder normal denkende Mensch würde die Frage dazu mit einem Ja beantworten. Aber beginnen wir die Betrachtung einmal von vorne und arbeiten uns nach hinten durch.

• Wie konnte das passieren?
• Wir wurde das erkannt?
• Was gedenkt Amazon dagegen zu unternehmen?
• Was sollten Verlage, Distributoren oder Shops in Zukunft unternehmen?

Klar ist nach dem Vorfall auf Amazon, dass etwas geschehen muss. Denn die Qualität dieser Romane ist einfach unterirdisch schlecht. Schuld ist die Gier der Menschen durch möglichst wenig Zeitaufwand und Können, schnell Geld verdienen zu wollen. Autoren, die sich – mit Verlaub – den Arsch mit Talent und Handwerk aufreißen, werden durch dieses Vorgehen enorm geschädigt. Die Kunden gleich mit, weil sie mit Müll umworben werden, den laut Reuters eh kaum jemand kauft, (https://www.heise.de/news/ChatGPT-Hunderte-E-Books-von-KI-bei-Amazon-Problem-fuer-Literaturmagazine-7523281.html), der aber mit einem Ranking in Bestsellerlisten „echten“ Autoren die Sichtbarkeit klaut.

Hier ein Satz aus einem dieser KI-Bestseller:

„Dieser Schwager ist wirklich zu ehrgeizig, diese Person ist der Meister des Schattendämonenpalastes, jeder Sektenmeister hat eine äußerst schreckliche Stärke, wenn nicht, wie kann ich dann auf der Position des Oberhauptes der Sekte sitzen?“

https://www.extremetech.com/computing/amazon-is-full-of-ai-written-novels-that-dont-make-sense und https://t3n.de/news/ki-generierte-romane-amazon-chatgpt-problem-1562169/

Unter diesem Beispielsatz findet sich im verlinkten Beitrag zu extremtech.com eine Abbildung der entsprechenden AI-Werke. Die Abbildung ist nicht gerade hochauflösend, aber man erkennt, dass die Umschreibung „lieblos zusammengeschustert“ noch wohlwollend ausgedrückt ist. Dass das auch Kunden sauer aufstößt, dürfte verständlich sein. Kunden, und damit Leser, erwarten weit mehr als das.

Damit wäre zumindest erklärt, wie diese Flut an AI-Unfällen aufgefallen ist. Aber wie zum Henker kam dieser lieblos erstellte Müll in die Bestsellerlisten? Vermutlich durch Bots, gesichert ist die Annahme aber nicht.

„Es scheint etwas los zu sein, bei dem Bots Bücher von Bots lesen, um die Charts zu manipulieren.“ (Clare Pollard, eine Romanautorin und Dichterin)

https://www.extremetech.com/computing/amazon-is-full-of-ai-written-novels-that-dont-make-sense und https://t3n.de/news/ki-generierte-romane-amazon-chatgpt-problem-1562169/

Die Konsequenz bei Amazon

Die ist nicht absehbar bis eher verhalten. Gestützt auf einen Artikel von Reuters ist zu befürchten, dass Amazon nichts machen wird, bis irgendetwas nicht deren Richtlinien entspricht. Aktuell ist es halt nicht so, dass Autoren kennzeichnen müssen, wenn etwas AI ist. Fertig. Bei einem künstlichen Push, wie es jetzt der Tage passiert ist, sieht es anders aus. Dann wird korrigierend eingegriffen. Aber der Müll bleibt nach wie vor bei Amazon erhalten.

Hier der Auszug aus dem Reuters Artikel:

Ein Autor namens Frank White zeigte in einem YouTube-Video, wie er in weniger als einem Tag eine 119-seitige Novelle mit dem Titel „Galactic Pimp: Vol. 1“ über außerirdische Fraktionen in einer fernen Galaxie, die um ein mit Menschen besetztes Bordell streiten. Das Buch ist für nur 1 US-Dollar im Kindle-E-Book-Shop von Amazon erhältlich. In dem Video sagt White, dass jeder, der über die nötigen Mittel und die Zeit verfügt, 300 solcher Bücher pro Jahr erstellen könnte, alle mithilfe von KI.

Viele Autoren wie White fühlen sich nicht verpflichtet, im Kindle-Shop offenzulegen, dass ihr großer amerikanischer Roman vollständig von einem Computer geschrieben wurde, auch weil die Richtlinien von Amazon dies nicht vorschreiben.

Als Amazon von Reuters um einen Kommentar gebeten wurde, ging es nicht darauf ein, ob es Pläne habe, seine Kindle-Shop-Richtlinien hinsichtlich der Verwendung von KI oder anderen automatisierten Schreibtools durch Autoren zu ändern oder zu überprüfen. „Alle Bücher im Laden müssen unseren Inhaltsrichtlinien entsprechen, einschließlich der Einhaltung geistiger Eigentumsrechte und aller anderen geltenden Gesetze“, sagte Amazon-Sprecherin Lindsay Hamilton per E-Mail.

Eine Sprecherin des ChatGPT-Entwicklers OpenAI lehnte eine Stellungnahme ab.

https://www.reuters.com/technology/chatgpt-launches-boom-ai-written-e-books-amazon-2023-02-21/

Die Konsequenz für das Selfpublishing und die Verlage

Der Vorfall bei Amazon reißt den Ruf des Selfpublishings enorm in den Keller. Nicht nur, dass dieser Ruf von Anfang an nie besonders gut war, weil nicht jeder Autor Wert auf ein ordentliches Lektorat, Korrektorat, Coverdesign und Buchsatz legt – ist klar, weil es teure Dienstleistungen sind – nein, nun versauen auch noch KI-User den Ruf des SPs mit ihrer Gier nach schnellem Geld in Kombination mit unterirdischer Qualität zusätzlich. Eine Publikation ist schließlich als Selfpublisher so leicht wie nirgendwo sonst. Dagegen ist eine Regulierung weitaus schwerer, weil eine einheitliche Qualitätskontrolle deutlich schwerer durchzusetzen ist, aber sie wäre möglich.

Verlage haben hier eine bessere Stellung, wenn sie denn AI gestützte Werke (in Bild und Text) regulieren wollen, weil sie nur für sich agieren müssen. Dass jeder Verlag gut beraten wären, dies zu tun, wenn ein gewisser Qualitätsstandart erhalten bleiben soll, steht hoffentlich nicht zur Debatte. Denn seit dem Jahreswechsel werden Verlage egal ob groß oder klein auch mit AI-Manuskripten geflutet.

In einem Bericht des Golem steht dazu:

„Nach einem Bericht von PCMag hat die Science-Fiction-Zeitschrift Clarkesworld Magazine die Einreichung von Kurzgeschichten vorübergehend gestoppt, weil es Zweifel gab, ob die kürzlich eingesandten Werke von Menschen erstellt wurden. Clarkesworld verbietet die Einsendung jeglicher „Geschichten, die von KI geschrieben, mitgeschrieben oder unterstützt wurden“.

Der Reuters-Bericht kommt zu dem Schluss, dass KI-generierte Bücher das Potenzial besitzen, die Geschäftsmodelle traditioneller Verlage und Autoren zu beeinflussen. Es wird erwartet, dass die Verlage sich stärker auf die Entwicklung von Talenten und qualitativ hochwertigen Inhalten konzentrieren werden, um sich von den von KI-generierten Büchern abzuheben.“

https://www.golem.de/news/kuenstliche-intelligenz-chatgpt-macht-autoren-karriere-bei-amazon-2302-172092.html

Dass sich nicht alle Verlage auf dieser Linie einfinden werden, ist naturgemäß zu erwarten und aktuell schon zu beobachten. Bereits jetzt experimentieren einige Verlage unverhohlen mit AI-Covern, so z. B. der Blitz-Verlag. Es ist also nur ein kleiner Schritt, bis auch hier AI-Texte Einzug halten.

Schlusswort

Selfpublishing und Verlage leiden gleichermaßen an einer neuen Krankheit: AI-User, die sich für Autoren bzw. Künstler halten. Solange es keine Kontrollmöglichkeiten gibt, ist das die bittere Wahrheit. Und bei all den bisherigen Einflüssen aus der Ecke der AI-Erzeugnisse müssen die Distributoren des Selfpublishings und die Verlage sich gleichermaßen mit ihren Konzepten auseinandersetzen. Daran führt kein Weg mehr vorbei. Die einzige Möglichkeit, Kunden genauso wie „echte“ Autoren vor einer chaotischen Flut an AI-Erzeugnissen im Buchsektor zu schützen, wären Qualitätskontrollen an geeigneter Stelle.

Gatekeeper wie Amazon, Tolino Media, BOD, Tredition usw. stünden genauso in der Pflicht wie jeder Verlag, denn die kleinen Shops können das nicht leisten. Es bräuchte also eine Kennzeichnungspflicht und darüber hinaus eine eigene Kategorie bis in die kleinsten Shops hinein, damit AI-Titel nicht zwischen manmade-Titeln stehen, um von menschenhand geschaffenen Werken ihre Sichtbarkeit zu gewährleisten.

Wer welche Entscheidung fällt, dürfte in Zukunft einen entscheidenen Einfluss auf die Leserschaft einerseits haben und auf die Autorenschaft andererseits. Jetzt werden Distributoren und Verlage ihren Ruf neu schmieden können. Mal sehen, wofür sie sich entscheiden: Für Qualität und Fariness oder Schrott?

Eure Rike

Anmerkung: Manche Zitate sind dt. Browserübersetzungen, weil es sich um englischsprachige Quellen handelt.