In der siebzehnjährigen Geschichte von Clarkesworld, einem renommierten Literaturmagazin für Science-Fiction und Fantasy, haben Autoren darüber spekuliert, wie sich entwickelnde, futuristische Technologien auf unsere Welt auswirken werden. Jetzt durchlebt Redakteur und Verleger Neil Clarke ein Debakel, das durchaus eine eigenständige Science-Fiction-Geschichte sein könnte: Sein Magazin wird unkontrolliert von Kurzgeschichten überschwemmt, die mit KI-Tools erstellt wurden.
„Es ist ironisch, so viel sage ich“, sagte Clarke zu Tech. Clarkesworld hat den Ruf, immer offen für Einreichungen von Geschichten zu sein, wohingegen viele Verlage für Kurzgeschichten nur in bestimmten kurzen Fenstern Einreichungen annehmen. Aber zum ersten Mal geriet das Einreichungsvolumen so außer Kontrolle, dass Clarke eine, wie er es nannte, „spontane Entscheidung“ traf, das Einreichungsportal zu schließen (in der Vergangenheit hat Clarkesworld nur kurzzeitig geschlossen, als es seine Website aktualisierte oder Software).
„Mit diesen Tools ist es einfach, Hunderttausende von Werken in der Zeit zu produzieren, in der ein menschlicher Autor vielleicht ein oder zwei produzieren würde“, sagte Clarke gegenüber Tech. „Was wir also im Grunde haben, ist ein Raum voller schreiender Kleinkinder, und wir können die Leute, denen wir zuhören wollen, nicht hören.“
Clarke ist nicht dramatisch. In einem Blogeintrag, teilte er eine Grafik von Juni 2019 bis Februar 2023, die zeigt, wie viele monatliche Einsendungen seine Mitarbeiter als Spam markierten. Bis Anfang dieses Jahres überstiegen die Spam-Einsendungen nie 25 pro Monat, während viele Monate überhaupt keinen Spam hatten. Vor dem Einsendeschluss am Montag hatte Clarkesworld allein im Februar mehr als 500 Spam-Einsendungen erhalten. Für den Kontext erhielt Clarkesworld im Jahr 2022 rund 11.500 Einreichungen, pro Clarkes Blog.
(öffnet in einem neuen Fenster)
Wie viele Kontroversen um KI-generierte visuelle Kunst werfen diese Art von Kurzgeschichten Fragen zum Plagiat auf. Um es grob auszudrücken, die Modelle von OpenAI wie ChatGPT und GPT-3 werden im Wesentlichen auf den Text des Internets trainiert – dazu gehören urheberrechtlich geschützte Geschichten aus Publikationen wie Clarkesworld selbst.
Wenn eine KI-generierte Geschichte eine Veröffentlichung in Clarkesworld verdient hätte, müsste sich die Veröffentlichung mit bestimmten ethischen Fragen auseinandersetzen. Aber Clarke sagt, dass diese Geschichten nicht einmal gut sind. Diese textgenerierenden Algorithmen sind nicht darauf ausgelegt, uns zu unterhalten oder zu überraschen; Sie Muster analysieren in riesigen Datensätzen, um auf Anfragen zu reagieren und zu bestimmen, was am wahrscheinlichsten die gewünschte Ausgabe ist.
DALL-E, Zwischendurch und andere KI-Bildgeneratoren können einige visuell interessante, wenn nicht abgeleitete Werke erstellen – aber wenn Sie an denen Ihres Freundes vorbeiscrollen KI-generierter Avatar Auf Instagram verbringt man nicht viel Zeit mit der Arbeit. Wenn du eine Belletristik mit 5.000 Wörtern liest, musst du ungefähr 15 Minuten oder mehr einer Geschichte widmen, die grundsätzlich darauf ausgelegt ist, so vorhersehbar und langweilig wie möglich zu sein.
Clarkes Entscheidung, Einreichungen zu schließen, hat gegen die Eindämmung verstoßen und der abgeschotteten Science-Fiction-Community entkommen, um eine weitere Runde der Internetdebatte darüber auszulösen, ob KI gute Kunst schaffen kann oder nicht.
„Ich hatte noch nie einen twittern vorher so viral geworden“, sagte Clarke. „Es gibt Leute, die dies als Förderung einer Agenda sehen – KI ist schlecht, oder KI ist fantastisch, und wir sollten uns darauf einlassen … Ich verstehe viel davon. Natürlich möchte ich nur herausfinden, ob ich mit jemandem zusammenarbeite, der es hier ernst meint.“
Für Clarke, seine Mitarbeiter und die Hoffnungsträger, die ihre Geschichten einreichen, bedeutet diese Flut von Einsendungen, dass weniger Zeit für die Arbeit mit echten, aufstrebenden Sci-Fi-Autoren bleibt, die ein echtes Interesse daran haben, ihre Texte zu verbessern. Stattdessen durchforstet Clarke banale Prosa.
„Es ist im Wesentlichen die alte Geschichte von all den Affen, die eines Tages Shakespeare nachahmen werden“, sagte Clarke gegenüber Tech. „Aber wir müssen sie alle durchlesen, um herauszufinden, welcher tatsächlich Shakespeare ist.“
Einige Software behauptet, erkennen zu können, wenn eine Einreichung plagiiert ist oder wenn sie von Tools wie ChatGPT generiert wurde. Aber Clarke hat festgestellt, dass diese kostspieligen Programme nicht sehr genau sind. Kyle Wiggers von Tech testete sieben verschiedene KI-Textdetektoren und stellte fest, dass keiner von ihnen besonders effektiv war. OpenAI schätzt sogar, dass sein eigenes Tool zur Erkennung von synthetischem Text 74 % des von KI generierten Textes übersieht.
Es ist ein schwer zu lösendes Problem für Venture-finanzierte Unternehmen mit Bewertungen in Höhe von mehreren Milliarden Dollar, ganz zu schweigen von einem unabhängigen Science-Fiction-Verlag.
Clarke hat ein besonderes Interesse daran, internationale Autoren zu veröffentlichen, aber er bemerkte, dass Autoren, die keine englischen Muttersprachler sind, manchmal von diesen Detektoren als Spam gekennzeichnet wurden.
„Wir sind uns der Tatsache bewusst, dass das, was verdächtig aussehen könnte, in Wirklichkeit nur eine Eigenart ihres Englischlernens sein könnte“, sagte Clarke. Dies macht es noch weniger möglich, irgendeine Art von automatischer Scan-Software zu verwenden, um Geschichten zu sichten.
Diese Flut von Einsendungen kommt nicht von Bots – Clarke glaubt, dass dies echte Menschen sind, die versuchen, mit minimalem Aufwand schnelles Geld zu verdienen. Sogar Amazon hat einen gesehen steiler Anstieg in KI-generierten, selbstveröffentlichten E-Books.
„Die meisten dieser Einsendungen, die uns erreichen, kommen nicht aus der Science-Fiction-Community“, sagte er. „Sie kommen von Leuten, die verschiedenen Nebenbeschäftigungsblogs, YouTube-Kanälen oder TikToks gefolgt sind, und sie produzieren einfach etwas am laufenden Band und senden es weiter, in der Hoffnung, schnell Geld zu verdienen.“
Clarke sagte, dass einige vergleichbare Sci-Fi-Publikationen die gleichen Probleme haben, insbesondere diejenigen, die immer geöffnet sind oder höhere Gebühren zahlen. Es ist schwer zu sagen, warum Science-Fiction-Magazine die Hauptlast der KI-getriebenen Sintflut tragen – abgesehen von der Ironie des Ganzen könnte es daran liegen, dass Science-Fiction-Veröffentlichungen tendenziell mehr bezahlen. Um von der Science Fiction & Fantasy Writers Association als „professioneller“ Markt für Kurzgeschichten eingestuft zu werden, müssen Veröffentlichungen mindestens acht Cent pro Wort. Das mag nicht nach viel erscheinen, aber Publikationen, die genrefremde literarische Belletristik oder Gedichte drucken, haben nicht dieselben Vorschriften, was bedeutet, dass sie oft noch weniger oder gar nicht zahlen. Spam-Einreicher halten diese Märkte also möglicherweise nicht für lohnenswert.
„Wir haben ein paar der Hauptquellen für Listen gefunden, auf denen wir Ihre Beiträge senden können, die von diesen Chatbot-Gurus verlinkt werden und den Leuten sagen, wie sie Geld verdienen können“, fügte Clarke hinzu. „Wir haben den Verkehr von diesen Seiten überwacht, damit wir wissen, was ihre Quelle ist, und dann habe ich einen Freund, der bei einem anderen Magazin ist, der auch auf dieser Liste steht. Und wir können deutlich sehen, dass sie weiter unten auf der Liste stehen und wir beide Einsendungen von derselben Person erhalten, und sie sind immer ein paar Minuten später. Also arbeiten sie sich in der Liste nach unten.“
Clarke hat noch nicht mitgeteilt, wann er sein Magazin wieder für Einsendungen öffnen wird, aber im Moment sucht er nach Möglichkeiten, Spam abzuwehren.
„Du hast eine sehr graue Zone. Dies ist ein neues Problem, mit dem sich die Branche beschäftigt, und es wird einige Zeit dauern, bis diese Details geklärt sind“, sagte Clarke. „Mein allgemeiner Rat an Autoren lautet daher: Wenn Sie denken, dass es verdächtig sein könnte, tun Sie es nicht.“