Zeitschriftenredakteure äußern sich zu KI im wissenschaftlichen Publizieren

Letzte Woche, die Zeitschrift für biologische Chemie (JBC) veröffentlichte einen Leitartikel, um den angemessenen und unangemessenen Einsatz künstlicher Intelligenztechnologie bei der „Vorbereitung und Überprüfung von Manuskripten, die zur Veröffentlichung in Betracht gezogen werden“, zu definieren.

Im Leitartikel heißt es, dass die KI-Technologie:

Roger Colbran, Professor für Molekularphysiologie und Biophysik an der Vanderbilt University School of Medicine und Mitherausgeber des JBC, verfasste den Leitartikel zusammen mit Chefredakteur Alex Toker vom Beth Israel Deaconess Medical Center und der Harvard Medical School.

„Die rasante Entwicklung und kontinuierliche Weiterentwicklung KI-basierter Tools macht es schwierig, ihre Grenzen im realen Einsatz in den Griff zu bekommen“, sagte Colbran. „Diese Unsicherheiten machen es wichtig für die Verlagsbranche, einschließlich der JBCum klare Richtlinien für die akzeptablen und inakzeptablen Nutzungen aktueller KI-basierter Technologien zu definieren, mit dem klaren Verständnis, dass diese im Zuge der Weiterentwicklung der Technologien regelmäßig aktualisiert werden müssen.“

Der Leitartikel erkennt die potenziellen Vorteile an, die die KI-Technologie für Nicht-Muttersprachler des Englischen bieten kann, die Manuskripte für die Einreichung vorbereiten, und stellt fest, dass die JBC wird „Autoren willkommen heißen, generative KI-Technologien bei der Bearbeitung des Textes ihres Manuskripts zu nutzen, ähnlich wie Autoren möglicherweise traditionellere Bearbeitungsdienste nutzen.“ Wenn KI für die Bearbeitung eines Manuskripts verwendet wird, muss sie in den Danksagungsabschnitt des Manuskripts aufgenommen werden, heißt es im Leitartikel.

„KI-gesteuerte Tools haben das Potenzial, den Zeit- und Arbeitsaufwand, den Wissenschaftler für das Schreiben praktisch aller Dokumente aufwenden müssen, erheblich zu reduzieren, seien es Forschungsartikel, Rezensionen, Buchkapitel, Zuschüsse oder Manuskript-/Zuschusskritiken“, sagte Colbran. „Außerdem bietet es Vorteile, Wissenschaftlern zu ermöglichen, sich schnell in neue Bereiche der Wissenschaft einzuarbeiten. Dies könnte zu einer Steigerung der Gesamteffizienz des gesamten Forschungsunternehmens führen, da Forscher mehr Zeit für die eigentliche Wissenschaft aufwenden können.“

Abschließend heißt es im Leitartikel, dass KI nicht zur Manuskriptprüfung eingesetzt werden dürfe, etwa beim Verfassen von Manuskriptkritiken oder Entscheidungsschreiben. Es weist auf die Möglichkeit hin, dass der Einsatz von KI Datenschutzrechte verletzen könnte, und verweist darauf veröffentlichte Bedenken über die Vertraulichkeit. Das Hochladen eines Manuskripts in ein öffentliches KI-Tool könnte es ermöglichen, dass „ihre KI-Trainer auf gespeicherte Konversationen zugreifen können, um die zukünftige Leistung zu verbessern“, heißt es.

„Es bestehen erhebliche Bedenken hinsichtlich der Vertraulichkeit aller Informationen, die diesen Systemen zur Verfügung gestellt werden“, sagte Colbran. „Zusätzliche generative KI-Tools werden schnell entwickelt, um Rohbilddaten zu ‚erzeugen‘, möglicherweise einschließlich Gele, Blots und Mikroaufnahmen. Solche synthetisierten Daten können mit den Bildanalyse-Pipelines, die derzeit von Zeitschriften und Verlagen verwendet werden, möglicherweise nur sehr schwer zu erkennen sein.“