Warum die Natur den Einsatz generativer KI in Bildern und Videos nicht zulässt

Sep 05, 2023

Sie haben über Ihre Institution vollen Zugriff auf diesen Artikel.

Nature wird keine Bilder veröffentlichen, die ganz oder teilweise mithilfe generativer KI erstellt wurden.Quelle: Artem Medvediev/Alamy

Sollte die Natur den Einsatz generativer künstlicher Intelligenz (KI) bei der Erstellung von Bildern und Videos zulassen? Diese Zeitschrift diskutiert, debattiert und berät diese Frage seit mehreren Monaten, nachdem die Zahl der mit generativen KI-Tools wie ChatGPT und Midjourney erstellten Inhalte explosionsartig zugenommen hat und die Fähigkeiten dieser Plattformen rasch zugenommen haben.

Abgesehen von Artikeln, die sich speziell mit KI befassen, wird Nature zumindest auf absehbare Zeit keine Inhalte veröffentlichen, in denen Fotografien, Videos oder Illustrationen ganz oder teilweise mit generativer KI erstellt wurden.

Künstler, Filmemacher, Illustratoren und Fotografen, die wir beauftragen und mit denen wir zusammenarbeiten, werden gebeten, zu bestätigen, dass keines der von ihnen eingereichten Arbeiten mithilfe generativer KI generiert oder erweitert wurde (siehe go.nature.com/3c5vrtm).

Tools wie ChatGPT gefährden die transparente Wissenschaft; Hier sind unsere Grundregeln für deren Verwendung

Warum verbieten wir den Einsatz generativer KI in visuellen Inhalten? Letztlich ist es eine Frage der Integrität. Der Prozess des Publizierens – sowohl in der Wissenschaft als auch in der Kunst – basiert auf einer gemeinsamen Verpflichtung zur Integrität. Dazu gehört Transparenz. Als Forscher, Redakteure und Verleger müssen wir alle die Quellen von Daten und Bildern kennen, damit diese auf ihre Richtigkeit und Wahrheit überprüft werden können. Bestehende generative KI-Tools bieten keinen Zugriff auf ihre Quellen, sodass eine solche Überprüfung erfolgen kann.

Dann gibt es noch die Namensnennung: Wenn vorhandene Arbeiten verwendet oder zitiert werden, müssen diese mit einer Quellenangabe versehen werden. Dies ist ein Kernprinzip von Wissenschaft und Kunst, und generative KI-Tools entsprechen dieser Erwartung nicht.

Zustimmung und Erlaubnis sind ebenfalls Faktoren. Diese müssen eingeholt werden, wenn beispielsweise Personen identifiziert werden oder es um geistiges Eigentum von Künstlern und Illustratoren geht. Auch hier bestehen gängige Anwendungen generativer KI diese Tests nicht.

Generative KI-Systeme werden auf Bildern trainiert, bei denen noch keine Anstrengungen unternommen wurden, um die Quelle zu identifizieren. Urheberrechtlich geschützte Werke werden routinemäßig zum Trainieren generativer KI ohne entsprechende Genehmigungen verwendet. In manchen Fällen wird auch die Privatsphäre verletzt – zum Beispiel, wenn generative KI-Systeme ohne deren Zustimmung scheinbar Fotos oder Videos von Menschen erstellen. Zusätzlich zu Datenschutzbedenken beschleunigt die Leichtigkeit, mit der diese „Deepfakes“ erstellt werden können, die Verbreitung falscher Informationen.

Derzeit erlaubt Nature die Einbeziehung von Texten, die mit Hilfe generativer KI erstellt wurden, sofern dies mit entsprechenden Einschränkungen erfolgt (siehe go.nature.com/3cbrjbb). Die Verwendung solcher LLM-Tools (Large Language Model) muss im Abschnitt „Methoden“ oder „Danksagungen“ einer Arbeit dokumentiert werden, und wir erwarten von den Autoren, dass sie Quellen für alle Daten angeben, einschließlich derjenigen, die mit Hilfe von KI generiert wurden. Darüber hinaus wird kein LLM-Tool als Autor einer Forschungsarbeit akzeptiert.

Die Welt steht am Rande einer KI-Revolution. Diese Revolution ist vielversprechend, aber KI – und insbesondere generative KI – stellt auch seit langem etablierte Konventionen in Wissenschaft, Kunst, Verlagswesen und mehr schnell auf den Kopf. Die Entwicklung dieser Konventionen hat in einigen Fällen Jahrhunderte gedauert, aber das Ergebnis ist ein System, das die Integrität der Wissenschaft schützt und die Ersteller von Inhalten vor Ausbeutung schützt. Wenn wir im Umgang mit KI nicht vorsichtig sind, besteht die Gefahr, dass all diese Fortschritte zunichte gemacht werden.

Viele nationale Regulierungs- und Rechtssysteme formulieren immer noch ihre Antworten auf den Aufstieg der generativen KI. Bis sie aufholen, bleibt die Haltung von Nature als Herausgeber von Forschungs- und Kreativwerken ein einfaches „Nein“ zur Einbeziehung visueller Inhalte, die mit generativer KI erstellt wurden.

Natur618, 214 (2023)

doi: https://doi.org/10.1038/d41586-023-01546-4

Tools wie ChatGPT gefährden die transparente Wissenschaft; Hier sind unsere Grundregeln für deren Verwendung

Wie Nature-Leser ChatGPT nutzen

„Wettrüsten mit Automatisierung“: Professoren machen sich Sorgen über KI-generierte Studienleistungen

Bewahren Sie die kulturelle Vielfalt in den Autorennamen

Korrespondenz 06.06.23

Tansanias Forscher boten 22.000 US-Dollar für Veröffentlichungen in internationalen Fachzeitschriften an

Neuigkeiten 06.06.23

Das „No-Pay“-Veröffentlichungsmodell des EU-Rats stößt auf gemischte Reaktionen

Neuigkeiten 02.06.23

KI lernt, selbstständig Sortiersoftware zu schreiben

Neuigkeiten und Ansichten 07. Juni 23

ChatGPT: Standard-Berichtsrichtlinien für eine verantwortungsvolle Nutzung

Korrespondenz 06.06.23

Sechs Tipps für besseres Codieren mit ChatGPT

Technologie-Feature 05, 23. Juni

Durch die Anonymisierung von Peer-Reviews wird der Prozess gerechter

Karriere-News 26. MAI 23

China überholt die Vereinigten Staaten beim Beitrag zur Forschung im Nature Index

Nature Index 19 23. MAI

Warum es sich lohnt, Berechnungsmethoden benutzerfreundlich zu gestalten

Karrierekolumne 27 23. April

Kiel, Schleswig-Holstein (DE)

Helmholtz-Zentrum für Ozeanforschung Kiel (GEOMAR)

Samstag, 8. Juli 2023, Tokio Sonntag, 9. Juli 2023, Osaka Die Anmeldung für diese Veranstaltung ist jetzt geöffnet!

Tokio und Osaka, Japan

Naturkarrieren

Basierend auf den gemeinsamen Anstrengungen aller Mitarbeiter und Studierenden sowie der erheblichen Unterstützung aller Bereiche der Gesellschaft.

Peking, China

Hochschule für Wasserwissenschaften, Beijing Normal University

Die Animal and Plant Health Agency (APHA) ist eine Exekutivbehörde des Ministeriums für Umwelt, Ernährung und ländliche Angelegenheiten und arbeitet im Auftrag des S

Addlestone, Surrey

Agentur für Tier- und Pflanzengesundheit

Eine interdisziplinäre Forschungsorganisation, in der modernste Wissenschaft und Technologie die Entdeckung wirkungsvoller Erkenntnisse vorantreiben

Pudong New Area, Shanghai

BeiGene-Institut