Wie lässt sich der Einsatz künstlicher Intelligenz bei Publikationen kennzeichnen? Antworten darauf entwickelt gerade eine Arbeitsgruppe der wissenschaftlichen STM-Verlage. Hier erläutern Henning Schönenberger (Springer Nature) und Joris van Rossum (STM Association) Ziele, Hintergründe - und die Relevanz für Publikumsverlage.
Nach wie vor fehlt eine klare Definition, wie die Nutzung von KI in wissenschaftlichen Werken angezeigt werden soll.
Henning Schönenberger, Joris van Rossum
Der rasante Fortschritt der Künstlichen Intelligenz (KI), insbesondere generativer KI-Tools, transformiert viele Bereiche, darunter auch Verlage. Der Einfluss von KI ist im wissenschaftlichen Publizieren seit vielen Jahren sichtbar. Als Antwort darauf haben akademische Verlage zunehmend Richtlinien für den ethischen Einsatz von KI im Publikationsprozess entwickelt.
Neben den generellen Richtlinien haben die meisten Verlage Regelungen aufgesetzt, die Forschende verpflichten, den Einsatz von KI in ihren akademischen Arbeiten zu deklarieren. Dennoch gibt es nach wie vor weiteren Handlungsbedarf, denn es fehlt eine klare Definition, wie die Nutzung von KI in wissenschaftlichen Werken angezeigt werden soll.
Forschende werden im Unklaren gelassen, was genau deklariert werden muss und auf welche Art und Weise. Der Mangel an klaren Vorgaben hat daher vielerorts zu inkonsistenten KI-Angaben geführt.
Autor:innen sind unsicher, ob und wie sie den Einsatz von KI bei der Datenanalyse, der Schreibunterstützung, der Sprachbearbeitung, der Übersetzung oder in anderen Phasen des Prozesses der Inhalteerstellung melden sollen. Diese Unklarheit erschwert nicht nur den Einreichungsprozess von Forschungsartikeln, sondern beeinträchtigt auch die Transparenz, eine der Grundsäulen der Integrität im wissenschaftlichen Publizieren und in der Wissenschaft insgesamt.
Ein kürzlich stattgefundener Workshop an der Universität Mannheim, der in Zusammenarbeit mit Springer Nature organisiert wurde, hat gezeigt, dass buchstäblich alle Workshop-Teilnehmenden regelmäßig KI wie ChatGPT oder verschiedene Copilot-Tools nutzen.
Henning Schönenberger, Joris van Rossum
Der Ruf nach einheitlichen Standards in der Kennzeichnung ist besonders dringend, da die Nutzung generativer KI zur Erstellung von Forschungsinhalten immer häufiger wird.
Ein kürzlich stattgefundener Workshop an der Universität Mannheim, der in Zusammenarbeit mit Springer Nature organisiert wurde, hat gezeigt, dass buchstäblich alle Workshop-Teilnehmenden regelmäßig KI wie ChatGPT oder verschiedene Copilot-Tools nutzen. Dies ist ein Trend mit erheblichen Auswirkungen auf das Verlagswesen.
Vor eben diesem Hintergrund verlangen viele akademische Verlage, dass Autor:innen den Einsatz von KI in ihren Werken offenlegen. Ohne eine gemeinsame Sprache für diese Deklarationen läuft die derzeitige Handhabung jedoch Gefahr zu fragmentieren. Eine einheitliche Terminologie wird Klarheit schaffen, indem sie Forschenden ermöglicht, ethische Richtlinien einzuhalten, und Gutachter:innen und Lesenden dabei hilft, die Integrität der Werke zu beurteilen.
Um diese Herausforderungen bei der Transparenz des Einsatzes von KI zu adressieren, hat die STM Association, die führende internationale Vereinigung wissenschaftlicher Verlage, die Arbeitsgruppe „AI Labelling Terminology for Research Content Declaration“ ins Leben gerufen.
Ziel ist es, eine Terminologie für den KI-Einsatz zu entwickeln, die einheitlich über wissenschaftliche Veröffentlichungen hinweg angewendet werden kann, sowohl im Bereich der Zeitschriften als auch der Bücher. Autor:innen, Gutachter:innen, Herausgeber:innen und Lesende sollen klar nachvollziehen können, wie und in welchem Umfang KI-Tools beispielsweise bei der Erstellung und Aufbereitung wissenschaftlicher Manuskripte eingesetzt wurden. Die Arbeitsgruppe plant, eine solche Terminologie im ersten Quartal 2025 zu veröffentlichen.
Diese Bemühungen der STM-Arbeitsgruppe sind Teil umfassender ethischer und praktischer Richtlinien für den Einsatz von KI im Publikationsprozess und zeigen das Engagement der Verlagsbranche, Vertrauen und Transparenz in der akademischen Forschung zu stärken. Klare KI-Deklarationen können dazu beitragen, die Qualität und Vertrauenswürdigkeit wissenschaftlicher Publikationen zu erhalten, insbesondere im Kontext der wachsenden Rolle von KI in der Forschung.
Frühere Erfahrungen mit technologisch-disruptiven Veränderungen deuten darauf hin, dass Entwicklungen im wissenschaftlichen Publizieren häufig nach einigen Jahren auch in Publikumsverlagen relevant werden.
Henning Schönenberger, Joris van Rossum
Dieses Thema ist jedoch nicht notwendig auf wissenschaftliche Verlage beschränkt. Auch die breitere Verlagsbranche, einschließlich der Publikumsverlage, wird vermutlich zunehmend an konsistenter KI-Transparenz interessiert sein.
Ob KI den kreativen Prozess in akademischer oder narrativer Literatur unterstützt: Eine standardisierte Art und Weise, ihren Einsatz zu kennzeichnen, wird die Transparenz erhöhen und dazu beitragen, das Vertrauen der Lesenden aufrechtzuerhalten.
Frühere Erfahrungen mit technologisch-disruptiven Veränderungen deuten darauf hin, dass Entwicklungen im wissenschaftlichen Publizieren häufig nach einigen Jahren auch in Publikumsverlagen relevant werden. Angesichts dessen, dass die Offenlegung der KI-Nutzung in Zukunft womöglich nicht mehr als Zeichen schlechten Stils, sondern als Qualitätsmerkmal gelten wird, öffnet sich hier ein günstiger Moment für frühe Akteure.
Der Vorstoß zu einer konsistenten Terminologie für die Offenlegung von KI ist ein wichtiger Schritt nach vorn. Da sich KI-Technologien weiterentwickeln, wird die Sicherstellung eines offenen und klaren Reportings über ihren Einsatz dem gesamten Publikationsökosystem – Wissenschaft und darüber hinaus – zugutekommen. Dies wird die Integrität, Qualität und Transparenz veröffentlichter Inhalte in einer zunehmend KI-gesteuerten Welt stärken.
KI-Deklaration: ChatGPT wurde für den ersten Entwurf dieses Textes sowie für die Übersetzung der vollständig bearbeiteten Version vom Englischen ins Deutsche verwendet.
