Von Christine Burkart und Sabine de Günther
Im Rahmen des 2. SeDOA Online-Ideathon ging es am 2. Juli 2026 um die hochaktuelle Frage nach der Definition, Nutzung und Regulierung von Künstlicher Intelligenz (KI) mit Hilfe von Policys im wissenschaftlichen Publikationswesen, insbesondere im Diamond-Open-Access-Kontext. Die Veranstaltung richtete sich an Forschende, Herausgebende und weitere Beteiligte im Diamond-OA-Publikationsprozess. Die etwa zwölf Teilnehmenden nutzten die Gelegenheit zum regen Austausch und vor allem zum Netzwerken.
Einführung/Problemstellung
In der Praxis des wissenschaftlichen Publizierens ist der Einsatz von Künstlicher Intelligenz (KI) in mancherlei Hinsicht bereits selbstverständlich. Dabei wird KI zur Textgenerierung und -glättung oder zur Plagiaterkennung eingesetzt, zur Unterstützung im Formatierungsprozess oder bei der Bereinigung von Text oder Daten. Doch wie genau kann und soll der Einsatz von KI in der Erarbeitung und Prozessierung von Manuskripten kenntlich gemacht werden?
Um sich dieser Fragestellung zu nähern, wurden zunächst einige Beispiele aus dem universitären (internationalen) Kontext vorgestellt. Allen voran kann hier auf die Leitlinie zum Umgang mit künstlicher Intelligenz von Berlin Universities Publishing (BerlinUP) verwiesen werden. Diese orientiert sich an Positionspapieren internationaler Wissenschaftsorganisationen, wie beispielsweise der Deutschen Forschungsgemeinschaft (Stellungnahme des Präsidiums der Deutschen Forschungsgemeinschaft (DFG) zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln der DFG), des Committee of Publication Ethics (COPE) (Authorship and AI Tools) oder auch an den Empfehlungen der World Association of Medical Editors (WAME) (Chatbots and Generative Artificial Intelligence in Relation to Scholarly Publications). Als weitere Beispiele aus dem (Diamond) OA-Verlagswesen dienten die Artificial Intelligence (AI) Policy von Open Library of Humanities (OLH) oder auch die AI Policy der Public Library of Science (PLOS).
Von individuellen Erfahrungen zu Grundsatzüberlegungen und Bedarfen
Um die eher allgemeinere Sicht der vorhandenen Beispiele zu verlassen, wurden im nächsten Schritt die Beteiligten aufgefordert, innerhalb einer individuellen Reflexion ihre Erfahrungen in der Arbeit mit KI aus der eigenen Perspektive (z. B. als Gutachtende*r, Autor*innen, Editor*innen, Lektor*innen, Layouter*innen, Übersetzer*innen etc.) zu formulieren. Anhand der vorgestellten Policys und der individuellen Erfahrungsberichte entwickelten die Teilnehmenden Fragestellungen in der Auseinandersetzung mit KI im Publikationswesen:
- Was wird definiert bzw. reguliert und warum eigentlich?
- Was ist generell erlaubt und wie sollte dies deklariert werden?
- Was fehlt aktuell innerhalb der vorhandenen Policys und wie sollten wir mit Problemfällen umgehen?
Die Diskussion der entstandenen Sätze im Plenum legten den Fokus auf drei Themengruppen, die sich besonders herauskristallisierten:
- Themengruppe 1 gruppierte sich rund um die Frage: Was wird reguliert?
- Themengruppe 2 konzentrierte sich auf die Frage: Wie wird reguliert?
- Themengruppe 3 fragte nach Diamond OA-spezifischen Fragestellungen bei KI-Policys.
Zur weiteren Diskussion dieser Themengruppen wurden drei Breakout-Sessions geöffnet, die jeweils durch einen SeDOA-Projektbeteiligten betreut wurden und zwanzig Minuten Zeit für eine vertiefte Auseinandersetzung boten.
Verständigung auf Minimalkonsens
Vor allem in Themengruppe 1 verständigten sich die Interessierten auf einen Minimalkonsens hinsichtlich der Frage, was eigentlich reguliert werden sollte. Dabei sollte die Frage nach dem Ziel der Policy entscheidend sein, also geht es beispielsweise vor allem um Transparenz oder wissenschaftliche Nachvollziehbarkeit oder auch Replizierbarkeit? Policys sollten nicht zu allgemein ausfallen und damit zu einer schematisch generierten Fußnote verkümmern. Stattdessen wurde ein Baukastensystem als sinnvoll erachtet, in dem Elemente je nach Bedarf kombiniert werden könnten. Dies sollte außerdem mit Mindeststandards verknüpft werden, die den Einsatz der KI nachvollziehbar machen und die Nachweise in einer einheitlichen Form darlegen.
Gute wissenschaftliche Praxis als Handlungsleitlinie
Die Teilnehmenden stimmten überein, dass KI-Policys wissenschaftsgeleitet sein sollten. Sowohl in Gruppe 1 als auch in Gruppe 2 wurde der Kodex “Leitlinien zur Sicherung guter wissenschaftlicher Praxis” als wichtige Handlungsleitlinie für den Umgang mit KI erachtet. Hier kann insbesondere auf
- Leitlinie 7: Phasenübergreifende Qualitätssicherung,
- Leitlinie 10: Rechtliche und ethische Rahmenbedingungen, Nutzungsrechte,
- Leitlinie 11: Methoden und Standards,
- Leitlinie 12: Dokumentation und
- Leitlinie 14: Autorschaft
verwiesen werden.
Aus dem redaktionellen Bereich wurden die Eigenverantwortung von Autor*innen appelliert und die Verpflichtung zu maximaler Transparenz im Entstehungsprozess von (wissenschaftlichen) Texten. Gleichermaßen sei die Verpflichtung zur Transparenz auf der Redaktionsseite zu durchdenken.
Kostenfrage
Generell wurde in den Gruppen auch über die Frage der Kosten diskutiert und inwiefern diese überhaupt durch wissenschaftliche Einrichtungen bzw. Projekte getragen werden können. Insofern es überhaupt verlässliche Tools, z. B. zur Plagiatserkennung gibt, sind diese oftmals kostenpflichtig. Folgerichtig wäre es, Offenheit auch für die verwendeten Tools, beispielsweise hinsichtlich des Quellcodes, einzufordern.
Datenschutz und Urheberrechtsfragen
Sehr viele Bedenken gab es zudem über die Vertrauenswürdigkeit von gängigen KI-Modellen oder auch KI-Tools von kommerziellen Anbietern. Bei der Verwendung kommerzieller Modelle besteht zudem die Gefahr der Vorab-Publikation von wissenschaftlichen Artikeln. Inwiefern können hier einerseits Datenschutzstandards und andererseits das Urheberrecht eingehalten werden? Die Mehrheit der Teilnehmenden sieht hier große Chancen im Einsatz von lokalen KI-Modellen, hier kann beispielsweise die Länderinitiative der Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG) genannt werden, die KI-Dienste für Hochschuleinrichtungen in Niedersachsen anbieten, welche “Datenschutz, Sicherheit und wissenschaftliche Anforderungen ernst nehmen”. Zudem wurde diskutiert, ob Diamond-OA-Projekte vielleicht KI-Modelle hosten sollten, um die daraus resultierenden Manuskripte oder auch Daten sinnvoll protokollieren und deklarieren zu können.
Fazit
Nach der Vorstellung der Gruppenergebnisse wurden einerseits Schwierigkeiten und andererseits Bedarfe diskutiert. Es stellte sich schnell heraus, dass die Formulierung von Baukastenelementen für verschiedene Anwendungsbeispiele einen deutlichen längeren Aushandlungsprozess benötigt, als es innerhalb eines Ideathons möglich ist. Übereinstimmend wurde der Bedarf nach einer länderübergreifenden Netzwerkinitiative formuliert, die es ermöglichen soll, Fragen in größeren Runden zu besprechen. Um Expertisen zu bündeln, sollten bestehende Arbeitsgruppen, die bereits an KI-Policys schreiben, vernetzt werden. Sinnvoll wäre eine stärkere Sichtbarkeit von Einzelinitiativen; der Wunsch an SeDOA, koordinierend und moderierend einzugreifen, einen Sachstandsbericht zu formulieren und ein Community-Forum zu KI-Policys zu etablieren, wurde formuliert.
Exkurs: Die Rolle von KI in der Forschung definieren
Die von BerlinUP erarbeitete KI-Leitlinie formuliert, dass “KI-Tools die Anforderungen an eine Autor*innenschaft bzw. Urheber*innenschaft nicht erfüllen [können], da sie keine Verantwortung für die eingereichte Arbeit übernehmen können” (Leitlinie zum Umgang mit künstlicher Intelligenz, s. Anwendungsfälle). Dennoch werden zunehmend mehr Forschungsergebnisse von der KI erzeugt und nicht nur deren Kenntlichmachung, wie es die von den EU-Mitgliedsstaaten verabschiedete Transparenzpflicht im AI Act vorsieht, bedarf einer Definition, sondern es steht auch die Frage im Raum, wie mit der Raumnahme von KI-generierten Erkenntnissen umzugehen ist. Ein Beispiel aus der Mathematik zeigt auf, dass sich besonders die stark formalisierten theoretischen Disziplinen in einer Phase der Neuorientierung befinden. Koordiniert von der International Mathematical Union (IMU) entstand in der mathematischen Fachgemeinschaft die im Juni 2026 veröffentlichte Leiden Declaration on Artificial Intelligence and Mathematics, in der Empfehlungen für den Umgang mit KI formuliert werden. Basierend auf Werten, die als charakteristisch für die Mathematik erachtet werden und als erhaltenswert identifiziert wurden, werden potenzielle Gefährdungen dieser Werte durch KI-generierte Forschung diskutiert und Empfehlungen für Forschende, für mathematische Organisationen und gemeinnützige Forschungsförderer, für politische Entscheidungsträger in Regierungs- und Nichtregierungsorganisationen sowie für kommerzielle Anbieter von KI formuliert.
Kurz nach der Veröffentlichung der Leiden Declaration publizierte das Unternehmen OpenAI einen field report zu Scientific computing in the age of agentic AI (28.07.2026), gefolgt von Ten advances in mathematics and theoretical computer design (1.08.2026). Letztere offeriert Lösungen lang bestehender mathematischer Probleme und wurde laut OpenAI mit einer internen Version des KI-Modells Astra realisiert. In der Verantwortungserklärung gegenüber der mathematischen Fachwelt wird bereits auf die Leidener Erklärung verwiesen und die Problematik der Zuschreibung thematisiert: die mathematische Argumentation und Beweisführung sei von Astra erzielt worden, während Manuskripte von menschlicher Hand ausgearbeitet und Beweise in LEAN, einer Formalisierungssprache für mathematische Beweisführung, überführt worden seien.
Durch KI ausgelöste Umbrüche in der disziplinären Forschungslandschaft betreffen zunächst Disziplinen, die stark formalisiert sind, auf einer einheitlich logischen Struktur aufbauen und eine hohe Falsifizierbarkeit aufweisen, welche sich zum Trainieren von KI-Modellen eignet. Entsprechend ist die Leidener Erklärung, wie sie die Mathematik und theoretische Informatik vorgelegt hat, als erste ihrer Art folgerichtig und vorbildlich. Ein Fokus auf die Chancen und Risiken ist auch auf den Veranstaltungen der Digital Humanities (z.B. DHd 2026 in Wien, The Digital Conference 2026 in London, AIDH 2026 in Shijiazhuang) zu sehen. Auch sie weisen darauf hin, dass strategische Weichenstellungen und fortwährende Anpassungsprozesse die Fächerlandschaft dauerhaft und grundlegend prägen werden.
Ausblick
Um die Diskussion fortzuführen, gibt es die Möglichkeit, über das SIL-Repository auf Codeberg die formulierten Bedarfe zu ergänzen, neue Ideen als Issues zu formulieren oder bestehende über die Kommentarfunktion zu ergänzen (Beispiel: KI-Policys). Alle Interessierten sind außerdem herzlich eingeladen, neue Themen für zukünftige Ideathons dort zu formulieren. Kommende Veranstaltungen werden über die SeDOA-Webseite oder den Mastodon-Account angekündigt.
Dieser Beitrag ist lizenziert unter der Lizenz Creative Commons Namensnennung 4.0 International (CC BY 4.0).