Interview zum KI-Gutachten der Initiative Urheberrecht

"Den Kreativen steht das Wasser bis zum Hals"

1. Oktober 2024
Sabine Cronau

Das Training generativer KI verletzt Urheberrechte – und ist kein Fall von Text-und-Data-Mining: Zu diesem Ergebnis kommt ein Gutachten, das die Initiative Urheberrecht beauftragt hat. Sprecher Matthias Hornschuh über Erkenntnisse und Konsequenzen, über Wut und Energie.

Matthias Hornschuh ist Komponist für Film, Theater und Hörspiel, Sprecher der Initiative und Mitglied im Aufsichtsrat der GEMA.

Eine Handvoll Konzerne aus den USA und China hat sich das gesamte digital verfügbare Weltwissen einverleibt, ohne Zustimmung, ohne Vergütung und ausdrücklich ohne Transparenz über die Provenienz der Trainingsdaten.

Matthias Hornschuh

Neue Technologien sind immer beides – Freund und Feind des Menschen. Wo ist KI der Freund der Kreativbranche? Und wo der Feind?

Zunächst einmal gilt es zu unterscheiden zwischen nicht-generativer und generativer KI. Mit der Feststellung von „Feindschaft“ wäre ich vorsichtig, wenn überhaupt, dann würde ich sie tendenziell eher auf generative KI anwenden. Ich halte allerdings die Frage für falsch gestellt, denn feindlich ist nicht die Technologie, sondern das sind die Konzerne, die sie in den Markt drücken - und es sind im Wesentlichen schon wieder dieselben, von denen wir seit Langem wissen, dass sie das Beharren auf dem Wohlergehen von Menschen und Gesellschaften als Fortschrittshemmnis begreifen. Ihnen geht es allein um die Steigerung ihres Börsenwerts.

Unsere Gegner sind, wie gesagt, Menschen und Unternehmen, während man mit deren Technologie ganz fraglos faszinierende Dinge anstellen kann. Wie zum Beispiel Wahlen beeinflussen, ChatBots für Social Engineering und Spionage einsetzen, nie wirklich entstandene Dokumente nicht stattgefunden habender historischer Ereignisse erzeugen und als echte Dokumente präsentieren … Um ganz ehrlich zu sein: Ich bin mir nicht sicher, ob der Nutzen die offensichtlichen Kosten für uns als schöpferisch Tätige und für uns alle als Gesellschaft aufwiegen kann.

Vor dem Hintergrund der ungeheuren gesellschaftlichen, kulturellen, ökonomischen und ökonomischen Kosten erscheint mir das bisschen Effizienzgewinn für die außerordentlich wenigen Menschen, die so ticken, dass sie ihn überhaupt realisieren können, wie Scharlatanerie. Dieser Kaiser ist splitterfasernackt.

Übrigens hilft gegen Angst und Ohnmachtsempfindungen schlicht das Verständnis des beängstigenden Gegenstandes. Orientierung holt uns aus der Ohnmacht, Wut gibt uns die Energie.

Matthias Hornschuh

Gibt es kreative Berufszweige, die aus Ihrer Sicht schon jetzt akut gefährdet sind?

Absolut. Synchronschauspiel, Literaturübersetzung, Illustration und Teile der Fotografie sind extrem angeschlagen. Immer wieder höre ich, dass Musiker:innen mit dem Gedanken spielen aufzuhören, was allerdings auch etwas mit den Spätfolgen der skandalös misslungenen Corona-Hilfsmaßnahmen zu tun hat. Was wiederum mit dem enormen Vertrauensverlust in Staat und Demokratie zu tun haben könnte, aber das ist ein anderes Thema.

Meine Studierenden, überwiegend aus musiknahen Bereichen, sind ganz tief verunsichert. Ich habe erstaunlich oft so etwas gehört wie: Ich musste so viel dafür tun, dieses Studium aufnehmen zu können, und nun kommt eine Technologie daher und zerstört meinen zukünftigen Arbeitsmarkt. Da spüre ich schon eine Angst, die ich einerseits verstehe, die ich aber andererseits weder für hilfreich noch unbedingt für angebracht halte. Ich glaube, wir alle sollten eher Wut verspüren, denn es sind Menschen, die uns kalt abservieren, und gegen die kann man sich wehren. 

Übrigens hilft gegen Angst und Ohnmachtsempfindungen schlicht das Verständnis des beängstigenden Gegenstandes. Orientierung holt uns aus der Ohnmacht, Wut gibt uns die Energie. 

Die Initiative Urheberrecht

Wer ist dabei?

Die Initiative Urheberrecht vertritt die Interessen von 140.000 Urheber:innen und Künstler:innen.

Zu den Mitgliedsorganisationen gehören etwa das PEN-Zentrum Deutschland und der Verband Deutscher Schriftstellerinnen und Schriftsteller, aber auch der Bundesverband Schauspiel oder der Deutsche Künstlerbund.

Am Montag wurde das Tandem-Gutachten vor Presse und Politik in Berlin präsentiert

Sie sind Komponist. Wo dringt KI auch bereits in Ihren Berufsalltag ein?

In meinen eigenen eigentlich gar nicht. Ich kriege zwar ständig Produkte angeboten, die mein Leben besser machen sollen durch KI, aber in manchen davon steckt gar keine KI, und das meiste macht nichts besser. Zumindest — wichtiger Unterschied! — nicht hinsichtlich der konkreten musikalisch-schöpferischen Arbeit. Da WILL ich gar keine Effizienz hinzugewinnen. Es ist der eigentliche Luxus in meinem Leben, genau diese Arbeit leisten zu dürfen. Denken, empfinden, gestalten zu dürfen. Und dazu gehört eben auch, zwischendurch  zu zweifeln und zu prokrastinieren, damit die Dinge an ihren Platz finden.

Sinnvoll kann KI eher im administrativen Bereich sein; wobei ich da bislang eher nicht-generative Tools sinnvoll fand. Also sowas wie die automatisierte Indexierung und Verschlagwortung meiner riesigen Soundlibrary. Spannend finde ich auch die Automation hoch redundanter und daher hoch fehleranfälliger Routineaufgaben, etwa bei der Konfektionierung der nötigen Einzelspuren nach Fertigstellung von Komposition und Produktion.

Das Gutachten liefert Grundlagenforschung zum Thema KI. Und ja: Auch für uns war das Ergebnis eine Überraschung.

Matthias Hornschuh

Das Gutachten der Initiative Urheberrecht

  • »Urheberrecht und Training generativer KI-Modelle – technologische und juristische Grundlagen«: So heißt das Gutachten, das die Initiative Urheberrecht in Auftrag gegeben hat. Das Gutachten wurde auf boersenblatt.net bereits ausführlich vorgestellt.
  • Die Autoren kommen aus zwei Disziplinen: Sebastian Stober ist KI-Professor in Magdeburg, Tim W. Dornis Professor für Bürgerliches Recht und Gewerb­lichen Rechtsschutz in Hannover.
  • Das Gutachten ist vor kurzem in Brüssel und am 30. September im Berliner Haus der Presse bei einer hybriden Veranstaltung präsentiert worden.
  • Es erscheint in Buchform in der Nomos-Reihe "Recht und Digitalisierung" (217 S., 49 Euro). Ein Abstract in deutscher und englischer Sprache ist hier abrufbar, eine etwas ausführlichere Zusammenfassung (Executive Summary) gibt es hier.

In dem Tandemgutachten, das die Initiative Urheberrecht in Auftrag gegeben hat, wird nachgewiesen, dass das Training generativer KI den Schutz des Urheberrechts verletzt. Wäre alles andere nicht eine Überraschung gewesen bei diesem Auftraggeber?

Man könnte auf die Idee kommen, wir würden einfache eine enorme Menge Geld in die Hand nehmen, uns notleidende Lehrstuhlinhaber zweier unterschiedlicher Universitätsfachbereiche suchen und diese, mittels unserer quasi unerschöpflichen Ressourcen, dazu zwingen, zu schreiben, was wir wollen und ihren akademischen Ruf durch ein Gefälligkeitsgutachten zu ruinieren.

Aber: Wir können keine Professuren an deutschen Universitäten kaufen, und auch keine Professoren. Wir machen das, was wir machen, mit einem kleinen Team, erweitert um die praktische Expertise und den juristischen Sachverstand unserer Mitgliedsorganisationen und externer Berater.

Es gibt ja diesen schönen Satz, dass es ganz schön schwer ist, ehrenamtlich zu retten, was andere hauptberuflich zerstören. Wir haben uns deshalb unbändig gefreut, dass die Studie uns weit mehr Ertrag bringt, als wir gehofft haben. Dass sie bestätigt hat - und zwar in diesem aufregenden Tandem von technologischem Grund und rechtlicher Anwendung -, dass uns unsere im „Positionspapier“ von 2023 formulierten Ahnungen nicht getrogen haben (mehr dazu hier).

Um auf die Ausgangsfrage zurückzukommen: Das Ergebnis war eine erfreuliche Überraschung, es hätte andernfalls sicher eine Enttäuschung sein können. Aber wir reklamieren ja mit dieser Arbeit gar nicht irgendeine abschließende objektive Wahrheit für uns, und es handelt sich auch nicht um ein Gerichtsurteil. Sondern es ist, auch nach Aussage der Autoren, wissenschaftliche Grundlagenforschung, die hier stattfand.

Diese war einfach überfällig und unterliegt nun, ab dem Zeitpunkt der Veröffentlichung, der wissenschaftlichen Überprüfung und Bewertung. Umso glücklicher sind wir, dass der Nomos-Verlag unmittelbar nach der Vorstellung der Studie dieser eine Heimat gegeben hat und den Gesamttext inzwischen auch als Buch herausgebracht hat.

Wie ist die Idee entstanden, Rechts- und IT-Expertise in einem Gutachten zusammenzubringen?

Das hat sich einfach zwingend aus unserer Art zu arbeiten ergeben. Ich staune manchmal ein bisschen, wie viele Leute da draußen große Überzeugungen vertreten, obwohl sie erkennbar wenig Ahnung haben - sei es vom Recht oder von der Technologie oder von der Verbindung beider Ebenen.

Wir, das kann ich wirklich guten Gewissens so berichten, haben beim Thema KI, so wie zuvor beispielsweise auch im Bereich Blockchain / Metadaten, von Anfang an einen andren Weg gewählt und stets neben den juristischen Expert:innen auch KI-Profis aus der technologischen Forschung und Anwendung eingebunden.

Und weil sich so immer mehr Fragen ergaben, die wir ohne einen fachwissenschaftlichen Blick unter die Haube der Modelle und Systeme schlicht nicht seriös beantworten und teilweise nicht einmal ganz standfest formulieren konnten, war im Herbst 2023 klar: Wir brauchen Grundlagenwissen und Evidenz.

Was sind für Sie persönlich die zentralen Erkenntnisse der beiden Forscher?

Das ist sogar recht einfach zu beantworten; es sind drei Punkte.

  1. Das Training generativer KI ist kein "Text and Data Mining". Daher ist darauf keine Schranke anwendbar.
  2. Im Innern der trainierten Modelle finden sich - eher grundsätzlich, und womöglich nicht in jedem Einzelfall belegbar - Memorisierungen der zum Training herangezogenen Inhalte. Bei diesen Inhalten handelt es sich in unserem Fall um urheberrechtlich geschützte Werke und Leistungen; die Bestandsaufnahme lässt sich aber übertragen auf die Frage, inwieweit personenbezogene Daten im Modell repräsentiert sein könnten: Das sind sie. Das ist eine Vervielfältigung; Vervielfältigungen sind lizenzpflichtig, diese Vervielfältigung ist durch keine Schranke gedeckt: Rechtsverstoß.
  3. Die Öffnung der Modelle zu den Usern ist de facto eine „öffentliche Zugänglichmachung“ der trainierten memorisierten Inhalte; das ist ein weiterer urheberrechtlicher Tatbestand - und er findet da statt, wo der Zugriff aufs Modell per Browser oder App stattfindet. In unserem Fall also auf deutschem oder europäischem Boden. Damit gilt das jeweils territoriale Recht - und wir können deutsche und europäische Gerichte anrufen. Genau das aber schien infrage gestellt, als immer deutlicher wurde, dass der technologische Trainingsvorgang in fast allen Fällen in anderen Rechtsräumen stattfindet, konkret überwiegend in den USA und in China, womit entsprechend amerikanisches oder chinesisches Recht gelten würde.

Sie haben die Studie bei einer Veranstaltung im EU-Parlament präsentiert, auf Einladung von EU-Parlamentarier Axel Voss - und an diesem Montag (30. September) auch in Berlin. Wie war die Resonanz?

Spektakulär. Für uns ist die inhaltliche und politische Resonanz, nicht zuletzt aber auch die Reichweite, eine ganz neue Erfahrung: Die Studie ist binnen weniger Tage tausendfach heruntergeladen worden, wurde ins Englische adaptiert (eine offizielle Übersetzung der 217 Seiten steht noch aus); es gab Interviewanfragen, Berichte und Kontaktaufnahmen aus der ganzen Welt.

Besonders stark ist, das wird niemanden verwundern, die Aufmerksamkeit im Bereich der internationalen Verbände, Gewerkschaften und Verwertungsgesellschaften, denn sehr große Teile unserer Erkenntnisse lassen sich unmittelbar auf andere Rechtsräume übertragen.

Für die hybride Präsentation Anfang dieser Woche in Berlin hatten wir 160 Anmeldungen, darunter auch Vertreter:innen aus mehreren Ministerien. Die Diskussion ging dabei weit über die handwerklichen und technologischen Fragen hinaus und drehte sich auch um politische und demokratische Aspekte. Das hat mich besonders gefreut.

Was mir in der ganzen Debatte komplett fehlt, ist der Blick auf die volkswirtschaftlichen Effekte der aktuellen Situation.

Matthias Hornschuh

Ein Blick ins Gutachten zeigt, wie komplex und hochtechnisch die Sache ist. Haben Sie Hoffnung, dass die Politik die feinen Verästelungen der Studie durchdringt?

Ich könnte meiner Arbeit nicht nachgehen, wenn ich keine dahingehende Hoffnung hätte. Aber ich habe schon zu viel erlebt — und nicht zuletzt auch viel Gleiches, sich Wiederholendes —, um zu meinen, es würde diesmal einfach werden. Und, ja, die Komplexität steht einem schnellen Erfolg entgegen. Andererseits hilft unsere Studie ja gerade bei der Orientierung, indem sie gliedert, erläutert und einordnet. 

Ein Blick auf die politische Gemengelage offenbart allerdings, dass wir bei diesem Thema ganz andere Konstellationen haben als je zuvor. Unter allen Rechteinhabern gibt es eine bemerkenswerte Einigkeit, und große Teile der Datenschutz-, Wettbewerbsrechts- und Netzpolitik-Szene stimmen mit ganz wesentlichen Teilen unserer Bestandsaufnahmen überein.

Die Initiative Urheberrecht hat sich bereits im Frühjahr 2023 sehr konkret zu Fragen der Demokratie, Rechtsstaatlichkeit und insbesondere auch zu Monopolisierungstendenzen geäußert, und ich weise in meinen Vorträgen immer wieder auf die Überwachungspotenziale hin, die dieser Technologie eingeboren sind - und die vollumfänglich in der Hand privatwirtschaftlicher Konzerne liegen …

Was mir in der ganzen Debatte komplett fehlt, ist der Blick auf die volkswirtschaftlichen Effekte der aktuellen Situation. Eine Handvoll Konzerne aus den USA und China hat sich das gesamte digital verfügbare Weltwissen einverleibt, ohne Zustimmung, ohne Vergütung und ausdrücklich ohne Transparenz über die Provenienz der Trainingsdaten. Da stecken nun also neben den personenbezogenen Daten ausnahmslos aller Bürger:innen auch die geschützten Werke und Leistungen ausnahmslos aller schöpferisch Tätigen drin.

Die sind für die meisten von uns die einzige wirtschaftliche Lebensgrundlage. Ich als Komponist finde im Arbeitsrecht nicht statt — ich lebe vom und im Urheberrecht. Ähnliches gilt für Schriftsteller:innen, Drehbuchautor:innen und die bereits erwähnten Fotograf:innen.

Wir erleben hier kein Wegbrechen einer Nachfrage, sondern viel mehr und ganz offensichtlich eine 100%-Nachfrage nach sämtlichem online verfügbarem Repertoire. Unvergütet und wie es aussieht mit staatlicher Duldung.

Nun gehören Kultur, Kulturwirtschaft und Medien aber zu den drei größten Teilbrachen der europäischen Volkswirtschaft, und so gut wie nichts, was in ihnen umgesetzt wird, wäre möglich, ohne unser Repertoire als Ausgangspunkt jeder Wertschöpfung. Vor diesem Hintergrund schickt die KI sich nun an, uns im eigenen Erwerbsmarkt zu substituieren. Die dabei erfolgende Wertschöpfung aber fließt ab: in die USA, nach China, in andere Volkswirtschaften.

Selbst Menschen, die keine Bücher lesen und nie ins Konzert gehen, müssen erkennen, dass das nicht gutgehen kann.

Es ist ein Skandal, dass die Bundesregierung und die EU diesem Treiben so entspannt zu sehen, weil sie diffusen und substanzlosen Fortschritts-Narrativen folgen.

Matthias Hornschuh

Was muss und kann die Politik jetzt tun? Auf nationaler Ebene – und auf europäischer?

Ganz wichtiges Stichwort: JETZT. Die Zeit rast in Digitalisierungsthemen, und bei generativer KI kann man ihr geradezu beim Verstreichen zusehen.

Sie müssen sich einfach klarmachen, dass der gerade beschriebene Zugriff auf unsere Lebensgrundlagen schon vor über einer Dekade begonnen hat - und das vor Inkrafttreten der DSM-Richtlinie im Sommer 2021 ganz zweifellos und unwidersprochen rechtswidrig! Das Verhalten der großen kommerziellen KI-Modelle, die den Markt in den vergangenen zwei Jahren aufgerollt haben, hätte der Staat niemals hinnehmen dürfen.

Teile der bestimmenden Debatte sind so gesehen schlicht Ablenkungsmanöver: Ob die TDM-Schranke nun anwendbar ist oder nicht: Es hat hier vor den Augen der Öffentlichkeit „Diebstahl“ und „Enteignung“ stattgefunden. Und beide Begriffe stammen nicht von mir.

Die Zeit drängt, denn uns steht das Wasser bis zum Hals. Und das explizit eben NICHT wegen einbrechender Nachfrage, sondern wegen 100%-Nachfrage ohne Erlaubnis und Vergütung. Es ist ein Skandal, dass die Bundesregierung und die EU diesem Treiben so entspannt zu sehen, weil sie diffusen und substanzlosen Fortschritts-Narrativen folgen.

Es muss also Kompensation geben für erfolgte Nutzungen, es muss eine Vergütung für aktuelle und zukünftige Nutzungen gewährleistet werden. Die Vergütung muss neben dem Training auch die auf Basis der Generierung neuer Inhalte erfolgende Wertschöpfung als Bemessungsgrundlage heranziehen; wir sind also an der erfolgenden Wertschöpfung zu beteiligen. Wir müssen ein durchsetzbares Recht zugestanden bekommen, selbst zu entscheiden, wer mit unseren Inhalten was tun darf (zurück zum OptIn), und es bedarf sehr scharfer Schwerter, um die flächendeckende Nichtbeachtung erklärter Nutzungsvorbehalte effizient zu sanktionieren.

Schließlich muss im Sinne der Gesamtwirtschaft Rechtssicherheit hergestellt werden hinsichtlich möglicher gesetzlicher Ausnahmeregeln. Dringend benötigen wir zudem umfassenden persönlichkeits- und vertragsrechtlichen Schutz; Sprecher:innen müssen ihre Stimmen und Darsteller:innen ihren Körper und ihr Gesicht vor Identitätsdiebstahl schützen können.

Die Fortschritte bei der KI-Entwicklung sind rasant. Kann der Gesetzgeber bei diesem Tempo überhaupt mithalten? Anders formuliert: Haben Sie Sorge, dass längst Fakten geschaffen sind, bevor politische Beschlüsse die Gefahren der Technologie einhegen?

Es sind längst Fakten geschaffen, richtig.

Es ist, das will ich nicht beschönigen, jetzt schon sehr spät, um uns wirklich und nachhaltig zu helfen, weiter unseren Berufen nachgehen zu können. 

Das Europaparlament hat das in seinem Bericht zum Musikstreaming im Januar sehr klar umrissen: Der Markt für Recorded Music ist inzwischen so kaputt, so dysfunktional, dass die Vielfalt gefährdet ist. Nun tritt KI als Brandbeschleuniger hinzu. Die Gefährdung der Vielfalt gefährdet wiederum ganz unmittelbar die europäische Identität, denn Europa ist gegründet auf dem Bekenntnis: Vereinigt in Vielfalt.

Neben der Volkswirtschaft geht es also schlussendlich doch wieder ums Kulturelle: Um unsere Identität.