Diskurs

Matthias Hornschuh:

Anfang 2024 wies die deutsche NGO Lobbycontrol auf die beunruhigende Nähe der Big Tech-Konzerne und namentlich eines vermeintlichen deutschen KI-Unicorns zu den höchsten Ebenen in Politik und Verwaltung in Europe und in Deutschland hin.[1]

Im September 2024 erteilte die Bundesregierung in ihrer Antwort auf eine kleine Anfrage der Opposition Auskunft über Art und Anzahl von Terminen des Bundes mit Microsoft und SAP. Es wurde deutlich, dass es binnen zweieinhalb Jahren über 100 Treffen zwischen den Spitzen der Regierung und der Konzerne gegeben hatte. Ein Dutzend davon in persönlicher Anwesenheit des Kanzlers, kaum seltener war Wirtschaftsminister Habeck anwesend. Das führte im politischen Berlin zu einem Raunen. Angesichts des direkten Lobby-Zugangs der Konzerne zur Regierung müsse man sich Sorgen machen um Deutschlands digitale Souveränität, war zu hören.[2]

Anfang Januar 2025 meldete sich schließlich mit Corporate Europe Observatory (CEO) eine Brüsseler NGO zu Wort. Deren Analyse der Beteiligungsprozesse zur Praxisumsetzung des AI Act, die sich aktuell auf dem Brüsseler Parkett entfalten, als besorgniserregend zu beschreiben, wäre eine glatte Verharmlosung:

„Hinter verschlossenen Türen schreiben Konzerne Regeln für ihre eigenen KI-Produkte - auch dafür, wie Verletzungen der Grundrechte europäischer Bürger verhindern werden können. [...] Unabhängige Experten und die Zivilgesellschaft sind in der Unterzahl, unterfinanziert und haben es schwer angesichts der Dominanz der Unternehmen (Übersetzung IU).“[3]

Fein säuberlich seziert der ellenlange Artikel die undurchdringliche Intransparenz des Verfahrens und der Besetzung, die strukturellen Verstrickungen auf nationalem, europäischem und internationalem Level, die dramatisch unterschiedlichen Ressourcen korporativer und zivilgesellschaftlicher Vertreter:innen bei fehlender staatlicher Unterstützung, und nicht zuletzt die alles beherrschenden Diffusionsstrategien der Konzerne. Diese hätten, so die Quintessenz, schon vor Abschluss der Arbeit am Code of Practice dazu geführt, gesellschaftliche Implikationen des Einsatzes künstlicher Intelligenz faktisch als technische Probleme zu etikettieren. So werde der technische Prozess zum Gegenstand gemacht, statt dessen Ergebnis zu betrachten; letztlich könnten so die Konzerne über die Regeln fürs eigene Gebaren entscheiden – Grundrechtseingriffe inklusive. Gerechtfertigt durch den Bedarf und den Profit der Konzerne.

Da stellen sich Fragen. Die Antworten aber bleiben unklar. Klar ist: Die Rechte der Bürger:innen, die immer mehr sind als „nur“ Verbraucher, stehen hier nicht im Fokus. Und auch nicht deren Durchsetzbarkeit:

„Das erwartete Endergebnis wird eine Checkliste sein, mit der Unternehmen nachweisen können, dass sie das KI-Verordnung einhalten. Die „Grundregeln“ werden jedoch nicht verbindlich sein. (Übersetzung IU).“[4]

Drei Weckrufe. Es gäbe mehr davon. Leider hat keiner der Rufe irgendwen geweckt. Grundrechte, so scheint es, stehen derzeit eher grundsätzlich zur Disposition, während wenige Stichworte in Deutschland zu ähnlich uninteressiertem Schulterzucken führen wie ausgerechnet „digitale Souveränität“. In einer Mischung aus Lethargie, Duldungsstarre und ausgeprägtem Minderwertigkeitskomplex, zuletzt gern beschrieben als FOMO, Fear of Missing Out, bewegt man sich irgendwo im Kontinuum zwischen „geht wieder weg“ und „da machste nix“ … und macht dann eben konsequenterweise: nix.

Gerade dort aber, wo die Gesellschaft desillusioniertes Desinteresse signalisiert, ist jede Menge Raum für aggressiven Lobbyismus. Und wo kein Widerstand zu erwarten ist, lobbyiert es sich umso ungenierter.

In den USA benötigen die Big Tech-Großmächte inzwischen im Prinzip gar keinen Lobbyismus mehr, nachdem sie sich kurzerhand in die Regierung eingekauft haben.[5] Bereits im September hatte der designierte Vizepräsident JD Vance den Europäern unverhohlen gedroht – für den Fall weiterer Regulierung von Xitter.

Inwieweit das als Weckruf verstanden wurde, bleibt bis auf Weiteres unklar. Eine klare Reaktion in Sachen Digitalregulierung ist seitens der EU jedenfalls noch nicht erkennbar. Von einer konsequenten Um- und Durchsetzung geltenden Rechts und vereinbarter Regeln ganz zu schweigen, sei es in Richtung USA und China, oder aber intern, bei der Arbeit des AI Office und den zuvor beschriebenen Prozess- und Compliancemängeln.

Teilhabe ohne Einflussmöglichkeit

Die Initiative Urheberrecht ist Teil der Expertengruppe zum Code of Practice (CoP), die u.a. über die (derzeit freiwilligen) Regeln im Bereich Urheberrecht und Transparenzverpflichtung unter Chatham House Rules verhandelt. Dieses Verfahren ist stark durch nicht-europäische Beteiligte geprägt, es gibt unerklärliche Sonderrechte für KI- Provider, und einen Zeitdruck, der ohne eine mehrköpfige Rechtsabteilung kaum zu bewältigen ist. Trotz der Anstrengungen der Urheberverbände und Vereinigungen anderer Rechteinhaber, ihre Positionen mündlich und schriftlich detailliert zu vermitteln, lässt der gegenwärtige zweite Entwurf nicht erkennen, dass die Interessen der Rechteinhaber berücksichtigt würden. Im Übrigen ist auch der kürzlich veröffentlichte erste Entwurf des KI-Templates in dieser Form nutzlos für Rechteinhaber.

Eine effektive Rechtsdurchsetzung, die die Urheberrechtsregelungen nach dem Willen des europäischen Gesetzgebers ermöglichen sollen, ist unter dem aktuell geplanten Reglement (dem Code of Practice und den für alle KI-Anbieter verbindlichen Transparenzvorgaben zum Urheberrecht) jedenfalls nicht möglich.

Die Verbändereaktionen bestätigen das einhellig; es haben sich in diesem Sinne kürzlich auch die europäischen Dachverbände der Kultur,- Kreativ- und Medienwirtschaft laut und deutlich geäußert: „Wenn der Entwurf nicht wesentlich verbessert wird, wird der Kodex die Ziele des AI-Gesetzes verfehlen und direkt mit dem EU-Recht, einschließlich des Urheberrechts, in Konflikt geraten. Ein solches Ergebnis wäre inakzeptabel, und wir können einen Prozess nicht unterstützen, der genau die Grundsätze untergräbt, die er aufrechterhalten soll.“ [6]

Digitale Souveränität setzt souveränes Denken und Handeln voraus

Europäisches Denken über Digitalität ist stark geprägt durch den Blick auf Technologien; in unserer dominanten Vorstellung von Innovation wird diese quasi gleichgesetzt mit Technologie. Doch Regulierungsüberlegungen zur Technologie sind witzlos, lässt man die Rolle ihrer Entwickler und Anbieter unberücksichtigt. Und Überlegungen zu digitalen Kulturtechniken (und genau darum handelt es sich) sind unseriös, wenn sie nicht die Gesellschaft und deren Kultur mitdenken – und damit die Technikfolgen, die es abzuschätzen gilt.

Angesichts einer Gesellschaft, die Innovation tendenziell begründungs- und absichtslos feststellt, und in der Wachstum fast bedingungslose Priorität ist, erstaunt es wenig, dass die EU ganz offensichtlich bei der Etablierung politischer Verfahren zur Technikkontrolle Wege einzuschlagen bereit ist, die technologisch determinierten Fortschritt und wirtschaftliches Wachstum als zu erreichende Ziele priorisieren. Das Binnenmarktmandat der EU tut sein Übriges dazu. Dadurch ist allerdings der laxe Umgang mit Grund-, Bürger- und auch Urheberrechten nicht zu begründen.

Es spricht nichts gegen Technologie; auch dieser Text wird ja nicht in Stein gemeißelt. Und nichts gegen Fortschritt … Nur, was ist das eigentlich: Fortschritt? Innovation? Sind wir uns da eigentlich noch einig? Der Informatiker und Philosoph Jürgen Geuter hat auf der Re:publica 2024 den weitgehend sinnentleerten Innovationsbegriff[7] unerbittlich zerlegt. Gerade generative KI taugt ausgesprochen schlecht dazu, ihn aufrechtzuerhalten: Nein, gerade diese Technologie wird nicht Krebs heilen und das Klima retten. Übrigens ist besonders das zweite Versprechen angesichts des immensen Ressourcenhungers generativer KI ein besonders bizarrer Beleg für die im Kern irrationale, geradezu religiöse Verkaufsstrategie der Konzerne, denen der aktuelle Backlash für vermeintlich linksgrün-woke Bedenkenträgerei bestens in den Kram passt.

Gleichwohl ist es das seit drei Jahrzehnten unentwegt wiederholte Narrativ einer sich gleichsam evolutionär und damit unaufhaltsam entfaltenden linearen Innovation, hinter dem die Bedenkenträger (aka „Fortschrittsverweigerer“, Maschinenstürmer“ etc.) angeblich zurückzufallen drohen, dem sich die deutsche und europäische Politik ausliefert. Immer und immer wieder; schon die Haftungsprivilegierung der Diensteanbieter in der e-Commerce-Richtlinie Ende der 1990er war der Sorge geschuldet, den Anschluss zu verpassen. Und immer wieder waren es die Urheber:innen, ausübenden Künstler:innen und deren Verwerter und Produzenten, die den hohen Preis zahlen mussten für eine Politik, die geltendes Recht zum nice-to-have degradierte.

Für die EU wäre es daher sicher ein Fortschritt, sich der FOMO nicht hinzugeben, die man ihr unentwegt einredet. Angst ist ein ganz mieser Berater – und zweifellos ein Feind souveränen Handelns.

Souveränität auf staatlicher Ebene beschreibt die Gewährleistung unbeeinflusster und unabhängiger Entscheidungs- und Handlungsfreiheit, wobei zwischen rechts- und politikwissenschaftlichen Begriffsbestimmungen zu unterscheiden ist. Politisch wird Souveränität zu Beginn des 21. Jh. „in vielen Staaten als Volks-Souveränität aufgefasst: Die Souveränität geht allein vom Volk aus.“ In einer repräsentativen Demokratie wie der deutschen „liegt das operative politische Geschehen in den Händen eines Parlaments.“ Im rechtlichen Sinne kommt dem souveränen Staat „die Hoheitsgewalt zu, Akte zu setzen, die für alle seiner Herrschaftsgewalt territorial oder personal Unterworfenen verbindlich sind […]. Er hat in allen öffentlichen Angelegenheiten das Recht der Letztentscheidung […].“[8]

Interessant wäre zu wissen, in welchem Umfang die EU und ihre Mitgliedstaaten überhaupt unabhängig von außereuropäischen Technologieanbietern praktisch handlungsfähig sind. Das EU-Parlament hat im Herbst 2024 bekannt gegeben, zukünftig für die Erschließung vorhandener Datenbestände auf Anthropics KI Claude zu setzen[9]. Von der Bundesregierung ist bekannt, dass sie jährlich rund € 200 Mio. an Lizenzkosten allein an Microsoft bezahlt, was ahnen lässt, in welchem Umfang Microsoft-Produkte und Dienste vom Bund genutzt werden … etwa, um Gesetzesentwürfe zu schreiben und zu verhandeln, die die Marktmacht der Big Tech-Unternehmen kontrollieren und einschränken sollen.

Die zu Regulierenden sind also die Anbieter der Technologien, die genutzt werden, um die Regulierung zu erarbeiten und zu verhandeln. Inwieweit das in Microsofts Office-Paket standardmäßig verbaute KI-Modell mitliest und nach Hause telefoniert, sei dahingestellt, ein bedeutender Schritt in Richtung Souveränität wäre jedenfalls die entschiedene Verwendung europäischer Dienste – und ggf. deren Beauftragung bzw. Entwicklung. Immer wieder ist auch der Ruf nach Open Source-Software-Lösungen zu hören (diese bringen übrigens aus urheberrechtlicher Sicht eigene Probleme mit sich; aber das wäre ein anderes Thema). 

Um noch einmal auf die Frage nach Souveränität zurückzukommen: Europa muss seine Souveränität in der Ausgestaltung des Digitalen gewährleisten und verteidigen. Diese Unabhängigkeit sollte nicht technikbasiert sein, sondern von Menschen gedacht und von ihnen gehandhabt; sie sollte den Menschen im Zentrum aller Absichten und am Hebel aller Instrumente haben. Das wäre der Gegenentwurf zum um sich greifenden Techno Solutionism, der technische Lösungen, für (vermeintlich) technische Probleme verspricht und im Versuch der Einhegung korporativer Übermacht den Konzernen die Macht zuschustert. Die faktische und praktische Unabhängigkeit unserer Entscheidungen wird sich also in der Unabhängigkeit von der Determination durch die neofeudalistischen Herren der Technologie, die Tech Bros, erweisen.

Es ist inakzeptabel, dass ebendiese Feudalherren nicht nur mit am Tisch sitzen, wenn über ihre Regulierung verhandelt wird, sondern sogar die Speisekarte diktieren. Digitale Souveränität bedeutet, eigene Regeln zu eigenen Bedingungen erarbeiten zu können. Nicht aber, sich von den zu Regulierenden die Regeln schreiben zu lassen, die für sie gelten sollen.

Transparenz: Machbar!  

Nun werden Sie einwenden: Aber die Leute in Politik und Verwaltung haben doch keine Ahnung von der Technologie; es muss doch die Machbarkeit gewährleistet sein! Guter Punkt: Diese Technik heilt angeblich Krebs und Klimawandel. Sie wird in diesem, oder im nächsten Jahr, oder in irgendeinem anderen, man wird sehen, noch viel intelligenter als der Mensch sein. Was man, wenn es erst so weit ist, herausfinden wird, indem man sie Multiple Choice-Abi-Aufgaben lösen lässt (die im Trainingskorpus dutzendfach nebst Lösungen enthalten waren; aber das braucht ja keiner da draußen zu wissen).

Es ist eine so fantastische, ja, nachgerade magische Technologie, die – und das ist jetzt keine Ironie – eine so leistungsfähige Meisterin des Auswendiglernens und Wiederfindens ist, dass sie von manchen Informatikern entgegen der reinen Lehre als Wissensdatenbank beschrieben wird. Sie wird sicher dazu gebracht werden können, ihren Entwicklern dabei zu helfen offenzulegen, was sie gelernt hat. Und wenn nicht, dann könnten ihre Meister sie ja einfach eine Lösung für ihre eigenes Problem entwickeln lassen. Programmieren können die Dinger ja, wie man hört.

Entschuldigung, da ist gerade die Begeisterung mit mir durchgegangen. Dabei ist das alles ein ernstes Thema. Ganz unironisch. Denn es geht um zukünftige Möglichkeit erwerblicher schöpferischer Tätigkeit in Kultur und Medien auf professionellem Niveau. Unsere Kolleg:innen vom DJV haben dazu am 31.01.2025 folgendes geschrieben:

„Der Deutsche Journalisten-Verband fordert das AI Office der EU-Kommission auf, sich nicht von der Big-Tech-Industrie beeinflussen zu lassen und die berechtigten Interessen der Urheber zu wahren. Hintergrund ist der Entwurf eines Templates zur Umsetzung der Transparenzpflichten aus dem AI Act für KI-Modellbetreiber. Der Entwurf sieht keine werkspezifische Nachweispflicht vor. „Der aktuelle Entwurf des KI-Templates bringt den Urhebern keinen Mehrwert“, kritisiert die DJV-Justiziarin Hanna Möllers. „Keine der vorgesehenen Angaben hilft den Autoren vor Gericht. Das widerspricht dem Sinn und Zweck der KI-Verordnung, die ausdrücklich festlegt, dass die Offenlegungspflicht Rechteinhabern die Durchsetzung ihrer Rechte erleichtern soll."

Die Big-Tech-Industrie beruft sich hingegen auf Geschäftsgeheimnisse. „Die Veröffentlichung werksspezifischer Informationen verletzt keine Geschäftsgeheimnisse“, erklärt die DJV-Justiziarin. „Ebenso wenig schadet es den Lebensmittelherstellern, wenn sie Zutatenlisten offenlegen müssen. Nur das Rezept, nicht die Zutaten, kann ein Geschäftsgeheimnis sein“, so Möllers.“[10]

Man muss sich das wirklich mal klarmachen: Die Industrie, die weltweit des größten Diebstahls in der Menschheitsgeschichte bezichtigt wird – konkret des Diebstahls Geistigen Eigentums -, beruft sich auf ihr „Geschäftsgeheimnis“ (aka Geistiges Eigentum), um nicht die Provenienz der Trainingsdaten offenlegen zu müssen. Und die wenigen zugelassenen Vertreter der Bestohlenen müssen öffentliche Brandbriefe schreiben, um zu retten, was noch zu retten ist. Dafür gibt es ein Wort: Bigotterie.

Derweil findet die Wertschöpfung, die mittels der mit unbezahlten europäischen Inhalten trainierten Modelle erzielt wird, fast vollständig in den USA und Asien statt: Europa verschenkt sein Weltwissen, um es anschließend zurückzukaufen. Und das ist nicht nur ausgesprochen idiotisch, sondern auch sehr wenig souverän. Es ist Ausdruck einer kolonialistischen Unterwerfung.

 

Edit 05.02.2025: Nach Fertigstellung dieses Textes machte eine Nachricht die Runde, die, wäre sie früher eingetroffen, unbedingt in den Text gehört hätte.

Auf einer Verkaufsveranstaltung in Brüssel, die unterhaltsamerweise den perfekt zu diesem Text passenden und ungemein originellen Namen #EUInnovationDay trug, hat Meta „Policy Lead“ Joel Kaplan am Abend des 04. Februar seinem Unverständnis darüber Ausdruck verliehen, dass die EU immer noch an ihrer verschrobenen Idee einer KI-Regulierung festhalte. Meta werde den Code of Practice wohl nicht unterzeichnen.

Was, sollte es sich bewahrheiten, zweifellos nach den aufreibenden ersten 15 Tagen Trump2 die erste gute Nachricht aus den USA wäre.

[1] https://www.lobbycontrol.de/macht-der-digitalkonzerne/ai-act-neue-dokumente-zeigen-grosse-nahe-zwischen-aleph-alpha-und-der-bundesregierung-113607/ Abruf vom 02.02.2025

[2] https://mdb.anke.domscheit-berg.de/2024/09/microsoft_lobby/ Abruf vom 31.01.2025

[3] https://corporateeurope.org/en/2025/01/bias-baked Abruf vom 02.02.2025

[4] Ebd.

[5] https://urheber.info/diskurs/auf-konnvergente-topfe-gehoren-konvergente-deckel Abruf am 03.02.2025

[6] https://www.enpa.eu/joint-letters/right-holders-joint-letter-on-the-second-draft-code-of-practice Abruf vom 04.02.2025

[7] https://tante.cc/2024/05/28/empty-innovation-at-republica-2024-rp24/ Abruf vom 02.02.2025

[8] https://www.staatslexikon-online.de/Lexikon/Souveränität Abruf vom 05.02.2025

[9] https://www.linkedin.com/posts/daniela-amodei-790bb22a_the-european-parliament-is-using-anthropics-activity-7254172155595169793-tNUc/ Abruf vom 03.02.2025

[10] https://www.djv.de/news/pressemitteilungen/press-detail/djv-fordert-ausgewogene-transparenzpflichten/ Abruf vom 03.02.2025